自然语言处理基础自然语言处理基础
Content
文本预处理；语言模型；循环神经网络基础文本预处理；语言模型；循环神经网络基础
机器翻译及相关技术；注意力机制与机器翻译及相关技术；注意力机制与Seq2seq模型；模型；Transformer
一、文本预处理一、文本预处理
文本数据的常见预处理步骤，预处理通常包括四个步骤：
读入文本
分词
建立字典，将每个词映射到一个唯一的索引（index）
将文本从词的序列转换为索引的序列，方便输入模型
Code
#文本预处理具体操作
#1、读入文本
import collections
import re
def read_time_machine():
with open('/home/kesci/input/timemachine7163/timemachine.txt', 'r') as f:
lines = [re.sub('[^a-z]+', ' ', line.strip().lower()) for line in f] return lines
lines = read_time_machine()
print('# sentences %d' % len(lines))
def tokenize(sentences, token = 'word'):
#将一段话每个单词分开
if token == 'word':
return [sentence.split(' ') for sentence in sentences] elif token == 'char':
return [list(sentence) for sentence in sentences] else:
print('ERROR: unkown token type ' + token)
#test
tokens = tokenize(lines)
tokens[0:2]
#2、分词：将一个句子划分成若干个词（token），转换为一个词的序列。
def tokenize(sentences, token = 'word'):
#将一段话每个单词分开
if token == 'word':
return [sentence.split(' ') for sentence in sentences] elif token == 'char':
return [list(sentence) for sentence in sentences] else:
print('ERROR: unkown token type ' + token)
#test
tokens = tokenize(lines)
tokens[0:2]
#3、建立字典：为了方便模型处理，我们需要将字符串转换为数字，所以需要先构建一个字典（vocabulary），将每个词映射到一个唯一的索引编号
class Vocab(object):
def __init__(self, tokens, min_freq = 0, use_special_tokens = False):
counter = count_corpus(tokens)
self.token_freqs = list(counter.items())
self.idx_to_token = [] if use_special_tokens:
## padding, begin of sentence, end of sentence, unknown
self.pad, self.bos, self.eos, self.unk = (0, 1, 2, 3)
self.idx_to_token += ['', '', '', ''] else:
self.unk = 0
self.idx_to_token += ['']
self.idx_to_token += [token for token, freq in self.token_freqs
if freq >= min_freq and token not in self.idx_to_token] self.token_to_idx = dict()
for idx, token in enumerate(self.idx_to_token):
self.token_to_idx[token] = idx
def __len__(self):
return len(self.idx_to_token)
def __getitem__(self, tokens):
if not isinstance(tokens, (list, tuple)):
return self.token_to_idx.get(tokens, self.unk)
return [self.__getitem__(token) for token in tokens]
def to_tokens(self, indices):
if not isinstance(indices, (list, tuple)):
return self.idx_to_token[indices] return [self.idx_to_token[index] for index in indices]
def count_corpus(sentences):
tokens = [tk for st in sentences for tk in st] return collections.Counter(tokens) # 返回一个字典，记录每个词的出现次数
#test
vocab = Vocab(tokens)
print(list(vocab.token_to_idx.items())[0:10])
#4、将词转为索引,用现有工具进行分词
#使用字典，我们可以将原文本中的句子从单词序列转换为索引序列
for i in range(8, 10):
print('words:', tokens[i])
print('indices:', vocab[tokens[i]])
#用现有工具进行分词：spaCy和NLTK。
import spacy
nlp = spacy.load('en_core_web_sm')
doc = nlp(text)
print([token.text for token in doc])
from nltk.tokenize import word_tokenize
from nltk import data
资源评论
weixin_38617436
- 粉丝: 12
- 资源: 946
最新资源
- 基于Java开发的大学失物招领小程序后端设计源码
- Corel VisutalStudio Cleanup - VS2020-Cleanup
- 基于HaaS EDU K1的物联网教育开发板出厂默认固件设计源码
- 基于Python语言的消消乐游戏设计源码分享
- Corel VisutalStudio Cleanup - VS2019-Cleanup
- 基于Vue框架的安防科技学院招生信息网设计源码
- Corel VisutalStudio Cleanup - VSX9-Cleanup
- Corel VisutalStudio Cleanup - VSX10-Cleanup
- 基于Java语言的reflex设计模式实现源码解析
- 基于Java与HTML实现的双线性和卷积插值算法图像缩放设计源码
资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！
点击此处反馈
