# Easy_Lstm_Cnn
Lstm+Cnn 预训练词向量 文本分类
# 数据集:
本实验是使用THUCNews的一个子集进行训练与测试,数据集请自行到THUCTC:一个高效的中文文本分类工具包下载,请遵循数据提供方的开源协议;
文本类别涉及10个类别:categories = ['体育', '财经', '房产', '家居', '教育', '科技', '时尚', '时政', '游戏', '娱乐'],每个分类6500条数据;
cnews.train.txt: 训练集(5000*10)
cnews.val.txt: 验证集(500*10)
cnews.test.txt: 测试集(1000*10)
训练所用的数据,以及训练好的词向量可以下载:链接: https://pan.baidu.com/s/1daGvDO4UBE5NVrcLaCGeqA 提取码: 9x3i
# 1.利用Lstm+Cnn进行文本分类
将LSTM与CNN连接在一起的关键:LSTM返回的值为[batch_size,seq_length,hidden_dim],而cnn需要的四维张量,故需要用到tf.expang_dims。
## 模型参数
parameters.py
## 预处理
预训练词向量进行embedding
对句子分词,去标点符号
去停用词
文字转数字
padding等
因为Cnn处理的是等长的序列,故在padding时,将所有句子padding到同一长度,本文指定最长序列max_length=300。
程序在data_processing.py
## 运行步骤
Training.py
由于小霸王运行非常吃力,因此只进行了3次迭代。但从迭代的效果来看,结果很理想。在训练集的batch中最好达到100%,同时测试集达到100%准确。
![train and test result](https://github.com/NLPxiaoxu/Easy_Lstm_Cnn/blob/master/image/train.jpeg)
predict.py 模型用来对验证文本进行预测
![evalutaing result](https://github.com/NLPxiaoxu/Easy_Lstm_Cnn/blob/master/image/predict.jpeg)
验证结果表明,5000条文本准确率达97.7%,取前10条语句的测试结果与原标签对比。
没有合适的资源?快使用搜索试试~ 我知道了~
Object-C-预训练词向量 文本分类.zip
共22个文件
py:5个
meta:3个
data-00000-of-00001:3个
需积分: 5 0 下载量 99 浏览量
2024-08-19
10:25:06
上传
评论
收藏 59.09MB ZIP 举报
温馨提示
Object-C-预训练词向量 文本分类
资源推荐
资源详情
资源评论
收起资源包目录
预训练词向量 文本分类.zip (22个子文件)
预训练词向量 文本分类 -6
Lstm_Cnn.py 5KB
image
predict.jpeg 23KB
train.jpeg 120KB
data
vocab_word.txt 80KB
vector_word.npz 4.14MB
stopwords.txt 17KB
Parameters.py 1KB
predict.py 1KB
checkpoints
Lstm_CNN
checkpoint 198B
best_validation-782.meta 4.09MB
best_validation-1564.data-00000-of-00001 14.52MB
best_validation-782.index 1KB
best_validation-1564.index 1KB
best_validation-2346.meta 4.09MB
best_validation-2346.index 1KB
best_validation-782.data-00000-of-00001 14.52MB
best_validation-2346.data-00000-of-00001 14.52MB
best_validation-1564.meta 4.09MB
data_processing.py 4KB
README.md 2KB
Training.py 2KB
tensorboard
Lstm_CNN
events.out.tfevents.1548675677.xuxiangjundeMacBook-Air.local 4.06MB
共 22 条
- 1
资源评论
mldxxxxll5
- 粉丝: 3664
- 资源: 1477
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功