# 运行说明
+ 运行入口:
+ seq2seq_chatter.py为seq2seq的执行入口文件:指令需要附带运行参数
+ transformer_chatter.py为transformer的执行入口文件:指令需要附带运行参数
+ smn_chatter.py为smn的执行入口文件:指令需要附带运行参数
+ 执行的指令格式:
+ seq2seq:python seq2seq_chatter.py --act [执行模式]
+ transformer:python transformer_chatter.py --act [执行模式]
+ smn:python smn_chatter.py --act [执行模式/pre_treat/train/evaluate/chat]
+ 执行类别:pre_treat(默认)/train/chat
+ 执行指令示例:
+ python seq2seq_chatter.py
+ python seq2seq_chatter.py --act pre_treat
+ python transformer_chatter.py
+ python transformer_chatter.py --act pre_treat
+ python smn_chatter.py
+ python smn_chatter.py --act pre_treat
+ pre_treat模式为文本预处理模式,如果在没有分词结果集的情况下,需要先运行pre_treat模式
+ train模式为训练模式
+ evaluate模式为指标评估模式
+ chat模式为对话模式。chat模式下运行时,输入exit即退出对话。
+ 正常执行顺序为pre_treat->train->evaluate->chat
# SMN模型运行说明
SMN检索式对话系统使用前需要准备solr环境,solr部署系统环境推荐Linux,工具推荐使用容器部署(推荐Docker),并准备:
+ Solr(8.6.3)
+ pysolr(3.9.0)
## Solr环境
需要保证solr在线上运行稳定,以及方便后续维护,请使用DockerFile进行部署,DockerFile获取地址:[docker-solr](https://github.com/docker-solr/docker-solr)
仅测试模型使用,可使用如下最简构建指令:
```
docker pull solr:8.6.3
# 然后启动solr
docker run -itd --name solr -p 8983:8983 solr:8.6.3
# 然后创建core核心选择器,这里取名smn(可选)
docker exec -it --user=solr solr bin/solr create_core -c smn
```
关于solr中分词工具有IK Analyzer、Smartcn、拼音分词器等等,需要下载对应jar,然后在Solr核心配置文件managed-schema中添加配置。
**特别说明**:如果使用TF-IDF,还需要在managed-schema中开启相似度配置。
## Python中使用说明
线上部署好Solr之后,在Python中使用pysolr进行连接使用:
```
pip install pysolr
```
添加索引数据(一般需要先安全检查)方式如下。将回复数据添加索引,responses是一个json,形式如:[{},{},{},...],里面每个对象构建按照你回复的需求即可:
```
solr = pysolr.Solr(url=solr_server, always_commit=True, timeout=10)
# 安全检查
solr.ping()
solr.add(docs=responses)
```
查询方式如下,以TF-IDF查询所有语句query语句方式如下:
```
{!func}sum(product(idf(utterance,key1),tf(utterance,key1),product(idf(utterance,key2),tf(utterance,key2),...)
```
使用前需要先将数据添加至Solr,在本SMN模型中使用,先执行pre_treat模式即可。
没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
【资源说明】 1、该资源内项目代码都是经过测试运行成功,功能正常的情况下才上传的,请放心下载使用。 2、适用人群:主要针对计算机相关专业(如计科、信息安全、数据科学与大数据技术、人工智能、通信、物联网、数学、电子信息等)的同学或企业员工下载使用,具有较高的学习借鉴价值。 3、不仅适合小白学习实战练习,也可作为大作业、课程设计、毕设项目、初期项目立项演示等,欢迎下载,互相学习,共同进步!
资源推荐
资源详情
资源评论
收起资源包目录
基于深度学习的对话系统、语音识别、机器翻译和语音合成等资料合集完整源码+说明.zip (290个子文件)
cmudict-0.7b 3.56MB
metadata.csv 2.64MB
qin_yun.csv 62KB
metadata.csv 5KB
tieba.dialogues 190KB
1088-134315-0000.flac 265KB
1088-134315-0001.flac 250KB
1737-146161-0001.flac 243KB
1088-134318-0000.flac 226KB
1088-134318-0001.flac 219KB
1088-134315-0002.flac 207KB
1737-146161-0000.flac 194KB
84-121550-0000.flac 159KB
84-121550-0001.flac 156KB
174-168635-0001.flac 84KB
174-168635-0000.flac 75KB
cross_woz.json 167KB
LCCC.json 65KB
config.json 1KB
transformer.json 781B
seq2seq.json 762B
smn.json 587B
README.md 3KB
README.md 871B
README.md 554B
pre_treat.py 22KB
smn_chatter.py 16KB
model.py 15KB
data_utils.py 14KB
pre_treat.py 14KB
seq2seq_chatter.py 13KB
transformer.py 13KB
actuator.py 13KB
actuator.py 13KB
module.py 12KB
transformer_chatter.py 12KB
module.py 11KB
actuator.py 11KB
module.py 11KB
train.py 11KB
module.py 11KB
actuator.py 10KB
chatter.py 10KB
actuator.py 10KB
module.py 10KB
transformer.py 10KB
beamsearch.py 10KB
text_vectorize.py 9KB
train.py 9KB
text_preprocess.py 9KB
layers.py 8KB
model.py 7KB
checkpoint.py 7KB
utils.py 7KB
load_dataset.py 7KB
lm_train.py 6KB
translator.py 6KB
text_process.py 6KB
wavernn.py 6KB
spec_augment.py 5KB
preprocess.py 5KB
load_dataset.py 5KB
model.py 5KB
pre_treat.py 5KB
spec.py 4KB
smn.py 4KB
utils.py 4KB
plas.py 4KB
seq2seq.py 4KB
las.py 4KB
model.py 4KB
load_dataset.py 4KB
get_config.py 4KB
layers.py 3KB
lm_preprocess.py 3KB
audio_process.py 3KB
generator.py 3KB
nmt_model.py 3KB
language_model.py 2KB
preprocess.py 2KB
text_split.py 2KB
bleu.py 2KB
text_split.py 2KB
model.py 2KB
lm_rescore.py 2KB
evaluate.py 2KB
train_history.py 1KB
optimizers.py 1KB
utils.py 1KB
translate.py 1011B
utils.py 523B
misc.py 246B
__init__.py 0B
__init__.py 0B
__init__.py 0B
__init__.py 0B
__init__.py 0B
__init__.py 0B
__init__.py 0B
__init__.py 0B
共 290 条
- 1
- 2
- 3
资源评论
龙年行大运
- 粉丝: 1265
- 资源: 3865
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功