dialogbot：开箱即用的对话机器人解决方案，涵盖问答型对话、任务型对话和聊天型对话等多种场景，支持网络检索问答、领域知识问

 [](https://badge.fury.io/py/dialogbot) [](https://pepy.tech/project/dialogbot) [](CONTRIBUTING.md) [](https://github.com/shibing624/dialogbot/graphs/contributors) [](LICENSE) [](requirements.txt) [](https://github.com/shibing624/dialogbot/issues) [](#Contact) # DialogBot Dialogbot, provide complete dialogue model technology. Combining **search-based dialogue model**, **task-based dialogue model** and **generative dialogue model**, output the optimal dialogue response. **dialogbot**实现了问答型对话，任务型对话，聊天型对话等多种对话机器人方案，支持网络检索问答，领域知识问答，任务引导问答，闲聊问答，开箱即用。 **Guide** - [Question](#Question) - [Solution](#Solution) - [Feature](#Feature) - [Install](#install) - [Usage](#usage) - [Dataset](#Dataset) - [Contact](#Contact) - [Reference](#reference) # Question 人机对话系统一直是AI的重要方向，图灵测试以对话检测机器是否拥有高度的智能。 如何构建人机对话系统或者对话机器人呢？ # Solution 对话系统经过三代的演变： 1. 规则对话系统：垂直领域可以利用模板匹配方法的匹配问句和相应的答案。优点是内部逻辑透明，易于分析调试，缺点是高度依赖专家干预， 缺少灵活性和可可拓展性。 2. 统计对话系统：基于部分可见马尔科夫决策过程的统计对话系统，先对问句进行贝叶斯推断，维护每轮对话状态，再跟进对话状态进行对话策略的选择， 从而生成自然语言回复。基本形成现代的对话系统框架，它避免了对专家的高度依赖，缺点是模型难以维护，可拓展性比较受限。 3. 深度对话系统：基本延续了统计对话系统的框架，但各个模型采用深度网络模型。利用了深度模型强大的表征能力，语言分类和生成能力大幅提高， 缺点是需要大量标注数据才能有效训练模型。 对话系统分为三类： - 问答型对话：多是一问一答，用户提问，系统通过对问题解析和查找知识库返回正确答案，如搜索。 - 任务型对话：指由任务驱动的多轮对话，机器需要通过理解、主动询问、澄清等方式确定用户目标，然后查找知识库返回结果，完成用户需求。 如：机器人售电影票。 - 聊天型对话：目标是产生有趣且富有信息量的自然答复使人机对话持续下去，如小度音响。 # Feature ### 问答型对话（Search Dialogue Bot） #### 本地检索问答 计算用户问句与问答库中问句的相似度，选择最相似的问句，给出其对应的答复。 句子相似度计算包括以下方法： - TFIDF - BM25 - OneHot - Query Vector #### 网络检索问答 对百度、Bing的搜索结果摘要进行答案的检索 - 百度搜索，包括百度知识图谱、百度诗词、百度万年历、百度计算器、百度知道 - 微软Bing搜索，包括bing知识图谱、bing网典 ### 任务型对话（Task Oriented Dialogue Bot） - End to End Memory Networks(memn2n) - BABi dataset ### 聊天型对话（Generative Dialogue Bot） - GPT2 Model - Sequence To Sequence Model(seq2seq) - Taobao dataset # Demo Official Demo: https://www.mulanai.com/product/dialogbot/ <img src="docs/public/jietu.png" width="400" /> # Install The project is based on transformers 4.4.2+, torch 1.6.0+ and Python 3.6+. Then, simply do: ``` pip3 install torch # conda install pytorch pip3 install -U dialogbot ``` or ``` pip3 install torch # conda install pytorch git clone https://github.com/shibing624/dialogbot.git cd dialogbot python3 setup.py install ``` # Usage ## 问答型对话（Search Bot） example: [examples/bot_demo.py](examples/bot_demo.py) ```python from dialogbot import Bot bot = Bot() response = bot.answer('姚明多高呀？') print(response) ``` output: ``` query: "姚明多高呀？" answer: "226cm" ``` ## 任务型对话（Task Bot） example: [examples/taskbot_demo.py](examples/taskbot_demo.py) ## 聊天型对话（Generative Bot） ### GPT2模型使用 基于GPT2生成模型训练的聊天型对话模型。 模型已经 release 到huggingface models：[shibing624/gpt2-dialogbot-base-chinese](https://huggingface.co/shibing624/gpt2-dialogbot-base-chinese) example: [examples/genbot_demo.py](examples/genbot_demo.py) ```python from dialogbot import GPTBot bot = GPTBot() r = bot.answer('亲 你吃了吗？', use_history=False) print('gpt2', r) ``` output: ``` query: "亲 吃了吗？" answer: "吃了" ``` ### GPT2模型fine-tune #### 数据预处理 在项目根目录下创建data文件夹，将原始训练语料命名为train.txt，存放在该目录下。train.txt的格式如下，每段闲聊之间间隔一行，格式如下： ``` 真想找你一起去看电影 突然很想你 我也很想你 想看你的美照 亲我一口就给你看 我亲两口 讨厌人家拿小拳拳捶你胸口 今天好点了吗？ 一天比一天严重 吃药不管用，去打一针。别拖着 ``` 运行preprocess.py，对data/train.txt对话语料进行tokenize，然后进行序列化保存到data/train.pkl。train.pkl中序列化的对象的类型为List[List],记录对话列表中,每个对话包含的token。 ``` cd dialogbot/gpt/ python preprocess.py --train_path data/train.txt --save_path data/train.pkl ``` #### 训练模型 运行train.py,使用预处理后的数据，对模型进行自回归训练，模型保存在根目录下的model文件夹中。 在训练时，可以通过指定patience参数进行early stop。当patience=n时，若连续n个epoch，模型在验证集上的loss均没有下降，则进行early stop，停止训练。当patience=0时，不进行early stop。 代码中默认关闭了early stop，因为在实践中，early stop得到的模型的生成效果不一定会更好。 ``` python train.py --epochs 40 --batch_size 8 --device 0,1 --train_path data/train.pkl ``` 更多的训练参数介绍，可直接看train.py中的set_args()函数中的参数说明 #### 预测模型（人机交互） 运行interact.py，使用训练好的模型，进行人机交互，输入q结束对话之后，聊天记录将保存到sample.txt文件中。 ``` python interact.py --no_cuda --model_dir path_to_your_model ``` 执行interact.py时，可以尝试通过调整topk、topp、repetition_penalty、max_history_len等参数，调整生成的效果。更多的参数介绍，可直接看interact.py的set_args()函数中的参数说明 如果要使用GPU进行生成，则不要调用--no_cuda参数，并且通过--device gpu_id来指定使用哪块GPU。 ##### 问答示例 - sample1 ``` user :在干嘛 chatbot:睡觉 user :这么早就睡觉啦 chatbot:嗯啊你也早点睡啊 user :我再玩一会儿手机 chatbot:早点休息晚安 user :拜拜啦 chatbot:晚安晚安 user :多喝热水 chatbot:哈哈哈 user :多喝热水 chatbot:好的咯 ``` - sample2 ``` user :在吗 chatbot:在 user :我不开心 chatbot:怎么啦 user :最近好累啊 chatbot:是挺累的 user :作业好多啊 chatbot:还好还好 user :我觉得我快要挂科了 chatbot:我也是啊，但是我觉得我快熬出头了 user :不说了，我还有好多作业没写 chatbot:我也是啊好多啊 user :那先这样，下次再�