【免费】coffeeNLU小队技术报告_final1资源-CSDN文库

需积分: 0 165 浏览量 2022-08-03 21:45:52 上传评论收藏 798KB PDF 举报

资源详情

资源评论

资源推荐

SMP2019ECDT 中文人机对话评测

1 / 9

语义理解技术方案

作者：周小多、于辛

南京大学 Websoft 实验室

摘要

语义理解作为人机对话的核心难点之一一直备受关注，其中领域和意图识别

被当作分类问题，常用的分类算法如 CNN、RNN、LSTM、FastText 等，槽识别

被当作序列标注问题，常用 CRF、Bi-LSTM+CRF 等。语义理解中领域、意图的识

别和槽填充往往是强相关且不可割裂的，所以近年来联合识别意图和槽的工作也

越来越多，多数方法的关注点往往是利用领域、意图和槽的隐形约束，但领域与

意图和槽往往是有直接约束关系的，因此我们提出了领域意图向量和领域槽向量，

通过数据的先验信息构造领域和意图与槽的关系向量，在联合识别的基础上，确

定领域后利用领域意图向量和领域槽向量用来解码出受约束的意图和槽。

关键词：领域意图向量、领域槽向量

1.引言

随着语音助手的逐渐火热，语义理解的质量作为衡量语音助手智能化程度起

到越来越重要的作用，语义理解需要理解用户话语所属的领域、意图还有槽，其

中领域识别和意图识别被建模成分类问题，而槽填充被建模成序列标注问题，过

去深度学习模型往往是用 CNN、RNN、LSTM、FastText 等模型做分类，CRF、

Bi-LSTM+CRF 等模型做序列标注，但训练一个这样的模型往往需要很多数据才

能达到一个较好的效果，近年来预训练+微调模型的兴起对于自然语言理解的发

展起到了一个里程碑的作用，其中作为代表的 Bert 模型[1.] 利用双向

Transformer 模型和随机 Mask 字技术在大规模语料上进行预训练，再在特定任

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余8页未读，立即下载

评论0

内容反馈

黄浦江畔的夏先生

粉丝: 13
资源: 299

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip