SMP2019ECDT技术报告-北京沃丰时代数据科技有限公司1
需积分: 0 104 浏览量
2022-08-03
20:28:11
上传
评论
收藏 232KB PDF 举报
SMP2019ECDT 中文人机对话评测
1 / 9
基于
BERT
联合训练的自然语言理解
评测报告
作者：侯晋峰 李伟 高亨德
北京沃丰时代数据科技有限公司
摘要：
人机对话技术可以使人通过自然语言与计算机进行交互，是学术界和产
业界需要攻克的难点之一。其中，由于任务型人机对话技术的重要实用价值及应
用前景，受到更多的关注。本文针对任务型对话系统中的自然语言理解模块的领
域分类、意图识别和语义槽填充三项任务，使用基于 BERT 的联合训练模型，对
三个任务做预测，在 SMP2019 的自然语言理解评测中取得第二名的成绩。
关键词：
自然语言理解，BERT，联合训练，SMP2019
1.
引言
近年来，越来越多的用户通过任务型对话系统来获得便捷高效的服务。任务
型对话系统是指以人机对话的形式在特定条件下提供信息或服务的系统。通常情
况下是为了满足带有明确目的的用户。例如查天气、点播电影、订餐、订机票火
车票等任务型场景。鉴于其广泛的应用前景，在 SMP2019 大会上，哈尔滨工业
大学与科大讯飞股份有限公司联合组织并承办了中文人机会话技术评测(ECDT)，
为任务型会话提供了一个具有指导意义的评测任务。
自然语言理解任务主要包括下面三个子任务：领域分类、意图识别和语义槽
填充。其中，领域分类任务是把语句划分到指定的不同领域标签内
[1]
。例如：给
定一句用户的指示，“我想听周杰伦的菊花台”需要将其划分到领域“music”下，
进而根据领域“music”有针对性的对指示给出响应。与领域分类任务类似，意图
识别任务是把语句划分到不同的意图标签内。而语义槽填充则是需要识别出用户
指令语句中的实体部分，并进行标注。例如，上例中的意图为“PLAY”，语义槽
为“artist:周杰伦”，“song:菊花台”。特别的，本次评测任务中，意图识别任务、
语义槽填充任务都与领域分类任务有关联。例如：判定领域为“music”的，意图
评论0