结合邻域知识的文档级关键词抽取方法.docx资源-CSDN文库

版权申诉

54 浏览量 2022-12-15 14:21:45 上传评论收藏 197KB DOCX 举报

资源推荐

资源详情

资源评论

关键词抽取技术是一种从文本中抽取主题和一些重要短语的技术，可以帮助阅读者快

速了解文本中最有价值的信息

[

1

]

。一篇文档的关键词通常是几个单词或者短语，可以作为

该文档主要内容的提要。近几十年来，自动抽取关键词的任务受到了广泛关注

[

2

]

。另外，

由于关键词具有表达简洁、精准的特点，被广泛用于自然语言处理领域中的下游任务，比

如文本摘要、情感分析以及文本聚类等

[

3

]

。

最传统的关键词抽取方法基于 TF-IDF，它能识别出在当前文档中频繁出现，但在整

个文档集合中不会频繁出现的单词，即该文档的重点单词。还有基于图的排序方法

[

4

]

，它

首先从文档构造一个词图，然后用基于随机游走的方法(如 PageRank)确定关键词的重要

性。通过构建词图，这些方法可以有效地识别最显著的关键词。近年来，基于端到端神经

网络的关键词抽取方法受到越来越多的关注。文献[2]将关键词抽取视为一项序列标注任

务，并提出了一种联合层 RNN 的模型。文献[5]首先提出了一种用于关键词抽取的编码器−

解码器框架，并在框架中引入了注意力机制，使模型基于输入的文档来输出对应的关键

词。文献[6]进一步提出了一个基于 CNN 的模型来完成这项任务。文献[7]提出了一种标题

指导的 seq2seq 网络来加强隐式文档表示。另外，为了考虑生成的关键词之间的关系，文

献[8]使用了自适应奖励的强化学习方法。文献[9]指出了关键词生成中第一个词的重要性。

文献[10]利用了聚类的方法来过滤掉无意义的候选关键词。

基于端到端的神经网络方法还面临两个重要挑战：1) 建模有效的文档向量表示。文

档向量表示能够直接决定解码器的输出结果，影响整个模型的效果；2) 生成全面并准确覆

盖整个输入文档主题的关键词集合。为了解决以上问题，本文提出了结合邻域知识的文档

级关键词抽取方法。在编码端给定一个文档，基于该文档与相似文档的相关信息以及文档

内部单词之间的距离构建出文档的图结构，将相同的单词聚合到一起用同一个节点表示。

在解码端设计了一种多样化指针网络，从原文档的词图中动态地选择相关的单词构成强概

括性且不重复的关键词，极大优化了解码器端的性能。实验结果表明，相比传统非监督学

习方法和经典的深度学习方法，结合邻域知识的文档级关键词抽取模型可以有效提升抽取

结果的相关指标。

1. 研究方法

本文模型由检索器、编码器及解码器组成。编码器采用了图卷积神经网络(graph

convolutional networks, GCN)

[

11

]

进行编码，解码器以关键词为单位逐个生成关键词。编码器

和解码器的结构示意图分别如图 1 和图 2 所示。

本内容试读结束，登录后可阅读更多

下载后可阅读完整内容，剩余9页未读，立即下载

内容反馈

版权申诉

罗伯特之技术屋

粉丝: 3591
资源: 1万+

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip