基于Transformer和图卷积神经网络的隐喻识别.docx

1 引言

隐喻在自然语言中无处不在即便有时人们并没有意识到它的存在但是它却

能帮助人们建立对这个世界的理解。隐喻是一种非字面意义的表达方式 它将一

个词语或短语与一个对象或行为进行比较而该对象或行为可能与当前句子语义

并不相符合但却有助于人们更轻松地理解句子所要表达的含义







。隐喻广泛存在

中的“就是隐喻表达把白发比喻成了白雪。但是 

中“就是非隐喻表达只是说明她的头发是白色的这个事实。另一方

面某些词单独出现在句子中时表现为非隐喻表达但是当它与其他词形成一个组

合出现在句子中时可能就会形成隐喻表达。例如  数据集中的句子“

 !!"

#。”!"或“作为形容词单独出现在句子中修饰其他词时通

常表现为非隐喻表达但是当“!"和“组合出现在句子中时!"就是

隐喻表达。

为解决隐喻识别问题先前的研究大部分都聚焦于目标词和其周围的词语希

望通过其周围的词语来判断目标词是否为隐喻表达 但是忽略了句子中词与词之

% 结构提取句子的全局上下文信息和局部上下文信息并使用多头注意

力聚合这两种上下文语义信息&利用依存句法树构建依存信息图通过图卷积神经

网络学习词与词之间的依赖关系获取词的句法信息表示提取潜在隐喻特征信息&

最后融合目标词的上下文语义表示和句法信息表示通过分类层判断目标词是隐

喻表达还是非隐喻表达。

2 相关研究

在自然语言处理领域隐喻识别任务引起了学者广泛的研究兴趣。隐喻识别

任务可以大致分为两类：第一类涉及预测给定的单词或短语是否是隐喻表达





聚焦于名词、形容词和动词三种表达类型的隐喻识别任务。基于关联聚类原则

构建隐喻识别模型针对某一种词性类型的词进行隐喻识别。比如以动词的主语

为目标词通过词的关联语言邻域对词进行聚类以此识别词的隐喻。更进一步

地/!- 等

0

器学习系统。经过训练的系统能够将文本中的所有目标词自动分为两组：隐喻

性和非隐喻性。对于一些结构简单的句子很容易通过具体的规则提取出句子中

的隐喻信息  例如“ 1 通过一些简单的规则能够发现“ ! 和

*345 如果采用规则或知识库的方法识

别句子中的隐喻就会发现6"*#7这组词对并不能仅通过概念域判断其

是否为隐喻表达。另外一方面知识库中所包含的知识是不完全的人工制定的规

则始终是有限的所以需要新的方法去解决这种困境。

上的语义信息用于词级别的隐喻分类。: 等

在隐喻识别过程理论

和选择

偏好理 论



的启发下提出 了两个隐 喻识别模 型。两种模型 均通过 8

和

<3:

'

记忆网络进行上下文编码最终输出到分类层进行分类。苏传东等

嵌入的语义优先中断理论利用循环神经网络对文本进行序列化建模提高隐喻识

别的准确性。

大规模预训练语言模型的出现使深度神经网络可以获取具有丰富语义信息

的词嵌入表示极大促进了隐喻识别任务的研究进展。1<=%

+

及其衍生模型的出

现将隐喻识别任务的基线指标提高了大约 ;>。张冬瑜等

.





词进行词向量编码编码后的语义表示同时包含词与词之间的位置关系等信息利

征信息并采用集成方法降低预测的方差提高隐喻识别模型的性能。

最近图卷积神经网络（8#-*)*)8)）被广

泛运用在自然语言领域中。尽管自然语言表现出顺序性但是它们也可能包含一

个内部图结构例如依存句法树。依存句法树定义了句子中单词之间的句法关系。

3* 等

句法树。," 等

任务和关系提取等任务上。大量的研究表明各项自然语言处理任务在使用图卷

积神经网络模型后结果都出现了一定的提升。相比传统的序列化建模方式图卷

积神经网络能够挖掘出文本中非线性的复杂语义关系。

3 方法研究

为解决现有模型无法有效识别多词隐喻的问题 本文提出一种基于图卷积神

经网络和 % 的隐喻识别模型如图



所示。

型获得词语的语义表示并加入词语的词性信息作为补充信息丰富语义表示。

（）使用依存句法树构建图通过图卷积神经网络学习句子中词与词的依赖

关系从而得到词语的句法结构表示。

（$）将上下文语义表示与句法结构表示联合输入分类层预测目标词是否是

隐喻表达。



符号分割的长句子那么局部上下文就可能变成全局上下文显然不符合局部上下

文的概念。所以通过限定窗口大小 k规范局部上下文的概念获得细粒度的局部

上下文。