【免费】4-消息传递图神经网络1_图神经网络消息传递机制资源-CSDN文库

自然语言处理

需积分: 0 153 浏览量 2022-08-03 23:44:55 上传评论收藏 1.45MB PDF 举报

资源推荐

资源详情

资源评论

消息传递图神经网络

一、引言

在开篇中我们介绍了，为节点生成节点表征（Node Representation）是图计算任务

成功的关键，我们要利用神经网络来学习节点表征。消息传递范式是一种聚合邻接

节点信息来更新中心节点信息的范式，它将卷积算子推广到了不规则数据领域，实

现了图与神经网络的连接。消息传递范式因为简单、强大的特性，于是被人们广泛

地使用。遵循消息传递范式的图神经网络被称为消息传递图神经网络。本节中，

首先我们将学习图神经网络生成节点表征的范式–消息传递（Message Passing）

范式。

接着我们将初步分析PyG中的MessagePassing基类，通过继承此基类我们可以方

便地构造一个图神经网络。

然后我们以继承MessagePassing 基类的GCNConv 类为例，学习如何通过继承

MessagePassing基类来构造图神经网络。

再接着我们将对MessagePassing基类进行剖析。

最后我们将学习在继承 MessagePassing 基类的子类中覆写

message(),aggreate(),message_and_aggreate() 和 update() ，这些方法的规

范。

二、消息传递范式介绍

下方图片展示了基于消息传递范式的聚合邻接节点信息来更新中心节点信息的过

程：

1. 图中黄色方框部分展示的是一次邻接节点信息传递到中心节点的过程：B节点的

邻接节点（A,C）的信息经过变换后聚合到B节点，接着B节点信息与邻接节点聚

合信息一起经过变换得到B节点的新的节点信息。同时，分别如红色和绿色方框

注（3），节点表征与节点属性的区分：遵循被广泛使用的约定，此次组队学习我

们也约定，节点属性data.x是节点的第0层节点表征，第层的节点表征经过一次的

节点间信息传递产生第层的节点表征。不过，节点属性不单指data.x，广义上

它就指节点的属性，如节点的度等。

三、MessagePassing基类初步分析

Pytorch Geometric(PyG)提供了MessagePassing基类，它封装了“消息传递”的运行流

程。通过继承MessagePassing基类，可以方便地构造消息传递图神经网络。构造一

个最简单的消息传递图神经网络类，我们只需定义message()方法（）、update()

方法（），以及使用的消息聚合方案（ aggr="add" 、 aggr="mean" 或

aggr="max"）。这一切是在以下方法的帮助下完成的：

MessagePassing(aggr="add", flow="source_to_target", node_dim=-2) （对象

初始化方法）：

aggr：定义要使用的聚合方案（"add"、"mean "或 "max"）；

flow：定义消息传递的流向（"source_to_target "或 "target_to_source"）；

node_dim ：定义沿着哪个维度传播，默认值为 -2 ，也就是节点表征张量

（Tensor）的哪一个维度是节点维度。节点表征张量x 形状为[num_nodes,

num_features]，其第0维度（也是第-2维度）是节点维度，其第1维度（也是

第-1维度）是节点表征维度，所以我们可以设置node_dim=-2。

注：MessagePassing(……)等同于MessagePassing.__init__(……)

MessagePassing.propagate(edge_index, size=None, **kwargs)：

开始传递消息的起始调用，在此方法中message、update等方法被调用。

它以edge_index（边的端点的索引）和flow（消息的流向）以及一些额外的

数据为参数。

请注意，propagate()不局限于基于形状为[N, N]的对称邻接矩阵进行“消息传

递过程”。基于非对称的邻接矩阵进行消息传递（当图为二部图时），需要传

递参数size=(N, M)。

如果设置size=None，则认为邻接矩阵是对称的。

MessagePassing.message(...)：

首先确定要给节点传递消息的边的集合：

如果flow="source_to_target"，则是的边的集合；

如果flow="target_to_source"，则是的边的集合。

接着为各条边创建要传递给节点的消息，即实现函数。

剩余15页未读，继续阅读

内容反馈

陈莽昆

粉丝: 23
资源: 291

最新资源

资源上传下载、课程学习等过程中有任何疑问或建议，欢迎提出宝贵意见哦~我们会及时处理！点击此处反馈

feedback-tip