没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
试读
22页
kaggle竞赛资料,AI人工智能算法介绍,技术详解 kaggle竞赛资料,AI人工智能算法介绍,技术详解 kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解kaggle竞赛资料,AI人工智能算法介绍,技术详解
资源推荐
资源详情
资源评论
从Deepwalk到GraphSAGE,GCN,GAT
GE做的事情是将图表示成为低维向量,类似与nlp将词、句子等embedding
。distributed representation的一体化过程,万物皆可embedding。
将图中的节点表示成低维、实值、稠密的向量形式,使得得到的向量形式
可以在向量空间中具有表示以及推理的能力,这样的向量可以用于下游的
具体任务中。例如用户社交网络得到节点表示就是每个用户的表示向量,
再用于节点分类等;
将整个图表示成低维、实值、稠密的向量形式,用来对整个图结构进行分
类;
在图中最重要的两个部分就是
encoder:map到低维向量
similarity
function:如何度量相似度(什么样的node的embedding应该相似?)
www-18 有 个 很 好 的 tutorial :
Representation Learning on
Networks
[1],可以参考
1.1.图中学习的分类
归纳学习(Inductive
Learning):先从训练样本中学习到一定的模式,然后利用其对测试样本
进行预测(即首先从特殊到一般,然后再从一般到特殊),这类模型如常
见的贝叶斯模型。在GAT中
转导学习(Transductive
Learning):先观察特定的训练样本,然后对特定的测试样本做出预测(
从特殊到特殊),这类模型如k近邻、SVM等。在GAT中采用的是在Cora
数据集上优化网络结构的超参数,应用到Citeseer 数据集
1.2.相似度度量方法
度量方式可以进行如下分类
Adjacency-based
Similarity:相邻节点相似,能表征这两个是否有连接
Multi-hop Similarity:考虑k跳的neighbor
典 型 代 表 就 是 GraRep ( Cao et al, 2015 ) 和 HOPE (Yan et al.,
2016)了,一个考虑不同跳数分别训练然后concatenate,一个考虑neighb
or的重复程度。
Random Walk
Approaches:典型代表是deepwalk和node2vec,采用和nlp的相似方
法,共现频率来度量。
GNN阶段:neighborhood aggregation
neighborhood aggregate 的 方 法 可 以 对 每 个 target
node来刻画以它为中心的计算图,如
对于每一个node,都构成了一个计算图,而且每个node的计算图都有差别
我们可以看到GNN逐渐成形了,考虑简单的aggregate方式可以表示成这个
样子
数学表示也十分清晰了,如下图, 就是节点 的第 个时间步(或第
layer)的embedding
这就好家伙了,上图中一些参数就可以generalize到一些unseen的点了,
如下图
这种能力称之为inductive capability
早期迈向neural的过程借鉴了nlp的方法,如deepwalk[2]利用word2vec的
方法,因为语料中词语出现的次数与在图上随机游走节点被访问到底的次数
都服从幂律分布,采用随机游走进行采样出序列,然后按照word2vec的方
法进行训练。
word2vec出现在2013年,deepwalk 14年就出现了,紧随其后。
后来来也出现了很多,如Line,node2vec,struc2vec,听名字就知道,Li
ne和node2vec是在描述图像时刻画节点的embedding,不过在游走的方式
上进行探索,是DFS还是BFS还是both呢?到了struc2vec开始走节点空间
结构的相似性这条路了。
其实这些已经跨入到neural的阶段了,但是还用的比较初级,没有专门为gr
aph设计的neural的模型,探索阶段。
剩余21页未读,继续阅读
资源评论
白话机器学习
- 粉丝: 8904
- 资源: 7682
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功