graph-nerual-network

GCN

Graph Convolutional Network

Transductive / Inductive Task

transductive 转导任务:训练阶段与测试阶段都基于同样的图结构,如 pubmed cora 数据集。

常见算法:LabelPropagation SemiEmb ManiReg DeepWalk

Inductive 归纳任务:训练阶段与测试阶段都基于不同的图结构,可对未知测试点进行预测,如 protein-protein interaction 数据集

常见算法:GAT,GraphSAGE-GCN/LSTM/mean,

GraphSage

Spatial Domain

基于空域卷积的方法直接将卷积操作定义在每个结点的连接关系上,它跟传统的卷积神经网络中的卷积更相似一些。在这个类别中比较有代表性的方法有 MPNN GraphSage MoNet

Spectral Domain

这就是谱域图卷积网络的理论基础了。这种思路就是希望借助图谱的理论来实现拓扑图上的卷积操作。从整个研究的时间进程来看:首先研究 GSP(graph signal processing)的学者定义了 graph 上的 Fourier Transformation,进而定义了 graph 上的 convolution,最后与深度学习结合提出了 Graph Convolutional Network。

GCN

谱域,inductive 任务,拉普拉斯矩阵

GraphSAGE

《Inductive Representation Learning on Large Graphs NIPS17》 PDF

空域,inductive 任务

https://zhuanlan.zhihu.com/p/62750137

img

预测任务,输出:给定节点的标签,输入:采样1、2条节点的 embedding 进行聚合

PinSage

《Graph Convolutional Neural Networks for Web-Scale Recommender Systems》PDF

https://zhuanlan.zhihu.com/p/63214411

img

EGES

《Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba》KDD18

可以根据用户的历史行为来构建商品图(如上图的a和b,根据用户的一些点击记录,依照连续点击应该存在关系,可以构造出如b一样的item graph),并学习图中所有商品的嵌入(如图c的带权随机游走采样,用deepwalk思想基于skip-gram训练embedding)。这一步就是作者描述的Base Graph Embedding(BGE)。

为了减轻稀疏性和冷启动问题,将边信息合并到图嵌入框架中。即增加商品的属性,如品牌,价格等。然后就升级成了Graph Embedding with Side information (GES),并且对不同的side Information加权得到Enhanced Graph Embedding with Side information (EGES)。

img

img

GraphTR

《Graph Neural Network for Tag Ranking in Tag-enhanced Video Recommendation CIKM20》PDF

https://mp.weixin.qq.com/s/0Tb5t9K2V-RYb12UKL1cXg

https://github.com/lqfarmer/GraphTR

微信

GAT

空域,inductive / transductive 任务

GAT 注意力系数,有向

https://zhuanlan.zhihu.com/p/81350196

https://www.youtube.com/watch?v=6hbWpbi0Z24

本文有帮助?