论文:A Comprehensive Survey on Graph Neural Networks
论文链接:https://arxiv.org/pdf/1901.00596.pdf
近年来,深度学习已经彻底改变了许多机器学习任务,从图像分类和视频处理,到语音识别和自然语言理解。这些任务中的数据通常表示在欧几里得空间中。然而,在越来越多的应用程序中,数据是从非欧几里得域生成的,并表示为具有复杂关系和对象之间相互依赖的图形。图数据的复杂性给现有的机器学习算法带来了巨大的挑战。近年来,许多关于扩展图数据深度学习方法的研究已经出现。论文提供了一个全面的概述图神经网络(GNNs)在数据挖掘和机器学习领域的应用。论文提出了一种新的分类方法,将最先进的图神经网络分为四类,即递归图神经网络、卷积图神经网络、图自编码器和时空图神经网络。论文进一步讨论了图神经网络在各个领域的应用,并总结了图神经网络的开放源代码、基准数据集和模型评估,提出了在这一快速发展的领域中可能的研究方向。
图嵌入和图神经网络:图嵌入划分为三个类别, 矩阵分解、随机游走和深度学习方法;图神经网络(Graph Neural Networks,GNN)包括图卷积网络(Graph Convolution Networks,GCN)、 图注意力网络(Graph Attention Networks)、图自编码器( Graph Autoencoders)、图生成网络( Graph Generative Networks) 和图时空网络(Graph Spatial-temporal Networks)
符号定义
二、图神经网络的类别
1.图卷积网络(Graph Convolution Networks,GCNs)
图卷积网络将卷积运算从传统数据(例如图像)推广到图数据。
GCN方法又可以分为两大类,基于谱(spectral-based)和基于空间(spatial-based)
基于谱的图卷积网络模型
数字信号处理中引入傅里叶变换将时域信号转换到频域进行分析,图的傅里叶变换将输入的图信号投影到正交空间。基于谱的图卷积网络模型包括:Spectral CNN、Chebyshev Spectral CNN (ChebNet)、Adaptive Graph Convolution Network (AGCN)。
基于空间的GCNs方法
基于空间的图卷积神经网络的思想主要源自于传统卷积神经网络对图像的卷积运算,不同的是基于空间的图卷积神经网络是基于节点的空间关系来定义图卷积的。
基于组合的空间GCNs方法
基于组合的方法通过叠加多个图的卷积层来更新节点的表示
2. 图注意力网络(Graph Attention Networks)
图神经网络在聚合过程中使用注意力,整合多个模型的输出,生成面向重要目标的随机行走。
图注意力网络(Graph Attention Network,GAT)
门控注意力网络(Gated Attention Network,GAAN)
图形注意力模型(Graph Attention Model ,GAM)
3. 图自动编码器(Graph Autoencoders)
图自动编码器是一类图嵌入方法,利用神经网络结构将图的顶点表示为低维向量。目前基于GCN的自编码器的方法:
Graph Autoencoder (GAE)
Adversarially Regularized Graph Autoencoder (ARGA)
4. 图生成网络(Graph Generative Networks)
图生成网络的目标是在给定一组观察到的图的情况下生成新的图。
Molecular Generative Adversarial Networks (MolGAN)
Deep Generative Models of Graphs (DGMG)
GraphRNN
NetGAN
Network Representations with Adversarially Regularized Autoencoders (NetRA)
Deep Neural Networks for Graph Representations (DNGR)
Structural Deep Network Embedding (SDNE)
Deep Recursive Network Embedding (DRNE)
5. 图时空网络Graph Spatial-Temporal Networks
图时空网络同时捕捉时空图的时空相关性。图时空网络的模型:
Diffusion Convolutional Recurrent Neural Network (DCRNN)
CNN-GCN
Spatial Temporal GCN (ST-GCN)
Structural-RNN
三、 图神经网络的应用
计算机视觉领域(Computer Vision)
自然语言处理NLP
推荐系统(Recommender Systems)
对抗性攻击网络
电子健康记录建模
脑网络
事件检测和组合优化
其他(程序验证、程序推理...)
四、参考资料
图神经网络(Graph Neural Networks,GNN)综述
论文翻译-A Comprehensive Survey on Graph Neural Networks《图神经网络GNN综述》
深度学习时代的图模型,清华发文综述图网络
斯坦福大学新课CS224W-2019