Open Shumpei-Kikuta opened 5 years ago
Deep learning はEuclideanなデータ(画像や自然言語など)に対して成功を収めてきたが，GraphのようなNon-Euclideanなデータに対してはうまくいっていない． グラフの問題の難しさは以下の点にある．
ノードに順番がつけられておらず，また，隣接ノード数もそれぞれ異なる．
機械学習を用いるためには，i.i.dである必要があるが，グラフデータは隣接ノードと大きな関係を持っている．
これらの問題に対処するため，グラフデータ上での学習に力が入れられている．
実は完全に排他的ではなく，以下の図のように共通部分がある． ここに属する手法として，GraphSageや，SDNEがある．
GNNは以下の5つに分けられるが，ConvolutionはGCNに限らず用いられている． GCN, Graph Attention Network, Graph Generative Network(生成モデル，今回は扱わない), Graph AutoEncoder(Unsupervised, ), Graph Spatial-temporal network(時系列を入れて) 以下それぞれを説明する．
大きな２つの流れとして，spectral-basedと，spatial-basedな手法がある．
グラフラプラシアンの固有値分解を基礎とする手法，グラフフーリエ変換を定義し，数学的に高度． 時間・空間ともに計算量が大きく，実用が難しい．
隣接ノードの情報をaggregationしていくと考える手法．こっちが最近は主流．
Publish
Contents
Introduction
Deep learning はEuclideanなデータ(画像や自然言語など)に対して成功を収めてきたが，GraphのようなNon-Euclideanなデータに対してはうまくいっていない． グラフの問題の難しさは以下の点にある．
グラフデータは不規則である．
ノードに順番がつけられておらず，また，隣接ノード数もそれぞれ異なる．
i.i.dではない
機械学習を用いるためには，i.i.dである必要があるが，グラフデータは隣接ノードと大きな関係を持っている．
これらの問題に対処するため，グラフデータ上での学習に力が入れられている．
Embedding vs GNN
実は完全に排他的ではなく，以下の図のように共通部分がある． ここに属する手法として，GraphSageや，SDNEがある．
GNNは以下の5つに分けられるが，ConvolutionはGCNに限らず用いられている． GCN, Graph Attention Network, Graph Generative Network(生成モデル，今回は扱わない), Graph AutoEncoder(Unsupervised, ), Graph Spatial-temporal network(時系列を入れて) 以下それぞれを説明する．
GCN
大きな２つの流れとして，spectral-basedと，spatial-basedな手法がある．
spectral-based
グラフラプラシアンの固有値分解を基礎とする手法，グラフフーリエ変換を定義し，数学的に高度． 時間・空間ともに計算量が大きく，実用が難しい．
Spatial-based
隣接ノードの情報をaggregationしていくと考える手法．こっちが最近は主流．