Graph Attention Network(GAT)の実装

[Prokuma]

概要

GCNのみならず、GCN研究の遺産を活かし他グラフニューラルネットワークの実装の取り組みをしたい。 その点、GATは有力候補であり、これの実装に取り組む。

実装方針

• include/gat.h、src/gat.c、gat_prog.c、Makefileのみの修正を原則とする
• 必要に応じてファイル追加は構わないが、既存の実装（linalg.h,sparse.hなど）は修正しないこと
• conv-c2d関係のファイルは絶対にコミットしないこと
• 実行ファイルが追加でできる場合、.gitignoreを修正し、コード管理対象から外すこと

実装目標

• GATの推論（Propagation）の実装
• 推論性能の計測

[Prokuma]

このコミットに対するコメント

• ゴールまで残っているタスクは？
• 細かいところではあるし別にすごい手間かけてまで直す必要はないが、キャメルケースとスネークケースはできれば統一してほしい（主に新たに追加された関数名で統一されていないところが多い）
  • キャメルケースとスネークケースについてはこの記事参考に

[as-koki]

命名等細かいところはすぐに修正いれます。 残してるタスクとしては次があります。

• MM, SpMM, 余裕があればAttentionまでをCUDAで動くようにする。
• PyGでのNELL学習, IMAX_GNN(GAT)で実行可能な形式にする。
• 余裕があればIMAXコードの改修。

[Prokuma]

余裕があればIMAXコードの改修。

これに関しては別issue立ててやってね GAT実装そのものに着目すると「IMAXで動いて比較対象との評価できた」までにしてタスク一段落にすべき