LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation

zerebom commented 2 years ago

https://arxiv.org/abs/2002.02126 https://dl.acm.org/doi/10.1145/3397271.3401063 https://github.com/kuandeng/LightGCN

GCNは協調フィルタリング(CF)として使うために十分なポテンシャルを持っている
ただ、GCNに含まれているfeature transformation and nonlinear activationはCFの精度向上にはほとんど寄与しない
本論文では協調フィルタリングとして使うために最も重要なneighborhood aggregation のコンポーネントだけを含んだLightGCNを提案する
LightGCN はユーザとアイテムのインタラクショングラフ上で線形伝搬させながらユーザとアイテムの埋め込みを学習し、すべての層で学習した埋め込みの重み付け和を最終的な埋め込みとして使用する
シンプルだが精度は向上した

zerebom commented 2 years ago

NGCFは非線形活性化関数σ(-)と特徴変換行列W1、W2の使用を含む標準的なGCN[23]にほぼ従っています。しかし、この2つの演算は協調フィルタリングにはあまり有効でないと主張する。半教師付きノード分類では、各ノードは論文のタイトルや抄録語などの豊富な意味的特徴を入力として持っている。したがって、非線形変換を何重にも行うことは特徴学習にとって有益である。しかし、協調フィルタリングでは、ユーザとアイテムのインタラクショングラフの各ノードは、具体的な意味を持たないIDを入力として持っているだけである。このような場合、複数の非線形変換を行うことは、より良い特徴の学習には貢献せず、さらに悪いことに、うまく学習することが難しくなる可能性がある。次のサブセクションでは、この議論に対する経験的証拠を示す。

zerebom commented 2 years ago

GCN の基本的な考え方は，グラフ上の特徴を平滑化することでノードの表現を学習することです[23, 40]．これを実現するために、GCN はグラフ畳み込みを繰り返し実行します。つまり、近傍の特徴を集約して、ターゲットノードの新しい表現とします。AGG は、ターゲットノードとその近傍ノードの k 層目の表現を考慮する集約関数（グラフ畳み込みの中核）である。AGGは、GINの重み付き和集合体[42]、GraphSAGEのLSTM集合体[14]、BGNNの双線形相互作用集合体[48]など多くの研究により規定されてきた。しかし、ほとんどの研究は、特徴変換や非線形活性化をAGG関数と結びつけている。これらは意味的な入力特徴を持つノードやグラフの分類タスクでは良好な性能を発揮するが、協調フィルタリングでは負担になる可能性がある（セクション2.2の予備結果参照）。

zerebom commented 2 years ago