chimuichimu
commented
5 months ago GNNX-BENCH: Unravelling the Utility of Perturbation-based GNN Explainers through In-depth Benchmarking
GNN の最新動向 (ICLR 2024) の記事で紹介されていた GNN の説明性手法 のベンチマークをした論文
会議
ICLR 2024
背景
- GNN はさまざまなドメインで活躍している
- GNN は他の深層学習同様、透明性や解釈性に課題がある
- 適用対象のドメインによっては解釈性が要求される（ヘルスケア、金融、など）
- モデルのデバッグや改善のインサイトを得るためにも解釈性は重要
- 近年 GNN の内部動作を説明するためのアルゴリズムが複数提案されている
論文の概要
GNN の複数の説明性手法をベンチマークし、各種法の強みや制約、性能の評価を行う
説明性を得るアプローチ
Factual explanations
グラフ全体と同じ予測を導くための最小の部分グラフを特定することで、モデルを解釈するアプローチ
Counterfactual explanations
GNN への入力をどう変えたら出力が変わるか？という情報に基づいて、モデルを解釈するアプローチ
ベンチマークの観点
- Sufficiency
- Necessity
- Stability
- Reproducibility
- Feasibility
主な結果
- Perfomance と Stability の観点において RCEXPLAINER という手法が outperformed した
- Factual な手法について Stability, Reproducibility の懸念が顕在化した
- Counterfactual な手法について実現可能性に関する懸念があることが分かった
nogawanogawa
Why
Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。
prev. https://github.com/wantedly/machine-learning-round-table/issues/246
What
話したいことがある人はここにコメントしましょう！ 面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！