FOCUS: Flexible Optimizable Counterfactual Explanations for Tree Ensembles

[mei28]

---

id: "focus-flexible-optimizable-counterfactual-explanations-for-tree-ensembles" aliases:

• "FOCUS: Flexible Optimizable Counterfactual Explanations for Tree Ensembles" tags:

• "TSUNDOKU"

FOCUS: Flexible Optimizable Counterfactual Explanations for Tree Ensembles

一言で言うと

反実仮想のサンプルを生成する手法を提案。既存手法では、微分可能なモデルにのみしか適用できなかったが、これを微分を用いない決定木においても適用可能にした。

論文リンク

• https://ojs.aaai.org/index.php/AAAI/article/view/20468
• http://dx.doi.org/10.1609/aaai.v36i5.20468
• https://ojs.aaai.org/index.php/AAAI/article/download/20468/20227

著者/所属機関

• Lucic, Ana; Oosterhuis, Harrie; Haned, Hinda; de Rijke, Maarten

投稿日付(yyyy/MM/dd)

AAAI2022

先行研究と比べてどこがすごい？

• 微分を用いない手法においても適用可能

技術・手法のキモはどこ？

• 損失関数として、L_pred(変更によって予測が変化するか？)+L_diff(変更をできるだけ変えない)のマルチタスクとして設定。
• 決定木の振る舞いを、微分可能な形式にした　→ シグモイド関数を用いて再現
• 距離関数もいろいろ設定可能

どうやって有効だと検証した?

• 4つのデータセット（Wine Quality, HELOC, COMPAS, Shopping）と3つのモデル(Decision Trees, Random Forests, Adaptive Boosting Tree)に対して調査。
• 対抗手法としては [[feature-tweaking|Feature Tweaking]]と[[dace|DACE]]を用いた。

コメント

• 距離関数を変えた時に、モデルが異なる振る舞いをするのがおもしろい。

次はなに読む？

[[feature-tweaking|Feature Tweaking]] [[dace|DACE]]