Contextualization and Exploration of Local Feature Importance Explanations to Improve Understanding and Satisfaction of Non-Expert Users

[mei28]

---

id: contextualization-and-exploration-of-local-feature-importance-explanations-to-improve-understanding-and-satisfaction-of-non-expert-users aliases:

• Contextualization and Exploration of Local Feature Importance Explanations to Improve Understanding and Satisfaction of Non-Expert Users
• Contextualization and Exploration of Local Feature Importance Explanati tags:
• TSUNDOKU
• XAI
• Human-centered
• Interface-design

• IUI2022

Contextualization and Exploration of Local Feature Importance Explanations to Improve Understanding and Satisfaction of Non-Expert Users

一言で言うと

Non-expertの人にAIを理解してもらうためには、どのようなサンプルを提示するのが良いだろうか？特にlocal feature importance explanationを用いて、理解と満足度が向上することがわかった。特にcontextulaize(文脈や状況)を説明するものが最も良かった。

論文リンク

• https://doi.org/10.1145/3490099.3511139
• http://dx.doi.org/10.1145/3490099.3511139
• https://dl.acm.org/doi/abs/10.1145/3490099.3511139
• https://dl.acm.org/doi/pdf/10.1145/3490099.3511139

著者/所属機関

• Bove, Clara; Aigrain, Jonathan; Lesot, Marie-Jeanne; Tijus, Charles; Detyniecki, Marcin

投稿日付(yyyy/MM/dd)

• IUI2022

先行研究と比べてどこがすごい？

• これまでのAIは専門家に対してばかり注目している。専門家と非専門家では求めているタスクとその目標が異なる。
• 非専門家にとって誤解を生む可能性がある
  • 非専門家は予測と特徴量の関係性を正しく正当化することができない。
• 既存研究から、ドメイン知識を教えるためにcontexualizatonが有効であると示されている。これは非専門家に対してはどうなの？
• 説明の例としてconterfacutalを用いる場合がある。医療の分野ではこれの有効性は示されているが、非専門家では明らかではない。
• XAIの説明は二つ存在。1. MLモデルの予測や影響を提示。2. 複数種類の説明を提示し、ナビゲートする

技術・手法のキモはどこ？

local featrue importanceがnon-expertにどのような影響を与えるかに注目

• RQ1: How effect non-expert's understanding?
• RQ1: How effect non-expert's Satisfaction? 特にcontexualizatonに注目しているのが新しい

contexualizing local feature importance explanationsについて3レベルに分ける

1. ML transparency
   • 非専門家はMLシステムの全体像がわからないからそれを伝える。どういう入力でどういう出力が行われいたのか
2. Domain transparency
   • ドメイン知識を提供し、なぜその特徴が影響を及ぼすがを説明する
3. External transparency
   • 日常生活からの情報も判断に影響する、このような外部情報についても説明を付与する。

情報についてはインタラクティブに提供するようにした

全体の概要はTable1

どうやって有効だと検証した?

• タスクとして、自動車保険の予測を行う

• None, contexualizaton, explanationの組み合わせ4種類で比較

• 特に、contexualizatonはユーザーの満足度を向上させ、さらにユーザの理解を促進させることがわかった。

• またインタラクティブなUIはここでは、ユーザの理解を向上させることには大きく繋がらなかった。

コメント

次はなに読む？

[[human-centered-tools-for-coping-with-imperfect-algorithms-during-medical-decision-making|Human-Centered Tools for Coping with Imperfect Algorithms During Medical Decision-Making]]

Misleading 7 [[i-think-i-get-your-point-ai-the-illusion-of-explanatory-depth-in-explainable-ai|I Think I Get Your Point, AI! The Illusion of Explanatory Depth in Explainable AI]]

Non-expoert 15 [[current-advances-trends-and-challenges-of-machine-learning-and-knowledge-extraction-from-machine-learning-to-explainable-ai|Current Advances, Trends and Challenges of Machine Learning and Knowledge Extraction: From Machine Learning to Explainable AI]] Knowledge-graph 17 [[on-the-role-of-knowledge-graphs-in-explainable-ai|On the role of knowledge graphs in explainable AI]]

Counterfacutual 12 [[vice-visual-counterfactual-explanations-for-machine-learning-models|ViCE: visual counterfactual explanations for machine learning models]] 14 [[gamut-a-design-probe-to-understand-how-data-scientists-understand-machine-learning-models]] 16 [[ 21 35 [[designing-theory-driven-user-centric-explainable-ai|Designing Theory-Driven User-Centric Explainable AI]]