Selective Explanations: Leveraging Human Input to Align Explainable AI

[mei28]

---

id: selective-explanations-leveraging-human-input-to-align-explainable-ai aliases:

• "Selective Explanations: Leveraging Human Input to Align Explainable AI" tags:

• TSUNDOKU

Selective Explanations: Leveraging Human Input to Align Explainable AI

🔑この論文のキーメッセージ

• 人間の能力を活用して、AIの説明を調整する「選択的説明」の手法を提案する。AIの説明が適切でない時、ユーザは説明可能性に対して、自信を失い意思決定に悪影響をおよぼす可能性がある。

🎓どういう問題に取り組んだのか

• AIモデルの説明が必ずしも人間の考えに合致しないことがある。このギャップによって、ユーザは説性可能性に対して自信を失うことがある。

🎓その問題に取り組むことがなぜ重要なのか

• XAIではAIの信頼性を確保することが大事。しかし現在のXAIでは人間の考えにそっているわけではない。

💡問題解決に向けたキーアイデアは何か

• 人間の入力を生かすパートと、説明を調整するパートに分けられる
  • 入力パートでは、自由記述と批判的記述の二種類を用いた
    • 入力パートでは少ないユーザへの問い合わせでやることが大切
  • 調整パートでは、自分の嗜好に合わせた説明選択と類似した人から調整したものの２種類を用意

👀新たに分かったことは何か

• 「選択的説明」によって、ユーザーはAIの説明をより理解しやすくなり、AIシステムに対する信頼が向上することが確認された。この手法により、個別のユーザーのニーズや解釈に対応した柔軟な説明が可能となった。
• しかしこれらの結果は有意さをしめしているわけではなく、結果から示唆できる程度の内容。

コメント

次はなに読む？

論文リンク

10.1145/3610206

著者/所属機関

• Lai V, Zhang Y, Chen C, Liao QV, Tan C
• University of Colorado Boulder, Boulder, CO, USA; University of Chicago, Chicago, IL, USA; Microsoft Research, Montreal, Canada

投稿日付(yyyy/MM/dd)

• CSCW2 2023