search

munema / survey

サーベイ論文まとめ
0 stars 1 forks source link

Towards a Rigorous Evaluation of XAI Methods on Time Series #16

Open munema opened 4 years ago

munema commented 4 years ago

Paper link : https://arxiv.org/abs/1909.07082 Author : Udo Schlegel, Hiba Arnout, Mennatallah El-Assady, Daniela Oelke, Daniel A. Keim Conference : ICCV 2019 (Workshop)

概要

既存の説明性を与える手法を時系列データに対して適用する. 本論文では, 時系列データにおいて様々な説明法に対する評価指標を提案する. XAIの説明を評価する指標として, 画像分類タスクでは重要であると判断されたピクセルに対して, 何らかの処理を行う (例:0に変換). しかし, 時系列分類タスクに対して, 例えば, 0が重要な指標になる可能性があるため, 特有な処理を加える必要がある. そこで, 説明法によって出力されるに対する重要度をとすると, 高い重要度を示したものを変更する.

以下は時系列データに対する重要度の可視化である. スクリーンショット 2020-01-25 16 47 33

3. Evaluating Time Series Explanations

重要度が閾値eを超える場合, そのデータ点をを0にする (Zero)か, 反転 させる (Inverse). これらの手法では不十分であり, 時間の依存性を考慮する必要があるため, 2つの新たな手法を提案する.

Swap Time Points

Mean Time Points

3.3. Methodology

  1. モデルの訓練
  2. 全てのテストデータに対して説明性 (重要度)を得る. 重要なデータ点を変更したテストデータを得る.
  3. 新たなテストデータに対して説明性を得る.

評価実験

スクリーンショット 2020-01-25 16 53 40

Discussion

時系列データに対する説明法の検証手法を提案した. SHAPは提案手法で堅牢であることが示された. 時系列のヒートマップは解釈することが難しいため, 時系列データの予測に対してより洗練された説明法が求められる.