Open munema opened 4 years ago
Paper link : https://arxiv.org/abs/1909.07082 Author : Udo Schlegel, Hiba Arnout, Mennatallah El-Assady, Daniela Oelke, Daniel A. Keim Conference : ICCV 2019 (Workshop)
既存の説明性を与える手法を時系列データに対して適用する. 本論文では, 時系列データにおいて様々な説明法に対する評価指標を提案する. XAIの説明を評価する指標として, 画像分類タスクでは重要であると判断されたピクセルに対して, 何らかの処理を行う (例:0に変換). しかし, 時系列分類タスクに対して, 例えば, 0が重要な指標になる可能性があるため, 特有な処理を加える必要がある. そこで, 説明法によって出力されるに対する重要度をとすると, 高い重要度を示したものを変更する.
以下は時系列データに対する重要度の可視化である.
重要度が閾値eを超える場合, そのデータ点をを0にする (Zero)か, 反転 させる (Inverse). これらの手法では不十分であり, 時間の依存性を考慮する必要があるため, 2つの新たな手法を提案する.
時系列データに対する説明法の検証手法を提案した. SHAPは提案手法で堅牢であることが示された. 時系列のヒートマップは解釈することが難しいため, 時系列データの予測に対してより洗練された説明法が求められる.
Paper link : https://arxiv.org/abs/1909.07082 Author : Udo Schlegel, Hiba Arnout, Mennatallah El-Assady, Daniela Oelke, Daniel A. Keim Conference : ICCV 2019 (Workshop)
概要
既存の説明性を与える手法を時系列データに対して適用する. 本論文では, 時系列データにおいて様々な説明法に対する評価指標を提案する. XAIの説明を評価する指標として, 画像分類タスクでは重要であると判断されたピクセルに対して, 何らかの処理を行う (例:0に変換). しかし, 時系列分類タスクに対して, 例えば, 0が重要な指標になる可能性があるため, 特有な処理を加える必要がある. そこで, 説明法によって出力される
に対する重要度を
とすると, 高い重要度を示したものを変更する.
以下は時系列データに対する重要度の可視化である.![スクリーンショット 2020-01-25 16 47 33](https://user-images.githubusercontent.com/28722930/73118175-059b6080-3f94-11ea-899d-7b8effc9c6ac.png)
3. Evaluating Time Series Explanations
重要度
が閾値eを超える場合, そのデータ点を
を0にする (Zero)か, 反転
させる (Inverse).
これらの手法では不十分であり, 時間の依存性を考慮する必要があるため, 2つの新たな手法を提案する.
Swap Time Points
Mean Time Points
3.3. Methodology
評価実験
Discussion
時系列データに対する説明法の検証手法を提案した. SHAPは提案手法で堅牢であることが示された. 時系列のヒートマップは解釈することが難しいため, 時系列データの予測に対してより洗練された説明法が求められる.