search

sanoyo / all-paper-deep-learning-machine-lerning

0 stars 0 forks source link

Sanity Checks for Saliency Maps #25

Open sanoyo opened 5 years ago

sanoyo commented 5 years ago

要約

判断根拠の有用性をテストするためのもの。 論文では、ランダム化されたパラメータのテスト及びデータのテストを行っている。

パラメータのテストでは、下記2つの手法が提案されている。

  1. Cascading Randomization 上位層から下位層までのランダム化する
  2. Independent Randomization レイヤー毎の説明の依存性を分離する目的で、レイヤーごとに独立したランダム化を行う

ここで示している「Saliency Map」は、判断根拠の手法全般をさしいている。

下記画像は、Cascading randomization on Inception v3の結果 Image from Gyazo

論文リンク

https://arxiv.org/pdf/1810.03292.pdf

わからなかった単語

fashion：手法？