How to Manipulate CNNs to Make Them Lie: the GradCAM Case

[yiskw713]

INFO

author

Tom Viering, Ziqi Wang, Marco Loog, Elmar Eisemann

affiliation

conference or year

BMVC2019 workshop

link

pdf slide

概要

入力画像やCNNのアーキテクチャ，重みを変更することで，Grad-CAMの出力を変えることのできる手法について調査した研究． 上記の手法を組み合わせることで，CNNモデルの予測結果を全く変えずに，Grad-CAMの出力のみを変えることもできる． Grad-CAMが完全にCNNの判断根拠を説明できないことを示した．

date

Jan. 9th, 2020