[2020] Detecting Adversarial Samples Using Influence Functions and Nearest Neighbors

[gatheluck]

論文リンク

• arXiv

公開日（yyyy/mm/dd）

2019/09/15 CVPR 2020

概要

TeX

% 2019/09/15
@inproceedings{
    cohen2020detecting,
    title={Detecting Adversarial Samples Using Influence Functions and Nearest Neighbors},
    author={Gilad Cohen and Guillermo Sapiro and Raja Giryes},
    booktitle=CVPR,
    year={2020}
}

[gatheluck]

課題設定

敵対的サンプルを検出する手法の提案。

[gatheluck]

新規性

• 通常のサンプルでは、入力されたデータ点に対して「ネットワークの埋め込み空間において k-NN によって求められた近傍のデータ点の集合」と「影響関数によって求められる影響の大きい訓練データの集合」が相関するが、敵対的サンプルではそうでは無いことを利用して検出を行う。

[gatheluck]

結果

• linf-FGSM, l0-JSMA (L0), l2-DeepFool, l2-CW (L2), linf-PGD, EADを評価に使用。
• Local Intrinsic Dimentionaloty (LID) [Ma et al.] や Mahalanobis distancebased confidence score [Lee et al.] とAUC比較して、高精度を達成。
• White-box の設定でも1%程度しか性能が低下しなかった。
• 影響関数を訓練データの全てに対して計算する必要があるため、計算コストが大きいことが問題。