Practical Poisoning Attacks on Neural Networks

[tkuri]

論文概要

学習段階で悪意がある毒サンプルを挿入して性能を操作するPoisoning攻撃の汎用性をより高めた。具体的には「モデルの知識を持たず」「ラベリング・テスト時には手を出せない」条件でも高性能な攻撃を可能にした。最急降下法による最適化の本質的特性を利用しているのがキモ。

https://www.ecva.net/papers/eccv_2020/papers_ECCV/html/5645_ECCV_2020_paper.php

Code

未確認。