Open muyuuuu opened 3 years ago
https://muyuuuu.github.io/2021/09/07/data-dis-attack-defense/
在做对抗训练的时候，我时常在想一个问题：PGD、CW 这些攻击算法都会设置迭代步长和阈值，如果模型固定、数据固定，那么每次生成的对抗样本也会是一样的。如果使用 min-max 的方式进行对抗训练，那么模型可能会只认识在某一设置下的数据，如果面对新的分布攻击样本，如 ZOO, UAP, Deepfool 等，岂不是不能很好耳朵防御？ 这就又会回到小样本问题，总不能对所有的攻击算法都生成对抗样本来训练
https://muyuuuu.github.io/2021/09/07/data-dis-attack-defense/
在做对抗训练的时候，我时常在想一个问题：PGD、CW 这些攻击算法都会设置迭代步长和阈值，如果模型固定、数据固定，那么每次生成的对抗样本也会是一样的。如果使用 min-max 的方式进行对抗训练，那么模型可能会只认识在某一设置下的数据，如果面对新的分布攻击样本，如 ZOO, UAP, Deepfool 等，岂不是不能很好耳朵防御？ 这就又会回到小样本问题，总不能对所有的攻击算法都生成对抗样本来训练