search

nblt / Sub-AT

[CVPR 2022 oral] Subspace Adversarial Training
26 stars 4 forks source link

q #2

Open lyzlzc777 opened 2 years ago

lyzlzc777 commented 2 years ago

既然可以用在对抗训练上，那是否也可以在对抗样本生成的过程中使用子空间训练呢？

lyzlzc777 commented 2 years ago

我最近在研究对抗样本，感觉作者的子空间训练既然能够提升对抗训练的性能，那是否在对抗样本的生成上使用子空间训练也能够提高生成的对抗样本的攻击能力呢，但是担心自己的想法不成熟，所以想请教一下作者。

nblt commented 2 years ago

谢谢，很好的想法。对抗样本的生成亦是一个优化问题，可以尝试在子空间中训练寻找对抗样本，来生成更具有泛化性（迁移性）的对抗样本，进而训练得到更好的模型。这一块之前有想法但考虑到每个样本在不同次迭代的子空间都可能不同，具有一定复杂性，故尚未进行尝试。如果有进一步的结果，欢迎讨论:)