3.1.1 基础对抗训练（Madry et al.）

文档摘要

3.1.1 基础对抗训练（Madry et al.） 3.1.1 基础对抗训练（Madry et al.）：梯度裁剪的陷阱与精准实现在对抗训练的工程实践中，很多人将 Madry 等人于 2017 年提出的 Projected Gradient Descent (PGD) 视为“标准答案”——只要照着论文公式写一遍，就能获得鲁棒模型。然而，当工程师真正将这套方法部署到生产环境、面对真实数据时，往往会遭遇一个令人困惑的问题：明明严格按照 PGD 流程实现，为什么对抗准确率始终上不去？甚至有时比不加对抗训练还差？问题的答案往往藏在一个看似微不足道的细节里：梯度裁剪（gradient clipping）的时机与方式。