3.3.1 稳健网络结构（如随机平滑、集成方法）

文档摘要

3.3.1 稳健网络结构（如随机平滑、集成方法） 3.3.1 稳健网络结构：集成方法中成员模型多样性失效的排查与修复实战你有没有遇到过这样的情况？——你精心构建了一个由5个ResNet-50组成的集成模型，每个成员都在独立训练集上达到了92%以上的准确率，但集成后的性能却只比单个模型高出不到0.5个百分点。更糟的是，在面对对抗样本或分布偏移数据时，整个集成系统几乎毫无鲁棒性提升。你反复检查了训练脚本、损失函数、数据增强策略，一切看起来都“正确无误”。那么问题究竟出在哪里？答案往往藏在一个被忽视的细节里：成员模型缺乏真正的多样性（diversity）。在工程实践中，集成方法（Ensemble Methods）常被视为提升模型鲁棒性的“银弹”——毕竟，多个模型投票总比一个模型靠谱。