4.1.2 差分隐私与联邦学习中的对抗风险

文档摘要

4.1.2 差分隐私与联邦学习中的对抗风险 4.1.2 差分隐私与联邦学习中的对抗风险：一次梯度泄露引发的“隐私雪崩” 在联邦学习（Federated Learning, FL）的工程实践中，差分隐私（Differential Privacy, DP）常被用作抵御成员推断攻击（Membership Inference Attack）和模型反演攻击（Model Inversion Attack）的“安全阀”。然而，当工程师将DP机制简单地叠加在标准FL流程之上时，往往忽视了一个关键隐患：梯度本身可能成为高维信息的“泄密通道”。即使添加了噪声，若梯度裁剪（Gradient Clipping）策略不当，仍可能在多轮聚合中暴露客户端的原始数据特征。