7.2.1 推理攻击 (Membership Inference)

文档摘要

7.2.1 推理攻击 (Membership Inference) 7.2.1 推理攻击 (Membership Inference) 想象一下，你训练了一个图像分类模型，用于医疗诊断。患者数据被小心加密，但攻击者只需查询模型输出，就能推断某张X光片是否来自你的训练集，从而暴露隐私。这不是科幻，而是成员推理攻击（Membership Inference Attack, MIA）的真实威胁。它像一个隐形的窥探者，利用模型对训练数据的“记忆残留”来泄露敏感信息。作为一线AI安全工程师，我见过无数次这样的场景：模型越准，隐私风险越高。本节，我们不只停留在“知道是什么”的层面，而是直奔“怎么做”——从攻击实现到防御部署，一步步拆解代码逻辑、参数调优和实战陷阱。