1.1.2 对抗机器学习的定义与范畴

文档摘要

1.1.2 对抗机器学习的定义与范畴 1.1.2 对抗机器学习的定义与范畴：从“对抗样本注入”到“防御性预处理”的实战突围你有没有想过，一个精心训练、准确率高达98%的图像分类模型，在面对一张看似毫无异常的猫照片时，竟会将其识别为“烤面包机”？这不是科幻桥段，而是对抗机器学习（Adversarial Machine Learning, AML）在现实世界中真实上演的一幕。更令人不安的是，这种攻击往往只需对原始输入施加人眼几乎无法察觉的微小扰动——这就是所谓的对抗样本（Adversarial Example）。在工业界，对抗机器学习早已不是实验室里的奇技淫巧。金融风控系统可能因恶意构造的交易序列被绕过；自动驾驶感知模块可能因路标上的细微贴纸误判限速；