1. 概述与基础理论

文档摘要

概述与基础理论概述与基础理论人工智能正以前所未有的速度渗透进社会的各个角落——从自动驾驶汽车到金融风控系统，从医疗影像诊断到智能语音助手。然而，随着AI系统在关键基础设施中的部署日益深入，其安全性问题也愈发凸显。我们不禁要问：当一个深度神经网络被精心设计的微小扰动误导时，它是否还能被视为“可靠”？当恶意攻击者能够通过逆向工程提取模型参数甚至训练数据时，隐私与知识产权又如何保障？这些问题并非杞人忧天，而是构成了“AI安全与对抗机器学习”这一交叉领域的核心关切。本章旨在为读者构建一个坚实而系统的理论地基。我们将从概念本源出发，梳理对抗性威胁的本质特征；回溯该领域从学术好奇到工业刚需的演进轨迹；并确立一套严谨的威胁建模框架，以界定攻击者的能力边界与防御者的安全假设。