1.1 核心概念与定义

文档摘要

1.1 核心概念与定义 1.1 核心概念与定义当我们谈论AI安全时，很多人脑海中浮现的是科幻电影中失控的智能体，或是黑客利用AI进行大规模欺诈。然而，在工程实践中，AI安全的真正挑战往往藏在模型预测的微小扰动之中——一个像素的偏移、一段文本的巧妙替换，就可能让最先进的图像识别系统将“停止”标志误判为“限速”，或将一封无害邮件标记为高危钓鱼攻击。这种脆弱性并非源于算法逻辑的缺陷，而是源于机器学习模型对高维空间中非线性决策边界的敏感依赖。要构建真正可信的AI系统，我们必须首先厘清：什么是AI安全？它的边界在哪里？又该如何在代码层面实现其核心诉求？安全不是功能，而是约束 AI安全的内涵远不止于“防止恶意攻击”。