AI安全与对齐

教程导读：AI安全与对齐

一句话定位：当 AI 从实验室走进生产环境，"能跑起来"已经不够了——它还得扛得住攻击、对得上人类意图、解释得清自己的决策、不歧视任何人、还合规。这套教程就是把这五件事一次讲透。

这个教程解决什么问题

做过 AI 应用的人大概都踩过这样的坑：模型在测试集上表现完美，一上线就被用户用奇奇怪怪的输入绕过；推荐系统不知不觉地放大了某种偏见，直到公关危机爆发；监管新规突然落地，团队才发现连一份像样的技术文档都拿不出来。这些问题的共同根源是——我们过去把太多精力放在"让模型更准"，却太少关注"让模型更可信"。

AI 安全与对齐（AI Safety and Alignment）就是专门补这块短板的领域。它不是某一个算法，而是一整套横跨攻防、对齐、可解释性、公平性、合规的方法论。攻防讲的是模型和系统会被怎么打、怎么防；对齐讲的是怎么让模型的行为符合人类意图；可解释性讲的是怎么打开黑盒，说清模型为什么这么决策；公平性讲的是怎么发现并消除偏见；合规讲的是怎么在欧盟、中国、美国的不同法规下活下来。

这五块彼此关联：你不能只做防御不做对齐，也不能只追求公平而忽视可解释性。本教程把它们组织成一条从"对抗外部威胁"到"满足监管要求"的完整链路，每章都配有可运行的代码片段、对比表格和工程取舍建议，目标是让你读完既能跟人讲清概念，也能动手落地。

适合谁读

• AI/ML 工程师：想把"安全"和"可信"真正做进自己的系统，而不是停留在口号
• AI 产品经理与技术负责人：需要在功能、风险、合规之间做权衡决策
• 安全工程师与红队：想理解 AI 系统特有的攻击面和评估方法
• 合规、法务、审计团队：需要看懂技术细节才能判断风险和责任
• 研究者与学生：想系统了解可信赖 AI（Trustworthy AI）的全貌

学完你能做什么

1. 识别提示注入、数据投毒、模型窃取、对抗样本、后门这五类核心威胁，并给出对应的防御方案
2. 说清 RLHF、RLAIF、宪法 AI、DPO 四种对齐技术的原理、适用场景和代价
3. 用 SHAP、LIME、注意力可视化打开一个黑盒模型，并生成可交付的解释报告
4. 用统计均等、机会均等等指标检测偏见，并用预处理、训练中、后处理三种手段去偏见
5. 看懂欧盟 AI 法案、中国算法备案、美国 NIST 框架的核心要求，规划自己的合规路径

学习路线

建议按顺序读。第 1 章建立"威胁从哪来"的认知，第 2 章回答"怎么让模型主动做对的事"，第 3、4 章从"透明"和"公正"两个角度补足可信度，第 5 章把这些技术能力映射到真实的法规要求上。每节末尾的要点回顾可以作为速查，附录的术语表方便随时回看。

怎么用这个教程

每节都配了图和概念性代码。代码是简化片段，重点是说清原理和结构，不是可以直接复制到生产的工程代码——真实系统里你要处理的边界条件、并发、日志远比这复杂。读到代码时，重点理解它为什么这么做（输入从哪来、防御卡在哪一层），而不是纠结某个库的版本差异。如果手边有正在做的 AI 项目，建议边读边对照：这一层的威胁我的系统防住了吗？这个公平指标我的数据算出来是多少？这样体会会比纯读深很多。

五个主题之间的依赖关系

这五章不是并列的知识点堆叠，而是有先后依赖的工程链路。安全攻防告诉你"敌人会从哪里进来"，对齐决定"模型自己想做什么"，可解释性提供"模型为什么这么做"的证据，公平性把"对谁做得不够好"量化出来，监管合规则是把前面四件事的产出整理成监管者能接受的文档。反过来看，如果跳过攻防直接做合规，你写出的技术文档会空洞；如果只做攻防不做对齐，防御永远是被动挨打。下面的矩阵把每章"解决什么问题、产出什么工件、被谁消费"画在一张图里，读完任何一章后回看它，都能帮你定位当前工作在整体里的位置。

图：可信 AI 五支柱依赖关系矩阵

一个提醒：这五个支柱在组织里往往分属不同团队，安全归基础架构、对齐归算法、合规归法务。教程按技术逻辑排序，但落地时要靠一份跨团队的"可信赖 AI 清单"把它们串起来——谁产出、谁签名、谁复核，写清楚比做完美更重要。

再交代一个阅读心态问题。AI 安全与对齐是典型的"对抗性领域"，今天成立的结论明年可能被新攻击推翻，教程里的具体规则（正则、阈值、法规条款）都会过期，但背后的思维方法不会：区分指令与数据、假设输入不可信、用证据链替代口头保证、把价值判断显式化。如果你只能带走一样东西，带走这套思维方式，而不是任何具体的防御规则。遇到教程没覆盖的新威胁时，回到第一章的攻击面框架问一句"这个威胁从哪个入口进来、卡在哪一层最划算"，多数时候你自己就能推导出对策。