第5章 工程上如何止血

第 5 章 · 工程上如何止血

章节摘要：治理给红线，工程给可验证的补丁。可解释技术把黑箱拆成可调试的局部故事；隐私增强技术在效用与泄露之间做预算；公平性检测与缓解在数据前、训练中、输出后设卡；鲁棒训练与纵深防御对抗扰动；审计工具把上述控制变成持续成绩单。本章不替代专深算法课，只要求你能选型、知代价、会把门禁写进流水线。

学习目标

阅读完本章，你应当能够：

1. 为高风险表格决策选择内在可解释或后验解释，并说明听众。
2. 在差分隐私、联邦学习、加密计算之间做场景选型。
3. 跑通公平切片并选择干预阶段。
4. 把对抗评估与不确定拒绝接入发布。
5. 列出审计日志与工具链的最低字段。

核心概念速览

图 工程菜单对伤害

金句：没有度量的止血是安慰剂；没有关停的度量是参观。

子章节导航

5.1 可解释 AI 如何拆开黑箱

内在模型、LIME、SHAP、反事实；解释权如何落地。

5.2 隐私增强技术怎么用

DP、FL、HE、MPC 的菜单与假安全感。

5.3 公平性检测与缓解

指标、三阶段干预、对抗性去偏的边界。

5.4 鲁棒性与安全强化

对抗训练、净化、检测、形式化验证的定位。

5.5 审计评估如何验货

工具、持续监控、与治理闸门对接。

子章节之间的逻辑关系

按伤害类型给工具，最后用审计把工具的输出变成放行证据。缺审计，前四节会停在笔记本里。

解释 隐私 公平 鲁棒
        │
        ▼
      审计验货 ──► 放行或回滚
​

前置知识与后续延伸

• 前置：第 2–4 章的问题与义务。尤其是公平指标冲突、隐私威胁模型、人监控负荷、风险分级。没有这些，本章会退化成工具名录。
• 后续：附录清单可直接带进评审；对抗算法细节见专门文集。法规细节以现行文本为准。

工程止血有一个不受欢迎的事实：每个补丁都有账单。差分隐私降效用，对抗训练耗算力并可能降干净精度，公平约束改选择率，可解释方法在深度模型上只是近似。原文把这些技术放进全生命周期，而不是放进「上线前两天的伦理冲刺」。本章按伤害类型给菜单，最后用审计把菜单的输出变成放行或回滚。没有审计的 XAI 是演示文稿；没有关停的审计是参观。

选型口诀：表格高风险决策优先内在可解释；数据不能集中就联邦并假设梯度会漏；公平先切片再干预并切断反馈循环；鲁棒按暴露面买对抗训练，限速与数据版本先做；审计钉死版本哈希。生成式系统额外加：越狱集、记忆测试、工具权限、内容标识。工具会过时，口诀不过时。

本章工程分诊：先定性再买工具

评审会上最常见的失败是「五样工具都买了，闸仍按不下去」。用分诊顺序，而不是用工具名录：先定性用途与对手，再选一到两个主补丁，最后用审计把补丁变成可复现证据。表格高风险决策缺解释与公平切片，不上新的鲁棒竞赛；数据不能集中却还在明文训练，不上可解释仪表板；开放查询接口先限速，再谈形式化验证。生成式系统把越狱、记忆、工具权限、标识当成与公平切片同级的必选项，不能复用去年图像分类检查单。

选型之后还要排程。便宜控制先做：限速、数据版本、拒绝选项、关停演练。贵的控制按暴露面买：对抗训练、差分隐私预算、训练中公平约束。审计把账单钉死成放行证据。生成式四件套——越狱、记忆、工具权限、标识——与公平切片同级。五节工具可以只上两样，但不能零审计、零关停。把本章表格里的「谎言」列进发布禁止项：已经可解释、数据没出门所以绝对隐私、去掉敏感列就公平、测试集 99% 所以安全、工具跑绿就合规。

工程菜单对伤害：缺解释就先 5.1，缺隐私预算就先 5.2，缺切片就先 5.3，缺暴露面评估就先 5.4，缺哈希复现就先 5.5。可以只上两样工具，不能零审计零关停。把五句谎言列进发布禁止项，评审当场对照。

没有度量的止血是安慰剂，没有关停的度量是参观。先定性用途与对手，再买一到两个主补丁，最后用审计验货。生成式检查单不得复用图像分类旧档。

⚠️ 没有关停的度量是参观；没有度量的止血是安慰剂。
💡 选型口诀不过时：表格高风险优先可审计模型；联邦假设梯度会漏；公平先切片；鲁棒按暴露面买；审计钉死哈希。