附录 伦理审查清单与术语表
附录 伦理审查清单与术语表
本附录摘要：把全书闸门收成可打印清单，并把容易混用的词钉死。清单不能代替法律意见，但能防止评审会上只剩形容词。术语与 SOURCE 中的公平度量、PET、对齐、国际文件保持一致。
高风险发布前清单
图 十四项闸门一览
- 用途定性：是否触及人身、自由、财产、基本服务、生物识别、生成伪造。
- 禁止清单对照：社会评分类、无授权大规模实时识别、犯罪协助等是否涉及。
- 数据合法基础、最小化、目的限定、到期与重训。
- 公平切片：主指标、对照指标、样本量、代理扫描。
- 隐私威胁：成员推断/反演是否评测，预算是否记账。
- 鲁棒与 OOD：含自适应；传感器场景含物理评估。
- 解释：当事人可行动理由；拒绝案例能讲清；稳定性测试。
- 人监控：负荷、否决权、演练记录。
- 日志：可复现事故包；时钟同步。
- 关停与回滚命令已演练。
- 滥用门禁：高危工具默认关；文档无配方。
- 外部性：反馈循环、环境与劳动影响是否评估。
- 审查结论：放行 / 有条件 / 否决，留档。
- 对外披露分层：摘要、监管、独立审计。
| 术语 | 释义 |
|---|---|
| 弱人工智能 | 仅特定任务的系统，当前事故主战场 |
| 对齐 | 目标与人类意图一致，而非仅字面指标 |
| 可修正性 | 被要求停止或修改时不抵抗 |
| 统计平等 | 各组有利结果比例接近 |
| 机会均等 | 各组真阳性率接近 |
| 均衡赔率 | 真阳性率与假阳性率都接近 |
| 成员推断 | 判断某记录是否用于训练 |
| 模型反演 | 从模型输出重构训练信息 |
| 差分隐私 | 单条记录对输出影响被噪声限制 |
| 联邦学习 | 数据留本地，聚合模型更新 |
| 人在回路 | 关键步骤必须经人确认 |
| 布鲁塞尔效应 | 大市场法规抬高全球产品水位 |
| ISO/IEC 42001 | 人工智能管理体系标准 |
| UNESCO 建议书 | 2021 年全球性 AI 伦理规范文件 |
| OECD AI 原则 | 2019 年政府间原则，后有更新 |
评审口头禅对照 「我们很重视伦理」 → 出示上一次否决 「已匿名」 → 出示链接攻击评测 「有人审核」 → 出示否决次数与负荷 「遵循国际原则」 → 出示对应度量 「开源所以无法负责」 → 出示用途门禁与客户审查
⚠️ 清单打勾不是豁免：用途一变，勾作废。
💡 把本表印在发布页面旁边，比印在文化墙有用。
证据等级（写作与对外口径）
| 等级 | 例子 | 口径 |
|---|---|---|
| 公开部署争议 | 风险评分公平争论、Tay、跨群体识别误差 | 可作治理起点 |
| 研究演示 | 对抗贴纸、成员推断 | 写入威胁模型，不冒充某起事故鉴定 |
| 思想实验 | 回形针、藏垃圾奖励黑客 | 标明思想实验 |
全书坚持：不编造未证实伤亡数字与内部传闻；不提供攻击或伪造操作步骤。
把清单嵌进评审会的十分钟流程
主持人先做用途定性，禁止清单直接否决。高风险则打开十四项，缺证据的项记为阻断。法务确认合法基础与敏感属性评估协议。安全确认自适应评估与配额。公平负责人出示切片与代理扫描。产品所有者当场演示关停。记录放行条件与复审日期。十分钟不够就不应在会上「原则同意先上线」——那是治理失败的标准句式。
术语表与正文冲突时以正文场景讨论为准，本表只防混用。弱人工智能是当前事故主战场，不等于没有对齐问题：指标游戏就是弱对齐失败。人在回路若无负荷设计，术语会被用来洗地。布鲁塞尔效应不是法律管辖扩张的口号，是市场迫使产品按高水位设计的经验现象。ISO/IEC 42001 管管理体系，不管某一模型是否公平，后者仍要切片测试。
附录也遵守证据等级。对外沟通禁止把研究演示写成已鉴定事故。对内则必须把演示列入威胁模型。与对抗专集的边界再写一次：这里没有攻击代码。法规以现行有效文本为准，结构比条款编号更稳定：禁止、高风险强制、披露、自愿。打印本附录时建议附上本单位的用途分级表，把「人身自由财产基本服务」翻译成本行业的具体功能名，否则清单会停在抽象层。
事故分档速查（与正文对照）
| 档 | 何时用 | 对应闸 | 禁止 |
|---|---|---|---|
| 伦理伤害 | 机会、数据、救济、解释、劳动 | 第2章五节开单 | 只开公关会 |
| 安全失效 | 对抗、偏移、对齐、滥用、耦合 | 第3章五节开单 | 写配方或把思想实验当新闻 |
| 治理漏缝 | 原则空、无法、合同空、无否决、免检 | 第4章五层 | 「遵循国际原则」无度量 |
| 工程未止血 | 解释、PET、公平、鲁棒、审计缺一门 | 第5章菜单 | 工具跑绿继续满流量 |
附录决策树 禁止清单命中 ──► 否决，不准有条件放行 十四项缺证据 ──► 阻断，不准原则同意先上线 用途变更 ──► 勾作废，重走清单 对外发言 ──► 先对证据等级表 与专集交界 ──► 无攻击代码，只留门禁
评审口头禅对照之外，再加三条现场反例：「再观察观察」而无限期升量；「法律还没写到」而跳过已有原则与较高水位立法；「开源无法负责」而不做用途门禁。把十四项翻译成本行业功能名再打印，否则清单停在抽象层。弱人工智能是当前事故主战场，指标游戏就是弱对齐失败，不必等超智能才用可修正性。人在回路无负荷设计会被用来洗地，检查否决次数与负荷而不是检查有没有按钮。
现场十分钟：主持人话术与三项一票否决
主持人先做用途定性。禁止清单命中，一票否决，不准有条件放行。高风险打开十四项，缺证据的项记为阻断。三项同样一票否决：关停演练当场失败；日志抽检复现不了；人监控无否决记录却宣称有回路。法务确认合法基础与敏感属性评估协议。安全确认自适应评估与配额。公平负责人出示切片与代理扫描。产品所有者演示关停。记录放行条件与复审日期。十分钟不够就不应原则同意先上线。
口头禅对照再加现场反例：再观察观察而无限期升量；法律还没写到而跳过已有原则；开源无法负责而不做用途门禁。把十四项翻译成本行业功能名再打印。弱人工智能是当前事故主战场，指标游戏就是弱对齐失败。人在回路无负荷设计会被用来洗地。布鲁塞尔效应是市场迫使产品按高水位设计的经验现象。ISO/IEC 42001 管管理体系，不管某一模型是否公平。附录遵守证据等级：对外禁止把研究演示写成已鉴定事故，对内必须列入威胁模型。与对抗专集边界：这里没有攻击代码。法规以现行有效文本为准，结构比条款编号稳定：禁止、高风险强制、披露、自愿。
术语混用三组，评审当场纠正
把对齐说成已做人类反馈微调，纠正为部分减害。把联邦学习说成绝对隐私，纠正为仍须防梯度与投毒。把有确认键说成人在回路，纠正为查负荷与否决。这三组混用会让十四项全部打勾仍然放行一个伤人的系统。清单打勾不是豁免：用途一变，勾作废。把本表印在发布页面旁边，比印在文化墙有用。
工作纸：把十四项变成本单位功能名。禁止清单对照本产品。打印时附用途分级表。评审十分钟流程演练一次，禁止「原则同意先上线」。术语冲突以场景正文为准。证据等级表贴在对外发言稿旁边。法规看结构不背易变编号。与对抗专集边界再确认：无攻击代码。把本附录放进发布页面，不放进文化墙。
与相邻文集的边界
对抗攻击算法细节见「AI 安全与对抗机器学习」类专集。本文集停在门禁、评估档与伦理含义。治理细节随法规更新，以现行有效文本为准，本附录只固化结构。