第4章 治理如何接住事故

第 4 章 · 治理如何接住事故

章节摘要：前三章的伤害若只停在工程博客，会在下一次版本迭代里被冲掉。治理把红线写成原则、法律、标准、企业内部流程与公众监督。国际层给出软法与部分标准；国家与区域把风险分级变成义务；行业把原则翻译成可审计条款；企业若没有否决权，伦理委员会就是装饰；公众与独立审计则防止治理被监管捕获。本章回答「谁来接住事故」，下一章回答「怎么改系统」。

学习目标

阅读完本章，你应当能够：

1. 指出 UNESCO 建议书、OECD 原则、欧盟风险分级各自的约束力层级。
2. 把「高风险 AI」翻译成产品必须具备的评估与人监控。
3. 说明 ISO/IEC 管理体系标准与伦理原则如何衔接。
4. 设计企业内部从提案到否决的最小治理流。
5. 解释公众参与不是问卷，而是可影响部署的机制。

核心概念速览

图 五层治理如何接住

金句：治理的有效性看能不能停掉一个赚钱的高风险功能，而不是看白皮书页数。

子章节导航

4.1 国际框架能管住什么

UNESCO 2021、OECD 2019、G7 广岛进程、ISO/IEC 42001：软法、标准与尚未普遍化的硬法。

4.2 各国立法如何落地

欧盟人工智能法案式风险分级、布鲁塞尔效应、与 GDPR/PIPL 的交接。

4.3 行业标准与最佳实践

IEEE、Partnership on AI、风险管理标准如何变成合同条款。

4.4 企业内部如何治理

伦理审查、红队、透明度报告、与业务 KPI 对撞时的否决权。

4.5 公众监督如何起作用

参与、独立研究、举报与采购压力。

子章节之间的逻辑关系

从上到下是约束力变硬、范围变窄；从下到上是经验回流。缺任何一层，事故会从缝里漏下去。

国际软法 ──► 国家硬法 ──► 标准
                │
                ▼
         企业流程 ◄── 公众监督
​

前置知识与后续延伸

• 前置：事故地图与高风险判定。若还不能把产品放进禁止/高风险/其他，先回 1.3 与 4.2 的分级逻辑。
• 后续：第 5 章把义务落实为 XAI、PET、公平测试与审计工具。治理给「必须有什么证据」，工程给「证据怎么做出来」。

本章五层不要当成组织图上的五个部门。国际原则给共同语言；国家立法给牙齿；标准给合同可写的条款；企业治理决定牙齿会不会咬到自己的 KPI；公众监督防止前四层被捕获。原文把全生命周期嵌入伦理安全画成圈：需求分析、数据、训练、测试、部署、监控每一步都要有对应控制。治理章就是把这个圈变成谁签字、谁否决、谁被罚款。

读法规时注意约束力阶梯：UNESCO 建议书与 OECD 原则是软法；ISO/IEC 42001 可被认证；欧盟风险分级在域内是硬的，并可能通过市场抬高全球水位。不要在投标书里只写「遵循国际原则」——评标会要模型卡与切片表。企业内部若从未否决过功能，先别写透明度报告里的「完善的伦理治理」。公众监督若不允许独立测试，等于宣布免检。

本章治理分诊：哪一层漏了，事故从哪漏

五层不要当成五个部门。事故漏出去时，用分诊表找缝：只有原则没有度量，是国际层被当成广告；有软法没有分级义务，是国家层没牙；合同全是形容词，是标准层未工作；委员会从未否决，是企业层被捕获；独立研究者测不到切片，是公众层被关掉。补丁必须对着缝，而不是再发一份白皮书。原文里的全生命周期圈——需求、数据、训练、测试、部署、监控——每一格要能指出签字人、否决人和被罚款人。

读法规时先画约束力阶梯，再找漏缝。投标书只写遵循国际原则、评标却要切片表，缝在 4.1 与 4.3 之间。高风险功能全速、委员会从未否决，缝在 4.2 与 4.4 之间。独立研究者测不到系统，缝在 4.5。补丁对着缝：度量、用途桶、可验证合同、否决权、安全港与采购丢标。全生命周期每一步能指出签字人、否决人、被罚款人，治理圈才闭合。企业内部若从未否决过功能，先别写透明度报告里的完善治理。公众监督若不允许独立测试，等于宣布免检。

五层漏缝补丁要对着现场：原则空就补阅读卡与度量；无法就补用途桶；合同空就补可验证条款；无否决就补发布阻断；免检就补研究安全港与采购丢标。缺一层，事故从那一层漏。把「能不能停掉赚钱的高风险功能」写成董事会问询，而不是写成文化墙金句。

⚠️ 「遵循国际原则」若没有对应度量，评标与审计都会把它当成广告。
💡 治理是否存在，看能不能停掉一个赚钱的高风险功能。