4.5 公众监督如何起作用

4.5 公众监督如何起作用

本节摘要：治理若只有政府与公司对话，会被信息与激励不对称扭曲。公众参与、独立审计、记者与研究者的复现、工会与受影响社区、公共采购与民事救济，构成外部监督。参与不是一次满意度问卷，而是能改变部署的机制：听证、影响评估公开、数据集与评估的可复核、对高风险系统的第三方测试权。没有外部眼睛，第 4.4 节的否决权会在下一个财年被内部吃掉。

学习目标

阅读完本节，你应当能够：

1. 区分象征性参与与有决策影响的参与。
2. 说明独立研究需要怎样的接口与法律保护。
3. 把采购与投资当成监督工具，而不只是销售通道。
4. 设计对外披露时如何保护隐私与安全、同时仍可被复核。

一、被系统打分的人，必须能看见规则的轮廓

刑事风险、福利资格、招聘筛选、内容封禁，当事人往往是最后知道模型存在的人。原文强调开放平台讨论、多方合作、支持独立研究与监督机构。现实障碍是：商业秘密、安全借口、以及「用户看不懂」的傲慢。看不懂不是不披露的理由，而是要把披露写成第 2.4 节那种可行动解释，并允许代理者（律师、记者、学者、公民组织）代表阅读技术更深的部分。

Gender Shades 类研究能改变市场，是因为独立研究者买得或测得了系统。若 API 禁止研究、用条款追杀审计者，外部监督死亡。负责任的产品应提供研究通道：限速的评估接口、禁止骚扰与攻击的边界、对善意审计的安全港。

二、参与机制要写进流程，写进预算

象征性：上线后发问卷，选项全是「满意/非常满意」。有效：部署前对受影响社区听证；公开影响评估摘要；允许对评估数据的独立复核；高风险系统进入公共场所前有地方同意；工会能谈判监控型算法的规则。数字鸿沟意味着「网上征求意见」会漏掉最被伤害的人，必须主动触达。

采购是利齿。政府与大学若要求模型卡、公平切片、关停能力，市场会跟。投资尽职调查若只问增长不问事故，会资助第 1.2 节的向下竞争。公民也可以用数据携带、拒绝非必要画像、支持公共计算与公共评估基准，减少对单一私企的依赖。

⚠️ 常见坑：用「安全原因」拒绝一切外部评估。安全需要保护攻击细节，不需要保护公平切片与用途清单。
💡 关键直觉：监督的权力来自能说不——不买、不用、不批准、起诉。没有这些，参与只是沟通。

外部可复核的最小包

用途与禁止用途
评估切片指标摘要
人监控与救济渠道
已知限制与事故类型
研究申请接口
​

国际层的公众参与更难，但仍应有公民社会席位，避免只有国家与巨头。生成式伪造让共享事实受损，媒体核验与平台义务成为监督的一部分——这与第 3.4 节门禁相接。监督者也有伦理：不发布可复制的攻击配方，不在未核实细节时渲染伤亡。

问题：商业秘密怎么平衡？

可以分层披露：公开摘要、监管看全量、独立审计在保密协议下看代码与数据样本。全不披露等于无法被证明公平。全公开也不现实。分层是工程问题，不是哲学死结。

问题：公众会不会非理性地反对一切 AI？

可能。应对是具体、可核对的证据，而不是贬低反对者为卢德。把系统用在福利停发却拒绝解释，会制造理性的不信任。信任是控制与救济堆出来的。

四、独立研究、救济与采购如何形成第二套牙齿

Gender Shades 能改变市场，是因为测得到系统。API 条款追杀审计者，外部监督死亡。应提供限速评估接口与善意审计安全港。分层披露：公开摘要、监管全量、独立审计在保密协议下看代码与数据样本。安全借口可以保护攻击细节，不能盖住公平切片与用途清单。听证若从未改变设计，就是签到照片。救济必须有时限纠错与赔偿，不能客服循环。采购未达标应丢标，文件齐全即可中标是假牙齿。

数字鸿沟意味着网上征求意见会漏掉最被伤害的人，必须主动触达社区与工会。生成式伪造让共享事实受损，媒体核验与平台义务成为监督的一部分。国际层应有公民社会席位，避免只有国家与巨头。监督者也守证据等级：不发布配方，不渲染未核实伤亡。商业秘密与可复核不是死结，分层即可。不信任往往是理性的：福利停发却拒绝解释，不会因为多开一次沟通会而消失。信任是控制与救济堆出来的。投资尽职调查若只问增长不问事故，会资助向下竞争。数据携带、拒绝非必要画像、公共评估基准，减少对单一私企的依赖，也是公众侧工具。

参与的权力来自能说不：不买、不用、不批准、起诉。没有这些，多方合作只是论坛。把本节与 4.4 对照：内部否决是第一套闸，外部说不是第二套；缺一就会在财年压力下生锈。

五、监督决策树、参与分档与「用户看不懂」反例

外部监督的权力来自能说不：不买、不用、不批准、起诉。没有这些，多方合作只是论坛。决策树按能否改变部署来分：听证若从未改过设计或地点，记为签到照片；独立审计若只能看宣传页，记为免检；研究条款若禁止一切评估，记为追杀审计者；救济若在客服循环里没有时限纠错，记为无救济；采购若文件齐全即可中标，记为假牙齿。分层披露是工程问题：公开摘要、监管全量、独立审计在保密协议下看代码与数据样本。安全借口可以保护攻击细节，不能盖住公平切片与用途清单。

治理检查项：研究安全港是否书面存在；数字鸿沟下是否主动触达最被伤害的社区与工会；投资尽调是否问事故；国际场合有无公民社会席位。反例：「用户看不懂所以不披露」；用安全原因拒绝一切外部评估；网上征求意见漏掉当事人；监督者发布可复制攻击配方或未核实伤亡。生成式伪造让共享事实受损，媒体核验与平台义务成为监督的一部分，与滥用门禁相接。内部否决是第一套闸，外部说不是第二套；缺一就会在财年压力下生锈。

公众监督决策树

测不到系统 ──► 先开研究通道，否则宣布免检
听证不改设计 ──► 参与无效，补决策权
采购不丢标 ──► 牙齿是假的
只披露原则 ──► 改为分层：摘要/监管/审计
安全借口盖切片 ──► 越权，切片必须能被看见
​

下一章把闸落到可运行的技术：解释、隐私增强、公平干预、鲁棒与审计工具。

六、分层披露怎么做，采购与投资怎样变成牙齿

分层披露三档写进制度：公开摘要含用途、禁止用途、切片指标摘要、救济渠道、已知限制；监管看全量技术文档与日志抽样；独立审计在保密协议下看代码与数据样本，且必须能拿到底层切片而不是宣传页。安全借口保护攻击细节，用途清单与公平数字必须能被看见。研究通道：限速评估接口、禁止骚扰与攻击的边界、善意审计安全港书面承诺。API 条款追杀审计者等于宣布免检。Gender Shades 类研究能改变市场，前提是测得到系统。

采购未达标应丢标。投资尽调若只问增长不问事故，会资助向下竞争。政府与大学要求模型卡、公平切片、关停能力，市场会跟。数字鸿沟下网上征求意见会漏掉最被伤害的人，必须主动触达社区与工会。生成式伪造让共享事实受损，媒体核验与平台义务成为监督的一部分。国际层应有公民社会席位。监督者自己守证据等级：不发布配方，不渲染未核实伤亡。不信任往往是理性的：福利停发却拒绝解释，不会因为多开沟通会消失。信任是控制与救济堆出来的。数据携带、拒绝非必要画像、公共评估基准，减少对单一私企的依赖。没有能说不的机制，参与只是论坛。

听证有效标志是改变过设计或地点。救济有效标志是时限内纠错与赔偿。把这些标志写进对外监督年报，比写「重视公众意见」硬。

本节要点回顾

• 多方监督防止捕获：不能只剩政企对话。
• 参与要能改变部署：否则是问卷。
• 独立测试需要通道与安全港：条款追杀审计等于宣布免检。
• 采购与投资是牙齿：比倡议硬。
• 分层披露：公开摘要、监管全量、审计保密。
• 安全借口不能盖住公平数字：切片指标应当能被看见。
• 监督者也守证据等级：不编细节、不发配方。

图 监督权力来自能说不

工作纸：独立研究者能否在不违反条款的情况下测公平切片。研究安全港是否书面存在。分层披露三档内容是否定义。听证是否改变过设计。救济时限与赔偿是否可执行。采购未达标是否真的丢标。安全借口有没有被用来盖住用途清单。主动触达过哪些受影响社区。投资尽调是否问事故。监督者对外口径是否遵守证据等级。把「用户看不懂所以不披露」改成可行动解释加代理阅读。没有能说不的机制，参与只是论坛，记为治理缺口。

下一章把闸落到可运行的技术：解释、隐私增强、公平干预、鲁棒与审计工具。