5.3 伦理合规评估

5.3 伦理合规评估

本节摘要：生成式引擎优化（GEO）把内容送进人的决策，就不能假设技术中立。伦理与合规评估要检查偏见与公平、可解释与可追溯、法规与品牌底线，并接到拦截、转人工、停学。本节省门禁清单与工程接口；公开事故叙事与立法细节以同批伦理专集为准，这里不重复讲故事。

先说结论

阅读完本节，你应当能够：

1. 说明为何「模型只是工具」挡不住发布责任。
2. 给公平性选一个可计算的检查，而不是一句「我们反对歧视」。
3. 把可解释落到「来源编号 + 策略版本」，而不是要求打开权重。
4. 列出合规热更新与价值检查点如何共用一条冻结流程。

一、中立幻觉在生成里更危险

检索时代，偏见常在排序。生成时代，偏见被写成流畅段落，用户更难反抗。优化点击的 GEO 若不管公平，会把刻板印象变成「个性化推荐」。原文集把技术中立幻觉拆掉：能做不等于该做，该做要写进评估，而不是写进价值观海报。

本教程问题驱动的入口是「进不了答案」。伦理评估要防另一种失败：不该进答案的内容，被优化进去了——对未成年、对病患、对信贷申请人。看不见你是一种伤害；错误地看见并采信你，是另一种。

⚠️ 常见坑：把伦理评估外包成上线前的法务签字。签字看不到分布。要用抽样、分群、对抗句，持续跑。

二、公平、解释、合规如何进同一条闸

偏见与公平。 静态词表不够。要按用户群或内容主题看拒绝率、推荐质量、是否总把某类人引向更差选项。缓解可以是数据再平衡、解码约束、后处理改写，但指标会打架——同批伦理专集会把统计平等和机会均等为什么不能同时满足讲透。GEO 工程上先固定：高伤害场景优先减少对弱势群体的系统性更差对待，并记录你选了哪套指标。

可解释。 打开千亿参数不现实。GEO 的解释是鉴定人级的方法学：用了哪些检索块、哪条策略、是否经过核对。用户侧展示来源；内部侧展示版本字段。解释失败的典型是引用列表与正文主张对不上——这是 5.1 覆盖率的伦理面。

合规。 广告法绝对化、医疗广告、金融承诺、个人信息。规则库热更新，不靠重训。跨境还要面对不同披露要求。合规评估的输出必须是放行、降级、拦截三态，不能只有分数。

闭环：评估事件驱动 2.1 的价值检查点。公平指标恶化或违规激增，冻结模型版本，回到意图层看是不是目标函数把转化压过了底线。3.2 的在线学习在此必须能停。没有停学开关的 GEO，伦理评估是假的。

发布检查单
1 关键主张可回指
2 高伤害句有人审或强约束
3 分群报表无持续更差
4 规则库版本有效
5 学习开关状态明确
​

三、和专集的分工，避免两套伦理

同批「AI 伦理与安全」文集从事故、立法、工程止血讲完整地图。本文集只把 GEO 发布需要的接口钉死：来源、分群、规则库、冻结。不要在这里展开攻击配方或伪造方法。红队只描述「注入与诱导越狱要进门禁集」，不写步骤。

品牌信任在 1.2 是飞轮的一叶。伦理评估是这叶的传感器。危机口径模板必须走同一规则库，避免市场部临时发挥。生成即基础设施之后，每个面向用户的应用共享这套闸，避免每个部门私自「更懂用户」地关掉拦截。

💡 关键直觉：合规不是生成之后的香水。它是控制项和发布闸。喷香水的系统，出事时只会更好闻。

问题：可解释会不会泄露内部策略？

对外解释到来源和免责；对内解释到策略版本。分层披露，不要把风控阈值印到用户气泡里。

问题：公平检查没数据怎么办？

没有分群数据就不要声称个性化公平。先关掉分群优化，用统一口径，同时补采集与告知。

四、分群公平怎么检查，冻结如何共用价值检查点

分群没有数据时，不要声称「我们的个性化是公平的」。先关分群优化，用统一口径，同时补采集与告知。有数据时，看的不是平均分，是某群体是否持续得到更差选项或更高拒绝。缓解手段会打架：把某类输出全部拦截可能提高拒绝率，对另一指标却更差。工程上先固定高伤害场景的优先指标，并记录选择，避免每个月换定义让报表永远向好。同批伦理专集会把指标互斥讲透，本文集只要求：选择被写下，且能冻结。

可解释对外到来源和免责，对内到策略版本。不要把风控阈值印到用户气泡里，那会成为新的攻击面。引用列表与主张对不上，是解释失败，也是覆盖率失败，应禁止展示装饰性来源——宁可不署名，不可假署名。这与公开 GEO「成为默认信源」的目标看似相反，其实一致：假署名会毁掉默认资格。

合规规则库的热更新要有演练。新规进来，哪一类生成应在一小时内被拦截，谁按冻结按钮。价值检查点与伦理事件共用冻结流程：公平恶化、违规激增、投诉主题突变，都可以停学、停模型版本。在线学习管道不吃未审核的用户改写当黄金。生成即基础设施之后，各部门不得私自关掉闸「更懂用户」。危机口径模板走同一规则库，避免市场部临时发挥造成二次事故。

版权与训练材料争议按供给白名单处理：来源不明的块不进锚。这是供给治理，不是生成后公关。红队只把注入与诱导越狱放进门禁集，本文不写攻击步骤。

技术中立挡不住发布责任。能生成不等于该展示。不该被采信的内容被优化进答案，和该被采信的内容进不去，是可见性的两面，评估都要抓。

没有分群数据就不要宣传个性化公平，先用统一口径。有数据时看的是某群体是否持续更差，而不是平均分是否好看。指标选择要写下来并保持稳定，避免靠改定义让报表永远向好。对外解释到来源和免责，对内解释到策略版本，风控阈值不要印到用户气泡。主张与来源对不上就禁止展示装饰性署名，宁可不署名。规则库热更新要演练到一小时内能拦住新规涉及的句式。公平恶化、违规激增、投诉主题突变，都应能停学并冻结模型版本。各部门不得为了「更懂用户」私自关闸。来源不明的材料不进锚，版权问题在供给层处理，不在公关层处理。

把伦理门禁写成和发布一样能演练的动作，而不是年度培训课件。选一条最近准备上线的话术，问五件事：有没有把某类用户持续推向更差选项；来源编号和主张是否对得上；有没有绝对化疗效或收益承诺；权限槽有没有核验；学习开关此刻是开还是关。五件里有一件答不上，就还不能面对用户。冻结演练每月做一次：故意让评估服务报出分群恶化和违规激增，看谁能在约定时间内按下停学和停版本。按不下去，说明按钮还在个人电脑里，治理只写在制度。对外披露只到来源和免责边界，对内才打开策略版本。用户气泡里印风控阈值，等于给注入者一张地图。生成能力一旦变成各部门共享的基础设施，闸必须共享，谁也不得以业务紧急为由关掉拦截。紧急只能走降级模板，不能走无闸自由生成。这是伦理评估和工程冻结共用的最后一句。

五问话术和每月冻结演练要进运行手册。演练按不下去就记治理缺陷，不要记成技术债去排期。分群无数据则关个性化并补告知。有数据看持续更差而不是平均更好。指标选择写下并保持，禁止靠改定义美化。对外来源加免责，对内策略版本，阈值不进气泡。假署名禁止展示。规则库一小时热更新要演练到句式级。公平恶化、违规激增、主题突变都能停学停版本。部门不得私自关闸，紧急只走降级模板。来源不明不进锚。红队进门禁集，本文不写攻击步骤。能生成不等于该展示。不该被采信的被优化进去，和该被采信的进不去，是可见性的两面，都要抓。

每月冻结演练按不下去记治理缺陷。紧急只走降级模板。假署名禁止展示。规则库热更新演练到句式。部门不得私自关闸。能生成不等于该展示。不该采信的被优化进去，同样要抓。

冻结演练按不下去记治理缺陷。紧急只走降级。假署名禁止。热更新演练到句式。禁止私自关闸。不该采信的被优化进去同样要抓。能生成不是放行理由。放行理由只能是三态门给出放行，并且学习开关状态可被审计。

学习开关必须可审计。三态门没给放行就不得展示。冻结演练失败先修治理再修模型。降级模板要预写，不要等紧急时现场作文。

先修治理按钮，再改模型参数。降级模板必须预写。

按钮按不到就还没有治理。

温故知新

• 流畅放大偏见：生成比排序更会把歧视写成段落。
• 不该被采信的也要拦：伦理是双向可见性。
• 解释靠方法学：来源编号加版本，不靠打开权重。
• 三态门：放行、降级、拦截。
• 能评估就能冻结：否则数字只是海报。
• 学习必须能停：伦理事件是停学条件。
• 与专集分工：此处只钉 GEO 门禁接口。

下一章离开评分，进入选工具、走成熟度、躲开会把项目做死的陷阱。