第2章 伦理挑战：偏见隐私问责

第 2 章 · 伦理挑战：偏见隐私问责

章节摘要：伦理挑战的现场不是研讨会，是被模型拒掉的简历、被提高利率的申请、无法得知理由的决定、被推断出的病历与行踪、以及被自动化改写的岗位。本章五节按伤害对象展开：偏见伤群体机会，隐私伤自主，问责真空伤救济，黑箱伤信任与申诉，自动化伤劳动与人的决策权。读完应能把「不公平」翻译成数据、目标函数、反馈循环上的具体缺陷。

学习目标

阅读完本章，你应当能够：

1. 指出数据偏见的四类来源，并说明反馈循环如何把错误焊死。
2. 解释成员推断与模型反演为何让「删除原始库」仍不够。
3. 画出 AI 生命周期上的责任相关方，避免把锅推给算法。
4. 说明可解释性要服务谁：当事人、医生、监管、调试者需求不同。
5. 区分人在回路与人在决策，并指出推荐系统如何侵蚀自主。

核心概念速览

图 五种对人的伤害

金句：伦理不是模型的附加属性，是权力通过自动化行使时必须留下的刹车与申诉口。

子章节导航

2.1 算法偏见如何伤害真实人群

从历史数据与代理标签出发，讲清群体公平指标为何互相打架，以及预处理、训练中、后处理各能做什么。

2.2 隐私被模型吃掉之后

数据饥渴、融合画像、成员推断与反演；差分隐私、联邦学习、同态加密怎么选；GDPR、CCPA、PIPL 要求什么。

2.3 出事了谁来负责

复杂系统、黑箱、持续学习、人机边界如何让传统过失模型失灵，以及日志与保险能补什么。

2.4 黑箱决策为何无法被信任

高风险场景为什么必须能解释；LIME 与 SHAP 解决什么、不解决什么。

2.5 自动化如何改写劳动与公平

岗位替代、技能贬值、推荐操纵、致命决策中的人类控制。

子章节之间的逻辑关系

伤害从「对群体不公」扩展到「对个体数据与救济」，再扩展到「对工作与自主」。问责与透明是横贯的：没有它们，前两节的伤害无法被证明和纠正。

2.1 偏见 ──► 2.2 隐私
    │            │
    └──► 2.3 问责 ◄── 2.4 黑箱
              │
              ▼
         2.5 劳动与自主
​

前置知识与后续延伸

• 前置：第 1 章的七个钉子与事故地图。尤其要记得证据分档：部署争议、研究演示、思想实验不可混写。
• 后续：第 3 章看系统被攻破与目标跑偏；第 4 章给法律与组织闸门；第 5 章给出公平、隐私、可解释的工程手段。

本章五节对应五种已经发生过的对人的伤害方式。偏见是机会被系统性关掉；隐私是人被模型记住与推断；问责真空是伤害发生后找不到救济；黑箱是当事人无法争辩；劳动与自主是节奏与信息环境被目标函数改写。它们在同一套招聘或信贷系统里常常同时出现：用历史数据训练、解释不清、无人负责、还在加速考核。

阅读时不要把「公平」理解成公关形容词。原文给出了统计平等、机会均等、均衡赔率等互相冲突的度量——这是本章最硬的技术点，必须在 2.1 啃下来，否则 5.3 的工程干预会变成乱调阈值。隐私节要把成员推断、模型反演与联邦学习的假安全感记牢。问责节把日志当基础设施。可解释节把听众分开。劳动节把人在回路的负荷写进设计，而不是画一个确认按钮。

本章伦理分诊：五种伤害常常同时破

五节在同一套信贷或招聘系统里常常同时出现：历史数据训练、解释不清、无人负责、还在加速考核。分诊不要只修看起来最像公关危机的那一节。机会被系统性关掉，开偏见单，先承认指标打架。人被模型记住与推断，开隐私单，删表不够。伤害发生后找不到救济，开问责单，日志是基础设施。当事人无法争辩，开黑箱单，听众分开。节奏与信息环境被目标函数改写，开劳动与自主单，假回路先拆掉。公平度量互相冲突不是 trivia，是必须写进文档的产品决策。

阅读时不要把公平理解成公关形容词。统计平等、机会均等、均衡赔率互相冲突，必须在 2.1 啃下来，否则 5.3 会乱调阈值。隐私节把成员推断、反演与联邦假安全感记牢。问责节把日志当基础设施。可解释节把听众分开。劳动节把回路负荷写进设计。五节对应五种已经发生过的对人的伤害方式，同一套招聘或信贷里常常同时出现。跳过任何一节，后面的工程止血会买错工具或修错公关危机那一处。

⚠️ 五节在同一套信贷或招聘系统里常常同时破，不要只修看起来最像公关危机的那一节。
💡 公平度量互相冲突不是理论 trivia，是上线必须写进文档的产品决策。