11.3 AI读片时代：模型、可解释性与监管

11.3 AI读片时代：模型、可解释性与监管

终章最后一节，看这门学科最年轻也最有争议的一页：人工智能读片。基调先定：AI 在病理的定位不是替代，而是"永不疲倦的第二读者"——筛查、定量、优先级排序。本节讲清楚三件事：模型能做什么、验证要什么标准、监管与伦理卡在哪里。

会诊单：一个前列腺 AI 系统的验收测试

某三甲医院引入前列腺癌检出 AI 辅助系统。验收测试设计：回顾性队列（病理医生金标准共识诊断的 500 张穿刺切片）+ 前瞻性队列（连续 300 例真实工作流）。指标：病灶检出敏感度、假阳性率每片均值、 Gleason 分区一致性、医生+AI 与医生单独的对照。结果：AI 检出小灶癌的敏感度显著提升，但把萎缩腺体误报为癌的比例也偏高；人机组合优于任何单方。结论部署方式：AI 预扫描标记可疑区域，签发权仍在医生。这个流程是当前 AI 病理落地的标准范式——问题不是"AI 行不行"，而是"AI 放在流程的哪一环、以什么指标问责"。

深度学习模型：三类任务与训练数据要求

病理 AI 的主流架构是卷积网络及其衍生（分割用 U-Net 类、分类用残差网络与 Transformer 类、弱监督用多实例学习 MIL——全片级别标签训练区域级预测，正契合病理"全片标签、区域证据"的数据结构）。任务分三类：

检测与分割：找转移淋巴结、勾画肿瘤区域、
  核分裂象检出、免疫组化阳性细胞计数
分类与分级：Gleason评分辅助、乳腺癌分级、
  胃镜活检良恶分类、胃分型（Lauren）
预测与发现：直接预测分子标志（从HE形态预测
  MSI状态、IDH突变——"虚拟分子检测"）、
  预后与治疗响应（影像组学式的病理组学）
​

训练数据的军规：大规模（数万片级）、多中心（单中心模型换个扫描仪就"水土不服"——域偏移是部署失败的头号原因）、标注质量分级（金标准共识、单人标注、弱标签各自的用途与局限）、类别平衡（罕见病变的克数级稀缺是永恒难题）。定量病理是 AI 的天然盟友：Ki-67 计数、HER2 定量、肿瘤浸润淋巴细胞密度——这些过去"估读"的指标，正在变成可重复的数字。

多模态融合：病理走向"组学中枢"

最有想象力的方向是把全片图像与基因组、转录组、临床与随访数据融合训练：图像形态本身携带分子信息（肿瘤细胞密度、间质比例、淋巴细胞浸润与基因表达程序相关），多模态模型能够预测生存与疗效——这正是第 11 章支柱页画的"汇聚点"。生存分析模型（风险分层）、空间转录组（把基因表达定位回组织空间，形态学与分子学的重新合流）是这一方向的技术前沿。

可解释性：黑箱能不能签报告

医疗场景的刚性要求：模型必须能"指认证据"。当前的解法：热力图（显著区域可视化——AI 认为哪里是癌）、实例级归因（哪个细胞核触发了判断）、证据区域与病理医生标注的重叠度评估。完全黑箱的模型在监管与责任上都无法过关。责任归属的法律问题仍在演进：AI 辅助下的误诊，责任在签发医生、医院还是厂商？主流监管框架（FDA 的 SaMD、我国的 AI 医疗器械三类审批、欧盟 AI 法案的医疗高风险分级）的共同底线：临床验证、变更管理（模型更新要重新验证）、上市后监测、人类最终决策权。

偏差与公平性必须直说：训练数据的人群构成会复刻到模型里（肤色相关病变表现、不同地区主导病原谱、扫描仪与染色方案的差异）；分布式学习与联邦学习（数据不出院、模型来跑）正在同时解决隐私与单一中心偏差两个问题——这也是隐私保护 AI 在医疗最具落地感的场景。

伦理清单收尾：知情（患者是否知道 AI 参与了诊断——透明度义务）、数据使用授权（二次研究使用的边界）、算法的" automation bias"（医生过度信任机器提示而放弃独立判断，人机组合的真实风险）、以及报告里 AI 结果的地位（辅助信息不得写成独立诊断）。病理医生的新技能清单因此改写：图像分析基础、数据素养、对模型局限的直觉、以及把 AI 输出翻译回临床语言的能力。

结案与展望

前列腺 AI 案结案：系统以"预筛查+人工签发"模式部署，季度性能复审纳入质控。全册至此收束：从第 1 章显微镜下的第一张切片，到本章云端服务器里的千兆像素，病理学的底层方法没有变——证据、推理、责任。技术会继续更迭（空间组学、foundation model、自主质控的实验室流水线），但读片会诊室里那句老话不会过时：没有病理的临床是盲目的，没有临床的病理是空洞的。灯亮着，切片上架——下一代诊断的故事，等你来读。

会诊延伸：一次"automation bias"的现场观察

AI 辅助系统上线半年后的观察记录：一位高年资医生在 AI 标注阴性的切片上扫视速度明显加快；一位低年资医生把 AI 标注的可疑区域直接写进报告而未独立确认。两段观察指向同一个风险——automation bias，人把机器的输出当作捷径。科室的应对：流程上保留独立判读环节（先盲判再看 AI 提示，两者的分歧病例进入复核队列）、培训上复盘"AI 对人错、人对 AI 错"的真实案例、指标上监测人机分歧率的漂移。结论写进季度报告：AI 的收益取决于流程设计，而不只是算法性能——这个判断适用于所有正在引入智能工具的科室。

自测清单

• 病理 AI 的三类任务与代表应用各是什么？MIL 为什么契合病理数据结构？
• 训练数据的"军规"四条是什么？域偏移为什么是部署失败首因？
• 可解释性的现有手段有哪些？监管对黑箱模型的底线是什么？
• 联邦学习同时解决了什么两个问题？

读片手记

评估一个 AI 系统的三份材料清单：前瞻性验证研究（不是回回性数据集的漂亮曲线）、失败案例分析（厂商敢不敢公布假阴性的病例谱）、变更管理文件（模型更新后是否重新验证）。三份齐全才谈引入。使用中的手记：把 AI 提示当作"第二位同事的意见"——同意时确认，分歧时复核，永远保留自己的独立判读记录。这份记录既是质量凭证，也是未来回顾人机协作演进的第一手资料。

终章末句：算法会更新，监管会演进，唯一不变的是签名的责任——AI 可以画热力图，但让患者安心的人仍然是你。带着这个认知走进新时代，才是病理学的传承方式。

补一句关于数据多样性的提醒：训练集里没有的病变，模型大概率不认识——所以引入任何 AI 系统后，都要持续收集本地人群的失败案例，定期与厂商交换验证。模型与实验室的关系是共同进化，不是一次采购。