4.4 生成模型与可解释护栏：从预测到创造

4.4 生成模型与可解释护栏：从预测到创造

本节摘要：生成模型把分子优化变成显式的搜索问题：奖励函数写出目标，模型在化学空间里搜索满足目标的分子；强化学习、变分自编码器、扩散模型是三代引擎。本节讲奖励函数设计（试验圃账本的代码化）、生成模型的典型失控（模式坍缩、奖励作弊），以及可解释 AI 作为人机信任协议——它能证明什么、不能证明什么。

把优化目标写成代码

3.4 节的从头设计留下了伏笔：生成模型按"目标性质"采样新分子。现在把这话翻译成工程师的语言。强化学习式的分子优化框架里，一切围绕奖励函数展开：

奖励函数草案（某激酶项目）：
score(mol) = 1.0 × 活性预测(mol)          ← 对接打分或 QSAR 输出
           + 0.5 × 选择性预测(mol)        ← 对脱靶靶点的差值
           + 0.4 × 类药合规(mol)          ← 五规则与警示结构检查
           + 0.3 × 合成可及性(mol)        ← 路线评估器输出
           - 0.8 × 训练集相似度惩罚(mol)   ← 防止抄旧答案
权重就是账本：项目最在乎什么，权重就压向哪里。
约束（硬性）：价键合法、无警示结构、分子量上限 —— 违反直接出局。
​

这段伪代码揭示了生成式优化的本质：奖励函数就是试验圃账本的代码化。2.1 节选择指数的加权、3.4 节四道闸的取舍，在这里统一成可微调的数字。也因此，奖励函数设计成了新的高危工种——账本写错，模型会以惊人的效率放大你的错误。

三代引擎各有脾气：变分自编码器把分子编进连续隐空间、在空间里插值优化，生成平滑但多样性有限；强化学习把生成当决策序列（逐原子往下接），目标针对性强，但容易钻进奖励漏洞；扩散模型从噪声里"雕刻"分子，模式覆盖广，是当前新骨架多样性的主力。选型的实用判断：要局部优化用强化学习或插值，要探索新骨架用扩散或大模型式采样。

失控的两种形态

模式坍缩：模型发现某个角落的分子得分高，就反复生成那个角落的变体——多样性坍塌，本质上是一次"化学型的篮子风险"自动化。对策：相似度惩罚、多样性奖励项、批次内去重指标进监控。奖励作弊：模型找到预测器的盲区（比如某类结构活性预测器系统性虚高），生成一堆"预测很美、实测拉胯"的分子。这是生成循环最阴险的失败——每个分子都过了你设的闸，闸本身是坏的。对策：预测器的不确定度估计进奖励（对模型没把握的分子降权）、定期用实测数据重训预测器、保留一定比例的"探索配额"专测模型不确定的区域。

这张闭环图与第 1.1 节的循环完全同构——只是"模型更新"一拍被展开成了"实测数据重训预测器、不确定度回灌探索"两个具体动作。生成循环没有魔法，它就是试验圃循环的自动化版本，而自动化意味着：错误也会自动放大。

护栏：可解释 AI 是审计协议

当生成模型给出一个反直觉的好分子，化学家有理由问"凭什么"。可解释方法提供的是"信任的证据链"而非"正确性证明"：

• 注意力与归因可视化：语言模型预测突变效应时，注意力图显示哪些位点在"参与判断"；分子性质预测中，原子级归因标出哪些片段在推高毒性预测。它们是线索生成器，不是因果证明。
• 反事实解释："把这个甲基换成氟，毒性预测就降一档"——反事实样例把模型的决策边界翻译成化学家可操作的语言，是设计拍最实用的解释形态。
• 不确定性量化：预测值附带置信区间，是诚实的最低标准。3.3 节 QSAR 的适用域、2.3 节 GS 的可靠性，都是同一概念的不同实例——模型应当知道自己不知道什么。

可解释性的制度角色值得强调：在受监管行业，模型的每个关键建议都可能被审评人员质询。归因记录、反事实案例、不确定度披露，构成模型建议的"审计底稿"。第 6 章会看到监管视角下这层底稿越来越重要——这不只是技术美德，是未来入场资格。

⚠️ 常见坑：把注意力权重当因果证据。注意力高只说明模型"看了那里"，不等于"那里决定了结果"；解释方法自身的稳健性（输入微扰下解释是否稳定）也要检查，否则解释本身就是另一个黑箱。

💡 关键直觉：生成模型改变了设计拍的组织形态——化学家从"画分子的人"变成"写规格的人与审答案的人"。规格（奖励函数）与审题（解释与实测）成为新的核心技能。

常见追问

生成模型多久能"替掉"药化专家？ 这个问题问错了方向——比较对象不是"替不替"，而是分工界面怎么划。生成模型强在覆盖（一晚上扫完化学空间的某个角落）、弱在判断（什么值得合成、什么在生物学上有戏）。实践中的有效分工：模型出候选与多样性，化学家出规则与裁决；模型的建议质量提升，靠的正是化学家裁决数据回灌（奖励作弊的解毒剂）。凡是把模型输出直接送合成的管线，很快会被"纸面完美"的分子淹没。

奖励作弊能彻底消灭吗？ 不能，只能对抗。原理层面：预测器是真实世界的近似，近似就有盲区，优化器找盲区的效率与人不同——这是对抗性的数学结构。工程层面的对抗手段前文已列（不确定度进奖励、探索配额、重训），再加一条：定期做"盲测对照"——把模型Top分子与随机对照分子混在一起送实验，比较实测符合率，作弊程度就有了量化指标。作弊率上升是预测器失效的最早警报。

解释方法会不会误导决策？ 会，所以解释也要有"使用说明"：归因图展示的是模型内部的依据，不等于真实的化学因果（4.4 节的注意力警告）；反事实建议要过合成可行性检查；不确定度区间要随预测一起展示，单点数字最容易制造虚假信心。组织层面的规矩：任何进入决策会的模型建议，附一页"模型卡"——训练数据范围、已知弱点、适用边界，让审阅者知道自己在信任什么。

本节要点回顾

• 账本代码化：奖励函数是选择指数与设计闸门的统一形式，权重即价值观，写错会被高效放大。
• 三代引擎：插值平滑、强化学习目标导向、扩散多样性，按"优化还是探索"选型。
• 两大失控：模式坍缩与奖励作弊都要靠监控指标（多样性、实测符合率、不确定度）提前报警。
• 闭环即循环：生成循环是第 1.1 节循环的自动化实例，模型更新与探索配额是自动化的两个安全阀。
• 解释是审计协议：归因给线索、反事实给操作、不确定度给边界；注意力不是因果。

数据引擎到此完整：进料（4.1）、底座（4.2）、语言（4.3）、引擎与护栏（4.4）。下一章把这些能力装进具体的工具链，让循环在硬盘和实验台上真正转起来。