3.1 可解释性基础与 SHAP

3.1 可解释性基础与 SHAP

本节摘要：可解释性（Interpretability）回答的是"模型为什么做出这个预测"。它可以从两个维度切：全局 vs 局部（解释整体行为 vs 解释单次预测），内在 vs 事后（模型本身透明 vs 用外部工具解释黑盒）。本节先建立这个分类框架，再重点讲 SHAP（SHapley Additive exPlanations）——一种基于博弈论 Shapley 值的特征归因方法，它把单次预测的结果公平地"分摊"到每个特征上。我们会讲清 Shapley 值的直觉、SHAP 的代码用法，以及针对树模型和深度学习的 TreeSHAP、DeepSHAP 变体。

学习目标

阅读完本节，你应当能够：

1. 用全局/局部、内在/事后两个维度对解释方法分类
2. 用博弈论的"贡献分配"直觉解释 Shapley 值为什么公平
3. 在树模型和深度学习模型上分别用 TreeSHAP 和 DeepSHAP 生成解释
4. 读懂 SHAP 的瀑布图、摘要图、依赖图，并知道它们各回答什么问题
5. 说出 SHAP 的计算成本和适用边界

问题与直觉

想象你做了一个信用评分模型，一个客户来申请贷款被拒了。他打电话来问"凭什么拒我"，你不能只说"模型说你风险高"——这在很多司法管辖区是违法的（比如欧盟的 GDPR 赋予了"获得解释的权利"）。你得能说出"主要因为你的负债收入比偏高，其次是信用历史较短"。这就是可解释性的现实需求：模型不仅要准，还得能说清理由。

可解释性还有个更功利的价值——调试。模型在测试集上准确率 95%，但你知道它到底靠什么特征做判断吗？曾经有一个著名的案例：一个区分狼和哈士奇的模型，准确率很高，后来发现它根本没学会区分动物，而是学会了"背景里有雪就是狼"。这种"学错了特征"的问题，光看准确率发现不了，必须打开模型看它用了什么。

打开模型有两种思路。一种是"用本来就能解释的模型"（决策树、线性回归），它们的内部结构是透明的，但这类模型往往不够准。另一种是"用很强的黑盒模型，再用外部工具解释它"——SHAP 和 LIME 就属于这一类。现实里我们多半选后者：要准确率，也要可解释性，两者用不同手段分别满足。

核心原理

2.1 可解释性的四个分类

理解 XAI 的各种方法，先建立分类框架。两个正交的维度：

• 全局解释回答"模型整体上最看重哪些特征"，比如特征重要性排序。
• 局部解释回答"这个具体样本为什么被这样预测"，比如 SHAP 给单个客户算出每个特征的贡献。
• 内在可解释的模型（决策树、线性回归）结构本身就透明，不用额外工具。
• 事后可解释是给黑盒模型（随机森林、神经网络）外挂一个解释工具，SHAP 和 LIME 都属此类。

这四个分类可以画成一张二维定位图，帮你想清楚自己手上的解释需求落在哪个象限：

💡 关键直觉：内在可解释的模型（决策树）和事后可解释的工具（SHAP）不是对立的，而是互补的。简单任务用决策树就够，复杂任务用黑盒加 SHAP。关键是解释要"忠实于模型真实行为"——SHAP 解释的是模型实际学到的规律，哪怕这个规律是错的（比如那个看雪的模型，SHAP 会诚实地告诉你它在用背景）。

2.2 Shapley 值：从博弈论借来的公平分配

SHAP 的数学基础是博弈论里的 Shapley 值。设想一个合作游戏：几个玩家组队赚了一笔钱，怎么公平地把钱分给每个人？Shapley 值的回答是——考虑所有可能的玩家加入顺序，算每个玩家在每种顺序下"边际贡献"的平均值。

把这个类比搬到机器学习：特征就是玩家，模型预测就是奖金。Shapley 值算的是"每个特征对这次预测结果的边际贡献"。它的公平性体现在：考虑了特征之间的相互作用（特征 A 单独没用，但和 B 一起才有用，Shapley 会把贡献合理分给两者）。

数学上，特征 i 的 Shapley 值是它在所有可能的特征子集组合下的边际贡献的加权平均：

φᵢ = Σ [所有不包含 i 的子集 S] (|S|! × (|F|-|S|-1)!) / |F|! × [f(S ∪ {i}) - f(S)]

其中:
- φᵢ: 特征 i 的 Shapley 值
- S: 不包含 i 的某个特征子集
- F: 全部特征的集合
- f(·): 模型在给定特征集下的预测
- f(S ∪ {i}) - f(S): 加入特征 i 带来的边际变化
​

精确计算 Shapley 值要遍历所有子集，是指数级的（特征数一多就爆了）。所以实际用的 SHAP 都是近似算法，针对不同模型类型有专门的优化。

2.3 SHAP 的核心特性

SHAP 之所以流行，是因为它有三个理论保证：

• 局部准确：所有特征的 SHAP 值加起来，正好等于"这次预测减去基准预测"。解释是自洽的，能对上账。
• 缺失性：如果某个特征在当前样本里缺失，它的 SHAP 值为零。
• 一致性：如果模型变了，某个特征对预测的贡献真的变大了，那它的 SHAP 值也会变大。不会出现"贡献变大但分数变小"的矛盾。

这三个性质让 SHAP 比很多临时拼凑的解释方法更可信——你知道它的解释是有数学保证的，不是随便算的。

工程实践要点

3.1 TreeSHAP：给树模型的高效解释

树模型（随机森林、XGBoost、LightGBM）是 SHAP 最常用的场景，因为有专门的 TreeSHAP 算法，复杂度从指数级降到多项式级，计算非常快。

import shap
from sklearn.ensemble import RandomForestClassifier

# 训练一个树模型
model = RandomForestClassifier().fit(X_train, y_train)

# TreeSHAP 解释器,专门针对树模型优化
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_test)

# 全局视角:所有特征的重要性摘要
shap.summary_plot(shap_values, X_test, feature_names=feature_names)

# 局部视角:看第 0 个样本的预测是怎么来的
shap.waterfall_plot(shap.Explanation(
    values=shap_values[0],
    base_values=explainer.expected_value[0],
    data=X_test[0],
    feature_names=feature_names,
))
​

summary_plot 回答"模型整体上最看重哪些特征"，waterfall_plot 回答"这个具体样本的预测是怎么一步步形成的"——从基准值开始，每个特征把预测往上或往下推一点，最后加总成最终预测。

3.2 DeepSHAP：给深度学习的解释

深度学习模型不能直接用 TreeSHAP，但有 DeepSHAP（也叫 DeepLIFT 的改进版）。它的思路是反向传播"贡献"而不是梯度——把预测结果分解回每个输入特征的贡献。

import tensorflow as tf
import shap

# 假设已经训好一个 Keras 模型
model = tf.keras.models.load_model("my_model.h5")

# DeepSHAP 需要一个背景数据集作为基准
explainer = shap.DeepExplainer(model, X_train[:100])
shap_values = explainer.shap_values(X_test[:10])

# 可视化单个预测的特征贡献
shap.force_plot(
    explainer.expected_value[0],
    shap_values[0][0],
    X_test[0],
    feature_names=feature_names,
)
​

⚠️ 常见坑：DeepSHAP 对模型架构有要求，某些复杂的自定义层或特殊激活函数可能不支持。如果报错，先试试把模型结构标准化，或换用梯度相关的解释方法（如 Integrated Gradients）。

3.3 SHAP 的可视化

SHAP 的强大还在于它配套了一套很成熟的可视化，每种图回答不同的问题：

3.4 SHAP 的计算成本

💡 关键直觉：KernelSHAP 是"模型无关"的通用方案，理论上什么模型都能解释，但它靠反复扰动输入来近似，非常慢。如果你用的是树模型，一定用 TreeSHAP；深度学习用 DeepSHAP。只有遇到奇奇怪怪的模型（比如自定义集成）才退回到 KernelSHAP。

3.5 SHAP 的局限

SHAP 不是精确的。第一，它解释的是"模型实际用了什么特征"，不解释"这个特征该不该用"——如果模型学到了一个有偏见的特征（比如性别），SHAP 会忠实地告诉你它在用，但不会提醒你这是歧视。第二，特征之间的强相关性会让 SHAP 值的解释变微妙（两个高度相关的特征，贡献怎么分是个开放问题）。第三，它给出的是"相关性"的贡献，不等于"因果性"——SHAP 说"负债比对预测贡献大"，不代表降低负债比就一定能改变决策（那是反事实解释的领域，见 3.3 节）。

本节要点回顾

• 可解释性分全局/局部、内在/事后两个维度，SHAP 属于"局部、事后"的工具。
• Shapley 值来自博弈论，靠遍历所有特征组合算边际贡献，公平地分配每个特征对预测的贡献。
• SHAP 有三个数学保证：局部准确、缺失性、一致性，这让它比临时方法更可信。
• TreeSHAP 极快、DeepSHAP 适中、KernelSHAP 通用但慢，按模型类型选对变体很关键。
• SHAP 解释的是模型用了什么特征，不判断该不该用，发现偏见和因果性要靠后续的公平性和反事实分析。

下一节看更灵活的 LIME——它不追求严格的 Shapley 公平，而是用局部线性近似快速解释任意模型，包括文本和图像。

工程补充：SHAP 值的正确打开方式

拿到 SHAP 值之后怎么读，工程上有几个常被误解的点。首先是全局与局部的关系：单个样本的 SHAP 瀑布图只解释这一次预测，把它直接当成模型的全局逻辑会出错——同一个特征在不同样本上的贡献方向可能相反。全局结论要用聚合视角（均值绝对值排序、蜂群图）来看，并且要报告分布而不只是均值，"特征 A 平均贡献最大"和"特征 A 在所有样本上贡献都大"是两回事。其次是相关特征的稀释：两个高度相关的特征会分摊彼此的贡献，各自的重要性都被压低，看起来"都不重要"，实际联合起来非常关键。遇到可疑的低重要性加高相关性组合，先做特征聚类再看组级别的聚合 SHAP。

然后是基线的选择。SHAP 的解释永远是相对某个基线（通常是训练集均值）的偏移，基线不同，归因就不同。对外交付解释报告时要写明基线是什么，否则不同系统之间的 SHAP 值没有可比性。最后是成本工程：TreeSHAP 对树模型是多项式级的多快好省，但 KernelSHAP 对任意模型需要大量重采样，线上实时解释基本不可行，只适合离线批处理或抽样解释。别在推理热路径上硬塞 SHAP，缓存高频样本的解释、增量更新，才是能落地的方案。

补一个计算成本的量化参考，方便做方案预算。TreeSHAP 在千棵树规模的梯度提升模型上，单样本解释是毫秒级，百万样本批量解释也在小时级内完成，可以放心进离线流水线。KernelSHAP 的开销取决于重采样次数，通常每样本几百次模型调用起步，线上单点解释延迟会到秒级以上，只适合低频场景或缓存命中高的场景。DeepSHAP 介于两者之间，但和框架版本强耦合，升级框架时要回归测试解释的稳定性。预算紧张时的折衷方案：高价值样本用完整 SHAP，长尾样本用排列重要性粗筛，两档服务的成本能差一个数量级，而对外承诺的解释质量分级明示，用户通常能接受。