第5章 高级主题

第5章 高级主题

本章跟着一条线走：四个"让标准流水线翻车"的现实难题，一个一个拆掉。 不平衡标签、特征工程深水区、黑箱解释压力、单机算力墙——每一节对应一类翻车现场，解法都建立在前四章的地基上。

一条主线

第 4 章的流水线假设数据大体规矩，现实从不配合。主线在本章分出四条岔路：第 1 节处理标签失衡——欺诈检测里正例可能只占千分之五，标准训练会被负例淹没，解法从样本权重、阈值工程到代价敏感学习逐级升级；第 2 节深入特征工程——XGBoost 虽然免做归一化，但交叉统计、目标编码、时序特征这些深水区恰恰是表格任务的胜负手；第 3 节面对解释压力——业务方和监管都要"为什么"，SHAP 把第 4.4 节的全局重要性细化到单个预测的归因；第 4 节推倒算力墙——单机装不下就上分布式，Rabit 通信架构决定了它与 MapReduce 类方案的取舍；第 5 节收束成横向对比，把 XGBoost 放回随机森林、LightGBM、神经网络同框，给出选型决策依据。

四类难题与各自的解法入口

沿途站点

第 1 节与第 3.2 节的指标内容直接衔接，把"不平衡怎么评"推进到"不平衡怎么练"。第 2 节承接第 4.1 节的预处理，进入"算法不替你做"的那部分特征工作，泄漏防范依然贯穿。第 3 节补上第 4.4 节留下的缺口——方向与个体层面的解释。第 4 节延伸第 2.5 节的系统设计，从单机优化走向多机协同。第 5 节是全教程视野的一次拉远：知道了 XGBoost 的能与不能，才知道什么时候该换武器。

先决条件

本章各节的前置略有不同：第 1 节需要第 3.2 节的指标与第 4.3 节的阈值工程；第 2 节需要第 4.1 节的防泄漏纪律与 pandas 分组操作；第 3 节需要安装官方解释库并理解第 5.2 节之前的特征概念；第 4 节可只读文字理解架构，代码部分有单机环境即可；第 5 节需要 lightgbm 库来复现对比实验。缺哪块补哪块，五节相对独立，但都建立在前四章之上，不建议直接跳章进入。五节的难度也不均匀：第 1、2 节偏 hands-on，第 3 节偏概念与工具，第 4 节偏架构视野，第 5 节偏决策判断——时间紧张时可先读第 5 节建立全局感，再回头逐节深挖。每节末尾的"常见问答"与"变式"并非装饰，它们收集自真实项目里最高频的踩坑提问，值得在读正文前后各扫一遍。

拐点与结论

本章的两次认知转折：其一，不平衡问题的主要矛盾常不在算法而在决策层——调权重、调阈值、调代价，三件事都不动模型本体，收益却往往超过换模型；其二，特征工程的上限高于调参上限，第 2 节的一个好特征抵得上第 3 章一整轮调参，这也是表格任务至今仍是树模型主场的原因。

读完你应该

• 用 scale_pos_weight 与 sample_weight 处理不平衡，并说明各自的适用边界
• 构造交叉统计、目标编码、时序三类特征，且全程防泄漏
• 用 SHAP 值解释单条预测，区分全局重要性与个体归因
• 描述分布式 XGBoost 的通信架构，判断自己的场景该不该上多机
• 在随机森林、LightGBM、神经网络之间做出有依据的选型

下一章的接力

四条岔路走完，主线进入最后一段：把全部装备带进真实行业战场——金融风控、推荐广告、文本图像——看看实战在更大的尺度上如何组合这些零件。