第3章 RAG优化与进阶

第 3 章 · RAG 优化与进阶

章节摘要：朴素 RAG 管线跑通之后，真正的工程才开始——检索不准、生成啰嗦、效果说不清、上线撑不住，是四个最常见的问题。本章对应给出四类武器：高级检索技术（混合检索、查询重写、上下文感知）、高级生成技术（上下文压缩与增强、控制生成、迭代式生成）、评估与监控体系、部署与性能工程。读完本章，你应当能把一个"能跑的 Demo"推进成"敢上线的系统"。

学习目标

阅读完本章，你应当能够：

1. 为检索不准的系统选择并组合高级检索技术；
2. 用上下文压缩、控制生成、迭代式生成改造生成环节；
3. 搭建分层评估指标体系，并建立线上监控闭环；
4. 设计 RAG 系统的部署架构，并实施缓存、负载均衡等性能优化。

核心概念速览

本章的全景逻辑是"对症下药"：四类症状，四类药方。

金句：优化 RAG 的第一步不是加技术，是加度量——没有指标，你不知道病在哪，也不知道药有没有效。

子章节导航

3.1 高级检索技术

语义检索的深化、混合检索的融合逻辑、查询重写的四种手法、上下文感知检索的三个信息源。这一节是检索侧的军火库。

3.2 高级生成技术

上下文压缩与增强这对反向操作、控制生成的四条路径、迭代式生成的三种模式，外加一张四技术对比表帮你按需取用。

3.3 评估监控与部署实践

前半讲评估（检索指标、生成指标、整体指标三层）与监控（性能、错误、数据、反馈四路）；后半讲部署架构、环境选型、性能测试与优化。评估与部署合为一节，因为它们共同回答"这个系统敢不敢对外"。

子章节之间的逻辑关系

三节构成一个"改、改、量、撑"的循环：

   3.1 改检索 ──→ 3.2 改生成
      ↑               │
      │               ↓
   3.3 部署支撑 ←── 3.3 评估度量
​

改了检索要靠评估验证收益，改了生成也要；两项改动稳定后再过部署这一关，上线后监控数据回流，驱动下一轮改。这是一个持续运转的闭环，不是一次性流程——任何指望"优化一次、一劳永逸"的预期都会在第 3 节被打破。

本章三节的技术与症状对照速查：

前置知识与后续延伸

• 前置：第 2 章的完整管线；最好已经亲手跑通过一个朴素 RAG，带着具体痛点来读效率最高。
• 为后续铺垫：本章的评估指标与部署架构，是第 4 章行业案例的通用底座；医疗、金融案例里出现的合规设计，都建立在本章的监控与溯源机制之上。

还有一个心态提醒：本章技术密度是全书最高的，读者容易产生"全都要上"的冲动。请抵制它。每项技术都是为特定症状准备的，症状不存在时它只贡献复杂度。读完本章后建议做一件事——列出你自己系统的三个最痛症状，对照上面的速查表选三项技术，其余的忘掉。聚焦是优化阶段的稀缺品。

另一个反直觉的提醒：优化做到一定程度后，最大的收益可能来自优化之外——回到知识库补数据、改分块、清理过时内容。第 2 章的"上游决定下游上限"在本章依然成立，而且越到后期越成立：检索与生成的技术红利吃完后，剩下的天花板全是数据质量。经验上，系统成熟期的改进投入，数据侧与算法侧保持在七三开，是不少团队的共同结论。

本章要点回顾

• 对症下药：四大症状对应四类药方，先诊断（评估）后开方（优化），最后部署兜底。
• 检索军火库：混合检索、查询重写、上下文感知、重排序，可组合但有成本，按坏案例集驱动引入。
• 生成四技术：上下文压缩、上下文增强、控制生成、迭代式生成，各有明确的优缺点与适用面。
• 度量三层：检索质量（召回率等）、生成质量（忠实度等）、整体效果（答案相关度等），缺一层就盲一层。
• 部署四考量：数据规模、并发量、延迟要求、资源限制，共同决定架构形态。

💡 优化顺序建议：先建评估集（哪怕只有五十个标注问题），再动任何技术。所有"听说很有效"的技术，都要在你自己的坏案例集上证明自己。

⚠️ 最大的坑是"无度量优化"：换了个嵌入模型，感觉好像好了一点，就上线了。三个月后投诉变多，却无法定位是哪次改动埋的雷。评估集是防雷的探雷器，成本低到没有理由不做。

进入军火库——详见第 3 章第 1 节。