7.1.3 上下文窗口优化与文档分块策略

文档摘要

7.1.3 上下文窗口优化与文档分块策略 7.1.3 上下文窗口优化与文档分块策略在检索增强生成（Retrieval-Augmented Generation, RAG）系统中，上下文窗口的容量限制与原始文档的语义完整性之间始终存在一种微妙而深刻的张力。这种张力不仅决定了模型能否“看到”足够多的信息以生成准确回答，更直接影响了整个系统的推理质量、响应速度与资源效率。作为 Chroma 向量数据库深度使用者，我们深知：向量检索只是 RAG 的起点，而如何将检索到的内容高效、无损地送入大语言模型（LLM）的上下文窗口，才是决定成败的关键所在。