3.2 高级生成技术 (Advanced Generation Techniques)

文档摘要

3.2 高级生成技术 (Advanced Generation Techniques) 3.2 高级生成技术 (Advanced Generation Techniques) 3.2.1 上下文压缩 (Context Compression) 概念: 检索到的上下文信息可能包含大量噪声或冗余信息，这会影响生成模型的性能。上下文压缩技术旨在识别并去除这些不必要的信息，从而提高生成质量和效率。其核心思想是提炼上下文，只保留对生成目标最有用的部分。方法: 选择性上下文 (Selective Context): 使用模型 (例如，小型语言模型或专门的分类器) 来评估检索到的每个段落或句子与查询的相关性。仅选择相关性得分高于阈值的部分作为生成模型的输入。