1.2 RAG框架的发展历程与演进

文档摘要

1.2 RAG框架的发展历程与演进 1.2 RAG框架的发展历程与演进 2.1 早期阶段：基于信息检索的文本生成 (Pre-RAG Era) 在RAG框架出现之前，文本生成模型主要依赖于自身的参数知识。这种方法在特定领域或任务上表现良好，但在面对需要大量外部知识的场景时，往往会遇到瓶颈。早期的文本生成模型，如基于RNN的序列到序列模型 (Seq2Seq) 和基于Transformer的模型，虽然在语言建模方面取得了显著进展，但其知识容量受到模型规模的限制。局限性：知识容量有限：模型只能记住训练数据中的知识，无法处理未见过的或快速变化的知识。容易产生幻觉：模型可能会生成不真实或不准确的内容，即所谓的“幻觉”。缺乏可解释性：难以追踪生成文本的来源，可解释性较差。