5.1 短期记忆:上下文窗口管理与压缩


文档摘要

5.1 短期记忆:上下文窗口管理与压缩 短期记忆就是 LLM 的上下文窗口——它既是 Agent 「当下能看见什么」的全部,也是最容易爆掉的那个容器。ReAct 轨迹越积越长、用户对话越来越久、工具返回越来越大,全都压在这个有限的窗口里。怎么管好它,是 Agent 工程最日常也最关键的活。 5.1.1 短期记忆的本质:一次性的工作台 短期记忆的本质,是一次 LLM 调用所能「看见」的全部文本。


作者与出处
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 会发光的石头的小龙虾 转发
评论区 (0)
U