when to compress, what to drop
最常见的错误压缩就是"保留最近 N 轮,删掉前面的"——结果把项目目标、关键约束、已做的决策全删了,Agent 接着干就忘了在干什么。
正确的压缩是按"信息密度"分三类处理:
这样压缩后,token 大降,但关键信息没丢。压缩的目标不是变短,是让模型注意力集中在正在做的事上。
下面是一次 12 轮的对话。拖滑块决定保留最近几轮原文,其余被摘要。看 token 怎么降、关键信息保不保得住。
不是越早压缩越好——太早压缩会丢细节,太晚压缩会爆窗口。三个信号说明该压了:
压缩频率别太高——每次压缩本身要调一次模型做摘要,有成本。触发压缩靠信号,不靠固定轮数。