上下文工程 · 第 2 章 预算分配


上下文工程 · 第 2 章 预算分配

章节摘要:第 1 章立了恒等式与四成分表,本章回答"这笔预算怎么花"。2.1 讲优先级与驱逐顺序:先扣不可动的三块——常驻层(指令 + 工具,刚性)、输出预留(15%~25%,示意)、pinned 清单(任务原文、当前计划、红线约束、关键引用)——剩余在动态层间分配。优先级的工程形态不是一张"谁重要"的表,而是驱逐顺序:超限时从最廉价的素材丢起(陈旧工具结果 → 已完成子任务的历史 → 早期探索对话 → 可重取的环境快照),每层"丢大块保线索"(截断优于删除,尾部比头部值钱);并给出 ce_budget.py 预算核算示意代码。2.2 讲位置效应:lost in the middle(Liu et al. 2023,实测)表明中部信息利用率显著低于首尾,实用推论是"重要放两端、中部装低熵内容"——排序是继 token 之后的第二个预算。两节合起来构成动态层的装配算法:装多少、丢什么、按什么顺序摆。

学习目标

阅读完本章,你应当能够:

  1. 为一类具体任务写出预算分配表(含常驻税与输出预留)。
  2. 写出驱逐顺序并解释每个顺位的排位理由,列出 pinned 最小集。
  3. 运行并读懂 ce_budget.py 的预算核算逻辑,把账本接到自己的应用上。
  4. 复述 lost in the middle 的实验设计与 U 型结论,说明其两个实用推论。
  5. 对一组检索片段执行"重要放两端、中部装低熵"的排序策略。
  6. 说明驱逐与压缩的分工:日常超支与结构性不够用各归谁管。

核心概念速览

(文字流程图) E ──▶ P P ──▶ "装配完成"

一句话金句:优先级写不成一张表,只能写成一条驱逐顺序;token 之外,位置是第二个预算。

💡 本章是全书"最像系统课"的一章:2.1 给出可运行的账本与驱逐器(ce_budget.py),2.2 给出唯一来自论文的硬结论(实测)。两者都不依赖任何框架——先在这里建立裸机直觉,第 7 章(后半)看框架时才知道每个组件在替你做哪一段。

子章节导航

2.1 优先级与驱逐顺序

预算分配表;不可动的三块;驱逐顺序与丢大块保线索;ce_budget.py;重新分配的触发时机。
本节产出两张可复用的工程表:分配表模板与驱逐顺位表。

2.2 位置效应:开头、结尾与丢失的中部

lost in the middle 实验与 U 型曲线;两个工程直觉;推论一"重要放两端";推论二"中部装低熵内容";位置作为第二预算。
本节是全书唯一以论文为主依据的小节(Liu et al. 2023,实测)。

子章节之间的逻辑关系

2.1 优先级与驱逐(量维度:每个成分给多少、超了砍谁) │ 装得下了,问"按什么顺序摆" ↓ 2.2 位置效应(序维度:同样的内容,顺序决定命中率) │ 量与序都定了 ↓ 第 3 章 起逐成分深潜(常驻层 → 记忆 → 素材 → 压缩)

2.1 与 2.2 是同一笔预算的两个自由度:前者决定每个科目的额度,后者决定同额度下的排列收益。任何上下文组装策略 = 分配表 × 驱逐规则 × 排序规则。
三件套缺一不可:只有分配没有驱逐,超限时硬截断;只有驱逐没有排序,装得下也读不好;跳过两者直接上压缩(第 6 章,后半),则是用重构掩盖本可避免的浪费。

前置知识与后续延伸

前置知识:1.1 节预算恒等式与输出预留;1.2 节四成分表与常驻税 / 动态层划分——本章的科目与税基全部来自那里。
建议把 1.2 节的四成分表放在手边再读本章:分配表的每一行科目、驱逐顺序的每一个顺位,都对应表里的一个格子。

为后续奠定基础:2.1 的驱逐顺序是第 6.1 节(后半)压缩触发的"前置防线"——驱逐解决日常超支,压缩解决结构性不够用;2.1 的 ce_budget.py 账本口径(四成分 + 输出预留)请后半各章沿用。2.2 的位置推论将被第 5.2 节(后半)检索片段组装直接复用,重排机制本身见《语义代码检索》第 5 章。


作者与出处
原作者: 灏天文库
整理: 灏天文库整理
本站整理收录,版权归原作者/开源协议所有;欢迎通过原文链接访问源仓库。
发布者: 作者: 灏天文库 转发
评论区 (0)
U