上下文工程 · 第 1 章 窗口与预算


上下文工程 · 第 1 章 窗口与预算

章节摘要:第 0 章划完界,本章把定性的分界升级为定量的模型。1.1 讲容量与注意力的直觉:token 窗口是硬上限,但"塞满"不等于"用好"——Anthropic 的"注意力预算"比喻指出,token 越多,单个 token 分到的注意力越薄(官方);无关信息增多时准确率不升反降(实测)。由此确立全书第一个公式,预算恒等式:窗口 = 指令 + 工具 + 记忆 + 素材 + 输出预留——它每一轮都全价成立,且输出预留最容易被忘掉。1.2 提出全书核心分类法"四成分":指令(开发者写、全程常驻)、记忆(系统累积、跨轮跨会话)、工具(开发者定义、每轮常驻)、素材(运行时取自世界、时效最短)。三问——谁产生、多久有效、谁负责裁剪——把窗口里的一切内容归位;指令加工具构成"常驻税",记忆加素材构成唯一会无限增长的"动态层"。四成分表是全书之纲,第 3~6 章逐成分深潜。

学习目标

阅读完本章,你应当能够:

  1. 用 token 量级直觉估算一类任务"装不装得下"(一页文档、一个代码库、一场会话各是什么量级)。
  2. 解释"塞满不等于用好"的两个证据:注意力稀释与无关信息的负贡献。
  3. 写出预算恒等式,并说出最容易被漏掉的一项(输出预留)。
  4. 用三问(谁产生 / 多久有效 / 谁负责裁剪)把任意一段窗口内容归入四成分。
  5. 解释"常驻税"与"动态层"的零和关系。
  6. 把 Anthropic 与 LangChain 的上下文组件翻译成四成分语言。

核心概念速览

(文字流程图) E ──▶ "四成分分类法(三问归位)" "四成分分类法(三问归位)" ──▶ "指令|开发者|全程常驻" "四成分分类法(三问归位)" ──▶ "记忆|系统累积|跨轮 / 跨会话" "四成分分类法(三问归位)" ──▶ "工具|开发者|每轮常驻" "四成分分类法(三问归位)" ──▶ "素材|运行时取自世界|时效最短" "指令|开发者|全程常驻" ──▶ "常驻税(每轮全额支付)" "工具|开发者|每轮常驻" ──▶ "常驻税(每轮全额支付)" "记忆|系统累积|跨轮 / 跨会话" ──▶ "动态层(唯一无限增长)" "素材|运行时取自世界|时效最短" ──▶ "动态层(唯一无限增长)"

一句话金句:窗口是预算,不是仓库——塞满很容易,用好很贵。

💡 本章的门槛刻意压低:不要求任何数学,两节合读约 100 分钟;但 1.2 节的四成分表值得精读两遍——它是此后每一章的目录与索引,第 3~6 章不过是把四个格子逐一填满。

子章节导航

1.1 窗口即预算:容量与注意力的直觉

token 量级直觉;每轮全价重付;注意力稀释与"长上下文幻觉";预算恒等式;三个常见误区。

1.2 四种成分:指令、记忆、工具与素材

三问归位法;四成分对照表(全书之纲);逐成分细看;零和与常驻税;与 Anthropic / LangChain 框架的对照。

子章节之间的逻辑关系

1.1 窗口即预算(约束是什么:容量 × 注意力) │ 约束立住了,问"预算花在哪" ↓ 1.2 四成分(钱的去向:四个科目 + 输出预留) │ 科目划好了,问"各科目给多少、超了砍谁" ↓ 第 2 章 预算分配(分配表、驱逐顺序、位置编排)

1.1 回答"约束是什么",1.2 回答"约束内的科目怎么划"——前者是账本的总额,后者是账本的科目表;第 2 章才谈怎么花。

前置知识与后续延伸

前置知识:第 0 章的分界语言("怎么说"对"装什么");对 chat API 的 messages 结构有体感(0.2 节先修)。

为后续奠定基础:预算恒等式与四成分表是第 2 章分配表的输入、第 3 章常驻层审计的口径、第 6 章(后半)压缩账本的科目;"常驻税 vs 动态层"的划分预告了全书的结构——第 3 章管税(设计期裁剪),第 4~5 章(后半)管动态层(运行时策略),第 6 章(后半)管装不下时的重构。


作者与出处
原作者: 灏天文库
整理: 灏天文库整理
本站整理收录,版权归原作者/开源协议所有;欢迎通过原文链接访问源仓库。
发布者: 作者: 灏天文库 转发
评论区 (0)
U