记忆块与睡眠时计算

记忆块与睡眠时计算

本节摘要:MemGPT(第 07 节)解决了虚拟内存的控制流,但生产里冒出三个新问题:每次记忆操作都卡在关键路径上,尾巴延迟爆炸;写入堆积、矛盾事实残留,检索被陈旧内容淹没;扁平归档库表达不出「Human 块常驻提示、Persona 块常驻、Task 块按会话换」。Letta(MemGPT 在 2024 年的产品化名字)用两个机制回答:记忆块(Memory Blocks) 把结构变成模型可直接编辑的一等公民类型化对象——Human 块、Persona 块、以及任意的 Task / Project / Safety 块;睡眠时计算(Sleep-Time Compute) 让一个后台 Agent 在主 Agent 空闲时异步地合并、去重、作废记忆。本节吃透三层记忆(Core / Recall / Archival)、记忆块的工具面、睡眠期 Agent 的三个性质(零延迟代价、可上更强模型、天然的合并窗口),并用标准库实现一个双 Agent 脚本循环:主 Agent 负责响应、睡眠 Agent 在轮次间整理块。读完本节,你应理解记忆如何从「单次对话」扩展到「跨对话持久」。

对应原课程:Phase 14 · Lesson 08 · memory-blocks-sleep-time-compute(原英文 phases/14-agent-engineering/08-memory-blocks-sleep-time-compute/docs/en.md)。

学习目标

阅读完本节,你应当能够:

1. 说出 Letta 的三层记忆(Core / Recall / Archival)及各自的作用。
2. 解释记忆块模式:Human 块、Persona 块、用户自定义块都是一等公民的类型化对象。
3. 描述睡眠时计算是什么、为什么它脱离关键路径、为什么能跑比主 Agent 更强的模型。
4. 用标准库实现一个双 Agent 脚本循环:主 Agent 出响应,睡眠 Agent 在轮次间整理块。
5. 诊断块膨胀、静默漂移、合并投毒三大反模式。

一、问题与直觉

MemGPT 解决了虚拟内存的控制流,但生产里冒出三个问题:

1. 延迟(Latency) —— 每个记忆操作都在关键路径上。如果用户在等的时候 Agent 还要剪枝、摘要、对账,尾巴延迟(尾部的慢请求)就炸了。
2. 记忆腐烂(Memory Rot) —— 写入堆积,矛盾的事实还在,检索被陈旧内容淹没(第 07 节已点出)。
3. 结构丢失(Structure Loss) —— 扁平的归档库表达不出「Human 块永远在提示里、Persona 块永远在提示里、Task 块按会话换」。

Letta(原 MemGPT 项目 2024 年采用的平台名,论文仍叫 MemGPT)用两个机制解决:记忆块让结构显式化,睡眠时计算把合并移出关键路径。

三层记忆

MemGPT 的两层(主上下文 + 外部)在生产里被拆成三层,各自职责清晰:

Core 就是 MemGPT 的 core;Recall 是带淘汰尾的对话缓冲;Archival 是外部库。这个拆分清理了 MemGPT 两层模型里的职责重叠。

记忆块:类型化的可编辑区段

块(Block) 是核心层里一个类型化、持久、可编辑的区段。原 MemGPT 论文定义了两块:

• Human 块 —— 关于用户的事实(姓名、角色、偏好、目标)。
• Persona 块 —— Agent 的自我认知(身份、语气、约束)。

Letta 推广到任意用户自定义块:Task 块装当前目标、Project 块装代码库事实、Safety 块装硬性约束。每个块都有 id、label、value、limit(字符上限)、description(让模型知道何时该编辑它)。

块通过工具面编辑(注意它们就是第 07 节记忆工具的细化):

• block_append(label, text)
• block_replace(label, old, new)
• block_read(label)
• block_summarize(label) —— 当块接近上限时压缩它。

睡眠时计算:把合并移出关键路径

2025 年 Letta 的新增:跑第二个 Agent 在后台,脱离关键路径。睡眠期 Agent 处理对话转录与代码库上下文,把 learned_context(学到的事实)写进共享块,并合并或作废归档记录。

由此带来的三个性质:

• 零延迟代价 —— 主 Agent 的响应不等记忆操作。
• 可上更强模型 —— 睡眠期 Agent 不受延迟约束,可以用更贵更慢的模型。
• 天然的合并窗口 —— 在用户不等的时候去重、摘要、作废矛盾事实。

这个形状跟人类的工作方式一致:白天做事、晚上睡觉、长期记忆在夜里沉淀。

💡 设计要点:睡眠期是「用算力换延迟」的极致。主 Agent 只负责快和准;所有的整理、合并、深度推理都甩给一个不慌不忙的后台 Agent。这也是为什么睡眠期可以承担更贵的模型——它的代价是钱,不是用户体验。

原生推理

Letta V1(letta_v1_agent, 2026)废弃了 send_message/心跳包和提示里的内联 Thought: token,改用原生推理(Native Reasoning)。OpenAI 的 Responses API 和 Anthropic 带扩展思考的 Messages API,都在单独的通道上输出推理,跨轮次透传(生产里跨厂商加密)。控制循环仍是 ReAct,但思考轨迹是结构性的,而非提示形状的。

这个模式在哪里出错

• 块膨胀(Block Bloat) —— 无限 block_append 很快就撞上限。在「会把块推过上限的那次写入」之前,先接一个块摘要器。
• 静默漂移(Silent Drift) —— 睡眠期 Agent 重写了块,主 Agent 浑然不觉。给块做版本,把 diff 摆进轨迹里。
• 合并投毒(Poisoned Consolidation) —— 睡眠期 Agent 把攻击者可触达的内容处理进了核心。第 27 节的提示注入防御同样适用于睡眠期面。

二、从零实现

原课程 code/main.py 实现:

• Block —— id、label、value、limit、description。
• BlockStore —— 增删改查 + near_limit(label) 辅助。
• 两个脚本 Agent —— PrimaryAgent 出一轮响应,SleepTimeAgent 在轮次间整理。
• 一段轨迹:三轮对话带块写入,加一次睡眠期整理(摘要一个块、作废一条陈旧事实)。

核心骨架如下,用伪代码展示。

Step 1:块(类型化对象)

class Block:
    def __init__(self, label, description, limit=500):
        self.id = f"blk_{label}"
        self.label = label            # 如 "human" / "persona" / "task"
        self.description = description # 让模型知道何时该编辑
        self.limit = limit            # 字符上限
        self.value = ""

    def near_limit(self, threshold=0.8):
        return len(self.value) >= self.limit * threshold
​

Step 2:块存储(CRUD + 上限检测)

class BlockStore:
    def __init__(self):
        self.blocks = {}              # label -> Block
        self.history = {}             # label -> [旧值...]  用于调试与版本

    def append(self, label, text):
        blk = self.blocks[label]
        self.history.setdefault(label, []).append(blk.value)
        blk.value += text + "\n"
        if blk.near_limit():
            return f"警告:{label} 块接近上限,建议睡眠期摘要"
        return f"已追加到 {label}"

    def replace(self, label, old, new):
        blk = self.blocks[label]
        self.history.setdefault(label, []).append(blk.value)
        blk.value = blk.value.replace(old, new)
        return f"已替换 {label} 中的片段"
​

Step 3:双 Agent 循环

def primary_turn(ctx, user_msg):
    # 主 Agent:快,只做原始写入
    reply = f"(主 Agent 响应 {user_msg})"
    ctx.store.append("task", f"用户问:{user_msg}")
    return reply

def sleep_time_pass(ctx):
    # 睡眠 Agent:慢,做整理
    for label, blk in ctx.store.blocks.items():
        if blk.near_limit():
            summary = f"(摘要 {label}: ...核心要点...)"
            ctx.store.blocks[label].value = summary    # 压缩
    invalidate_stale_archival(ctx)                     # 作废矛盾事实
    return "睡眠期整理完成"
​

运行 python3 code/main.py 会展示这个分工:主 Agent 轮次很快、产出原始写入;睡眠期回合负责压缩和清理。

💡 设计要点:主 Agent 与睡眠 Agent 的分工边界要硬。主 Agent 永远不碰摘要、不去重、不作废——这些都在睡眠期做。这条边界一旦模糊,延迟又会被拉回关键路径。

三、框架对比

• Letta(letta.com)—— 参考实现,可自托管或用托管云。三层 + 块 + 睡眠期的标准范式。
• Claude Agent SDK 技能(Skills) —— 技能就是块状知识:一个命名、带版本、可检索的指令块,Agent 按需加载。本质上就是 Persona / Project 块的变体。
• 自建 —— 想控制存储后端的团队可自建。建议沿用 Letta 的 API 契约,日后能迁移。

四、可复用产物

本节产出一份可复用技能(原课程 outputs/skill-memory-blocks.md):

• skill-memory-blocks.md:给定任意运行时,生成一个 Letta 形状的块系统 + 睡眠期钩子,内置安全规则与引用接线。包含块设计清单(每个块的 label / description / limit 怎么定?哪些块该有版本?哪些块该被睡眠期视为不可信?),以及睡眠期安全清单(睡眠 Agent 写 Persona / Safety 块是否需二审?learned_context 是否带来源?合并后的旧值是否归档可回溯?)。

Python 代码(code/main.py)是独立可运行的双 Agent 骨架,块结构、CRUD、睡眠期钩子都是厂商无关的;把脚本 Agent 换成真实 LLM、把内存块库换成持久存储即可投入生产。

五、练习

1. (Easy) 实现 block_summarize 工具:当 near_limit 为真时,用模型生成的摘要替换块值。哪个触发阈值能同时最小化摘要调用次数和块溢出?
2. (Medium) 在睡眠期对归档做去重:两条 token 重叠 >90% 的记录合并成一条。只在睡眠期做,绝不在关键路径上做。
3. (Medium) 给块做版本:每次写入记录旧值与 diff,暴露 block_history(label),让运维能调试「Agent 为什么忘了 X」。
4. (Hard) 把睡眠期 Agent 当作不可信写者。当它要碰 Persona 或 Safety 块时,必须经第二个 Agent 复审后才能提交。
5. (Hard) 把示例移植到 Letta API(letta_v1_agent)。块模式变了什么?原生推理如何改变轨迹形状?

本节要点回顾

1. 生产记忆三层:Core(始终可见,提示内)、Recall(对话历史,可检索)、Archival(外部库,向量/KV/图)。
2. 记忆块是类型化对象:Human 块、Persona 块、自定义块,带 id/label/value/limit/description,模型可直接编辑。
3. 块工具面:block_append/replace/read/summarize,是第 07 节记忆工具的细化。
4. 睡眠时计算:后台第二个 Agent 脱离关键路径,做合并、去重、作废。
5. 睡眠期三性质:零延迟代价、可上更强模型、天然合并窗口。
6. 分工边界要硬:主 Agent 只做快和原始写入,所有整理都在睡眠期。
7. 原生推理:V1 废弃 send_message/心跳与内联 Thought:,改用厂商级单独通道输出思考。
8. 块膨胀:无限 append 撞上限,写入前先接摘要器。
9. 静默漂移:睡眠期重写块主 Agent 不知,要版本 + diff 进轨迹。
10. 合并投毒:睡眠期处理攻击者内容进核心,第 27 节防御同样适用。

下一节,我们把记忆推向混合存储——Mem0 用向量 + KV + 图三层后端融合在一个打分层里,带冲突检测与显式作废,正是本节「睡眠期去重作废」的工程化生产版。