2.3 Jev 与 LLM:互补的系统一与系统二


2.3 Jev 与 LLM:互补的系统一与系统二

本节摘要:Jev 不是"更好的 LLM",也不是 LLM 的替代品——两者是卡尼曼意义上的系统一与系统二,擅长的事几乎不重叠。本节先给出八个维度的对比表(输出、采样、延迟、成本、幻觉、概率、推理、用途),然后给出本教程的第一个架构模式:分层 Agent——Jev 做门(输入护栏、模型路由、输出验证),LLM 做活(生成、推理、多步任务)。记住口诀"Jev 管门、LLM 管活",第 6~7 章的所有模式都是这个口诀的变体。

学习目标

阅读完本节,你应当能够:

  1. 默写 Jev 与 LLM 对比表的关键四行(输出/延迟/成本/概率)。
  2. 画出分层 Agent 架构图并标注每个组件用谁。
  3. 解释"串行生成 vs 并行求值"对架构设计的连锁影响。

一、八个维度对比

维度 LLM(生成式 / 系统二) Jev(System One / 系统一)
输出 自由文本(需解析与防御) 类型安全值 + 概率 + 置信度
采样方式 逐 token 串行 所有问题并行求值
端到端延迟 3 秒 ~ 5 分钟 70~500ms,多数约 100ms
成本 输入输出都贵 输入 $0.042/百万 token,输出免费
幻觉 可能编造内容 结构上不可能产出枚举外的值(判断仍可能错)
概率 难获取、未校准 每个答案自带校准概率(RLCD)
数学/计数/多跳推理 不做(第 10 章)
典型用途 写作、代码、多步推理 分类、路由、评分、排名、验证、护栏

读这张表的正确方式不是"谁强谁弱",而是"哪些行几乎不重叠"——输出形态、延迟量级、成本量级、概率可用性,四行的差距是数量级级别的,这意味着大量此前"用 LLM 太重、用规则太笨"的决策空位,现在有了落点。

二、架构模式:Jev 管门,LLM 管活

一个典型 Agent 请求的生命周期:

四个组件里三个是 Jev 的门,只有中间的"活"是 LLM:

组件 用谁 为什么
输入护栏(拦截注入、违规) Jev(Noul 扇出) 每请求必经,必须快而便宜;答案空间 = 拦/放
模型路由(省钱) Jev(Choice) 一次 100ms 的判断决定后面秒级调用的成本
生成与推理 LLM 开放答案空间,系统二的活
输出验证(忠实/合规) Jev(Noul 扇出) 每次输出必查;判断标准有限可枚举
工具执行前护栏(危险命令) Jev(Noul 扇出) 拦/放 + 原因可解释(第 7.3 节完整实现)

这个架构正是 LangChain 为 Jev 提供开箱中间件的方向:ModelRouterMiddleware(路由)与 AutoModeMiddleware(工具护栏),第 4.3 节会看到代码。

三、"并行"带来的架构连锁反应

一个容易忽略的推论:因为 Jev 对 K 个问题并行求值、一次返回,"多问一句"的边际成本趋近于零(第 5.1 节有实测数字)。这反过来改变架构习惯:

  • 传统思路:能少调一次是一次,判断按需懒执行;
  • Jev 思路:反正都问了,答案留着总有用——一次把护栏、路由、验证、打标的问题全问掉,哪怕一半答案暂时用不上。

软件设计里"判断"从昂贵资源变成廉价资源,这是 Jevons 悖论在架构层面的投影(第 1.2 节)。

本节要点回顾

  1. 对比:输出/延迟/成本/概率四行是数量级差距——大量决策空位由此打开。
  2. 架构:Jev 管门(输入护栏、路由、输出验证、工具护栏),LLM 管活(生成推理)。
  3. 习惯:并行求值让"多问一句"近零成本——投机性扇出成为默认姿势。

心智模型完成:输入输出、能干什么、和谁配合。下一章进入语法层——三种问题类型 Noul、Choice、Score 的完整设计规范。


作者与出处
原作者: 灏天文库
整理: 灏天文库整理
本站整理收录,版权归原作者/开源协议所有;欢迎通过原文链接访问源仓库。
发布者: 作者: 灏天文库 转发
评论区 (0)
U