本节摘要:Jev 不是"更好的 LLM",也不是 LLM 的替代品——两者是卡尼曼意义上的系统一与系统二,擅长的事几乎不重叠。本节先给出八个维度的对比表(输出、采样、延迟、成本、幻觉、概率、推理、用途),然后给出本教程的第一个架构模式:分层 Agent——Jev 做门(输入护栏、模型路由、输出验证),LLM 做活(生成、推理、多步任务)。记住口诀"Jev 管门、LLM 管活",第 6~7 章的所有模式都是这个口诀的变体。
阅读完本节,你应当能够:
| 维度 | LLM(生成式 / 系统二) | Jev(System One / 系统一) |
|---|---|---|
| 输出 | 自由文本(需解析与防御) | 类型安全值 + 概率 + 置信度 |
| 采样方式 | 逐 token 串行 | 所有问题并行求值 |
| 端到端延迟 | 3 秒 ~ 5 分钟 | 70~500ms,多数约 100ms |
| 成本 | 输入输出都贵 | 输入 $0.042/百万 token,输出免费 |
| 幻觉 | 可能编造内容 | 结构上不可能产出枚举外的值(判断仍可能错) |
| 概率 | 难获取、未校准 | 每个答案自带校准概率(RLCD) |
| 数学/计数/多跳推理 | 强 | 不做(第 10 章) |
| 典型用途 | 写作、代码、多步推理 | 分类、路由、评分、排名、验证、护栏 |
读这张表的正确方式不是"谁强谁弱",而是"哪些行几乎不重叠"——输出形态、延迟量级、成本量级、概率可用性,四行的差距是数量级级别的,这意味着大量此前"用 LLM 太重、用规则太笨"的决策空位,现在有了落点。
一个典型 Agent 请求的生命周期:
四个组件里三个是 Jev 的门,只有中间的"活"是 LLM:
| 组件 | 用谁 | 为什么 |
|---|---|---|
| 输入护栏(拦截注入、违规) | Jev(Noul 扇出) | 每请求必经,必须快而便宜;答案空间 = 拦/放 |
| 模型路由(省钱) | Jev(Choice) | 一次 100ms 的判断决定后面秒级调用的成本 |
| 生成与推理 | LLM | 开放答案空间,系统二的活 |
| 输出验证(忠实/合规) | Jev(Noul 扇出) | 每次输出必查;判断标准有限可枚举 |
| 工具执行前护栏(危险命令) | Jev(Noul 扇出) | 拦/放 + 原因可解释(第 7.3 节完整实现) |
这个架构正是 LangChain 为 Jev 提供开箱中间件的方向:ModelRouterMiddleware(路由)与 AutoModeMiddleware(工具护栏),第 4.3 节会看到代码。
一个容易忽略的推论:因为 Jev 对 K 个问题并行求值、一次返回,"多问一句"的边际成本趋近于零(第 5.1 节有实测数字)。这反过来改变架构习惯:
软件设计里"判断"从昂贵资源变成廉价资源,这是 Jevons 悖论在架构层面的投影(第 1.2 节)。
心智模型完成:输入输出、能干什么、和谁配合。下一章进入语法层——三种问题类型 Noul、Choice、Score 的完整设计规范。