Laya 实战:多语言轻量决策引擎与路由 · 第 1 章 心智模型


Laya 实战:多语言轻量决策引擎与路由 · 第 1 章 心智模型

章节摘要:在跑代码之前把两个心智模型立稳。1.1 节把双过程理论落到工程:自回归生成是「逐 token 的 System 2 循环」,适合开放生成与复杂推理;laya 的单次前向打分是「System 1 直觉」,输出选项上的概率分布——正因为输出是分布而不是文本,它天然可校准、可弃权、可批量,这三条是第 7 章置信门控的地基(概念出处:《Jev 决策编程》第 02 章《核心心智模型》)。1.2 节看 typed 三原语在 laya 里的形态:choice 返回选项概率分布、score 返回分档概率、noul 返回是 / 否 / 不知道三值,配 SDK 字段示意与选型速查表——选型思想承自《Jev 决策编程》第 03 章《三种问题类型》,本书只讲 laya 侧形态差异。

学习目标

  • 用工程语言说出 System 1 与 System 2 的分工:打分选择 vs 逐 token 生成。
  • 解释「输出是分布」带来的三条工程红利:可校准、可弃权、可批量。
  • 说出 choice / score / noul 三原语在 laya 返回结果里的字段形态。
  • 面对一个新任务,能在三十秒内选出该用哪个原语。
  • 知道三原语概念的完整版在《Jev 决策编程》哪两章,需要时回查。

核心概念速览

laya 的一次调用(形态示意) 状态文本 + 问题 + 选项 单次前向 返回什么 ┌──────────────────────┐ ┌──────────────┐ ┌────────────────────────┐ │ 「这封邮件:发票开错…」 │ ───▶ │ encoder 编码 │ ───▶ │ choice:各选项概率 │ │ 问题:属于哪类? │ │ 决策头打分 │ │ score :各分档概率 │ │ 选项:账务/物流/… │ │ (无生成循环)│ │ noul :是/否/不知道 │ └──────────────────────┘ └──────────────┘ └────────────────────────┘ System 1 直觉 概率分布,不是文本 ​

一句话金句:打分输出的是分布,分布可以校准;生成输出的是文本,文本只能校验。

(文字流程图)任务进来 ──▶ 有明确选项吗 ──▶ 有则 choice ──▶ 是刻度则 score ──► 是非且允许「不知道」则 noul ──▶ 都不是则回第 9 章选型。

子章节导航

  • 第 1.1 节《System 1 决策 vs 自回归生成》:双过程理论的工程对应、两种工作方式的延迟根源、分布输出的三条工程红利、何时必须回到 System 2。
  • 第 1.2 节《typed 三原语在 laya 中的形态》:choice / score / noul 的返回字段示意、选型速查表、两个务实提醒。

两节按序读:先立「分布 vs 文本」的总纲,再看三种分布各自长什么样。

子章节之间的逻辑关系

┌────────────────────────┐ 形态落到三种原语 ┌────────────────────────┐ │ 1.1 System 1 vs 自回归 │ ────────────────────▶ │ 1.2 typed 三原语形态 │ │ 分布输出·三条工程红利 │ │ choice/score/noul │ └───────────┬────────────┘ └───────────┬────────────┘ │ 红利兑现:校准→第 7 章;弃权→第 7 章 │ 使用入口:SDK→第 3 章 ▼ ▼ 第 7 章 校准与置信门控 第 2 章 三检查点与 Router ​

前置知识与后续延伸

  • 前置:第 0.1 节的谱系图与「单次前向为什么快」;概念底座建议回看《Jev 决策编程》第 02 章《核心心智模型》。
  • 环境提醒:本章无代码门槛,动手前过一遍第 0.2 节的三步自检即可。
  • 后续:第 2 章《三检查点与 Router》——三原语的形态有了,接下来看承载它们的三个检查点怎么分工。
  • 延伸阅读:《Evals 实战:LLM 评测工程》第 07 章《概率系统评测》——1.1 节「可校准」的论证在那里有完整方法学。

作者与出处
原作者: 灏天文库
整理: 灏天文库整理
本站整理收录,版权归原作者/开源协议所有;欢迎通过原文链接访问源仓库。
发布者: 作者: 灏天文库 转发
评论区 (0)
U