Laya 实战：多语言轻量决策引擎与路由

教程总纲 · Laya 实战：多语言轻量决策引擎与路由

讲什么、怎么学、怎么跳读，一页说清。本书面向工程者：每一步都给能跑的命令与代码。

一、这本书讲什么

一句话：把开源的轻量决策引擎 laya 用对——一台单次前向几十毫秒、CPU 可跑、覆盖 100+ 语言、带路由的 System 1 决策机。

展开成三句：

1. 轻与快是定位。 laya 非自回归，一次前向给出 choice（单选）、score（刻度评分）、noul（是非）三种带类型决策；官方 README 口径单次 32.8 毫秒，对照 Jev 云端 API 的 236~276 毫秒，生成式 LLM 则是几百毫秒到秒级（量级描述）。
2. 路由是骨架。 laya 421M（ModernBERT-large 底座，英语）、laya-multilingual 322M（mmBERT 底座，100+ 语言）、laya-typed-decisions（typed 决策特化）三个检查点，Router 按输入的文字脚本自动分流，也支持显式指定。
3. 诚实是底线。 官方声明：底座检查点 zero-shot 接近随机猜，价值在微调；高基数（约 20 个以上选项）场景 Jev 更强。第 9~10 章把边界当一等公民。

二、全书地图

【认知】                 【用起来】                 【调出来】               【选明白】
第 0 章 导览              第 2 章 三检查点与Router   第 5 章 微调             第 8 章 生态集成
 ├ 0.1 位置与谱系           ├ 2.1 三个检查点           ├ RLCD·Kaggle 2×T4       ├ MCP·LangChain·ONNX
 └ 0.2 路线与环境           ├ 2.2 脚本检测与路由       第 6 章 长文本与高基数    第 9 章 三向选型
第 1 章 心智模型           └ 2.3 默认路由的取舍       ├ predict_long·budget    第 10 章 诚实边界与陷阱
 ├ 1.1 System1 vs 自回归     第 3 章 SDK 实战          └ shortlist·tournament   附录 A / B / C
 └ 1.2 typed 三原语形态      ├ 3.1 安装与第一次predict  第 7 章 校准与置信门控
                             ├ 3.2 batch 与 decide     ├ 温度拟合·两种置信
 第 4 章 laya-serve 部署     └ 3.3 CLI 工具            └ min_confidence 弃权
  ├ 4.1 HTTP与Jev协议
  ├ 4.2 Docker 化      ※ 第 4 章属「用起来」段，服务化是用起来的最后一步
  └ 4.3 ONNX 导出
        │                        │                        │                       │
        ▼                        ▼                        ▼                       ▼
   建立判断标准      ──▶     跑通与部署        ──▶    懂业务·可信任       ──▶   进架构·知边界
​

（文字流程图）理解轻量决策的位置 ──▶ 认识三检查点与 Router ──▶ SDK 与 CLI 上手 ──▶ laya-serve 服务化与容器化 ──▶ 微调定制 ──▶ 长文本与高基数扩展 ──▶ 校准与弃权收口 ──▶ 生态集成与三向选型 ──▶ 诚实边界收束全书。

三、按需跳读

• 只想快点跑起来：0.2 → 第 2 章 → 3.1 → 4.1，半天产出本地决策服务。
• 要微调自己的业务：第 3 章 → 第 5 章 → 第 7 章，先会用再教它。
• 输入很长或选项很多：直读第 6 章，再回 2.3 看路由取舍。
• 做技术选型：0.1 → 第 9 章 → 第 10 章，一小时拿到结论。
• 查协议与部署细节：4.1 → 4.2 → 4.3；协议全景另见《Kev 实战：训练并运行你自己的决策模型》第 01 章《协议与兼容》。
• 补概念：三原语与心智模型见《Jev 决策编程》第 02 章《核心心智模型》、第 03 章《三种问题类型》。

四、章节目录

第 0 章 导览
　0.1 轻量决策引擎的位置
　0.2 路线图与环境准备

第 1 章 心智模型
　1.1 System 1 决策 vs 自回归生成
　1.2 typed 三原语在 laya 中的形态

第 2 章 三检查点与 Router
　2.1 三个检查点各自的底座
　2.2 脚本检测与路由策略
　2.3 默认路由的取舍

第 3 章 SDK 实战
　3.1 安装与第一次 predict
　3.2 predict_batch 与 decide
　3.3 CLI 工具

第 4 章 laya-serve 部署
　4.1 HTTP 服务与 Jev 协议兼容
　4.2 Docker 化部署
　4.3 ONNX 导出与推理

第 5 章 微调：RLCD 与业务定制
第 6 章 长文本与高基数
第 7 章 校准与置信门控
第 8 章 生态集成
第 9 章 三向选型
第 10 章 诚实边界与陷阱

附录
　附录 A 术语表
　附录 B API 速查
　附录 C 练习题

后半本逐章简介：

• 第 5 章 微调：RLCD 与业务定制：RLCD 训练怎么把「接近随机猜」的底座变成业务决策器——typed 基准微调后 0.362 升到 0.766（官方口径）；官方提供 Kaggle 2×T4 免费 GPU 的微调 notebook，不买卡也能上手；另有 browser-agent 决策头微调案例。
• 第 6 章 长文本与高基数：predict_long 用窗口扫描处理超长输入；option budget 给算力画预算；选项多到几十个时用 predict_shortlist 先粗筛、tournament 再决胜的两段式。
• 第 7 章 校准与置信门控：温度拟合校准概率；answer_confidence 与 entropy confidence 两种置信的语义差异；min_confidence 让低置信样本走弃权而不是硬答。方法学引用《Evals 实战：LLM 评测工程》第 07 章《概率系统评测》。
• 第 8 章 生态集成：MCP server 接进工具链；LangChain 与 LangGraph 里把 laya 当路由节点；ONNX 导出与运行时集成；CLI 与 SDK 全景盘点。
• 第 9 章 三向选型：laya、Jev 与传统方案（规则、关键词、小分类器）三向对照——延迟、成本、多语言、微调自由度、高基数能力五个维度一张表加一棵决策树。
• 第 10 章 诚实边界与陷阱：把官方诚实声明展开成工程清单——zero-shot 别直接上线、高基数换 Jev、混合语言先测路由、概率要校准再用；常见误用逐条给规避动作。
• 附录：A 术语表收全书关键术语；B API 速查按 SDK / CLI / HTTP 三栏；C 练习题覆盖概念、实操、设计三层。

五、参考来源

• laya 官方仓库 README 与文档（NandhaKishorM/laya，Apache-2.0）：定位、三检查点、Router、延迟与微调口径、诚实声明
• Convai Innovations 在 Hugging Face 的模型页（三个检查点的底座与参数量）
• 《Jev 决策编程》第 02 章《核心心智模型》、第 03 章《三种问题类型》
• 《Kev 实战：训练并运行你自己的决策模型》第 01 章《协议与兼容》
• 《Evals 实战：LLM 评测工程》第 07 章《概率系统评测》
• Kahneman《思考，快与慢》（双过程理论背景）