Laya 实战:多语言轻量决策引擎与路由 · 第 0 章 导览


Laya 实战:多语言轻量决策引擎与路由 · 第 0 章 导览

章节摘要:本书开篇先回答「为什么需要一台轻量决策引擎」。0.1 节把决策工具排成谱系:规则与关键词毫秒级但不懂语义;生成式 LLM 懂语义但单次几百毫秒到秒级、按 token 计费;laya 用非自回归的 System 1 架构把语义判断压进单次前向——官方 README 口径 32.8 毫秒、CPU 可跑、自托管,Jev 云端 API 则以 236~276 毫秒居中。据此给出适用清单(高频路由、内容审核、意图分类、多语言筛选)与不适用清单(开放生成、复杂推理)。0.2 节给出三条学习路线——快速上车型、微调定制型、架构选型型——并完成环境准备:Python 3.10 以上、pip 一步安装、无需 GPU、模型首调自动下载;最后用分工图交代本书与《Jev 决策编程》《Kev 实战》的边界。

学习目标

  • 能把 laya 放进「规则—轻量决策引擎—云端决策 API—生成式 LLM」四层谱系,说清每层的延迟与成本量级。
  • 能对照适用与不适用清单,判断手头的判断型任务是否适合交给 laya。
  • 能解释「单次前向」与「逐 token 生成」的延迟差异从何而来。
  • 选定一条学习路线(快速上车型 / 微调定制型 / 架构选型型)并知道各自的产出。
  • 完成环境三步自检:Python 版本达标、laya 安装成功、检查点可下载。
  • 说清本书与《Jev 决策编程》《Kev 实战》的分工:概念、轻量路线、重型路线各归哪本。

核心概念速览

决策工具谱系(延迟为官方 README 口径或量级描述) 规则/关键词 laya(本书主角) Jev 云端 API 生成式 LLM ┌─────────────┐ ┌───────────────────┐ ┌───────────────────┐ ┌───────────────────┐ │ 精确匹配 │ │ System 1·单次前向 │ │ System 1·云端 │ │ System 2·逐token │ │ 毫秒级·免费 │ ────▶ │ 32.8ms·CPU 可跑 │ ───▶ │ 236~276ms │─▶ │ 几百ms~秒级 │ │ 不懂语义 │ │ 自托管·100+ 语言 │ │ 按 token 计费 │ │ 开放生成/复杂推理 │ └─────────────┘ └───────────────────┘ └───────────────────┘ └───────────────────┘ 快而笨 快而懂语义 懂语义·托管 慢而全能 ​

一句话金句:决策引擎的竞争力不在「会回答多少问题」,而在「多便宜地答对一个问题」。

(文字流程图)任务进来 ──▶ 判断是不是「高频判断型」──▶ 是则交给 laya ──▶ 否则看是否要开放生成或深推理 ──▶ 是则交给 System 2,不是则回到第 9 章三向选型再权衡。

子章节导航

  • 第 0.1 节《轻量决策引擎的位置》:四层谱系、单次前向为什么快、适用与不适用清单、与 Jev 的关系、两条诚实提醒。
  • 第 0.2 节《路线图与环境准备》:三条学习路线、环境三步准备、自检脚本、三本书的分工图。

两节按序读:先确认「该不该用」,再决定「怎么学」。

子章节之间的逻辑关系

┌──────────────────────┐ 为什么值得学 ┌──────────────────────┐ │ 0.1 位置与谱系 │ ─────────────────────▶ │ 0.2 路线与环境 │ │ 适合什么·不适合什么 │ │ 三条路线·三步自检 │ └──────────┬───────────┘ └──────────┬───────────┘ │ 判断:laya 与你合不合 │ 决定:按哪条路径走 ▼ ▼ 不合适 → 第 9 章三向选型另找方案 合适 → 第 1 章心智模型打地基 ​

前置知识与后续延伸

  • 前置:无硬性先修;建议先翻《Jev 决策编程》第 02 章《核心心智模型》,建立「判断型决策」的概念底座。
  • 后续:第 1 章《心智模型》——System 1 与自回归生成的工程分界,以及 typed 三原语在 laya 里的返回形态。
  • 延伸阅读:《Kev 实战:训练并运行你自己的决策模型》第 01 章《协议与兼容》——若你关注自训重型路线,可与本书第 4 章对照阅读。

作者与出处
原作者: 灏天文库
整理: 灏天文库整理
本站整理收录,版权归原作者/开源协议所有;欢迎通过原文链接访问源仓库。
发布者: 作者: 灏天文库 转发
评论区 (0)
U