Laya 实战：多语言轻量决策引擎与路由 · 第 3 章 SDK 实战

Laya 实战：多语言轻量决策引擎与路由 · 第 3 章 SDK 实战

章节摘要：概念齐备，本章动手。3.1 节从安装开始：Python 3.10 以上、pip 安装 laya、检查点在首次调用时自动下载（均为官方口径），然后发出第一个 choice 调用，并把返回结果逐字段解读（answer、probabilities、confidence、checkpoint 的语义与下游用法）。3.2 节上批量与封装：predict_batch 把一批 context 与 questions 组织成一次调用，吞吐优势来自无循环依赖的并行；decide 直接返回决策加置信，为第 7 章弃权门控留好接口。3.3 节看 CLI：预测、脚本检测、模型信息与管道化用法。本章代码均标写法示意，接口以官方 README 为准。

学习目标

• 完成安装并独立发出第一次 predict，逐字段说清返回结果。
• 理解检查点自动下载的时机，以及离线与容器环境的预下载问题。
• 用 predict_batch 组织一批 context × questions 的批量调用。
• 用 decide 拿到「决策加置信」的直接形态，并知道它与第 7 章门控的衔接点。
• 用 CLI 完成命令行预测、脚本检测与模型信息查看，并接进 shell 管道。

核心概念速览

SDK 三层入口：从原始到封装

  predict          predict_batch          decide
┌─────────────┐  ┌───────────────────┐  ┌─────────────────────┐
│ 单次调用     │  │ 一批 context ×     │  │ 高层封装：直接返回    │
│ 完整分布     │  │ questions 一次出   │  │ 决策 + 置信，低置信   │
│ 调试与低频   │  │ 并行红利·吞吐场景  │  │ 可弃权（接第 7 章）  │
└─────────────┘  └───────────────────┘  └─────────────────────┘
     CLI 侧对应同一套能力：预测 / 脚本检测 / 模型信息，可进 shell 管道
​

一句话金句：predict 给你看分布，decide 替你做动作——先看懂前者，再信任后者。

（文字流程图）安装 ──▶ 首次 predict（触发模型下载）──▶ 逐字段读返回 ──▶ predict_batch 提吞吐 ──▶ decide 接门控 ──▶ CLI 进管道。

子章节导航

• 第 3.1 节《安装与第一次 predict》：安装与验证、第一个 choice 调用、返回逐字段解读、自动下载的幕后、常见第一坑。
• 第 3.2 节《predict_batch 与 decide》：批量的组织方式、decide 的封装形态、单次与批量的量级对照（示意值）、什么时候不要批量。
• 第 3.3 节《CLI 工具》：命令行预测、脚本检测、模型信息查看、管道化用法、CLI 与 SDK 的边界。

三节按序读：跑通单次才能对照批量，用过 SDK 再看 CLI 才知道它省掉了什么。

子章节之间的逻辑关系

┌──────────────┐    一次变一批      ┌──────────────────┐    封装提抽象     ┌──────────────┐
│ 3.1 第一次    │ ──────────────▶ │ 3.2 batch 与     │ ──────────────▶ │ 3.3 CLI 工具  │
│ predict      │                  │ decide           │                  │ shell 侧入口  │
└──────┬───────┘                  └────────┬─────────┘                  └──────┬───────┘
       │ 读懂返回形态                      │ decide 的置信接口                    │ 验证与胶水
       ▼                                  ▼                                     ▼
  第 4 章 laya-serve（SDK 的能力以 HTTP 服务的形式暴露给其他系统）
​

前置知识与后续延伸

• 前置：第 2 章的检查点与 Router 概念（本节的 checkpoint 字段来自那里）；第 1.2 节的三原语返回形态。
• 后续：第 4 章《laya-serve 部署》——把本章的 SDK 能力包成 HTTP 服务，供非 Python 系统调用。
• 延伸阅读：微调如何改变本章看到的概率质量，见第 5 章；decide 的置信字段如何变成弃权动作，见第 7 章。