Laya 实战：多语言轻量决策引擎与路由 · 第 4 章 laya-serve 部署

Laya 实战：多语言轻量决策引擎与路由 · 第 4 章 laya-serve 部署

章节摘要：SDK 与 CLI 都要求调用方在同一运行时里，本章把决策能力搬到线上。4.1 节启动 laya-serve——官方自带的 FastAPI 服务（官方口径）——过健康检查，走通 POST /v1/systemone；该端点与 Jev 同线协议，官方客户端改 baseUrl 即可直连，协议全景在《Kev 实战：训练并运行你自己的决策模型》第 01 章《协议与兼容》展开，本节只讲 laya 侧差异：多检查点路由行为如何体现在请求与返回里。4.2 节做 Docker 化：一份 Dockerfile、健康检查、CPU 部署的资源限额与模型预下载。4.3 节走 ONNX 导出：把检查点变成 onnxruntime 上的推理文件，适合边缘与固定运行时场景。产出一台可上线的决策服务。

学习目标

• 启动 laya-serve 并通过健康检查确认存活。
• 用 POST /v1/systemone 完成一次 HTTP 决策，并解读返回。
• 把 Jev 官方客户端的 baseUrl 指到 laya-serve 实现直连（同线协议红利）。
• 说出 laya 侧与 Jev 的协议差异点：多检查点路由行为。
• 用 Dockerfile 加资源限额把服务容器化，并处理模型预下载。
• 判断什么场景值得上 ONNX，什么场景不值得。

核心概念速览

部署形态递进：从进程到服务到工件

  SDK（进程内）           laya-serve（HTTP 服务）        ONNX（推理工件）
┌────────────────┐    ┌───────────────────────┐    ┌────────────────────┐
│ Python 调用方    │    │ 任意语言的调用方        │    │ 无训练栈的运行时     │
│ 同机同运行时     │ ─▶ │ POST /v1/systemone    │ ─▶ │ onnxruntime CPU     │
│ 最快·最封闭      │    │ 与 Jev 同线协议        │    │ 最轻·自己包路由      │
└────────────────┘    └───────────┬───────────┘    └────────────────────┘
                                  │ 容器化交付（4.2）
                                  ▼
                        Docker：环境钉死·限额·健康检查
​

一句话金句：SDK 管你能调多快，服务管谁能调你，ONNX 管你能在哪儿跑。

（文字流程图）装 serve 扩展 ──▶ 启动与健康检查 ──▶ POST /v1/systemone ──▶ Jev 客户端改 baseUrl 直连 ──▶ Docker 化加限额 ──▶ 按需 ONNX 导出。

子章节导航

• 第 4.1 节《HTTP 服务与 Jev 协议兼容》：启动、健康检查、/v1/systemone 请求与返回、客户端直连、laya 侧的多检查点路由差异。
• 第 4.2 节《Docker 化部署》：Dockerfile、健康检查、CPU 资源限额、模型预下载与镜像体积取舍。
• 第 4.3 节《ONNX 导出与推理》：导出流程、onnxruntime CPU 推理、延迟对比（示意值）、适用与不适用场景。

三节按序读：先把服务裸跑起来，再容器化交付，最后按场景决定要不要 ONNX 这一步减法。

子章节之间的逻辑关系

┌──────────────────┐    环境钉死·可交付    ┌──────────────────┐    按场景做减法    ┌──────────────┐
│ 4.1 HTTP 服务与  │ ─────────────────▶ │ 4.2 Docker 化    │ ──────────────▶ │ 4.3 ONNX     │
│ Jev 协议兼容     │                    │ 部署             │                  │ 导出与推理    │
└────────┬─────────┘                    └────────┬─────────┘                  └──────┬───────┘
         │ 同线协议→可混部 Jev                   │ 预下载→离线可跑                    │ 工件→边缘可跑
         ▼                                        ▼                                   ▼
        第 9 章 三向选型（部署形态是选型的重要维度）        第 5 章 微调（用对之后才是调好）
​

前置知识与后续延伸

• 前置：第 3 章的 SDK 三入口（serve 暴露的就是同一套能力）；第 2 章的路由概念（服务侧行为的解读基础）。
• 后续：第 5 章《微调：RLCD 与业务定制》——服务跑通、能力达到预期后，把检查点调成懂业务的版本。
• 延伸阅读：《Kev 实战：训练并运行你自己的决策模型》第 01 章《协议与兼容》——/v1/systemone 的字段级全景与版本兼容策略。