章节摘要:把 Jev 从"能跑的 demo"变成"生产里的一个组件",本章三件事。状态设计(8.1):state 优先用对象、给字段起自解释的名字让 instructions 可用反引号路径引用、只放相关状态(塞进无关内容会稀释判断——独立实测列为主要失效模式之一)、守住 32K/64K 容量红线;请求纪律(问题 ID 是变量名、判别标准式 instructions、缓存相同请求——Jev 是纯函数,缓存语义干净)。上线方法(8.2):影子模式四步法——影子记录、对账改表、灰度切流、扩量监控;两条铁律:能确定性判断的 if 别换、永远留人工出口。运行面(8.3):成本速算($0.042/百万输入 token、输出免费,百万次调用约 $12.6 起)、限速与退避(429/529)、超时降级(客户端 2~5s,走保守分支)、版本钉死(生产用具体版本号)与全量观测落盘。
阅读完本章,你应当能够:
一句话金句:Jev 只是个 if 的另一边——别让它成为单点,也别让确定性 if 为它让路。
对象化 state 与路径引用;相关性过滤;容量红线;问题 ID/instructions/缓存三条纪律。
四周节奏表;两条铁律;监控指标与回退条件。
成本速算三例;限速与退避;超时降级;版本钉死与观测落盘。
8.1 状态与请求(把输入做对 —— 质量的一半) │ ▼ 8.2 影子模式(安全地切流量 —— 风险控制) │ ▼ 8.3 运行面(持续地跑下去 —— 成本与稳定性)
前置知识:第 6~7 章(至少一个应用模式的完整实现)。
为后续奠定基础:8.2 的影子日志与 8.3 的观测落盘是第 9 章回归集与校准监控的数据源——没有这章的落盘,第 9 章无从谈起。