前四章都在"纸上",这一章把系统搬到你机器上、搬进团队流程里。我们会谈开源实现长什么样、怎么配置一个研究任务、哪些场景真能落地、token 和延迟怎么压、以及那些一定会撞上的墙(检索被反爬、长文读不动、成本失控)怎么拆。我们主张部署不是收尾,而是第二场设计:同样的架构,配置参数不同,表现能差出一个数量级。

可考核知识点
各节分工
| 节 | 解决的问题 | 读完你会 |
|---|---|---|
| 5.1 开源生态 | 站在谁肩膀上 | 选型不盲从 |
| 5.2 部署配置 | 旋钮怎么拧 | 写出可跑配置 |
| 5.3 场景案例 | 哪真能用 | 复现真实案例 |
| 5.4 性能优化 | 成本怎么压 | 给优化清单 |
| 5.5 挑战方案 | 墙怎么翻 | 排障有谱 |
先决条件是第二、三章——不知道模块和算法,配置就是瞎填。读完进第六章,我们把时间轴拉长,看它往哪演化、又逼我们负起什么责任。
第五章把纸上的系统搬上机器、搬进流程。前四章再扎实,部署是一场新的设计——同样的架构,配置参数不同,表现能差一个数量级。这一章负责把"会造"变成"能用、用得起"。
读完这一章你能拿走的具象能力:
各节分工(补产出列):
| 节 | 解决的问题 | 读完你会 | 产出 |
|---|---|---|---|
| 5.1 开源生态 | 站谁肩膀 | 选型不盲从 | 健康度打分 |
| 5.2 部署配置 | 旋钮怎么拧 | 写可跑配置 | 部署清单 |
| 5.3 场景案例 | 哪真能用 | 复现真实案例 | 场景配置器 |
| 5.4 性能优化 | 成本怎么压 | 给优化清单 | 成本方案 |
| 5.5 挑战方案 | 墙怎么翻 | 排障有谱 | 故障应对表 |
本章常见误区:效果不好就换更大模型(应先调权重闸门);全场单模型不分层;忽略反爬/长文截断/成本失控三类硬故障。
与邻章边界:第五章只讲"怎么落地",不讲"算法原理"(第三章)也不讲"长期责任"(第六章)。部署时若发现能力不够,回第三章;若发现风险没护栏,进第六章——很多"优化"没护栏就是放大风险。
读完第五章,应能勾选:□ 用健康度+诉求二维选型;□ 写最小部署配置;□ 给三类场景不同权重闸门;□ 列降成本手段与三类故障应对。四勾全满,你能把前四章的系统真正落地且用得起,可进第六章看责任。少一项,部署会卡在某一环。
第一,配置比模型更值得花时间。5.1 选型、5.3 场景权重、5.2 部署旋钮,三处配置定生死,而换模型往往只是锦上添花。新手常一效果不好就换更大模型,结果成本翻三倍、适配没变。先把 5.3 的权重和 5.2 的闸门调对,再谈硬件。
第二,故障要预案不要侥幸。5.5 的反爬、长文截断、成本失控三类墙,几乎必撞,别等上线才处理。部署清单里就写好:反爬用代理池、长文用分块抽取、成本用步数加早停双限。预案写进配置,比事后救火省心。
| 必撞的墙 | 预案 |
|---|---|
| 反爬 | 代理池/降频 |
| 长文截断 | 分块抽取 |
| 成本失控 | 步数+早停双限 |