nanochat 后半程 · 第 0 章 导览

nanochat 后半程 · 第 0 章 导览

章节摘要：本章回答两个开场问题："后半程"到底指什么，以及你的机器够不够跑。0.1 节用同一句提问分别"问"基座模型与对话模型，看前者自顾自续写、后者停下回答——这个行为差异正是 SFT 要制造的；由此给出本教程与既有教程的分工声明：预训练不重写，只从基座权重出发。0.2 节给出本地 GPU、云租用、Modal 云函数三套算力方案的对比表与显存估算（124M 模型 SFT 约 24GB 显存即可），并交代全书的运行约定与信息时效声明。读完本章你应当知道自己属于哪类读者、选哪条路径。

学习目标

阅读完本章，你应当能够：

1. 说出 base 模型与 chat 模型在行为上的三个典型差异（续写 vs 停下、角色混淆、指令不遵循）。
2. 复述本教程与《ht-gpt：从零搭建 GPT 训练与推理实战》《Happy-LLM：从零训练大语言模型》的分工边界，知道遇到预训练问题时该去查哪里。
3. 在本地 GPU / 云租用 / Modal 三方案中选出适合自己的，并估算所需显存。
4. 知道 nanochat 仓库高速演进、本书以发布帖四阶段为主轴这一时效约定。
5. 说出全书"数据 / 训练 / 协议 / 采样"四层故障排查体系分别在第几章。
6. 说明"答完会不会自己停"为什么是判别 chat 模型的最可靠单测。

核心概念速览

（文字流程图）
B ──chat template + 采样<br/>第 4 章──▶ 可用对话模型
可用对话模型 ──评测 部署 语音 中文化<br/>第 5~8 章──▶ 你的 ChatGPT
​

一句话金句：预训练造一台会说话的机器，后半程教它好好说话。

💡 阅读策略：本章两节都不写代码也能读懂，建议先通读 0.1 建立"后半程"的概念边界，再按 0.2 的对比表落实自己的算力方案；此后每章开头的支柱页都会回指本章的分工声明。

子章节导航

0.1 后半程是什么：从会续写到会对话

同一个提示的两种命运：base 续写 vs chat 回答；SFT 在中间做了什么（换训练分布，不改目标函数）；全书分工声明与各自职责边界。
含一张"SFT 改了什么、没改什么"的账目表。

0.2 环境与 GPU 准备

三方案对比表（本地/云租用/Modal，含成本模型与适用人群）；SFT 阶段显存估算（124M 约 4~8GB）；软件环境、工作区目录约定与信息时效声明。

子章节之间的逻辑关系

0.1 后半程是什么（为什么：行为差异 + 分工边界）
   │   产出：一张 base vs chat 行为对照表 + 一份分工声明
   ▼
0.2 环境与 GPU 准备（凭什么：算力与工具就位）
   │   产出：方案选型结论 + 工作区目录 + 全书运行约定
   ▼
第 1 章 全景回顾（先校准地图，再进第 2 章动手备数据）
​

前置知识与后续延伸

前置知识：跑通过或读过 《ht-gpt：从零搭建 GPT 训练与推理实战》或 《Happy-LLM：从零训练大语言模型》的预训练部分（至少知道"基座模型是拿海量文本做下一词预测训出来的"）；PyTorch 基础（会写训练循环、知道 loss.backward() 在干什么）。

为后续奠定基础：本章的分工声明与算力方案是全书的运行前提；0.1 的行为差异实验会在第 3 章 SFT 完成后反向复验（同一段提示，训练前后对比），0.2 的环境约定贯穿所有代码小节。若 0.1 的行为差异与 0.2 的显存估算都已了然，可快速进入第 1 章校准全景。