文档摘要

3.4 文本生成与采样 本节摘要：训练完的模型能"写"了——但怎么写得自然、可控？本节讲清生成的机制（自回归逐词生成）、采样策略（贪心、温度、top-k、top-p）如何影响输出质量，以及"温度和 top-k 是创作自由度旋钮"的核心直觉。 你能学到什么 阅读完本节，你应当能够： 解释自回归生成的机制 区分贪心与随机采样 理解温度参数的作用 掌握 top-k 与 top-p 调出想要的生成风格 一、问题与直觉… 会员。《3.4 文本生成与采样》收录于灏天文库文集《NanoGPT轻量级GPT模型训练教程》，原作者/来源：灏天文库，整理自「灏天文库」，提供技术教程、实践指南与问题解决方案，支持在线阅读、全文检索与知识沉淀，助力开发者系统化学习。本站整理收录，版权归原作者/开源协议所有。

该文档为会员专享，请先登录或注册后再查看

登录 注册

---

作者与出处

原作者： 灏天文库

来源：灏天文库

原文： https://aiknowledge.cn/collection/398-nanogpt%E8%BD%BB%E9%87%8F%E7%BA%A7gpt%E6%A8%A1%E5%9E%8B%E8%AE%AD%E7%BB%83%E6%95%99%E7%A8%8B

整理： 灏天文库整理

由灏天文库平台收录，内容或由平台用户上传，仅供学习交流