内容摘要
BERT vs GPT · 编码器和解码器到底差在哪 灏 灏天文库 · AI 与大模型 第 6 期 AI 与大模型 · 第 6 期 BERT vs GPT， 差在哪 ？ 编码器 vs 解码器 · encoder vs decoder 同样叫 Transformer，BERT 只留编码器（双向看上下文），GPT 只留解码器（单向往右续写）。 填空用 BERT，续写用 GPT ——选错模型就废。理解这一刀切，就懂了为什么 BERT 适合理解、GPT 适合生成。 ⏱ 约 10 分钟 🎯 分不清什么时候用 BERT 什么时候用 GPT 的人 📦 源：ai-engineering-from-scratch §8 01 一个反共识：不是同一个 Transformer BERT 和 GPT 都说"基于 Transformer"，但它们用的是 Transformer 的不同一半。 BERT = 只留编码器 ：注意力是双向的，每个词能同时看到左边和右边。适合"理解"任务——填空、分类、抽取。但不能续写（它根本不生成，只填空）。