文档摘要

第 7 章 计算语言学 计算语言学（NLP）是 AI 中最古老、也最炙手可热的领域——从语言的形态、句法、语义一路讲到 ChatGPT 背后的 Transformer、注意力机制、RLHF 对齐和 Mamba 这类现代架构。本章是理解大语言模型（LLM）的核心章节：你将看到一行英文是如何被切成词元、压缩成稠密向量、被自注意力一层层加工，又如何被对齐成"有用、无害、诚实"的助手。 本章简介 如果说第 6 章是深度学习的通用引擎，那么本章就是把它专门用在人类语言上。语言是离散的、符号化的、高度结构化的，却又充满歧义和语境——这让 NLP 既迷人又困难。本章从语言学的结构（形态、句法、语义、语用）出发，先建立一套词汇来谈论"语言本身怎么运作"；

---