自然语言处理:应用 :label: 前面我们学习了如何在文本序列中表示词元, 并在 :numref: 中训练了词元的表示。 这样的预训练文本表示可以通过不同模型架构,放入不同的下游自然语言处理任务。 前一章我们提及到一些自然语言处理应用,这些应用没有预训练,只是为了解释深度学习架构。 例如,在 :numref: 中, 我们依赖循环神经网络设计语言模型来生成类似中篇小说的文本。 在 :numref: 和 :numref: 中, 我们还设计了基于循环神经网络和注意力机制的机器翻译模型。 然而,本书并不打算全面涵盖所有此类应用。 相反,我们的重点是如何应用深度语言表征学习来解决自然语言处理问题。