4.5-生成任务-语言模型

文档摘要

本文涉及的jupter notebook在篇章4代码库中。建议直接使用google colab notebook打开本教程，可以快速下载相关数据集和模型。如果您正在google的colab中打开这个notebook，您可能需要安装Transformers和Datasets库。将以下命令取消注释即可安装。如果您是在本地机器上打开这个jupyter笔记本，请确保您的环境安装了上述库的最新版本。您可以在这里找到这个jupyter笔记本的具体的python脚本文件，还可以通过分布式的方式使用多个gpu或tpu来微调您的模型。微调语言模型在当前jupyter笔记本中，我们将说明如何使用语言模型任务微调任意Transformers 模型。