2.4-图解GPT

文档摘要

图解GPT 内容组织：图解GPT 什么是语言模型自编码（auto-encoder）语言模型自回归（auto-regressive）语言模型基于Transformer的语言模型 Transformer进化 GPT2概述 GPT2详解输入编码多层Decoder Decoder中的Self-Attention 详解Self-Attention 可视化Self-Attention 图解Masked Self-attention GPT2中的Self-Attention GPT2全连接神经网络语言模型应用机器翻译生成摘要迁移学习音乐生成总结致谢除了BERT以外，另一个预训练模型GPT也给NLP领域带来了不少轰动，本节也对GPT做一个详细的讲解。