Task4 BERT简介

文档摘要

浅谈ELMO，GPT，BERT模型 BERT视频讲解：金金金引言随着AI技术的迅猛发展，越来越多的信息能让机器帮助人类去处理，例如文本，音频，视频等。而文本信息是我们日常大量接触且及其重要的信息载体。所以在自然语言处理(NLP)任务中，如果让机器更好的去读懂文本信息也是极其有意义且重要的工作。那么本文针对几类常见模型进行相关的介绍，由于笔者知识也不全面，所写之处若有不正确地方欢迎指出且改正，希望和大家一起交流探讨。背景知识本文主要介绍ELMO, GPT, BERT三个模型，这里还涉及到其他的相关知识，例如：Word2Vec方法的基本原理，Glove模型，FastText模型等。