1.1 NLP发展历程与Transformer的地位

文档摘要

1.1 NLP发展历程与Transformer的地位 1.1 NLP发展历程与Transformer的地位自然语言处理（Natural Language Processing, NLP）是人工智能领域的一个重要分支，专注于使计算机能够理解、解释、操纵以及生成人类语言。这是一个极具挑战性的任务，因为人类语言充满了歧义、上下文依赖、文化 nuances 和不断演变的表达方式。NLP 的发展历程是一个不断探索更有效方法来弥合人机语言鸿沟的过程。理解这一历程，对于认识 Transformer 模型为何具有颠覆性意义至关重要。 1.1.1 早期探索：基于规则与统计的方法 NLP 的早期尝试可以追溯到20世纪50年代，最初主要依赖于专家手工编写的规则。