全局向量的词嵌入（GloVe）

文档摘要

全局向量的词嵌入（GloVe） :label: 上下文窗口内的词共现可以携带丰富的语义信息。例如，在一个大型语料库中，“固体”比“气体”更有可能与“冰”共现，但“气体”一词与“蒸汽”的共现频率可能比与“冰”的共现频率更高。此外，可以预先计算此类共现的全局语料库统计数据：这可以提高训练效率。为了利用整个语料库中的统计信息进行词嵌入，让我们首先回顾 :numref: 中的跳元模型，但是使用全局语料库统计（如共现计数）来解释它。