自然语言推断:微调BERT


文档摘要

自然语言推断:微调BERT :label: 在本章的前面几节中,我们已经为SNLI数据集( :numref: )上的自然语言推断任务设计了一个基于注意力的结构( :numref: )。现在,我们通过微调BERT来重新审视这项任务。正如在 :numref: 中讨论的那样,自然语言推断是一个序列级别的文本对分类问题,而微调BERT只需要一个额外的基于多层感知机的架构,如 :numref: 中所示。 将预训练BERT提供给基于多层感知机的自然语言推断架构 :label: 本节将下载一个预训练好的小版本的BERT,然后对其进行微调,以便在SNLI数据集上进行自然语言推断。


发布者: 作者: 转发
评论区 (0)
U