第12章 环境影响 在本章中,首先提出一个问题:大语言模型对环境的影响是什么? 这里给出的一个答案是:气候变化 一方面,我们都听说过气候变化的严重影响(文章1、文章2): 我们已经比工业革命前的水平高出1.2°C 需要保持在1.5°C以下以避免气候危机 根据目前的轨迹,在未来几十年内将达到2.7°C climate-change 另一方面,我们看到训练大语言模型所需的计算量大幅增加(从而导致二氧化碳排放)。以下是一些数据: Strubell et al., 2018估计,训练排放了626,000磅二氧化碳(5辆汽车终生的排放量)。 DeepMind的Gopher报告称,训练产生的二氧化碳估计为380吨。 本章将学习如何将大语言模型与环境影响联系起来。