查看原文
其他

梅雅君:AI的环境足迹

梅雅君 中国生物救护与科学伦理
2024-08-23

点击蓝字
关注我们

【中国生物救助与科学伦理】



人工智能(AI),虽然是一个比较新的科技领域,但是最近受到了全世界人们的关注。


微软,谷歌和Meta正在投资数十亿美元开发成型人工智能,如在加州旧金山发布的大语言模型ChatGPT。像ChatGPT这样的世代人工智能是科技行业最热门的工具,有望彻底改变万亿美元的企业。这些模型具备的特点,使得让它们比其他之前的模型更加强大,但是也同时给自然环境造成了重要的负担。


图源:pixabay





AI带来的碳足迹




自从ChatGPT这样的大型语言模型在全球引起轰动以来,很少有人注意到训练和运行大型语言模型正在产生惊人的碳排放量。虽然谷歌和OpenAI都没有说过他们各自产品计算成本是多少,但是根据研究人员的分析,ChatGPT部分训练消耗了1287兆瓦时,导致了超过550吨的二氧化碳排放量;这相当于一个人在纽约和旧金山之间往返550次。


此外,近日在Nature上发布的一篇文章,指出了复杂度的增加,可以让大型语言模型产生只能文体,但同时消耗的电力会远高于之前的版本。根据2022年发布的AI训练专用GPU数量,全年总计消耗大约95亿度电力。这个消耗能量水平等于一个中等发达国家100万人口的年度生产和生活用电需求。实际上是,这个只训练AI时的排放量,当AI大模型运行时还会排出更多的二氧化碳。


加拿大数据中心公司QScale联合创造人Martin Bouchard认为,微软和谷歌为了满足搜索引擎用户日益增长的需求,在搜索中加入像GPT这种生成式AI会导致每次搜索至少增加4到5倍的计算量。如果要经常重新训练模型,同时添加更多的参数,就会导致更多的能源消耗和碳排放量。根据国际能源署(Internatinal Energy Agency)的数据,数据中心的温室气体排放量已经占到全球温室气体排放量的1%左右。随着AI大模型个对云计算要求不断的增长,这数字预计只能会上升。因此,AI模型正在成为二氧化碳排放的一个特别重要的来源。


AI硬件的碳排放也是一个复杂和重要的方面,涉及从制造到使用,再到报废的整个生命周期。在制造的过程中,AI硬件的生产需要大量的金属和其他原材料。这些材料的开采,和运输过程不仅消耗大量的能源,还会产生大量的温室气体排放。在使用阶段,AI硬件通常在数据中心中运行,而数据中心需要大量的电力来支持硬件的运行和冷却,特别是在进行大规模的AI模型训练时,能源消耗非常显著。数据中心的运行不仅消耗大量电力,还会产生大量的热量,这个也需要额外的能源用在散热过程,进一步增加碳排放。





采取什么样的措施能够减少AI的环境足迹?





减少AI的环境足迹需要采取一系列综合措施,从设计,知道,使用到报废的各个阶段都需要进行优化和改进。AI模型的训练和运营过程都需要消化大量的能源,但是最主要的问题是如何能知道以及计算单个机器学习实验正在到底产生多少碳排放,以及到底可以减少多少。目前还是没有可靠的方法获取该领域的测量结果,阻碍了进一步制定可行的应对政略。


为了针对这个问题,谷歌发表了一项研究,纤细介绍了最先进的语言模型的能源成本,包括更早起和更大版本的LaMDA。研究结果提出,将搞笑的模型,处理器和数据中心与清洁能源结合,可以将机器学习系统的碳足迹减少1000倍。


谷歌研究团队提出了四种能够减少机器学习工作负载的碳和能源足迹。研究员表示,选择搞笑的模型Machine Learning(ML)模型室架构非常重要,因为它有可能是提高ML质量,同时将计算时间缩短一半。跟通用处理器相比,使用专门用在ML训练的处理器和系统可以把性能和能效提高2到5倍。大多数情况下,本地的数据中心更老,更小。因此新的节能冷却和配电系统的费用无法摊销。云允许客户选择具有最清洁能源的区域,从而可以把总碳足迹减少5到10倍。


谷歌的数据表明,机器学习训练和推理在过去三年中仅占谷歌整体能源消耗量的10%-2至20%,其中每年有35%用在推理,25%用在训练。高效的云数据中心比普通数据中心节省1.4倍的能源,也就是说总能耗会降低83倍。此外,由低碳能源驱动的数据中心可以将碳排放量再减少9倍,从而在四年内总共减少747倍。


图片来源:AI


当然,除了使用4Ms方法,服务提供商和用户还可以采取其他简单的措施来提高他们的碳足迹绩效。客户可以通过让数据中心提供商报告数据中心效率和每个位置的能源供应清洁度,来分析和减少他们的能源使用和碳足迹。工程师应该在最环保的数据中心中最快的处理器上训练模型,这些数据中心越来越多地在云上。机器学习的研究人员应该专注于设计更有效的模型,比如利用稀疏性或包括检索来减少模型。此外,他们应该报告他们的能源消耗和碳影响。这不仅会鼓励超越模型质量的竞争,而且还可以确保对他们的工作进行正确的核算。


另外很重要的一点是,我们需要意识到AI的环境足迹。比如在碳中和、碳补偿的项目中,应该予以考虑纳入计算。


AI技术的进步给人类带来了诸多便利,但也必须在发展中关注环境问题。未来AI如何实现可持续发展,以及AI如何更好地支撑双碳领域的改革,仍然还是亟需各个行业需要共同解决的问题。



参考文献:

1.An, J, et.al. 2023. ChatGPT: tackle the growing carbon footprint of Generative AI


2.The Salata Institute for Climate and Sustainability. Cutting the carbon footprint of future computer chips. URL: https://salatainstitute.harvard.edu/cutting-the-carbon-footprint-of-future-computer-chips/#:~:text=That%20consumption% 20from%20using%20chips,technologies%20such%20as%20data%20centers..    [Accessed: 17/07/24]


3.Dilhac, M., et.al. 2018. The Ethical Risks of AI.


4.de Bolle, M. 2024. AI's carbon footprint appears likely to be alarming.URL: https://www.piie.com/blogs/realtime-economics /2024/ais-carbon-footprint-appears-likely-be-alarming.[Accessed:  17/07/24]


5.Heikkila, M. 2023. AI's carbon footprint is bigger than you think. URL: https://www.technologyreview.com/2023/12/05/1084417/ais-carbon-footprint-is-bigger-than-you-think/. [Accessed: 17/07/24]


6.Loughborough University. 2024. "AI has a large and growing carbon footprint, but there are potential solutions on the horizon". URL:https://www.lboro.ac.uk/media-centre/press-releases/2024 /february/artificial-intelligence-carbon-footprint/. [Accessed: 17/07/24]


7.Saenko, K. 2023. "A Computer Scientist Breaks Down Generative AI's Hefty Carbon Footprint". URL: https://www.scientificamerican.com/article/a-computer-scientist-breaks-down-generative-ais-hefty-carbon-footprint/. [Accessed: 17/07/24] 





本文仅代表资讯,不代表平台观点。

欢迎转发(请注明来源)。


文 | 梅雅君 (清华大学 环境学院 全球环境国际班)

审核 | Linda 橡树

排版 | 语

往期相关报道in early winter

中国生物救护与科学伦理

联系小编:

010-88431370,   17319454776


投稿信箱,欢迎来稿:

v89@CBCGDF.org



继续滑动看下一个
中国生物救护与科学伦理
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存