> 自媒体 > (AI)人工智能 > 一次模型训练相当70万公里排放量?深度学习耗能超乎你想象
一次模型训练相当70万公里排放量?深度学习耗能超乎你想象
来源:智东西
2023-05-03 19:21:08
689
管理

代码链接:https://github.com/lfwa/carbontracker

一、单次训练等于126个家庭一年能耗

简单来说,深度学习训练的过程就是数学模型从大量数据中学习、识别模式的过程。这同时也是一个耗能的过程,需要高性能计算机一天24小时不间断运转。

Benjamin Kanding说:“随着数据集一天一天地增长,算法需要解决的问题变得越来越复杂。”

迄今为止技术人员开发过的最大的深度学习模型之一是称为GPT-3的高级语言模型。一次模型训练所消耗的能源就相当于126个丹麦家庭一年的能源消耗,还会产生与驾驶700000公里相同的二氧化碳排放量。

Lasse F. Wolff Anthony也提到:“人工智能领域发展迅猛,深度学习模型也不断从层级和架构方面扩大规模以满足人们的需求。现在,模型规模呈指数级增长,同时也意味着能源消耗的增加,这是大多数人都没有想到的。”

二、绿色能源、模型调参?能耗降低有妙招

为了避免训练模型由于能源消耗可能造成的环境影响,Carbontracker也会收集在不同地区进行算法训练所消耗的二氧化碳数据,这样就可以将能耗问题转化为二氧化碳排放,从而更容易地对不同模型所产生的能耗进行预测。

Carbontracker开发者也呼吁深度学习的程序设计者关心能耗问题。

模型训练所消耗的能量跟很多因素都有关,像所运用的能源类型、配套硬件性能和算法模型设计。

其中,Lasse F. Wolff Anthony也提到有很多种方式可以减少模型训练对环境造成的负面影响。

例如,如果技术人员选择在一些绿色能源丰富的地方训练模型,像爱沙尼亚或瑞典,那么能耗也不会很高,因为绿色能源能将碳足迹减少60倍以上。

不同的算法能耗也大不相同。有些算法所需计算量较少,在能耗不高的情况下就可以达到相同的效果。如果技术人员调整模型中某些参数,以减少计算量,那模型训练所需的能耗也会有很大程度的降低。

参考信源:ScienceDaily

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
没测完就开卖?汽车耐久性测试怎么才算合格?
最近,雷总在直播中透露,小米SU7的测试车目前还在测试中,而且还准备每..
汽车最没用的4大配置!让您购车能够慧眼识珠,省下几万块不是梦..
驾驶的乐趣,不仅仅源自于引擎的轰鸣与速度的激情,更在于每一处细节设计..
小身材也有大智慧,试驾新生代智选SUV起亚索奈
如果手握10万元的预算左右买一辆SUV,有人会说纯电车使用成本很低,用起..
深港澳至强SUV新车,霸霸霸霸王龙
【太平洋汽车 新车频道】6月1日,在2024粤港澳大湾区车展上,第二代AION ..
这三款硬派SUV快来了,都是老百姓买得起的,全新北汽212领衔..
大家发现没有,这一两年,硬派SUV真的是很火爆,尤其是一些增程式、插混..
4月份卖得最好的10款燃油SUV,奇瑞两车上榜,老销冠依然无缘..
如果两三年前咱们听到蔚来李老板说:“完全不明白,现在大家为什么还买油..
经典国产SUV出新款,吉利新博越L实测挑战
5月19日,吉利新博越L上市,官方指导价为11.57万-14.97万元。上市发布会..
在盘点老百姓热衷入手的十款SUV时
在盘点老百姓热衷入手的十款SUV时,我们可以结合参考文章中的相关信息,..
28.48万起,合资大牌SUV智能化大提升,一汽丰田新皇冠陆放上市..
5月30日,一汽丰田新皇冠陆放上市,共推出6款车型,售价区间为28.48万-33..
关于作者
司机(普通会员)
文章
1261
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40406 企业收录2983 印章生成240946 电子证书1067 电子名片60 自媒体64362

@2022 All Rights Reserved 浙ICP备19035174号-7
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索