> 自媒体 > (AI)人工智能 > 揭秘ChatGPT背后天价超算!上万颗英伟达A100,烧光微软数亿美元
揭秘ChatGPT背后天价超算!上万颗英伟达A100,烧光微软数亿美元
来源:新智元
2023-08-17 16:54:35
581
管理

#科技之巅#

编辑:Aeneas 好困

【新智元导读】ChatGPT背后,是微软超级昂贵的超级计算机,耗资数亿美元,用了英伟达数万颗芯片。

ChatGPT能成为如今火遍全球的顶流模型,少不了背后超强的算力。

数据显示,ChatGPT的总算力消耗约为3640PF-days(即假如每秒计算一千万亿次,需要计算3640天)。

那么,作为依托的那台微软专为OpenAI打造的超级计算机,又是如何诞生的呢?

周一,微软在官博上连发两文,亲自解密这台超级昂贵的超级计算机,以及Azure的重磅升级——加入成千上万张英伟达最强的H100显卡以及更快的InfiniBand网络互连技术。

微软Azure高性能计算和人工智能产品负责人Nidhi Chappell(左)和微软战略合作伙伴关系高级总监Phil Waymouth(右)

为了构建支持OpenAI项目的超级计算机,它斥资数亿美元,在Azure云计算平台上将几万个Nvidia A100芯片连接在一起,并改造了服务器机架。

此外,为了给OpenAI量身打造这个超算平台,微软十分尽心,一直在密切关注着OpenAI的需求,随时了解他们在训练AI时最关键的需要。

这么一个大工程,成本究竟是多少呢?微软负责云计算和人工智能的执行副总裁Scott Guthrie不愿透露具体数目,但他表示,「可能不止」几亿美元。

随着AI研究人员开始使用更强大的GPU来处理更复杂的AI工作负载,他们看到了AI模型更大的潜力,这些模型可以很好地理解细微差别,从而能够同时处理许多不同的语言任务。

简单来说,模型越大,你拥有的数据越多,你能训练的时间越长,模型的准确性就越好。

但是这些更大的模型很快就会到达现有计算资源的边界。而微软明白,OpenAI需要的超级计算机是什么样子,需要多大的规模。

这显然不是说,单纯地购买一大堆GPU并将它们连接在一起之后,就可以开始协同工作的东西。

微软AI平台公司副总裁Eric Boyd表示,这种为大型语言模型训练和下一波AI创新而优化的超算能力,已经可以在Azure云服务中直接获得。

并且微软通过与OpenAI的合作,积累了大量经验,当其他合作方找来、想要同样的基础设施时,微软也可以提供。

现在,微软的Azure数据中心已经覆盖了全球60多个地区。

全新虚拟机:ND H100 v5

在上面这个基础架构上,微软一直在继续改进。

今天,微软就官宣了全新的可大规模扩展虚拟机,这些虚拟机集成了最新的NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 网络。

通过虚拟机,微软可以向客户提供基础设施,根据任何AI任务的规模进行扩展。据微软称,Azure的新ND H100 v5 虚拟机为开发者提供卓越的性能,同时调用数千个GPU。

参考资料:

https://news.microsoft.com/source/features/ai/how-microsofts-bet-on-azure-unlocked-an-ai-revolution/

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
比亚迪搞这么快!第1000万辆车即将下线!第1000万辆或为腾势?..
比亚迪此前刚刚发布10月销量成绩,10月新能源汽车销量502657辆,同比增长..
比亚迪营收首超特斯拉 ,市值却只有后者 1/6
比亚迪又达成了一个「里程碑」。10 月 30 日晚,比亚迪发布了 2024 年三..
一家抵五家总和!前三季度比亚迪净利252亿遥遥领先,新能源车成盈利风向标..
前三季度车企财报卖新能源车更赚钱规模效应明显的汽车行业一直是“销量即..
比亚迪暂缓加拿大上市进程,美国电动新势力股价暴跌|海外日报..
「 Top 3 News 」比亚迪暂时搁置其在加拿大的上市计划要点:比亚迪,近日..
比亚迪单月卖50万辆,零跑冲击月销4万:“创纪录”成10月车市关键词..
导读:10月,诸多车企创下月度销量新纪录。(文/周盛明 编辑/高莘) 随着..
【选车】比亚迪纯电“小钢炮”海豹06GT选购指南
动力方面,提供单电机后驱和双电机四驱两种动力系统,CLTC工况下续航里程..
比亚迪三季度营收破两千亿,首超特斯拉!多家机构上调预期..
10月30日晚间,比亚迪(002594.SZ)发布了2024年前三季度报告。公告显示,..
2024比亚迪海豚动态评测——开始落后于竞争对手
2024 比亚迪海豚动态评测作为澳大利亚最实惠的新型电动汽车之一,比亚迪 ..
炸裂!刚刚,比亚迪发布,破50万辆!
而就在9月,比亚迪单月新能源车销量刚突破40万辆,达到419426辆,成为全..
关于作者
国务院环卫工..(普通会员)
文章
933
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40399 企业收录2981 印章生成237499 电子证书1052 电子名片60 自媒体50830

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索