> 自媒体 > (AI)人工智能 > 老黄H1004分钟训完GPT-3!特供版芯片H20、L20和L2曝光,性能缩水
老黄H1004分钟训完GPT-3!特供版芯片H20、L20和L2曝光,性能缩水
来源:新智元
2023-11-23 16:04:27
333
管理

编辑:桃子 好困

【新智元导读】英伟达H100再次刷榜了,不到4分钟就训完GPT-3,比6月成绩提升3倍。另外,特供版H20、L20和L2性能全都爆出。

H100再次在MLPerf中刷新了记录!

英伟达超算NVIDIA Eos在GPT-3模型的基准测试中,只用了3.9分钟就完成了训练。

这比6月份的刷新记录的成绩——10.9分钟,提升了近3倍。

Eos使用了多达10,752个H100和NVIDIA Quantum-2 InfiniBand网络互连。

这些加速为用户训练大模型或用NeMo等框架自定义模型以满足业务需求,带来了更快上市时间、更低成本和节省能源。

这一轮测试中,包括华硕、戴尔技术、富士通、技嘉、联想、QCT和超微等11家系统制造商在提交结果中使用了NVIDIA AI平台。

特供版H20、L20和L2性能曝光

在过去几年中,美国对高性能硬件出口实施了非常严格的限制。

尤其是在2023年11月生效的新规,更是要求所有达到一定总处理性能和/或性能密度的硬件都必须获得出口许可。

据最新泄露的文件和四位熟悉内情的人士透露,为了遵守美国的出口管制,英伟达已经推出了三款全新的「中国定制版」芯片——HGX H20、L20 PCle 和 L2 PCle GPU。

其中,HGX H20配有高达96GB的HBM3显存,以及4TB/s的带宽,并且基于全新的Hopper架构。

与H100的50MB二级缓存相比,H20还拥有更大的60MB二级缓存。

至于L20和L2 PCIe GPU,则是基于阉割后的AD102和AD104核心,对应的是与L40和L40S相同的市场。

更直观地,RTX 4090采用的便是AD102的变体,而4070和4070Ti则是基于AD104的变体。

上下滑动查看

除此之外,为了遵守新规,HGX H20、L20 PCle和L2 PCle GPU不仅性能是残血的,而且还只配备了残血版的NVLink连接。

参考资料:

https://blogs.nvidia.com/blog/2023/11/08/scaling-ai-training-mlperf/?ncid=so-twit-497169&=&linkId=100000225579745

https://www.tomshardware.com/tech-industry/nvidia-readies-new-ai-and-hpc-gpus-for-china-market-report

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
微软:GPT-4在医疗方面颇具潜力,自家模型可加速相关护理和研究..
IT之家 8 月 14 日消息,微软研究团队日前表示,GPT-4 此类大型模型在医..
之江会客厅 | ChatGPT“狂飙”引发思考 人工智能2.0如何重塑数字经济格局..
从横空出世到短短几个月内迭代至4.0版,聊天机器人程序chatGPT的一路“狂..
关于Chatgpt对世界热极和世界雨极这两个问题的回答,你满意吗?..
Chatgpt是当前最热门的话题,引发了人们激烈的讨论,如果我们问Chatgpt两..
微信全量开放辅助账号注册功能
2月3日,微信平台显示,使用同一手机号注册辅助账号的功能已全量开放。据..
王炸!Windows系统全面接入AI助手,必应集成进ChatGPT
ChatGPT功能接入Windows系统、新版必应引入ChatGPT……微软全面与ChatGPT..
危!OpenAI 全球召集千人,要让 ChatGPT = 初级程序员?
整理 | 郑丽媛出品 | CSDN(ID:CSDNnews)每一次,不论是 GitHub Copilo..
未来几年,chatGPT将彻底改变我们生活,仿真机器人将进入家庭..
ChatGPT是真的会改变我们的生活,尤其是在不久的将来,会涉及生活的多方..
揭秘!境外诈骗电话是如何变成官方客服号码的
来源:公安部刑侦局 近期,四川攀枝花市警方破获一起跨境电信网络诈骗案..
科技观察丨GPT-4来了!它很惊艳,但并不吓人
封面新闻记者 边雪 燕磊在人工智能时代,人类能走多快?答案是:快到你难..
关于作者
巫月(普通会员)
文章
369
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40329 企业收录2981 印章生成186788 电子证书796 电子名片49 自媒体20815

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索