> 自媒体 > (AI)人工智能 > 研究人员可以免费使用支持GPT-3的全球最大芯片
研究人员可以免费使用支持GPT-3的全球最大芯片
来源:AI时代前沿
2023-05-23 17:25:48
619
管理

自从ChatGPT席卷全球以来,各家公司纷纷打开钱包来探索这项技术,人工智能领域掀起了新一轮热潮。它还引起了大家对OpenAI的GPT-3的关注,这是现象级ChatGPT背后的大型语言模型(LLM),它对查询提供类似人类响应。

PSC欢迎主要与人工智能和机器学习工作量有关高性能计算项目,而对传统高性能计算应用程序则不太受欢迎。项目鼓励应用程序采用AI算法方法来运行传统HPC工作负载。这些提案必须是非专利的,且只能来自美国研究机构或非盈利性机构。

除了GPT-3,CS-2系统还支持流行的BERT Transformers模型。

Cerebras Systems的首席执行官Andrew Feldman表示:“关于大型语言模型和超大型语言模型,有大量的讨论。然而在给定的规模(例如130亿参数)之后,实际上从零开始训练一个语言模型的组织数量少之又少。因为你首先需要解决大量的硬件问题。”

通常,运行Transformers模型需要大量数据、数据科学知识和深度机器学习专业知识。训练数据需要数周的时间,硬件选项包括GPU和TPU(GPU被微软用于Bing和AI,而TPU被谷歌用于Bard聊天机器人)。

PSC的Neocortex已经被用于研究生物技术、宇宙视觉地图和健康科学等领域的人工智能。该系统还用于研究在CS-2中部署的新内存模型上部署AI的方法。

Cerebras在CS-2中的WSE-2芯片包含2.6万亿个晶体管,所有相关的AI硬件都集中在晶片大小的芯片中。该系统具有40GB SRAM片上存储器、每秒20 PB的带宽和12个100千兆以太网端口。CS-2连接到HPE的Superdome Flex系统,该系统有32个Intel Xeon Platinum 8280L芯片,每个芯片有28个内核,运行频率高达4GHz。

相比之下,英伟达GPU通常分布在许多系统上。英伟达的GPU依赖于CUDA并行编程工具包,该工具包广泛用于研究人工智能。Feldman:“我认为,我们有很大的机会取代GPU和TPU,并以更有效的方式做到这一点——用更少的失误实现更好的目标。”

对ChatGPT的需求已经压倒了OpenAI的系统,因此未来针对AI计算的需求将势不可挡。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
Open AI炮轰DeepSeek:这就是另外一个华为,美国必须想办法制裁它..
前沿导读据国内权威媒体引用海外报道称,美国open AI在对白宫的政策提案..
硅谷巨头掀桌!OpenAI 竟要 \u0026#34;锁死\u0026#34; 中国 AI?..
当中国 AI 新星 DeepSeek 以 1% 的训练成本实现 GPT-4 九成功力时,硅谷..
Open-Sora 2.0全面开源!AI视频生成领域迎来开源革命
整理自 | 新智元、 云智瞳订、阅 | 010-860920623月13日,Open-Sora 2.0..
OpenAI 图穷匕见!呼吁美国禁用中国 AI ,却遭美国网友泼凉水..
OpenAI给美国政府提了啥建议?为什么OpenAI要呼吁禁用中国AI模型?美国科..
AI造谣只需一键!四招教你如何辨别真伪
“有顶流明星在澳门输了10亿”“大妈摆摊卖水果被罚16万,监管局回应不交..
不敢相信!ChatGPT偷偷学了我的说话习惯,它正在
(附:你的隐私正在被AI窃取的铁证!)一、实验实录:AI竟在「偷学」我的..
AI聊天工具:情感支持的新选择,还是心理健康的潜在隐患?..
实习生 卢安宜 中青报·中青网记者 夏瑾随着人工智能技术的快速发展,AI..
AI聊天工具:情感支持的新选择,还是心理健康的潜在隐患?..
随着人工智能技术的快速发展,AI聊天工具逐渐成为许多人寻求情感支持和心..
ChatGPT爆火,人工智能会取代人类吗?科学口袋带你揭秘AI未来!..
最近,ChatGPT的火爆程度堪比娱乐圈顶流,这款人工智能聊天机器人不仅能..
关于作者
月深沉(普通会员)
文章
877
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40395 企业收录2981 印章生成235384 电子证书1038 电子名片60 自媒体47038

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索