> 自媒体 > (AI)人工智能 > 1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
来源:量子位
2023-10-04 17:39:07
383
管理

梦晨 衡宇 发自 凹非寺量子位 | 公众号 QbitAI

高端GPU持续缺货之下,一家要挑战英伟达的芯片初创公司成为行业热议焦点。

8枚芯片跑大模型,就能支持5万亿参数(GPT-4的三倍) 。

这是独角兽企业Sambanova刚刚发布的新型AI芯片SN40L——

型号中40代表是他们第四代产品,L代表专为大模型(LLM)优化:高达1.5T的内存,支持25.6万个token的序列长度。

CEO Rodrigo Liang表示,当前行业标准做法下运行万亿参数大模型需要数百枚芯片,我们的方法使总拥有成本只有标准方法的1/25。

SambaNova目前估值50亿美元(约365亿人民币),累计完成了6轮总计11亿美元的融资,投资方包括英特尔、软银、三星、GV等。

这一策略与GPT-4和谷歌Gemini等做法形成鲜明对比,巨头大多希望创建一个能泛化到数百万个任务的巨型模型。

分析师认为技术上可能谷歌的做法性能更强,但SambaNova的方法对企业来说更实用。

没有任何一个模型或人能完整访问企业的所有数据,限制每个部门能访问的专家模型,就能限制他们能访问的数据。

斯坦福系芯片公司,华人工程师主力

SambaNova成立于2017年,2020年之前都比较低调。

联创3人都是斯坦福背景,连产品系列名Cardinal(深红色)都是斯坦福的昵称与代表颜色。

CEO Rodrigo Liang是前Sun/甲骨文工程副总裁,也有人将这个名字解读为暗指甲骨文老对头IBM的DeepBlue(深蓝)。

另外两位联合创始人都是斯坦福教授。

CTO Kunle Olukotun是电气工程教授,因多核芯片架构方面的研究而闻名,开发了首批支持线程级推测 (TLS) 的芯片之一。

Christopher Ré是计算机科学副教授,重点研究方向机器学习和数据分析的速度和可扩展性。

此外团队中还有不少华人工程师。

从官网公开信息来看,SambaNova的领导团队中,至少有3名华人。

Jonathan Chang,拥有UC伯克利的机械工程学士学位以及南加州大学的MBA学位。

他在构建高增长方面拥有20多年的经验。加入SambaNova之前,Chang在特斯拉工作了近9年。

Marshall Choy,此前曾担任甲骨文公司系统产品管理和解决方案开发副总裁,监督了数十个行业的企业硬件和软件产品的上市。

Penny Li,在EDA工具和微处理器设计方面拥有超过27年的经验。此前,她曾在IBM和甲骨文工作过。

如果去领英搜索还能发现更多华人团队成员。

目前SambaNova包含SN40L芯片的人工智能引擎已上市,但定价没有公开。

根据Rodrigo Liang的说法,8个SN40L组成的集群总共可处理5万亿参数,相当于70个700亿参数大模型。

全球2000强的企业只需购买两个这样的8芯片集群,就能满足所有大模型需求。

参考链接:[1]https://spectrum.ieee.org/ai-chip-sambanova[2]https://www.nextplatform.com/2023/09/20/sambanova-tackles-generative-ai-with-new-chip-and-new-approach/[3]https://sambanova.ai/resources/

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
迎战 ChatGPT,谷歌聊天机器人 Bard 正式开放测试
作者 | 刘燕 3 月 21 日晚间,谷歌开放了其聊天机器人 Bard 的测试。Bard..
ChatGPT:很遗憾,目前世界上最常用的聊天通讯软件不是微信..
ChatGPT:[看]以下是目前世界上最常用的聊天通讯软件:WhatsApp - WhatsA..
你的爱猫在说啥?新款APP声称能将“喵语”准确翻译成人话..
苹果的App Store近日上架了一款新应用程序“喵语”(MeowTalk),发明者..
微软将 GPT-3 应用于 PowerFx 语言以简化编码
出品|开源中国文|白开水微软在 Build 2021 大会上公布了由 GPT-3 驱动的..
高考志愿填报指南:用AI阅读工具ChatDOC搭建AI高考志愿填报系统..
高考志愿填报指南:使用 ChatDOC 搭建专业、好用、免费的 AI 高考志愿填..
青海女大学生出轨,1分45秒不雅视频聊天记录曝光,引发网友热议..
喜欢的话麻烦点击“关注”和“赞”,既方便讨论与分享,也是对我们更新内..
GPT-4仅用19轮对话造出130nm芯片,攻克芯片设计行业巨大挑战HDL..
GPT-4仅用19轮对话造出130nm芯片,攻克芯片设计行业巨大挑战HDLGPT-4在芯..
人工智能引领第四次工业革命,GPT成为引领未来的“超级大脑”..
在人类历史上,经历了三次工业革命。每一次革命都代表着科技的飞速发展和..
chatgpt可以取代我们工作的哪些方面
客服是一项非常重要的工作,但大多数客服人员的工作内容都非常枯燥乏味。..
关于作者
轻随风之舞..(普通会员)
文章
486
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40335 企业收录2981 印章生成194284 电子证书831 电子名片53 自媒体26178

@2022 All Rights Reserved 浙ICP备19035174号-7
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索