> 自媒体 > (AI)人工智能 > 1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
1.5T内存挑战英伟达!8芯撑起3个GPT-4,来自华人AI芯片独角兽
来源:量子位
2023-10-04 17:39:07
499
管理

梦晨 衡宇 发自 凹非寺量子位 | 公众号 QbitAI

高端GPU持续缺货之下,一家要挑战英伟达的芯片初创公司成为行业热议焦点。

8枚芯片跑大模型,就能支持5万亿参数(GPT-4的三倍) 。

这是独角兽企业Sambanova刚刚发布的新型AI芯片SN40L——

型号中40代表是他们第四代产品,L代表专为大模型(LLM)优化:高达1.5T的内存,支持25.6万个token的序列长度。

CEO Rodrigo Liang表示,当前行业标准做法下运行万亿参数大模型需要数百枚芯片,我们的方法使总拥有成本只有标准方法的1/25。

SambaNova目前估值50亿美元(约365亿人民币),累计完成了6轮总计11亿美元的融资,投资方包括英特尔、软银、三星、GV等。

这一策略与GPT-4和谷歌Gemini等做法形成鲜明对比,巨头大多希望创建一个能泛化到数百万个任务的巨型模型。

分析师认为技术上可能谷歌的做法性能更强,但SambaNova的方法对企业来说更实用。

没有任何一个模型或人能完整访问企业的所有数据,限制每个部门能访问的专家模型,就能限制他们能访问的数据。

斯坦福系芯片公司,华人工程师主力

SambaNova成立于2017年,2020年之前都比较低调。

联创3人都是斯坦福背景,连产品系列名Cardinal(深红色)都是斯坦福的昵称与代表颜色。

CEO Rodrigo Liang是前Sun/甲骨文工程副总裁,也有人将这个名字解读为暗指甲骨文老对头IBM的DeepBlue(深蓝)。

另外两位联合创始人都是斯坦福教授。

CTO Kunle Olukotun是电气工程教授,因多核芯片架构方面的研究而闻名,开发了首批支持线程级推测 (TLS) 的芯片之一。

Christopher Ré是计算机科学副教授,重点研究方向机器学习和数据分析的速度和可扩展性。

此外团队中还有不少华人工程师。

从官网公开信息来看,SambaNova的领导团队中,至少有3名华人。

Jonathan Chang,拥有UC伯克利的机械工程学士学位以及南加州大学的MBA学位。

他在构建高增长方面拥有20多年的经验。加入SambaNova之前,Chang在特斯拉工作了近9年。

Marshall Choy,此前曾担任甲骨文公司系统产品管理和解决方案开发副总裁,监督了数十个行业的企业硬件和软件产品的上市。

Penny Li,在EDA工具和微处理器设计方面拥有超过27年的经验。此前,她曾在IBM和甲骨文工作过。

如果去领英搜索还能发现更多华人团队成员。

目前SambaNova包含SN40L芯片的人工智能引擎已上市,但定价没有公开。

根据Rodrigo Liang的说法,8个SN40L组成的集群总共可处理5万亿参数,相当于70个700亿参数大模型。

全球2000强的企业只需购买两个这样的8芯片集群,就能满足所有大模型需求。

参考链接:[1]https://spectrum.ieee.org/ai-chip-sambanova[2]https://www.nextplatform.com/2023/09/20/sambanova-tackles-generative-ai-with-new-chip-and-new-approach/[3]https://sambanova.ai/resources/

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
跟人没话说?找不到话题?101个聊天话题建议收藏
标题:聊天话题的重要性:为什么101个聊天话题建议值得收藏聊天,是我们..
重磅,ChatGPT老板官宣“世界币”,价格暴涨、用户超两百万,要给全世界每..
智东西编译 | 云鹏编辑 | 心缘智东西7月25日报道,昨天包括OpenAI CEO山..
中国版ChatGPT“露馅”!人民日报:不能再抱有任何幻想..
文/文学科技社2001年,一部名为人工智能(AI)的科幻影片向人们展示了未..
数学天才陶哲轩:GPT-4无法攻克一个未解决的数学问题,但有帮助..
编辑:桃子【新智元导读】数学天才陶哲轩的研究也用上了AI工具GPT-4。有..
不用添加对方为微信好友,也能进行微信聊天!两种方法太好用..
刚刚知道,不需要添加对方为你的微信好友,也能照样进行微信聊天,方法很..
升级版来了!OpenAI推出GPT-4 能更准确地解决困难问题
【CNMO新闻】近几个月,ChatGPT爆火全网。作为一款聊天机器人模型,ChatG..
用ChatGPT控制NPC,行动逼真如正常人!斯坦福谷歌新研究炸场..
萧箫 发自 凹非寺量子位 | 公众号 QbitAI放任25个AI共同生活,他们竟然模..
一年前,ChatGPT开启了一个人工智能时代:它如何影响社会?..
ChatGPT于2022年11月30日推出,迎来了许多人所说的人工智能突破年。在发..
意大利宣布禁止使用ChatGPT,原因是……
当地时间3月31日,意大利个人数据保护局宣布,从即日起禁止使用聊天机器..
关于作者
轻随风之舞..(普通会员)
文章
640
关注
0
粉丝
1
点击领取今天的签到奖励!
签到排行

成员 网址收录40369 企业收录2981 印章生成216707 电子证书945 电子名片57 自媒体34015

@2022 All Rights Reserved 浙ICP备19035174号-7
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索