唐璜 发自 凹非寺
量子位 | 公众号 QbitAI
OpenAI开源的数学数据集,中国厂商新成绩一举冲到最前列!
就在9月16日,国产大模型在权威推理评测集GSM8K中,首次达到了80%正确率,大幅领先GPT-3.5(57.1%)和LLaMA2-70B(56.8%)。
而且这家厂商在大模型榜单上刷新全球纪录,已经不是第一次了。
GPT-3.5答,Wendi需要在一天的最后一餐中给鸡崽子们喂21杯饲料。
看来第二局还是天工大模型赢了。
Round 3
问:巨龙高坐在法尔博山上,向1000英尺范围内的任何东西疯狂喷火。波莉可以将压制巨龙的武器投掷400英里,但当她拿着蓝宝石时,能比不拿宝石时把标枪扔得远三倍。
如果拿着宝石,波莉能站在龙焰射程之外多远的地方,用金标枪击中龙?
天工大模型给出的解题思路如下,并且生成答案为200英尺。
GPT-3.5给出的解题思路也摆在这,最后答案也是200英尺。
多个榜单跻身前列除了GSM8K,另一个推理评测基准HumanEval,以及两个通识评测基准MMUL、C-Eval上,天工大模型也有出色表现。
而模型层之外,为大模型积攒实力的无外乎算法、算力、数据三大件。
算法层方面,天工大模型也有自己的秘籍。
通常来说,市面上大模型们普遍采用Transformer架构。在此基础上,天工团队首次引入了蒙特卡洛搜索树算法(AlphaGo背后也是这算法)。
再说天工大模型背后的算力,基于中国最大的GPU集群之一。
强劲算力鼎力支持的,是天文数字版的数据量——按照借助“开源力量”的策略,天工从数十万亿的数据中,最终清洗、筛选出了近3万亿单词的数据。
现在,天工大模型在推理、通识多个榜单开花,可以想见因为背后算力、算法、数据扎实储备,天工大模型拥有的已经不是模型规模优势,技术创新和推理性能方面,也有了新突破。
国产大模型绕不过的狠角色其实,推理能力大幅超过GPT-3.5和LLaMA2,已经不是昆仑万维携天工大模型第一次拿成绩炸场。
不久之前,天工大模型多模态团队的Skywork-MM用了大约50M的图文数据,以远小于其他大模型的数据量(>100M),登顶了多模态榜单。
△MME感知榜第一,认知榜第二,总榜第一
昆仑万维另一则引得众人瞩目的新闻,是AI大牛颜水成的加入。
他出任天工智能联席CEO、2050全球研究院院长,将在新加坡、伦敦、硅谷三地建立2050全球研究院的研究中心,并逐步开展几个领域的研究:
下一代Foundation Model的基础研究和研发;Agent的研发和智能体进化的研究;生物智能等前沿技术领域的探索。颜水成道出加盟昆仑万维的原因:
在通用人工智能领域,从研究、研发到产品是完整的链条,缺一不可,只有将三者完全打通,研究才能发挥最大价值。
在国内,能将研究、研发、产品三线合一的平台少之又少,昆仑万维布局了AI大模型、AI动漫、AI社交、AI游戏、AI搜索和AI音乐六大方向,同时昆仑万维的核心业务面向全球市场,其能力矩阵和生态系统非常具有想象空间。
大模型潮流,浩浩荡荡。
今年以来国产大模型的发展势头迅猛,吸引越来越多的人才加入其中,由此助力各家大模型不断地迭代升级,涌现出更强大的能力,适配更广泛的应用场景。
昆仑万维在大模型的变革中,战略重视,动作频频,而且也有业务场景。
可以不夸张地说一句,昆仑万维和它家的天工大模型,已经是大模型江湖中,一个绕不过去的狠角色了。
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
相关文章
猜你喜欢