> 自媒体 > (AI)人工智能 > Hinton最新访谈:GPT-3和人脑比参数量仍少1000倍
Hinton最新访谈:GPT-3和人脑比参数量仍少1000倍
来源:新智元
2023-05-26 22:17:36
241
管理
【新智元导读】三十年前,Hinton对于神经网络能够取得大发展的信念是非主流的,而现在恐怕很难找到任何人反对。近期 Hinton 在麻省理工技术评论的年度 EmTech MIT 会议上,讨论了这个领域的现状以及他认为下一步应该走向何方。

如果我们有了这些突破,我们是否能够通过深度学习技术接近人类的智力?

是的。尤其是突破性的进展可以让大量的向量实现诸如推理的事情,但是我们也需要大幅度的扩大参数规模。人类的大脑有大约100万亿个参数,或者说突触,而我们现在所说的一个真正的大模型,像 GPT-3,有1750亿。它比大脑小一千倍。GPT-3现在可以产生看似合理的文本,但与大脑相比仍然很小。

你说的规模,是指更大的神经网络,更多的数据,还是两者兼而有之?

两者都有。在计算机科学和人类之间存在着某种差异。与感官接收到的数据量相比,人类大脑中有更大量的参数,而神经网络也出人意料地善于处理数量相当少的数据,但人类可以做到更好。

有些人仍然相信符号表示是人工智能的方法之一,您同意吗?

我有像赫克托 · 莱维斯克这样的好朋友,他真的相信符号表征的方法,并且在这方面做了很大的工作。不过我不同意他的观点,但是这种符号学的方法是一种完全合理的尝试。

但我的猜想是,最终我们会意识到符号只存在于外部世界,本质是我们对向量进行各种内部操作。

对于人工智能的未来,你认为你最非主流的观点是什么?

我曾经有一些非主流的观点,而五年后,它们成了主流。我在20世纪80年代的大多数非主流观点现在已经被广泛接受,所以现在很难找到不同意这些观点的人。所以,我现在已经没有多少非主流观点了。

参考链接:

https://www.technologyreview.com/2020/11/03/1011616/ai-godfather-geoffrey-hinton-deep-learning-will-do-everything/

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
关于作者
兰花草(普通会员)
文章
440
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40334 企业收录2981 印章生成191544 电子证书820 电子名片51 自媒体25086

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索