> 自媒体 > (AI)人工智能 > ChatGPT放大AI引爆未来可能!复旦邱锡鹏:AI一定要与人类价值观“对齐”
ChatGPT放大AI引爆未来可能!复旦邱锡鹏:AI一定要与人类价值观“对齐”
来源:文汇网
2023-08-11 16:23:58
190
管理

尽管引发了各种各样的“杂音”,但我们不得不承认的是,ChatGPT所展现出来的令人惊艳的对话理解与表达能力,让越来越多人意识到人工智能已经迎来了全新的里程碑,并且有望作为一个至关重要的基座系统,以前所未有的速度渗透进各行各业,持续引爆未来世界的数字经济体系。

在由复旦大学管理学院日前主办的“复旦科创先锋论坛”上,复旦大学计算机科学技术学院教授、MOSS系统负责人邱锡鹏对ChatGPT的未来做出了如下判断:考虑到ChatGPT已拥有通用语言理解的能力,并可以进一步增加对外接口,成为通用人工智能的技术基座。这就意味着通用人工智能(Artificial General Intelligence,AGI)的加速实现对于现阶段的人类来说已经不是梦想。甚至乐观一点说,像科幻片里面的人工智能形象可能很快就会在我们的生活中出现。

ChatGPT是2022年底由美国Open AI公司发布的一个人工智能模型,60天内月活用户直接破亿,成为了史上用户增长最快的消费级应用,其主要的功能就是与人类直接对话。邱锡鹏表示,要想解析ChatGPT背后的技术原理,首先要理解一下“语言模型”(Language Model),即利用计算机去重新建模人类语言,把自然语言转化为机器能够理解并判断的语言的一种机制,“我们迫使语言模型努力发现这些文字背后所蕴含的各种各样的规律,从而使这个模型更好理解人类语言和世界知识。”

目前,Transformer已经在整个人工智能领域成为了最主流的语言模型架构体系。邱锡鹏透露,除了能力强之外,还有一个非常重要的原因在于它的架构设计对于GPU运算特别友好。由于Transformer出现在GPU之后,设计方面天然地充分考虑最大限度利用GPU能力,更容易做到大规模语言模型的效果。

“要想模型的预测越准确,就势必需要大量的参数对其进行训练,以帮助大规模语言模型能够充分理解人类语言规则及其逻辑关系。目前在Transformer的加持之下,我们已经可以把模型规模做到百亿级、千亿级,这就是如今的大型语言模型。在大型语言模型当中,我们可以通过输入一些上文,经过语言模型背后的仿人类神经元构成的Transformer神经网络加工处理,从而实现对下一个词的预测,并输出相应文本。”邱锡鹏介绍说,在训练过程当中,科学家发现,计算量大概在10的22次方之后,模型能力会完成从量变到质变的飞跃,呈现出惊人的爆发式增长,通常也将其称之为“涌现能力”。

大型语言模型在达到百亿级规模后开始获得“涌现能力”,而涌现能力的背后,则进一步隐含着三个非常重要的技术:情景学习、思维链和指令学习,这也是ChatGPT得以在人工智能领域叱咤风云的关键原因。

ChatGPT的通用性放大了AI引爆未来的可能。邱锡鹏认为,以ChatGPT为代表的通用人工智能技术,可以引爆数字经济,充分发挥数据和算力效能,并催生出海量的新商业模式;可以赋能产业数字化,并通过人机协同的方式解决行业专家资源不足的问题;可以以数字人、个人助理、搜索引擎等形式对数字经济新业态、新模式提供发展动能;更将深刻改变教育、社会治理、司法等领域的生态,大幅提升行业水平。

但他同时也指出,目前的通用人工智能技术尚且存在很多不足,包括随机性、不可控、容易“一本正经地胡说八道”等等,不过,相信这些问题随着时间的推移,都将在未来通过各种方式逐步得到改进。

邱锡鹏表示,对于下一阶段的大型语言模型来讲,我们目前重点需要去做的事情就是让模型和现实世界以及人类的价值观进行“对齐”,成为一个真正的智能体,具有自身学习、跨模态学习、知识和工具利用等能力。毕竟如果AI的价值观和人的价值观背道而驰,那将会是非常危险的。

作者:唐玮婕

编辑:朱伟

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
ChatGPT接招:谷歌正式开放Bard AI聊天机器人供用户测试..
IT之家 3 月 21 日消息,谷歌在 2 月份发布了其 Bard 对话式 AI 后,一直..
下一个苹果公司?ChatGPT王炸升级:GPT应用商店登场|科技观察..
封面新闻记者 燕磊“公司在今年3月发布的GPT-4,至今仍是世界上能力最强..
ChatGPT 还没达到“基础模型”状态,国产大模型“速胜论”不靠谱!..
整理 | 梦依丹 出品 | CSDN(ID:CSDNnews)在经历寒冬、雾霾,甚至大家..
ChatGPT在内容运营的应用初探
ChatGPT无疑是当前最热门的人工智能,每次迭代都让人惊叹。我们团队也在..
ChatGPT爆火,网络安全再次被摆上台面
尽管有许多声音赞扬ChatGPT,但也有些人担心它弊大于利。关于骗子劫持人..
抓获9人!浙江杭州临安警方千里追踪破获一起裸聊敲诈勒索案..
聊天交友“美女”搭讪只要下载APP通过视频聊天就能“坦诚相见”殊不知已..
“ChatGPT之父”回应被解职:有点像在你活着的时候,就开始念你的悼词..
当地时间17日,人工智能初创公司OpenAI发表声明,宣布该公司首席执行官萨..
ChatGPT之父等350余位专家高管联名警告:AI堪比疫情和核战,有灭绝人类的风..
(观察者网讯)“人工智能或导致人类灭绝”,5月30日,国际AI领域非营利..
网络游戏账号能卖钱?这类“虚拟产品交易诈骗”要小心!..
被骗经过是这样的↓最近小王在玩一款游戏一个陌生网友想添加小王为好友问..
关于作者
黑暗森林(普通会员)
文章
357
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40329 企业收录2981 印章生成186825 电子证书796 电子名片49 自媒体20887

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索