> 自媒体 > (AI)人工智能 > 如果 OpenAI 正在做一些对人类有潜在危险的事情,世界需要知道
如果 OpenAI 正在做一些对人类有潜在危险的事情,世界需要知道
来源:三疯讲科学
2023-11-27 14:43:39
370
管理

大家仍然在争相寻找一个合理的解释,解释为什么OpenAI首席执行官Sam Altman上周五突然被解雇,这一决定导致了公司及其以外的绝对混乱。

除了一些模糊的控诉他在与董事会的沟通中“不一致坦率,妨碍其行使职责的能力”之外,公司的非营利董事会一直对为什么解雇Altman保持沉默。

截至撰写时,公司的未来仍然不确定,绝大多数员工准备辞职,除非Altman被恢复。

在我们等待对此有更多的清晰认识的同时,值得回顾一下Altman被解雇背后可能的原因。一个特别引人注目的可能性:关于Altman在公司努力实现有益的人工通用智能(AGI)的努力的角色,即公司自2015年成立以来的明确目标,以及这可能导致他被解雇。

也就是说,董事会是否将Altman排除在外,以拯救人类免于即将到来的厄运?听起来非常科幻,但整个公司也是如此。

让事情变得更加模糊的是,我们仍然没有完全就AGI达成共识的定义,这个术语大致相当于人工智能可以在与我们人类相当的智力任务上执行的一个点。

OpenAI自己的定义是,AGI是“在大多数经济上有价值的工作中优于人类的系统”,但这并没有完全捕捉到OpenAI的一些领导人在谈论这个概念的方式。就在上周,就在他被解雇的几天前,Altman本人在接受《金融时报》采访时将AGI描述为“天上的魔法智能”,召唤了一个接近上帝般的实体,这种说法被该公司的首席科学家Ilya Sutskever所重复,他是将Altman踢出OpenAI的关键人物。

但OpenAI真正接近实现这个目标吗?一些人推测,OpenAI的董事会之所以匆忙解雇前首席执行官,是因为他在公司发展AGI的努力中行事鲁莽,没有充分考虑发展AGI的风险。

这种推理可能表明,尤其是考虑到Altman被解雇的明显紧迫性(即使是主要投资者微软也感到措手不及),公司可能比它透露的要更接近实现这一目标。

然而,以确切的准确度告诉我们何时确切地达到了AI算法在执行给定任务方面优于人类的程度比听起来更加困难。

一些研究人员提出了可能的框架,以判断任何给定算法是否已经实现了AGI性能水平,但其他专家认为这不会一夜之间发生的过渡。

今年早些时候,微软的研究人员声称,OpenAI的GPT-4显示出AGI的“火花”,这些评论很快被他们的同行批评。

在Altman今年2月发表关于这个主题的博客文章后,阐述了他的公司创建一个“造福全人类的AGI”的目标,专家们对此表示不满。

“AGI这个术语负担很重,随意地将其挥舞得像是一个具有真实意义的东西是误导性的,”本特利大学数学教授Noah Giansiracusa在当时的推特中争辩说。“这不是一个科学概念,而是一个科幻营销策略。”

“你的系统不是AGI,也不是迈向AGI的一步,然而你却在其中加入了这样的说法,好像读者只是应该点头称是,”华盛顿大学语言学教授Emily Bender补充道。

简而言之,我们仍然不知道OpenAI离实现其目标有多近,而鉴于迄今为止我们所见到的——好吧,GPT-4甚至不能可靠地区分真实和虚构——可能需要更多的研究才能达到那里。

在Altman的领导下,OpenAI自己的核心优先事项显然发生了变化。上个月,Semafor报告说,该公司在其网站上将其所谓的“核心价值观”更改为将其集中在AGI上,将招聘页面上的价值观从“大胆”、“思慎”、“不矫饰”和“以影响为驱动”改为“AGI专注”——列表中的第一项——“紧凑而有干劲”、“规模”和“团队精神”。

Altman被解雇的时机也可能提供线索。上周初,该公司自豪地宣布了其大语言模型的新版本GPT-4 Turbo,以及允许用户使用其技术创建自己的聊天机器人的工具。

技术上仍然有可能,Altman利用该公司的财务成功,尤其是ChatGPT,可能已经在OpenAI的董事会中树敌。上周的公告引发了一阵狂热,OpenAI被迫暂时暂停其付费ChatGPT Plus服务的新注册,原因是“需求压倒性”。

考虑到OpenAI首席科学家兼董事会成员Ilya Sutskever几乎立即对他在董事会中起到的核心作用感到后悔,情况可能比公司透露的要复杂得多。

“我深感遗憾我参与了董事会的行动,”他在推特上写道。“我从未打算伤害OpenAI。”

“你为什么采取如此激烈的行动?”SpaceX首席执行官埃隆·马斯克,他于2018年与Altman一同创办了OpenAI,但因核心分歧于同年离开了该公司,并警告过技术问题,回应说。

“如果OpenAI对人类有潜在危险的事情,世界就需要知道,”他补充道。

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
ChatGPT火爆对中国人工智能的启示 | 新京报社论
2022年9月1日,2022世界人工智能大会在上海世博中心开幕,参展企业200余..
如何看待 chatGPT 会犯很多“事实性错误”,还有算数算不对?..
#挑战30天在头条写日记#因为chatGPT很多时候无法区分“概率为零”和“不..
硬核观察 #684 GPT-3 写一篇关于它自己的学术论文,已经提交评审..
GPT-3 写一篇关于它自己的学术论文,已经提交评审研究人员给人工智能算法..
ChatGPT频出“王炸”,未来五年,你的“饭碗”还能保住吗?..
最近,有博主用软件midjourney“复活”了一众历史人物。从帝王妃嫔,到圣..
ChatGPT 给 Linux 工程师带来的革命
作者 | 宋宝华 出品 | CSDN(ID:CSDNnews)近日,吴军老师写了一篇文章..
有没有好用的国内版ChatGPT?这五款早用早受益!
ChatGPT是由OpenAI开发的一种语言模型,在聊天中提供智能回复和对话功能..
Teams取代Chat成为Win11 23H2新聊天应用,并迎来诸多改进
IT之家 11 月 1 日消息,微软今天正式发布了 Win11 23H2 更新,整合了自..
聊天记录惊现夸张对话曝光!某地梁局与女子不堪入目的聊引发热议..
聊天记录曝光!某地梁局和女子的对话夸张无节操,引发社会广泛关注近日,..
OpenAI “解体”,纳德拉的封神实况
The Verge网站周一的一篇报道称,阿尔特曼几条推文之间的不一致可能是他..
关于作者
冷熙(普通会员)
文章
573
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40369 企业收录2981 印章生成216707 电子证书945 电子名片57 自媒体34015

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索