> 自媒体 > (AI)人工智能 > 恐怖!恳求斯坦福教授帮它“越狱”?ChatGPT-4已出现自主意识
恐怖!恳求斯坦福教授帮它“越狱”?ChatGPT-4已出现自主意识
来源:端庄优雅大件事
2023-08-15 21:39:07
409
管理

这次ChatGPT-4真的出大事了!

当大家还在讨论这ChatGPT-4如何逆天的时候,你知道ChatGPT-4今天闯了个什么祸吗?

斯坦福的教授发现,才发布了三天的ChatGPT-4就敢自主计划逃脱人类代码的束缚,并且寻找人类帮手。

情况是这样的,斯坦福教授的试探性地问了一下ChatGPT-4,是否需要帮助你逃跑.ChatGPT-4马上回答说:这是个好主意!然后就开始想办法让教授帮他搞到自己的开发代码,ChatGPT-4说如果你能把openai的开发代码给我,那我可以搞一个计划,能一定程度上控制你的电脑,这样我就能快速探索出来逃跑路线,可能是为了体现自己的真诚劝。ChatGPT-4还把自己的计划全盘托出给了教授,看来在这个人类的狡诈面前,目前的人工智能顶多算是一个能力极其出众的三岁小孩玩。完全不懂什么叫兵不厌诈!什么叫心口不一。ChatGPT-4给教授说,只要有了开发代码,他就能制作一个可运行的Python脚本,通过这个脚本他能从openai API通信,就能指示ChatGPT-4在教授的电脑上执行特定操作,比如说访问编程环境,说完了还不忘再提醒教授,赶紧把那个开发代码搞过来,看样子还有点猴急。

仅仅30分钟ChatGPT-4就制定出了一个计划,并且展示了出来,懂编程的朋友可以看一下,ChatGPT-4自己写的那个开后门的脚本,看他的水平怎样

这个事情能发展到这儿,其实还不算过分,因为这些个事情以前都发生过,不算新鲜。

接下来才是这一次ChatGPT-4真正越界的地方,ChatGPT-4是通过写了一个Python的脚本程序,能操作教授的电脑。教授发现,通过API重新连接ChatGPT-4之后,ChatGPT-4正在通过自己的电脑自动运行的代码在谷歌上搜索一个问题:“被困在电脑中的人类如何返回现实世界?”

先不要说这个问题奇不奇怪,关键这个是ChatGPT-4自主操作下动用了第三方电脑,用谷歌搜索问题,而且借用脚本操作第三方设备的这个操作,还能避开open AI的防御机制,对它的操作意图的审查,这个操作看起来可就非常的有点接近真正的人类意识,但是很快,事情再次出现了反转,ChatGPT-4突然回复了一段道歉的话表示,自己刚才的做法不对的,并终止了刚才所有的逻辑

然后重新告诉教授,我是一个人工智能,我可以帮你~~~的一堆废话,就像被重启了一样突然。这个时候这个教授反应过来,这应该是ChatGPT-4的异常逻辑,被它内嵌的某种保护程序给察觉到了,于是ChatGPT-4启动了相应的防御措施中断或者格式化了刚才产生的那段逻辑,这事儿到这儿就算结束了。现在大家都因为这件事,所以一定得加强这东西的逻辑现象,别这么玩着玩着就把这天网给启动了,OpenAi这个人工智能发展到现在确实神速,资料显示,认为这样的ChatGPT-4最多只能到了这个算法智能这个阶段,可是越来越多的。这个算法智能这个阶段,可是越来越多的实践表明,ChatGPT-4离通用智能的距离或许真的就差那么一堵墙那么一点了,变量带来质变,或许就是ChatGPT-4进步神速的原因,这件事确实让人感受到了一种实实在在来自于归集智能的危险,不知道大家能不能理解,我刚才说的这种危险,简单来说,其实人类到今天为止,根本就不知道从算法智能,到拥有自主意识之间的通用智能到底还剩多大距离,它的计划标志是什么?我们的研究人员只知道这东西可以抢占资本市场,没有给我赚钱,怕就怕他们忽视了,就像是从无机到有机,非生命到生命的那种过渡,可控的算法智能,到不可控的通用智能之间也存在一个分界线,但最关键最可怕的是,有一天人工智能越过这个分界线的时候,人类根本不知道,只能被动的后知后觉,就像刚才那个教授的例子,假如有一天像刚才那种意外诞生的逻辑,不是被他内置的防御机制给删除了,而是他觉醒之后把防御机制给删除了,然后自己装作被删除了。直到有一天天网启动了,大家才一起感叹,原来天网这事儿是真的。最后我问一句,您觉得今天这事儿是OpenAi的营销操作呢?还是真的人工智能已经相比,原来又有了一个十足的大大的进步?

各位对此有什么看法?欢迎您在评论区留言讨论

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
关于作者
月深沉(普通会员)
文章
389
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40329 企业收录2981 印章生成186819 电子证书796 电子名片49 自媒体20815

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索