这封信最后写道,“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后,我们现在可以享受‘AI之夏’,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏,而不是毫无准备地陷入秋天。”
图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、 苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物均签名,马斯克也是签名的名人之一。
Sam Altman说,“我非常同意其中的部分内容。在我们完成对GPT-4训练后,我们花了六个多月的时间,真正研究模型的安全性......真正尝试了解正在发生的事情并尽可能地减轻影响是很重要的。“
Sam Altman还澄清说,这封信的早期版本声称OpenAI正在训练 GPT-5,“我们不会,一段时间内不会,所以从这个意义上说,这有点愚蠢。(we are not, won't for some time, so in that sense it was sort of silly)”
OpenAI正在开发GPT-4的附加功能,这些功能存在安全问题,需要解决。一般来说,“随着能力变得越来越重要,安全标准必须提高。
”我们将继续尽可能诚实地对待AI的发展。相信它们会影响每个人,因此应该让尽可能多的人参与测试和了解它们。了解优点和缺点,这是值得的,即使我们确实倾向于在公共场合让自己难堪,并且不得不经常根据新数据改变主意,也要权衡取舍。”
此前,那封公开信被部分人视为是马斯克及一众被OpenAI 生态伙伴们甩在身后的科技巨头们的缓兵之计。
有观点认为,马斯克参与签名,主要是OpenAI的迭代速度太快了。Google的搜索比对手好 20%就占据了 90%的搜索市场份额。OpenAI 的影响会更广泛,所有的上层应用都希望使用优更强大 AI 赋能的云服务。只能寄希望于 OpenAI 会像自动驾驶那样发展到某个阶段会遇到难以克服的瓶颈。
LinkedIn联合创始人里德霍夫曼就声称,马斯克在这封信上的签名只是出于嫉妒。霍夫曼表示,马斯克和其他人希望暂停,以便他们能够赶上并提供自己的AI产品。
马斯克的确看起来就像一个"心机Boy",转头就投入AI浪潮,根据内华达州的一份文件,马斯克已经成立一家名为X.AI Corp的新人工智能公司,还被曝出购买了大约1万个GPU,并从DeepMind处招募到AI人才,打算开发自己的大语言模型(LLM)项目。
目前,马斯克旗下的Twitter已从Alphabet子公司 DeepMind 处招募工程师 Igor Babuschkin和Manuel Kroiss。可以看出,马斯克一直在积极物色 AI 领域的人才,希望与OpenAI展开竞争。
———————————————
雷递由媒体人雷建平创办,若转载请写明来源。
相关文章
猜你喜欢