整理 | 邓晓娟 责编 | 梦依丹

出品 | CSDN（ID：CSDNnews）

3月20日，OpenAI 联合创始人& CEO Sam Altman 和科技主播 Lex Fridman 进行对谈，主要讨论 GPT-4、通用 AI（AGI）、 OpenAI 公司、AI 带来的潜在问题，以及 AI 的未来。总体来说，Sam Altman 认为，GPT-4 等 AI 系统并非少数人的成果，而是源于无数人的共同努力，是人类智慧的结晶，成果也应当由人类共享。笔者整理了一些对话中大家比较关注的点，看看 Sam Altman 是如何回应的。

GPT-4 是人们想象中的“未来 AI”吗？

人们对未来 AI 的想象是非常丰富的，值得一谈的是，人们认为“更好”的 AI，就是与人类无限相似，甚至超越人类能力的存在；但另一方面，又对 AI 是否“太像”人类而感到惴惴不安。这种现象归根结底是人们既希望 AI 强大到能够快速理解人类意图，却又极其不希望其拥有人类的意识。

AI 是否会“觉醒”？对此，Altman 的态度是：人们围绕 AI 的一些恐惧可能并不会成为现实。人类因为天生对改变、不确定性惧怕，面对新的工具，也会因为其过于好用而感到害怕。但 Altman 指出，哪怕在 AI 非常强大之后，还是无法代替人。就像当年 Alpha Go 在国际象棋中赢了人类，但现在还是有很多人在玩国际象棋，而且人们还是更愿意看真人下象棋，而不是两个 AI 下象棋。

“人们仍然喜欢戏剧性，喜欢我们有的、而 AI 没有那些缺陷。”Altman 说。

那么，怎样判断 AI 是否拥有“人的意识”？Altman 提到了一些用于判断的测试。比如 OpenAI 首席科学家 Ilya Sutskever 提出的标准：如果你训练模型的时候，对数据集做非常精心的设定，确保在训练过程中 AI 不接触到“意识”、主观体验或任何类似的东西，然后你和这个模型讨论一些它没有训练过的东西，如果模型对于你说的大部分内容都不理解，但当你描述意识的主观体验，模型却立即回应“知道你在说什么”时，那可能就意味着 AI 可能发展出了意识。

科技主播 Lex 对此补充了一个场景，在电影《机械姬》最后，片中的 AI 机器人机械姬逃出实验室后，露出了一个开心的微笑。这时没有别人在场，所以她是在为自己、为自由而笑。《机械姬》的导演认为，“为自己而笑”可以作为一个“AI 是否具有意识”的图灵测试。

OpenAI 的坚守和未来

Altman 告诉我们，GPT-4 是人类迄今所实现的最复杂的软件，那 GPT-4 背后的 OpenAI 为什么这么强？Altman 总结了一下。首先是做事的态度是探求真理（truth seeking），做一切能达成最优表现的事，不管它是否优雅。就像LLM（大语言模型）这个路线曾经饱受鄙夷，但他们还是坚持下来了。

其次是“不积跬步无以至千里”的理念。实现 GPT-4 并不是单纯的解决 3-5 件关键问题的事情，而是需要搞定大量纷繁复杂的小事，乘法效应让技术飞跃得以实现。比如数据获取、清洁、训练、优化和搭结构等方面的问题。以小取大。最后，团队的能力也非常重要，至今为止，Altman 依然亲自审核及批准 OpenAI 的每一个招聘决定，招聘的优先级在团队工作中非常重要；同时也要给予团队成员足够的信任和自主权，才能实现高速发展。

谈到对未来 AI 的期许，Altman 的说法是：解释所有物理现象，解决所有未解之谜。未来或许将有很多个 AGI 存在，不同的 AGI 会在不同的领域和应用上发挥作用，这是一种有益的现象。而 OpenAI 建立时定位就是非盈利组织，没有无限逐利的动力，所以能够更好地抵抗市场压力。但这种背景下就没有足够的资金来支撑完成任务，所以他们转变为“盈利有上限”的组织，来获得资本的某些加成，同时不完全导向逐利。

接下来 OpenAI 不会执着于模型参数大小（Parameter count race），而是最看重如何实现最佳性能。在面对市场压力和竞争时，Altman 强调，坚持信念和使命，虽然市场上随时都会出现更领先的技术，但 OpenAI 不会为了追赶而放弃安全性，踏实走好每一步。

参考链接：

https://www.youtube.com/watch?v=L_Guz73e6fw

https://havefun.zhubai.love/posts/2251759131969024000

https://weibo.com/1727858283/4883866638092324?wm=3333_2001&from=10D3293010