推理模型将成就 Agent

主持人：请先总结你们 2024 的工作。

Sarah Friar：我们相信自己正在通往通用人工智能（AGI）的路上。2024 年，我们在推理模型方面取得了重大突破。从聊天模型和聊天机器人主导的阶段，到现在的 ChatGPT 成为全球增长最快的应用，用户数已从 1 亿迅速增长到 3 亿以上。

在去年，我们开始在推理能力上取得实质性进展，推出了 O 系列模型。从 o1 预览版开始，现在已经发展到完整的 o1 版本。希望大家都已经体验过。这些推理模型能帮助我们思考复杂的问题。

我最喜欢的是实时观察模型的运作过程。它会沿着思维链去解答问题，有时会遇到死胡同找不到答案，这时它会回溯，尝试其他解决方案，就像人类思考问题时一样，最终给出最佳答案。

实际上，很多时候并不存在一个明确的单一答案，而是一个探索的过程，是延续对话的方式。

我们的创新步伐在加快。从 o1 到 o3 预览版只用了3个月，而从 GPT-3 到 GPT-4 却花了将近 2 年。创新速度正在显著提升。

主持人：在 OpenAI 这样的公司工作是什么感觉？

Sarah Friar：这既令人振奋又很有启发，虽然有时会觉得疲惫，但我们都带着使命感。在OpenAI的每个人都明白我们正在为世界带来重大影响。我们从安全性和对齐性的角度思考问题，同时对技术潜力保持乐观。当我们把这样的人工智能提供给学校里的孩子、教师和职场中的同事时，我们相信它能带来巨大改变。而这仅仅是个开始。

主持人：确实如此。你提到了推理能力，能否具体说说 OpenAI 开发的这种高级推理能力如何转化为实际的客户价值？根据你的观察，用户是如何通过这项技术提高生产力的？

Sarah Friar：推理能力是通往 Agent 的关键一步。我们正在进入一个 Agent 技术的新时代，一个遍布 Agent 的世界。目前，推理模型已经被用于解决一些最具挑战性的问题。比如在制药行业，用于深入研究新分子，帮助我们思考药物研发等问题。这些是我对 O 系列模型进展最感兴趣的领域。

说到 Agent，你可能会问：Agent 究竟是什么？当 Sam Altman 说 2025 年 Agent 将能像员工一样工作时，你认为我们会在哪些领域首先看到 Agent 替代人类工作？它会影响哪些行业？

这就首先要理解 Agent 为什么成为可能。这要说到推理模型的“死胡同”现象——推理模型有时会陷入死胡同，不得不回头尝试其他方法。在传统的确定性软件中，开发者必须预见所有可能的路径。而推理模型更接近人类的思维方式，这让 Agent 能在工作场所发挥作用，甚至可能成为我们日常生活中的助手。

比如作为职场母亲，我经常遇到这样的情况：下午 5 点，我还有几个小时的工作要完成，但必须回家给孩子准备晚饭。我丈夫虽然会帮忙，但并不总是靠得住。这时，一个 Agent 可能会帮我解决问题，比如帮我点外卖——“帮我订一份健康的晚餐，我们家昨晚吃了披萨，今天不要再点意大利菜，也不要太多碳水。” Agent 能知道我的预算，了解我常用的餐厅，甚至能提出新的建议。

这是生活中的一个 Agent 应用场景，但 Agent 如今也在工作场所展露头角，比如在软件开发、实验室研究、深度科学等领域。我们在达沃斯看到很多人在讨论 Agent 在客户关系管理等领域的应用。未来，你会看到很多公司都在谈论 Agent 的广泛应用。要记住，这一切都建立在 OpenAI 的推理模型基础之上，这正是我们作为前沿技术公司引领的方向。

中美 AI 大战不是说说而已

主持人：让我们谈谈全球政策和基础设施。在政策方面，昨晚我们都看到了包括 Sam Altman 在内的科技领袖参加了特朗普的就职典礼。公司计划如何与新政府合作？

Sarah Friar：我们已经发布了多份关于“基础设施即命运”的蓝皮书。我们认识到，人工智能时代需要大量的公共和私营部门合作，以推动技术在全球的发展。这不仅是出于资本需求，也是因为我们需要思考合适的监管环境，确保这项技术能造福人类。

我们的蓝皮书强调了经济区的建设。从美国的角度来看，这不仅关系到生产力，也关系到国家安全。我在你面前既是美国人，也是英国人和欧洲人。从美国的角度看，生产力的提升已经开始，这对提高人们的生活质量、更好地利用时间都是有益的。但我们也要确保这是一个西方联盟，让每个人都能够使用这项技术。

从国家安全的角度看，我们需要确保持续投资。所以我们考虑了经济开发区的问题，政府如何深入民众，帮助他们思考再培训和技能提升。我们在教育领域做了很多工作，比如美国的亚利桑那州立大学已经在 ChatGPT 上部署了 28 万个席位，我的母校牛津大学也是我们重要的客户。我们喜欢深入到这个层面，因为我们看到学生们正在积极接纳这项技术。

此外，我们还需要在合适的监管环境中工作，以便安全地部署技术，让人们能够真正使用它，政府也需要确保为了公民的利益站在技术前沿。

主持人：OpenAI 最近发布了一份关于美国人工智能政策的经济蓝图。其中一个重要信息是，美国和中国之间存在人工智能技术竞赛，美国应该投资并支持基础设施建设。为什么我们现在会听到更多关于中美在人工智能领域竞争的言论？

Sarah Friar：这不是言论，而是事实。中美之间的 AI 竞争不是简单的口水战，这是一场真实的竞争，双方正在大力投资这一领域。所以我们在这方面不能天真。我们已经看到特朗普政府愿意积极参与，无论是从经济角度，还是从监管和商业竞争的角度。我们很期待开始实质性的合作。

主持人：让我们谈谈欧洲，你如何看待欧盟在严格监管科技行业与推动创新之间的平衡？

Sarah Friar：如果我站在欧盟或英国的角度，我会思考生产力以及它对经济增长的意义。我们已经看到美国与其他国家的经济之间出现了明显的分歧。这让我感到痛心，尤其是看到英国相对较低的增长率。我认为技术是推动 GDP 增长和提高公民生活质量的主要动力。

我们最近做了一项调查，询问人们对人工智能的期待。答案主要有三点：首先，他们希望整体生活质量得到改善，希望工作能带来更高的收入；其次，他们希望获得更好的医疗保健；第三，他们希望节省时间，提高效率，有更多时间陪伴孩子，或投入自己喜欢的活动中。

从政府的角度来看，需要在过度监管和允许技术发挥潜力之间找到平衡。我认为美国在这方面找到了很好的路径。我们发布的蓝图中提到了汽车进入社会的例子。汽车最初是在英国发明的，但当时英国要求行人走在汽车前面，用红旗提醒有车经过，甚至把汽车速度限制在每小时 3 英里左右。结果，美国接过了这个机会，创造了一个令人惊叹的汽车工业。这只是一个例子，但它很好地说明了如何在拥抱新技术的同时，以安全的方式为公民带来福祉。

OpenAI 的上班体验类似于强化学习

主持人：作为科技领域的顶级女性高管之一，我想问问你，在科技行业，女性如何才能获得成功？你是如何应对这些挑战的？你对这个话题有什么看法？

Sarah Friar：这对我来说是非常重要的话题。我是作为一名工程师开始职业生涯的。大学毕业后的第一份工作是在加纳的一座金矿工作，这可能让人难以置信。我的硕士论文研究如何从硫化矿石中提取黄金。

我提到这件事，是因为当时我做完这份工作回到英国后，认为自己无法在那里获得成功，因为那里没有其他女性。所以我非常认同“看不见就很难成为”这句话。因此，像我这样有幸坐在这个位置的人，首要任务就是展示女性能做到。希望下一代人能看到自己的潜力。

其次，我们如何利用技术推动多元化？比如，人工智能能帮助创建个性化的学习体验。我最近看到了世界银行在尼日利亚的一个精彩项目，他们特别关注性别动态。他们利用 ChatGPT 创建了一个课后辅导项目，特别关注女孩。他们发现在使用这项技术的短短几个月内，女孩的教育成果提升了将近两年的水平，因为它创造了个性化的学习场景。

让我感到痛心的是，听到年轻女孩说“我不擅长数学”。这是不对的。她们永远不会说“我不擅长说德语”，因为她们还没有开始学习。人生才刚刚开始，你还不知道自己的潜力。有时候可能只是教学方式不适合你。计算机科学通常首先通过游戏来教授，但我的女儿第一次上计算机科学课时说：“妈妈，我不喜欢这个，我不想开发游戏。”而当她意识到可以用它来创建网站，融入她的艺术天赋时，她就被深深吸引了。如今，我真为她感到自豪，她在大学学习化学和计算机科学。

所以，关键是我们如何从人们所处的位置出发与他们沟通。然后在职场中，我如何帮助各种不同背景的人才，不仅仅是女性。最终，我们团队的多样性越丰富，我们开发的产品就越好，为整个社会带来的成果就越好。如果一个房间里只有相同的观点，是无法做到这一点的。

主持人：接下来是很多人都想知道的问题。Sam Altman 作为老板是什么样的？

Sarah Friar：Sam 是个令人愉快的人，和他一起工作很有趣，因为他的思维速度非常快。作为一个充满好奇心的人，我喜欢这一点，因为它让我保持警觉。他有一颗善良的心，我认为这很重要。但他总是在不断推动前进。

最近我和他有过一次对话。我说：“Sam，关于我，你要知道，当你给我反馈时，如果总是关注可以改进的地方，这很好。但有时提醒我哪些地方做得对也很有帮助。这样我会更好地回应你。”

他说：“这真的很有帮助。” 因为我是一个习惯接受严厉反馈的人。

但我确实会思考这一点。我看到他改变了我们的互动方式。这再次说明了多样性的重要性，因为我们需要能够相互沟通，了解彼此不同的反应方式。我希望这真的能帮助他思考周围的人。

总的来说，这是在公司一个疯狂而精彩、令人振奋的开始。这是一个出色的团队，你真的在与世界上最优秀的人一起工作。你必须与各种不同性格的人合作，而我非常享受这一点。

主持人：人工智能会把这称为强化学习。

Sarah Friar：确实是强化学习。你必须适应这样一个事实：我们正在创造全新的东西，所以难免会犯错。这是创新过程的一部分，是这种前沿技术固有的特性。在 OpenAI，我学到并且特别珍视的一点是：没有不好的想法。把想法都拿出来讨论，进行健康的对话。即使有人可能是错的，因为我们都会多次犯错，但出发点是好的。珍视这些错误并快速从中学习，我认为这也是公司文化的核心。

主持人：我们谈到了 OpenAI 的融资、盈利能力和 IPO 问题。你在处理这些重大问题的同时，OpenAI 也在处理一些安全问题，以及技术进入现实世界带来的公关问题——比如偏见、毒性，还有我们今天多次提到的潜在工作岗位流失问题。

作为首席财务官，你如何在处理这些财务问题和构建业务的同时，平衡这些对 OpenAI 使命至关重要的安全问题？

Sarah Friar：我想这是我第一次看到一家公司不仅有投资者关系部门，还有一个“世界关系”部门。因为我们必须考虑与多个利益相关者的复杂关系。现在，所有利益相关者都至关重要。我们花大量时间与世界各地的政府沟通，就像我们之前提到的，让他们不仅了解 OpenAI 是谁，还要真正理解这项技术的巨大潜力和潜在风险。他们需要思考如何在这样的背景下进行监管。

现在，我遇到的首席风险官可能比我职业生涯中任何一家公司都要多。因为大家都在思考：我的组织内部存在哪些风险？我应该如何看待数据？我应该如何安全地使用它？最终，我们如何释放这项技术的巨大潜力？

从财务角度来看，这意味着我们必须在安全方面进行适当的投资。这不仅意味着在研究方面要有合适的人才和技能，还要确保这些理念能够融入到我们的产品中。我会思考如何通过收入来推动技术得到更广泛的应用。我们如何以合适的价格提供这项技术？我们如何思考让计算能力为全世界所用？最终，盈利能力会给我们更大的自由去投资更多的安全研究，开展更多的对齐工作。所以，我认为所有这些最终都会朝着同一个方向发展。

主持人：你谈到了安全、对齐和偏见。我知道 Sam Altman 表示过他对人工智能带来的生存风险感到担忧。你也担心人工智能的生存风险吗？

Sarah Friar：我认为 OpenAI 的每个人都对生存风险感到担忧。如果你不担心，那可能是因为你没有足够关注。我可能不太担心眼前的威胁，而更担心长期的风险。

如果我将时间快进 5 年、10 年或 15 年，当这项技术像互联网或移动技术一样渗透到我们生活的每个角落时，我们如何确保在整个发展过程中始终保持安全？很难在最后阶段才去补救。安全必须融入构建过程的每个环节。

这也是为什么我反复强调 OpenAI 的核心价值观。我们非常注重谁参与决策，思考多样性。同时，来到 OpenAI 的人也需要具备某种特质。如果你来这里是为了制造混乱，你可能会在长期感到失望。但如果你来这里是为了深思熟虑地构建技术，真正关心我们正在开发的技术，你将获得巨大的回报和兴奋。所以，我更关注长期的生存风险。

资料参考：

https://www.youtube.com/watch?v=oyFniEgH0jI