OpenAI 的首席执行官表示，巨型AI模型的时代已经结束 Sam Altman 表示，孕育出 ChatGPT 的研究策略已经过时，未来的人工智能进步将需要新的想法。

OpenAI 创业公司的聊天机器人 ChatGPT 的惊人功能引发了人工智能领域新的关注和投资热潮。然而，上周晚些时候，OpenAI 的首席执行官警告称，孕育出该聊天机器人的研究策略已经过时。目前还不清楚未来的进步将从何而来。

近年来，OpenAI 通过将现有的机器学习算法扩展到前所未有的规模，取得了一系列令人印象深刻的与语言相关的AI进步。GPT-4 是这些项目的最新成果，可能使用了数万亿字的文本和许多强大的计算机芯片进行训练。整个过程的成本超过1亿美元。

但该公司的首席执行官 Sam Altman 表示，进一步的进展不会来自于制作更大的模型。“我认为我们已经到了这个时代的尽头，即将诞生的将是巨大、巨大的模型，”他上周在麻省理工学院举行的一次活动上对观众表示。“我们将以其他方式改进它们。”

Altman 的声明暗示着开发和部署新AI算法竞赛中的一个意想不到的转折。自从 OpenAI 在11月推出 ChatGPT 以来，微软已经将基础技术用于将聊天机器人添加到其Bing搜索引擎，谷歌也推出了一款名为 Bard 的竞争对手聊天机器人。许多人争相尝试使用新一代聊天机器人来帮助工作或个人任务。

与此同时，包括 Anthropic、AI21、Cohere 和 Character.AI 在内的许多获得充足资金支持的初创公司正投入大量资源，以建立更大的算法，试图迎头赶上 OpenAI 的技术。ChatGPT 的初始版本基于 GPT-3 的一个稍作升级的版本，但用户现在也可以访问由更强大的 GPT-4 提供支持的版本。

表示其估计显示，扩大模型规模的回报逐渐减少。Altman 表示，公司在建造数据中心的数量和速度方面也存在物理限制。

曾在谷歌从事人工智能工作的 Cohere 公司联合创始人 Nick Frosst 表示，Altman 的观点，即无休止地增大规模不会起作用，是正确的。他还认为，改进 GPT-4 及其竞争对手核心的机器学习模型类型的转换器的进展不在于扩大规模。“有很多方法可以让转换器变得更好、更有用，而其中很多方法并不涉及向模型添加参数，”他说。Frosst 表示，许多研究人员已经在探索新的人工智能模型设计或架构以及基于人类反馈的进一步调整这些有前景的方向。

OpenAI 影响力广泛的语言算法家族的每个版本都包括一个人工神经网络，这是一种受到神经元如何协同工作的启发而开发的软件，用于预测给定文本字符串后应出现的单词。

这些语言模型的第一个版本，GPT-2，于2019年发布。其最大规模形式拥有15亿参数，这是一种衡量其原始人工神经元之间可调连接数量的指标。

当时，与之前的系统相比，这个规模非常大，部分原因是 OpenAI 研究人员发现，扩大规模使得模型更具连贯性。该公司在2020年发布的 GPT-3 的继任者规模更大，拥有惊人的1750亿参数。该系统生成诗歌、电子邮件和其他文本的广泛能力使得其他公司和研究机构也将自己的AI模型推向相似甚至更大的规模。

在 ChatGPT 于11月亮相后，恶搞制作者和科技评论家纷纷猜测，当 GPT-4问世时，它将是一个令人目眩神迷的巨大且复杂的模型。然而，当 OpenAI 最终宣布这款新的人工智能模型时，公司并没有透露它有多大——也许是因为规模不再是唯一重要的因素。在麻省理工学院的活动上，当被问及 GPT-4 的培训成本是否为1亿美元时，Altman回答说：“比这个还要多。”

尽管 OpenAI 对 GPT-4 的规模和内部运作保密，但它很可能已经从查找超出规模而获得了一些智能。一种可能性是采用了一种称为“基于人类反馈的强化学习”的方法，这种方法用于改进 ChatGPT。它涉及让人类评判模型回答的质量，以引导模型提供更有可能被判断为高质量的回答。

GPT-4 的出色能力令一些专家惊讶，引发了关于人工智能如何改变经济、传播虚假信息并消除工作岗位的潜力的辩论。一些人工智能专家、科技企业家（包括埃隆·马斯克）和科学家最近联名发表了一封公开信，呼吁暂停开发比 GPT-4 更强大的东西长达六个月。

上周在麻省理工学院，Altman 确认他的公司目前没有开发 GPT-5。他说：“信的早期版本声称 OpenAI 正在训练 GPT-5。我们并没有，而且还需要一段时间。”

总之，OpenAI 的首席执行官 Sam Altman 认为，继续扩大模型规模已经不再是实现人工智能进步的有效途径。他提醒人们注意到，未来的技术突破可能来自新的研究策略和技术。尽管目前尚不清楚具体的新策略和技术将如何发展，但这一观点对于正在大力投入扩大模型规模以迎头赶上 OpenAI 技术的众多初创公司来说，可能意味着他们需要重新审视和调整自己的发展策略。