编辑：润 Lumina

在人类的认知之中，似乎早已习惯将通用人工智能（AGI）设定为人工智能的终极形态和发展的最终目标。

这就好比我们根据观测结果提出了一个描述地球的引力理论，然后却发现物体在月球上要轻得多。

如果我们在引力理论知识的基础上使用变量而不是数字，我们就会明白如何使用正确的数值快速预测每个行星或卫星上的引力大小。

但是，如果我们只使用没有变量的数字方程，那么在不重写这些方程的情况下，我们将无法正确地将这些方程推广到其他星球。

换句话说，人工智能可能无法真正 「学习」，而只能提炼信息或经验。人工智能不是通过形成一个全面的世界模型去理解，而只是创建一个概要去表述。

我们真的到达AGI了吗？

现在人们普遍理解的AGI是指：能够在人类水平或者更高水平的多个认知领域进行理解和推理的人工智能系统，即强人工智能。

而我们当前用于特定任务的人工智能仅是一种弱人工智能，如下围棋的AlphaGO。

AGI代表一种涵盖抽象思维领域各个领域的、具有人类智能水平的人工智能系统。

这意味着，我们所需的AGI是一个与经验一致且能做到准确预测的世界模型。

如「Safety Literature Review」（AGI安全文献综述）中Everitt、Lea和Hutter指出的事实那样：AGI还没有到来。

对于「我们离真正的AGI还有多远」这个问题，不同的预测之间差异很大。

但与大多数人工智能研究人员和权威机构的观点是一致的，即人类距离真正的通用人工智能最少也有几年的时间。

在GPT-4发布后，面对这个目前性能最强大的人工智能，很多人将GPT-4视作AGI的火花。

4月13日，OpenAI的合作伙伴微软发布了一篇论文「Sparks of Artificial General Intelligence:Early experiments with GPT-4」（通用人工智能的火花：GPT-4的早期实验）。

仅在文本上训练的世界模型，仅仅只能保证它们在语法上的正确。但在本质上，它不理解语言所指的对象，也缺乏与环境直接接触的常识。

大语言模型（LLM）最受争议的挑战是它们产生幻觉的倾向。

幻觉指的是模型会捏造参考资料和事实，或在逻辑推断、因果推理等方面颠三倒四、生成毫无意义的内容的情况。

大语言模型的幻觉源于它们缺乏对事件之间因果关系的了解。

在「Is ChatGPT a Good Causal Reasoner? A Comprehensive Evaluation」这篇论文中，研究人员证实了这样一个事实：

ChatGPT这类大语言模型，不管现实中是否存在关系，它们都倾向于假设事件之间存在因果关系。

论文地址：https://arxiv.org/pdf/2305.07375

研究人员最后得出结论：

「ChatGPT是一个优秀的因果关系解释器，但却不是一个好的因果关系推理器。」

同理，这个结论也可以推广到其他LLM中。

这意味着，LLM本质上只具有通过观察进行因果归纳的能力，而不具备因果演绎的能力。

这也导致了LLM的局限性，如果智能（intelligence）意味着从经验中学习，并将学习得到的内容转化为对理解周围环境的世界模型，那么因果推断作为构成学习的基本要素，是智能不可或缺的一部分。

现有的LLMs正缺乏这一方面，这也是Yann LeCun认为现在的大语言模型不可能成为AGI的原因。

结论

正如20世纪初诞生的量子力学所揭示的，现实往往与我们日常观察所形成的直觉不同。

我们所构建的语言、知识、文本资料、甚至是视频、音频等资料都仅仅只是我们所能体验到的现实的很有限的一部分。

就像我们探索、学习并掌握一个违背我们直觉和经验的现实那样，当我们能够构建一个有能力质疑自身现实、能够自我探究的系统时，AGI才能真正实现。

而至少在现阶段，我们应该构建一个能够进行因果推断、能够理解世界的模型。

这一前景是人类历史上又一进步，意味着我们对世界本质的更深的理解。

尽管AGI的出现将减弱我们对自身独一无二的价值笃定，以及存在的重要性，但通过不断地进步和对认知边界的拓展，我们将更加清楚地认识到人类在宇宙中的地位，以及人类与宇宙的关系。

参考资料：

https://aisupremacy.substack.com/p/how-far-are-we-from-agi