这是由全球顶尖AI学者，科学技术领域的重大变革者，以及全球首个实用人工智能搜索引擎WolframAlpha的创造者斯蒂芬·沃尔弗拉姆倾心打造的ChatGPT，作为OpenAI开发的人工智能聊天机器人程序，ChatGPT在2022年11月亮相，其自动生成的文本令人惊叹，仿佛是人类所书写。这本书将带你走进ChatGPT的内部世界，揭示其如何产生人类般的文本。

>>精选内容：

ChatGPT的精髓在于其简单而直接：从互联网、图书等资源中提取大量的人类文本样本，训练神经网络以生成“类似”的文本。特别地，ChatGPT能够从给定的“提示”开始，延续生成与训练数据相似的文本。

神经网络在ChatGPT中的作用相当基础，尽管它由数十亿个简单元素构成。每当神经网络生成一个新词（或词的一部分），它都会依据目前生成的文本得到的输入依次传递给所有元素（无需循环等）。

令人惊讶的是，这个过程能成功地生成与互联网、图书等资源中的内容相似的文本。ChatGPT不仅能生成连贯的人类语言，还能根据“阅读”过的内容来“按照提示进行对话”。但它并非总能产生全局意义上的有意义的对话，因为（在没有Wolfram|Alpha的计算能力帮助下）它只是在模仿训练材料中的内容，尽可能地“说出正确的话”。

ChatGPT的实现过程无疑令人瞩目。然而，ChatGPT只是从其积累的“传统智慧的统计数据”中提取出一些“连贯的文本线索”。尽管如此，其结果的人类程度已经达到了令人惊讶的地步。

这揭示了一个科学上的重要事实：人类语言及其背后的思维模式在结构上比我们想象的更简单、更规律。ChatGPT已经暗示了这一点，但我们可以通过语义语法、计算语言学等工具来明确地揭示它。

ChatGPT在生成文本方面表现得极为出色，其结果通常非常类似于人类创作的文本。这是否暗示ChatGPT的工作方式与人类的大脑相似？其底层的人工神经网络结构实则是对理想化大脑的建模。在人类生成语言的过程中，许多方面似乎有着极高的相似性。

然而，当谈及训练（或学习）时，大脑和现代计算机在硬件（以及一些未被开发的潜在算法思想）上的差异会迫使ChatGPT采取一种可能与大脑完全不同的策略（在某些方面可能效率较低）。

值得一提的是，ChatGPT内部没有“循环”或“重新计算数据”。这无疑限制了其计算能力——即使与现代计算机相比也是如此，更不用说与大脑相比了。

我们尚不清楚如何在解决这个问题的同时保持系统的训练效率。但如果能做到，未来的ChatGPT可能能做到更多“类似大脑的事情”。当然，有许多事情大脑并不擅长，特别是涉及不可约计算的问题。对于这些问题，大脑和像ChatGPT这样的系统都需要寻求“外部工具”的帮助，比如Wolfram语言。

然而，目前看到ChatGPT已经能够做到的事情是非常令人振奋的。在某种程度上，它是一个优秀的例子，展示了大量简单的计算元素能做出令人惊叹的事情。它也为我们提供了一个最佳的动力，去更好地理解人类的核心特性——人类语言及其背后的思维过程的本质和原则。