▲ 杰弗里·辛顿

这位在剑桥大学受过教育的英国侨民，除了偶尔在微软和 Google 工作外，大部分时间都在学术界度过，并不特别看重金钱。但他的孩子受神经多样性影响，而这笔钱将意味着经济上的保障。

「我们并不知道我们的价值是多少，」 辛顿博士说。他咨询了律师和收购专家，然后提出了一个计划：「我们将组织一场拍卖，我们将出售我们自己。」这场拍卖将在哈拉斯酒店和太浩湖赌场举办的年度人工智能会议上进行。

大科技公司开始关注。Google、微软、百度等公司开始相信，神经网络将带来的机器，将不仅能拥有看的能力，而且还能听、写、说，最终 —— 甚至能思考。

佩奇在他公司 Google Brain 的人工智能实验室看到了类似的技术，他认为辛顿博士的研究可以提升他的科学家们的工作。他相当于是给了 Google 的高级副总裁兼工程师艾伦·尤斯塔斯（Alan Eustace）一张没填数字的支票，让他雇佣他任何他所需要的人工智能专家。

尤斯塔斯先生和负责 Brain 实验室的杰夫·迪恩（Jeff Dean）飞到了太浩湖，并在拍卖前一晚约了辛顿博士和他的学生去酒店内的一家牛排馆吃饭。迪恩博士回忆说，那里弥漫着浓重的旧烟味。他们劝说辛顿博士和他的学生去 Google 工作。

第二天，辛顿博士在他的酒店房间里进行了拍卖。由于旧伤，他很少坐下。他把一个垃圾桶倒置在桌子上，把笔记本电脑放在上面，然后在接下来的两天里看着出价的不断涌入。

Google 出了一个报价。微软也是。随着价格的上涨，DeepMind 很快就退出了。根据拍卖详细文件，这些行业巨头将出价推高到 2000 万美元，然后是 2500 万美元。当价格超过 3000 万美元时，微软退出了，但却在 3700 万美元时重新加入竞标。

「我们感觉那就像电影一样，」辛顿博士说。

▲ 道德委员会成员们：谢尔盖·布林、埃里克·施密特、拉里·佩奇

这个场合是 DeepMind 伦理委员会的首次会议，于 2015 年 8 月 14 日举行。在创始人的坚持下，该委员会成立是为了确保他们的技术在出售后不会造成任何伤害。根据三位熟悉会议的人士的说法，委员会成员在马斯克于 SpaceX 的办公室外的一个会议室集合，窗户外就能看到他的火箭工厂。

但是，这也是马斯克控制权结束的地方。当 Google 收购 DeepMind 时，它买下了整个公司。马斯克被挤出局。虽然他在财务上赚了，但他并不开心。

现在，三位 Google 高管牢牢地控制了 DeepMind：佩奇；Google 的联合创始人、特斯拉投资者谢尔盖·布林（Sergey Brin）；以及 Google 董事长埃里克·施密特（Eric Schmidt）。其他出席者包括另一位 PayPal 创始人里德·霍夫曼（Reid Hoffman），以及一位在研究「存在风险」的澳大利亚哲学家托比·奥德（Toby Ord）。

DeepMind的创始人报告说，他们正在推进其工作，但他们意识到这项技术存在严重风险。

DeepMind 联合创始人苏莱曼做了一个名为「揭竿而起的人们即将到来」的演讲。他告诉董事会，人工智能可能导致虚假信息的爆炸式增长。他担忧，在未来几年中，随着这项技术取代无数的工作，公众会指责 Google 剥夺了他们的生计。他认为，Google 需要与那数百万失业的人分享其财富，并提供「全民基本收入」。

马斯克同意。但很明显，他那些来自 Google 的客人并未打算进行（对他们的）财富进行再分配。施密特先生表示，他认为这些担忧完全被夸大了。佩奇先生以他通常的低声同意了。他辩称，人工智能会创造比它带走的更多的工作。

八个月后，DeepMind 取得了令 AI 界和全世界震惊的突破。一个名为 AlphaGo 的 DeepMind 机器击败了世界上最好的围棋选手之一。这场比赛通过互联网直播，全球有两亿人观看。大多数研究人员曾认为，AI 需要再过十年才能拥有做到这一点的创新能力。

理性主义者，有效的利他主义者以及其他担心人工智能风险的人声称，计算机的胜利证实了他们的恐惧。

「这是另一个迹象，表明人工智能的发展速度超过了许多专家的预期，」即将加入 DeepMind 担任「人工智能安全」研究员的 Victoria Krakovna 在博客文章中写道。

DeepMind 的创始人们越来越担心 Google 会如何使用他们的发明。在 2017 年，他们试图从公司中脱离出来。作为回应，Google 提高了 DeepMind 创始人及其员工的薪水和股票奖励。他们选择了留下。

道德委员会，从未进行过第二次会议。

马斯克确信佩奇对人工智能的乐观完全错误，并对失去 DeepMind 感到愤怒，于是建立了自己的实验室。

OpenAI 于 2015 年底成立，就在他和萨姆·奥特曼在硅谷瑰丽酒店会面几个月后。马斯克向这个实验室注入了资金，他的前 PayPal 伙伴，霍夫曼先生和蒂尔先生，也加入了这次行动。三人和其他人承诺向这个项目投入 10 亿美元，当时 30 岁的奥特曼将协助运营。为了启动这个项目，他们从 Google 挖来了伊尔亚·苏茨克维 （Ilya Sutskever）。（苏茨克维博士是 Google 在辛顿博士的拍卖中「购买」的研究生之一。）

▲ Daniela Amodei 和 Dario Amodei 联合创立了 Anthropic

在 2021 年，大约 15 名工程师和科学家创建了一个名为 Anthropic 的新实验室。他们的计划是按照有效利他主义者认为应该的方式来构建人工智能——即采用非常严格的控制。

「Anthropic 的联合创始人并没有试图将萨姆·奥特曼从 OpenAI 中移除，」Anthropic 的发言人 Sally Aldous 说。「联合创始人自己得出了他们希望离开 OpenAI 去创立自己的公司的结论，他们向 OpenAI 的领导层表明了这一点，并在几周内以双方都能接受的条件协商了退出。」

Anthropic 接受了来自亚马逊的 40 亿美元投资，两年后又从 Google 那里获得了 20 亿美元的投资。

当 OpenAI 从微软那里获得了额外 20 亿美元的投资后，奥特曼和另一位高管格雷格·布莱克曼（Greg Brockman）前往比尔·盖茨位于华盛顿湖畔，西雅图郊外的豪宅。尽管这位微软创始人已经不再参与公司的日常运营，但他仍然与公司的高管保持着定期的联系。

在晚餐时，盖茨告诉他们，他不确定大型语言模型能否奏效。他表示，除非这项技术能完成需要批判性思考的任务 —— 例如通大学先修课程里的生物学考试，否则他将保持怀疑态度。

五个月后，也就是 2022 年 8 月 24 日，奥特曼和布罗克曼回来了，并带来了一位名叫切尔西·沃斯（Chelsea Voss）的 OpenAI 研究员。沃斯女士在高中时曾是国际生物奥林匹克竞赛得奖者。纳德拉先生和其他微软高管也在场。

在盖茨的客厅外的一个大型数字显示器上，OpenAI 团队展示了一项名为 GPT-4 的技术。

布洛克曼先生让这个系统做了一次高级生物学考试的多选题，沃斯女士对答案进行了评分。第一个问题涉及到极性分子，这是一种原子群，一端带正电，另一端带负电。系统正确地回答了问题，并解释了它的选择。「我们只训练了它提供答案，」布洛克曼先生说。「对话的特性却神奇地显现了出来。」换句话说，它正在做他们并没有真正设计它去做的事情。

60个问题里，GPT-4 只答错了一个。

盖茨先生坐直了身子，眼睛睁得大大的。1980 年，当研究人员向他展示了成为现代个人电脑基础的图形用户界面时，他有过类似的反应。他认为 GPT 具有那样的革命性。

到十月份，微软已经在其在线服务中，包括其必应搜索引擎中，添加了这项技术。两个月后，OpenAI 发布了其 ChatGPT 聊天机器人，现在每周有 1 亿人使用。

OpenAI 已经打败了 Anthropic 的有效利他主义者。佩奇在 Google 的乐观派赶忙发布了他们自己的聊天机器人 Bard，但被广泛认为在与 OpenAI 的竞赛中输了。在 ChatGPT 发布三个月后，Google 的股票下跌了 11%。马斯克先生则无处可寻。

但这一切，只是开始。