作者 | 核子可乐、褚杏娟

Chatbot Arena 等排行榜已经反复证明，数十亿美元支撑起来的 ChatGPT 仍然是聊天机器人领域无可争辩的王者。而人们只能调用其 API ，无法私有化部署，无法自己训练调整。因此，大家现在热衷于用开源大模型来构建 AI 聊天机器人，希望能在性能层面达到甚至超越 ChatGPT 等专有模型的水平。

近期，微软出人意料地发布了一个只有 13 亿参数但具有大模型推理能力的开源小模型 Orca，它使用创新的训练方法，成为首位敢于同专有模型叫板的挑战者。而且，Orca 的规模仅是其竞争对手的几十分之一（甚至可能只相当于 GPT-4 的几百分之一）。令人难以置信的是，Orca 在某些场景下甚至表现更好，而且完全碾压迄今为止所谓最强开源模型 Vicuna。

论文地址：https://arxiv.org/pdf/2306.02707.pdf

那么，Orca 究竟是怎么做到的？

新的训练方式：巧劲胜于蛮力

在说起 AI 模型训练时，资金投入基本已经成为首要前提。具体来讲，谈到模型中的几十亿参数，这背后的涵义包括：

光是收集训练数据就要花上几百万美元；基础模型的训练还要再花上几百万美元；模型的微调也可能花费几十万美元；更不要说人类反馈强化学习（RLHF）。如果公司单季度收入达不到数十亿美元的量级，这个环节最好碰都别碰。

所以说起“大语言模型”的竞逐，其实全世界有资格参与进来的也不过四、五家公司。

因此，为了在性能层面跟 ChatGPT 等大体量专有模型相对抗，研究人员别无选择，只能选择以巧劲破解对方的财力。而在生成式 AI 领域，所谓的“巧劲”正是“蒸馏”（distillation）。

简单来说，蒸馏就是选位优秀的同志，再把它的响应能力作为小模型的学习素材。为什么要这么干？非常简单：ChatGPT 虽然拥有数十亿个参数，但只有“少数”参数真正重要。从原理层面来讲：

我们必须先让模型拥有足够多的参数，才能保证其掌握现实世界中的种种复杂表征。这样做的结果就是，大部分模型中的大部分参数始终处于未使用状态。

研究人员意识到这个现实问题后，得出了以下结论：假设 GPT-4 这样的先进模型未来仍须以体量增长作为必要条件，那在拥有了训练得到的大模型之后，能不能再用一个比其小得多的模型简单重现大模型的部分或者全部特性？

换句话说，在引导 AI 模型学习现实情境时，能不能先用大语言模型完成其中最繁重的“模式提取”任务，再让它们作为“老师”指导那些体量较小的模型？

答案是可以。蒸馏的过程就是这样一种 AI 学习方法，以大体量模型为模板训练小体量模型。所以开源社区的最佳 AI 聊天机器人开发流程基本可以概括为：

对大语言模型（教师）进行采样，以构建{用户指令，输出}的查询数据集。这里常见的选项当然是 ChatGPT。接下来，选择一个较小的模型（参数量大约在 5 亿到 150 亿之间）作为“学生”。学生的任务就是尽量减少自身输出与教师输出间的差异，学习它、模仿它。这样，小体量模型就能够掌握教师的风格并输出类似结果，并把训练和运行成本控制在更低的水平。

这样新的先进模型就此诞生，且成本仅为大模型的百分之一。听起来不错，但现实世界显然没那么美好。

虽然这些模型能够有效学习教师的风格和语言连续性（例如 Vicuna 或 Alpaca），但却往往无法掌握对方的强大推理能力。也就是说，在对复杂任务做出评估时，其表现会远逊于自己的老师。没错，是“远远”逊于。

Orca 碾压开源模型，赶超 ChatGPT

现在，大多数开源模型的性能其实被故意夸大了。Vicuna、Alpaca 等开源模型的出色性能，可能是研究人员精心挑选的结果。直到现在，它们在推理基准测试上的表现仍一言难尽。

例如，虽然 Vicuna 在衡量复杂任务的基准测试中，已经能在风格和语言连续性方面达到 GPT-4 的 89% 左右，可一旦面对七步逻辑推演等挑战，双方的差距就会扩大到令人尴尬的 5400%。换句话说，这时 GPT-4 的性能达到 Vicuna 的 55 倍。

Orca 的研究人员意识到了这个问题，并努力做出了改进。在 Big-Bench Hard 上使用零样本提示的性能测试中，括号内的 2900% 代表 Orca 相对 Vicuna 的改进程度。

但在 Orca 这边，研发思路发生了巨大转变。

研究人员没有像之前那样简单提取查询，而是引入了第三项约束条件，即系统指令。也就是说，除了用户指令和模型答案之外，微软研究人员又额外添加了一系列指令，旨在对学生模型的行为和思考过程进行建模，如下图所示：

这并不难理解：学生不仅需要模仿 GPT-4 的输出质量，还需要模仿老师的思维过程，从而掌握类似的推理能力。

通过中间教学实现渐进式学习

截至目前，大多数开源模型只使用一对{学生，教师}素材。但在 Orca 却有两个老师。首先自然是 ChatGPT。作为第一位老师，它负责指导学生模型解决那些不太复杂的查询。之后再经由 GPT-4 提供更复杂的查询指引，让学生根据之前掌握的知识做进一步学习。

这个过程跟人类的学习方式非常相似。我们在学习乘除法之前，先得掌握加减法的诀窍，循序渐进突破一道道难关。而且与单纯使用 GPT-4 的训练方法比较，渐进式学习的效果确实更胜一筹。

结束语

目前越来越大、耗能越来越高的发展模式是否将很快走向终点，还有待验证，但如今每周几乎都会出现突破现有游戏规则和技术边界的新成果，大家都在效率方面做了很多努力。

从 Orca 凭借一点小技巧就能碾压众多开源模型来看，我们对于 AI 技术只能说还知之甚少。而作为已经凭借 ChatGPT 在市场上占据绝对优势的王者，微软率先出手，再将开源模型升级到新的维度。开源模型或将开启属于自己的新时代。

参考链接：

https://medium.com/@ignacio.de.gregorio.noblejas/orca-microsoft-7c78ca03c803

本文转载来源：https://www.infoq.cn/article/pJwogXHgoNwH1CMkF0m3