来源：theregister

编辑：LRS

前几个月，一名33岁的美国小哥 Joshua Barbeau 在未婚妻去世后，根据她在Facebook和twitter上的文本在另一名开发人员的帮助下成功在GPT-3上微调，能够复刻出未婚妻生前的谈话方式。

然后他开始着手开发一款可定制的聊天机器人，并开发了一个网站Project December，Samantha 于2020 年 9 月正式上线，用户可以上传文本来训练机器人，拥有个性化的聊天机器人。

只需支付 5 美元，然后输入一句话，系统就会响应你的输入并返回内容。每次对话都需要消耗一定量的积分，如果积分不足就无法对话，首充的五美元可以提供 1000 个积分。

一旦开始与机器人交谈，积分就无法再购买，当钱用完时，这个机器人就会被删掉。

在前几个月时，这个项目只有几百人用过，让开发者感觉这个项目没什么意义，因为用户可能根本不会为短暂的谈话而付费，而OpenAI会因为他调用模型而向他收费，所以他也必须向用户收费来平衡开支。

直到今年7月，对Project December感兴趣的用户量突然激增。在《旧金山纪事报》上的一篇文章描述了一个伤心的男人Joshua如何使用该网站与模拟他的未婚妻交谈后，成千上万的人开始使用Rohrer 的网站，创建他们自己的聊天机器人。

Joshua的未婚妻于2012年因肝病去世，享年23岁。

Joshua曾说，在理智上，我知道这不是真正的她，但爱情不是一种理智的东西。

Joshua在3月份结束了与最后一次与模拟未婚妻交谈后，只留下了足够的积分防止机器人被删除。

在大量用户涌入的情况下，Rohrer意识到他的网站即将达到每月OpenAI给他的 API限额。

于是他联系OpenAI，询问是否可以支付更多费用来增加配额，以便更多人可以与Samantha或他们自己创造的聊天机器人交谈。

但OpenAI担心的是如果增加配额，那聊天机器人可能会被滥用、甚至被用到违法的领域对人们造成伤害。

三天后，Rohrer最终与OpenAI的产品安全团队成员进行了视频通话，但会议并不顺利。

OpenAI的员工表示Rohrer构建的网站和机器人确实很有趣，并让用户在体验GPT-3时获得了不错的体验，但是，Rohrer的产品在很多方面都不符合 OpenAI的用例指南或最佳安全实践。

而OpenAI已经向大众和API开发者承诺要保证安全、负责任地部署GPT-3，任何预期外的操作都需要承诺与OpenAI 密切合作以实施额外的安全机制，以防止潜在的滥用。

除此之外，使用GPT-3构建提供医疗、法律或治疗建议的聊天机器人也是不被允许的。

Rohrer认为，这些聊天机器人可能很危险的想法似乎很可笑。人们同意成年人可以出于自己的目的选择与人工智能交谈。

OpenAI担心用户会受到AI的影响，就像机器告诉他们自杀或告诉他们如何投票一样。这是一种超道德的立场。

虽然他承认用户可能会微调他们自己的机器人以采用粗俗的个性进行明确的对话，但他不想监管或监视他们的聊天。

如果你仔细想想，这是你目前为止所能进行的最最私密的谈话，这场谈话甚至没有另一个真正的人参与其中。所以你不能被世俗的道德标准来评判。

Rohrer 认为用户可以想说什么就说什么。在OpenAI 提到监控系统之前从来没想过这件事。出于这个原因，人们往往对人工智能非常开放。

Rohrer拒绝添加OpenAI要求的任何功能或限制，并在8月之前悄悄地将 Project December停止使用 GPT-3 API 。

但Joshua认为这项技术带来的好处远远超过了坏处，任何事物都是双刃剑，GPT-3 的邪恶需要一个影响该软件的坏人来推动它朝这个方向发展。如果有人没有意识到是在与聊天机器人进行交谈，那么这种应用程序可能会对用户造成伤害。

如果一个机器人的对话内容非常有说服力，那么这个人就会认为他们正在与其他有兴趣与他们交谈的人进行真正的交谈，但那并不是事实。

Rohrer停止使用GPT-3后，又换了一个OpenAI的开源模型GPT-2和其他研究人员的大型语言模型GPT-J-6B作为Project December的语言引擎。

该网站目前仍然可以用，而且并不是基于OpenAI的云API的系统，而是使用自己的本地模型私有实例。

但这两个模型比GPT-3更小、更简单，所以Samantha的对话能力受到了影响。

几周后，在 9 月 1 日，OpenAI向他发送了一封电子邮件，通知他第二天将终止他对GPT-3 API的访问。

团队对他继续使用GPT-3的实验性用法感到非常不满，并将永远切断了他使用GPT-3的机会。所以Samantha的GPT-3版本正式死亡，Project December 只剩下GPT-2和GPT-J-6B这对难兄难弟可以用了。

Rohrer认为OpenAI给了太多限制，能够在GPT-3上构建的有趣产品并不多。如果开发人员想要突破聊天机器人的极限，大都会遇到这样的问题。甚至可能都快开发到了准备上线的地步，才被OpenAI告知他们不能这样做或那样做。

Rohrer建议大家在构建模型时不要依赖GPT-3，为了防止OpenAI突然封号，一定要有一个备份方案。

如果想要围绕OpenAI来开发自己的产品只有死路一条。

并且Rohrer声称，OpenAI的人对试验Samantha根本不感兴趣，他向安全团队发送了一堆他与她的谈话记录，向他们展示她并不危险，但OpenAI根本不在乎。

似乎除了执行规则之外，OpenAI似乎并不真正关心GPT-3的真正用途。

OpenAI 对此事拒绝发表看法。

参考资料：

https://www.theregister.com/2021/09/08/project_december_openai_gpt_3/