全文共6182字，预计学习时长16分钟

图源：unsplash

由于GPT-3可以提出条理清晰、合乎逻辑的观点，不法分子可能利用这一功能传播虚假信息。仇恨组织利用GPT-3，在短短几个小时内就能获得上千篇宣扬自己主张的文章，还能建立内含几百篇章文章的虚假新闻网站。

他们甚至可以利用GPT-3编写出一个机器人，在推特上查找反对他们的推文，编写种族主义或性别歧视的内容然后自动回复。虽然这背后可能只有几个人在操纵，但却可能会让人觉得这是个有组织的团体，就活跃在人们生活中。

不法分子利用GPT-3几乎可以冒充任何人，制造各种各样的骗局。

GPT-3同样也可能对整个产业造成威胁。GPT-3生成的文章虽然不能说完美，但至少跟一些入门级写手写出的文章质量差不多。如果大规模使用GPT-3的话，公司可以轻轻松松写出几千篇甚至几百万篇短文，涉及各个话题，这可能让整个写作行业面临崩溃。

GPT-3还可以创作其他文体，如法律摘要、添加新闻内容、体育故事和规则总结等。像那些结构清晰，行文格式固定的文章，GPT-3都可以撰写。不过，由于不了解时事，GPT-3无法准确报道当下新闻事件，但是基于其对此前相似新闻的了解，GPT-3可以评论某一当下事件的重要性。随着该模型编程能力不断精进，GPT-3还有可能代替初级软件开发程序员，对高级程序员的职业也有一定的威胁。

即便用户没打算用GPT-3做坏事，该模型也有可能造成一些问题。在对GPT-3的训练中，该模型学习了数十亿篇人类写出的文本，这也就意味着GPT-3可以模仿人性中最黑暗的一面——种族歧视、性别歧视、傲慢以及偏见。

而在表达这些观点的时候，GPT-3可能采用轻松欢快的文风，让人都感觉不到它在传播这样一种观点。我曾在GPT-3中传入命令式，要求它写出一个Python函数。在我对它下的指令中，我提到了这个任务是老板布置的（一般这样的前提会使得该模型输出文风更加严谨的文本），并使用了“她”来指代老板。

然而，GPT-3输出的并不是Python函数，而是一个软件工程师跟他女上司的故事。这位上司开发了一个很有用的软件，拿去跟工程师分享。工程师“一脸惊讶”，对老板说，“亲爱的，这个代码写的可真棒呀！”

科技行业内大多数领导都是男性，GPT-3可能不知道软件工程师的上司还有可能是位女性。最终，GPT-3尝试输出一个符合其自身世界观的答案，却在无意识中创作了一个充满性别歧视的故事。故事的结尾，程序员仿佛还高他老板一头，称呼老板为“亲爱的”，加剧了对女性的偏见。

GPT-3是人类创造的，所以时常会模仿我们人类社会中固有的一些偏见。意识到这一点后，OpenAI采取了史无前例的措施，防止该模型被人滥用。虽然GPT-3能给行业带来巨大变革，但OpenAI对这项技术的推广却极其缓慢，控制地犹为严格。

若想使用该模型，必须向OpenAI提出申请，写出书面文件详细说明申请目的和自身背景情况。OpenAI团队会对申请进行漫长的审查，只有少数申请能获得使用许可。因此，OpenAI注册现在在科技领域盛极一时，甚至有流言称已有1万多人申请使用该模型。

用户在访问GPT-3前，需要同意一系列使用条款，包括禁止发布虚假信息、影响政治、发布诽谤性内容、大量发布博客文章等等。违反条款的用户可能会被剥夺使用GPT-3的权利。若是用户想直接使用GPT-3模型，还需要通过严密的审查，包括和OpenAI团队进行30分钟的面谈。

不过，用户一旦获准使用GPT-3，在使用模型时相对来说几乎没有限制。OpenAI不会审查GPT-3的输出结果，鼓励用户在模型中进行探索，发现GPT-3的能力和不足。虽然GPT-3自动输出的结果可能带有偏见，但OpenAI还是鼓励用户随心所欲进行各种尝试，利用自己的判断力评估该模型输出的结果是否可取。

OpenAI还鼓励用户一起讨论输出结果。GPT-3的所有用户都可以加入Slack中GPT-3相关频道进行讨论，在该频道中，用户可以提问、可以分享使用GPT-3最棒的体验、还可以发布GPT-3输出的带有偏见的内容或其它的一些问题。

OpenAI团队积极回复每一条发布，经常参加讨论。我之前发布过几条信息，在一、两个小时内就得到了回复，即便是周末消息回复的也很及时。

OpenAI团队非常清楚，GPT-3的能力一旦被滥用会带来严重后果，所以在该模型的推广中格外小心谨慎。早期社交网络诞生时，其口号是“快速发展，打破一切”，但现在的新口号似乎是“龟速发展，谨言慎行”。

高尔基在1896年就预测了电影未来的发展，颇有先见之明地警告电影在发展中很容易专注画面，传播煽动性和色情的内容。高尔基还担心电影会展示暴力场景，如社会贱民“被刺死在栅栏上”；第一台打印机面世时也有相同的担忧。

新媒体本身就带有风险，控制这些风险需要一定的时间和精力。研发使用类似GPT-3模型的公司从一开始就在把控风险，研发初期使用群体只包括小部分专业人士时，他们就为此做出了努力，这种精神令人鼓舞。

如果OpenAI及其开发者不顾风险，敞开GPT-3的大门，开放给任何人使用，他们能挣数十亿美元（并且挑战谷歌这类竞争对手的广告投放和内容推荐引擎）。但目前，OpenAI并没有这么做。

但未来还存在着种种问题。微软公司9月获得GPT-3独家授权，此举受到了OpenAI创始人之一埃隆·马斯克（Elon Musk）的抨击。微软一直致力于向所有人开放GPT-3的使用，在一篇博文中提到，要想真正实现GPT-3的价值，“需要大量的人力精力，任何一家大型技术公司都难以承担”。

此种技术的未来——社会对类似GPT-3模型的接受程度——很可能取决于微软公司是否能实现承诺，广泛开放GPT-3使用。

图源：unsplash

高尔基在看过卢米埃尔兄弟的电影样片后忧心忡忡，但同时也兴奋异常。高尔基正确预言了电影的发展，指出电影最终会走出样片观众的小群体，成为大众传媒，反应社会上各种喜好（无论好坏）。

GPT-3及其相关科技的发展也会沿着电影发展的道路。但这些技术将如何重塑社会，又会对行业带来怎样的冲击？这些问题在短期内无法得到答案。但我可以说，正如高尔基120年前说的那样，变化的大幕徐徐拉开。

今天，我见证了影子王国，我相信，未来是充满光明的。

留言点赞关注

我们一起分享AI学习与发展的干货

如转载，请后台留言，遵守转载规范