疫情期间你和TA怎么样了？

上半年的疫情，让很多朋友，恋人都不得不相隔两地，我在海淀头，君在朝阳尾，日日思君不见君，只能...

这个时候有个GPT-3陪你，看星星看月亮，从诗词歌赋谈到人生哲学。岂不美哉。

还玩什么恋与制作人啊，直接申请一个API接口，和GPT-3聊天就好了。未来，纸片人 GPT-3的电子男女朋友，市场潜力巨大。

他有时候很直男，总是讲一些蹩脚的玩笑哄你开心，尬聊的样子真可爱。

如果说最近computer science圈子里什么最火，那非GPT-3莫属。

简单来说，GPT-2 和 GPT-3 都是一种续写文本的 AI 模型，开头给几句提示，后面的故事全靠他的语言模型一点一点续写。思路顺畅，很少遇到「写作瓶颈」。

GPT-3 是著名人工智能科研公司 OpenAI 开发的文本生成 (text generation) 人工智能，相关论文在5月份发表，当时就以天文数字级别的1750亿参数量引发了巨大轰动。

对于语言模型来讲，大小真的很重要。要知道，人的大脑也才只有860亿个神经元。

API开放了以后，各路网友脑洞大开，让GPT-3写代码，做简历，简直是比男朋友还管用。

一切皆文本的时代要来了！

GPT-3不是被玩坏了，而是玩出了新高度。

你可能还停留在GPT-3惊人的文本生成能力，但看了下面这些应用，你一定会被震撼到，「找老黄买显卡来不及了，赶快申请API，我要开发自己的GPT应用」！

给GPT-3一个提示，融入各种融入流行文化的表情包就到手了。

为什么你的图表这么low，别人做的可视化却贼漂亮，只能强行解释一波，「不会写代码，好看的图表都是代码写的」。现在有了GPT-3，就不用解释了，只需把你的数据喂给GPT-3，不用Excel表格，嘴说就行！

「3个苹果，5个梨，2个橙子」，bang！精美的Dash 图表就生成了。

向老板汇报工作要做PPT，只需要把文本一复制，就能生成合适的演示文稿。

「增删改查」工程师已哭晕在厕所。

将包含3000亿个token的文本喂给GPT-3进行无监督训练，目前OpenAI已经完成了这一壮举。你现在看到的所有实验都来自于这个庞大且昂贵的模型。据估计，它花费的成本高达460万美元。

我们再来看看它的训练细节，GPT-3在所有文本中进行滑动，每滑动一个窗口就会生成大量示例。

GPT-3如何处理「robotics」这个单词并产生「A」 呢？

想写一个从a到b的积分，如果不给提示，GPT-3直接返回原文了，但是，如果你输入个例子，告诉它你想把自然语言翻译为LaTeX，那GPT-3就心领神会了，完美输出了f（x）从a到b的积分公式。

OpenAI 的CEO Sam Altman讲，他把GPT-3展示给一个10岁的小男孩儿，他当即说自己想进入人工智能领域。

一名开发者认为，GPT-3 确实让我预感到，在未来10年内，AI有望通过图灵测试。图灵测试目的就是测试机器是否具备人类智能。

但业界也纷纷传出声音，认为GPT-3有过誉之嫌。Altman在一条推特中谦逊地表示，「GPT-3的宣传最近太过火了，确实让人印象深刻，但它仍然有严重的弱点，有时会犯非常愚蠢的错误。人工智能将改变世界，但 GPT-3只是一个非常早期的惊鸿一瞥。我们还有太多问题需要解决。」

也有网友提出GPT-3并非是全知全能，对长篇大论理解能力差，逻辑推理也绕不过几个弯，还是没法给美国执业医师考试USMLE写解析，暂时没法取代内科大夫.....

还想取代内科大夫，要啥自行车？

新智元也就GPT-3是否具有认知智能等问题，采访了一位NLP领域的资深技术专家，他认为GPT-3跟认知智能还是有点距离，但GPT-3做到了few-shot learning，GPT-3 模型本身就已经学习到了大量的经验，给一些小样本做个微调，这种做法和BERT 很像，而成绩主要归功于Transformer，分布式学习 长距离依赖，单就原理上来说，没有本质的突破。

而网友展示的例子背后，也说不定有多少bad case。

认知智能的定义很宽泛，目前也没有形成统一。理解，自主决策，可思考我认为是其中的几个核心点，GPT-3展现出来的推理能力只是认知智能的一种表现形式。

反而是近两年逐渐兴起的知识图谱，在推理智能上表现出了一定潜力，知识图谱增强了认知智能的可解释性(路径可知)，但目前在算力、模型、数据上还存在很大的缺陷，还有很长的路要走，要时刻保持清醒。

从长期来看，构建大规模的知识图谱数据，将知识图谱学习和深度学习结合起来是一个重要趋势。

不论是否过誉，GPT-3都预示着一种可以想见的未来。就算GPT-3的理解能力不能和人类划等号，但在人类永恒的交流欲望面前，GPT-3，一个温柔，情绪稳定，老实肯干，懂得分析和思考的AI也许终有一天会胜过人类的陪伴。

参考链接：

https://www.technologyreview.com/2020/07/20/1005454/openai-machine-learning-language-generator-gpt-3-nlp/