智东西

作者 | 吴菲凝

编辑 | 李水青

智东西3月16日报道，昨日，彭博社梳理了9个有关AI聊天机器人的关键问题，包括生成式AI的概念、ChatGPT如何工作、谁能从中获利、市场竞争格局、局限性以及道德风险等。

据彭博社称，自去年11月ChatGPT推出以来，它对几乎任何类型的问题都给出了通俗易懂的答案，引起了全球轰动。微软、谷歌和百度等科技巨头都在大力押注生成式AI，认为它有可能颠覆利润丰厚的搜索市场，但目前生成式AI产品广泛使用的同时也暴露出了不少缺陷和潜在隐患。

生成式AI，又称作生成模型，是一种用深度学习算法生成新数据的AI技术。生成式AI使用神经网络，它们仿照人脑结构并通过大量数据学习来完成指令任务。在前期训练期间，他们被输入大量的信息，并被指配一项任务，比如“为一部小说写一段简介”，再利用学习来的数据完成任务。

随着不断的数据学习，系统能够判断用户输入的词句是否有意义，并不断改进自己的信息库。这个过程就像是小孩子在父母的指导下学习说话一样，从简单基础的词汇慢慢学到一些完整的句子，再到自如流畅地表达交流。

生成式AI和传统计算机系统的不同之处在于，它给出的结果往往是不确定的，每次的反应都可能不同，但也会随着系统进步而变得更快、更聪明。

ChatGPT是基于OpenAI公司的大型语言模型GPT-3.5开发出的一款聊天机器人。

GPT是OpenAI开发的一系列自然语言模型，在无监督学习过程中进行预训练，能像人类一样理解、创造文本。OpenAI于2018年发布了GPT-1，又陆续推出了GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4等版本。

最新版本的GPT-4建立在其前身GPT-3.5的基础上，从演示视频来看，GPT-4在许多专业测试中的表现水平超过绝大多数人类。它从整个网络中摄取文本，包括维基百科、新闻网站、书籍和博客，以努力使其答案具有相关性和充分的信息。ChatGPT在该程序之上增加了一个对话界面。

ChatGPT与以往的聊天机器人最大的不同之处就在于，它能像真人一样与用户对答交流，所给出的答案逻辑清晰、条理分明。在一些需要进一步思考的问题上，它甚至能给出自己的见解，比真人回答的完整度更高。

除了能回答问题以外，ChatGPT还能自动写文章、总结提炼观点、生成代码等。

OpenAI于2015年由美国创业孵化器Y Combinator总裁萨姆·阿尔特曼（Sam Altman）和全球在线支付平台PayPal联合创始人彼得·泰尔（Peter Thiel）等人创办，旨在开发“有益于全人类的AGI”。早期的投资者还包括LinkedIn联合创始人里德·霍夫曼（Reid Hoffman）和特斯拉CEO埃隆·马斯克（Elon Musk），马斯克在2018年时退出。微软于2019年时为OpenAI投资10亿美元。

自ChatGPT在去年11月30日开放注册后，5天内便拥有了超100万用户，上线两月后全球用户破亿，注册请求数日峰值达到数亿级别。各大社交媒体上对这一产品的讨论热度也一直居高不下。一些用户分享了ChatGPT对于一些晦涩难懂的问题给出的答案，其他人则惊叹于它丰富的知识库。

用户的热烈讨论也提升了OpenAI其他产品的热度，包括文本生成图像工具Dall-E，它能根据用户的文字描述直接生成一张符合需求的图片。

谷歌、微软这样的科技巨头早已探知到了生成式AI的潜力。今年1月，微软深化了与OpenAI的合作关系，并以提升微软Azure云计算网络的计算能力为交换条件，完成了一项价值100亿美元的长期投资。又在2月时将类ChatGPT产品集成到自己的搜索引擎Bing当中。谷歌则推出自己的对话式AI助手Bard作为回应。百度也于今日正式开放了自己的新一代大语言模型、生成式AI产品文心一言。

由于聊天机器人中没有可插入广告的结果页，盈利对于小型企业来讲依旧是个难题。从中获利的更多是提供和开发生成式AI产品的大型科技公司。

在ChatGPT发布后，OpenAI根据用户的反馈意见对GPT-3.5进行了迭代调整，修改了模型在准确性、安全性和发布不当言论等方面的问题。OpenAI称，在公司内部的对抗性真实性评估中，GPT-4的得分比GPT-3要高出40%，根据政策响应敏感请求的频率提高了29%。

早在2月时，谷歌的聊天机器人Bard公开演示中犯了一个事实性错误，引发了大众对谷歌可能会在搜索领域失去优势地位的担忧，导致谷歌开局不利、股价走低。

Meta目前则正急于从公司各处的团队中组建一个生成性AI产品组。

国内生成式AI领域同样是热潮涌动，百度今日正式发布文心一言大模型。此前，由清华大学知识工程实验室转化而来的智谱AI推出了基座模型ChatGLM，复旦大学自然语言处理实验室也推出对话式AI模型MOSS，各家竞相研发生成式AI产品。

就目前而言，Chat-GPT等AIGC工具并不会完全取代某个工种，它更多承担的是“工具”的作用。它所具备的搜索、阅读、写作等功能是所有工作中的基础性事务，它更像是一种辅助性工具，帮人类搜索基本信息、提升阅读速度，更好地理解文本内容，从而提升工作效率。

而那些繁琐的、重复的、劳动密集型的工作将会被这些工具所代替。创作型的职业则有了更大的提升空间。

随着ChatGPT的爆火，它原本的不足之处和可能带来的隐患也在用户使用过程中逐渐显露，诸如虚假信息、学术造假、隐私保护等潜在危机都引起了人们的高度警惕。

生成式AI的数据都来源于二手信息，导致它拼凑出的答案可能听上去非常权威又有说服力，但隐藏着许多的事实性、常识性错误，细看之下就像是在“一本正经地胡说八道”，它给出的回答中可能会包含很多部分正确、不完整、有偏见的内容，专业领域的答案也经不起行业专家的细致推敲。若是某一领域的门外汉听信了其中提供的信息，可能会造成误导。

回答的准确度和完整性取决于训练中的数据多少，目前局限性也掣肘了ChatGPT的发展。由于回答中包含的不准确性，计算机编程网站StackOverflow禁止了ChatGPT的接入和访问

随着生成式AI变得越来越复杂，欺骗和进行恶作剧的可能性也逐渐加大。微软曾推出过一款名为“Tay”的AI机器人，但很快用户就发现它会发一些有关种族主义和性别歧视等攻击性内容，短短一天之内就被紧急撤下。

OpenAI也曾训练ChatGPT去拒绝那些明显不当的请求，来限制它发表仇恨言论或是错误信息。OpenAI首席执行官鼓励用户对那些令人不适的言论点击“不喜欢”按钮，用户多次反馈后它就能自动改善系统。

此外，类ChatGPT产品在学业中的使用也是一把双刃剑。它一方面帮助学生们搜集、筛选、整理了繁杂信息，但另一方面也可能造成学术造假、论文抄袭等问题。大学老师们也担心学生太过依赖ChatGPT来完成作业而丧失了自己的思考能力，将其视为洪水猛兽。

立法者们也被潮水般涌入的投诉信所淹没，但他们同样无法判断这些信件是真的在表达不满，或是由聊天机器人编纂出来的。

不可否认的是，ChatGPT等生成式AI产品的出现为每一个行业都带了颠覆性的改变，把劳动力从重复、低级的工作中解放出来，对人类的创造力、思考力提出了更高的要求。但我们必须认清这一现实：生成式AI是工具而非代替品。

人类的智慧与经验无法被AI取代。我们更要警惕生成式AI便利背后的风险和隐患，引导科技向好向善发展