“ChatGPT会不会抢走我的饭碗？”时下最热门的话题，无疑是这个AI聊天机器人。人工智能上一次这么火，或许还是谷歌Alpha Go打败柯洁的时候。

有业内人士认为，ChatGPT这一现象级的产品将开启人工智能产业的2.0时代，引领新的产业趋势。虽然目前市场反应火热，但从产业角度来看，ChatGPT的商业化路径和安全防护还处于探索初期。

先别担心“AI与人是敌是友”的哲学命题，ChatGPT到底能火多久，或许它自己也没有答案。

巨头入场，个人“淘金”

几乎同一时刻，谷歌和百度宣布同一件事：要做自己的ChatGPT。

日前，谷歌CEO桑达尔·皮查伊宣布，公司正在推出一项名为Bard的对话式AI服务，以测试用户的反馈，随后将在未来几周内公开发布。百度也宣布推出国产版“ChatGPT”文心一言，一位接近百度相关人士向记者透露，文心一言落地之后，首站将直接接入百度搜索，“一些相关功能已陆续在百度搜索内上线或内测，包括多答案回复、智能生成等。”

ChatGPT主创团队OpenAI背后的微软更是乘胜追击，将GPT—3.5升级版整合进必应搜索、Edge浏览器和Office办公套件中，宣称比ChatGPT的功能更强大。

除了搜索巨头之外，国内不少互联网企业也开始涉足以ChatGPT为代表的AIGC（人工智能自动生成内容）技术的垂直领域产品。

据悉，阿里巴巴达摩院正在研发类ChatGPT的对话机器人，目前处于内测阶段，可能将AI大模型技术与钉钉深度结合。360公司在答投资者问时表示，类似的AIGC技术目前作为内部生产力工具使用，计划尽快推出相关demo版产品。网易有道AI技术团队已聚焦AIGC在教育场景的落地研发，正在AI口语老师、中文作文批改等细分学习场景中尝试探索。

记者发现，已有“高阶玩家”将原生ChatGPT“嫁接”到国内互联网平台。一名钉钉资深用户在公司的运维群创建故障报警应用时，尝试在“自定义机器人”插件中接入ChatGPT，完成配置后即可自动写开年规划、英文邮件和爬虫代码等。

△百度PLATO-K中文对话模型

虽然国内多家机构宣称推出类ChatGPT产品，但国产版“平替”与ChatGPT的差距依然肉眼可见。

以360公司为例，由于训练数据源及应用方向的原因，在中文环境下的实际效果强于GPT—2，与当前流行的ChatGPT—3有着代际差距。与国外同行相比，国内在中文语料数据资源端有丰富的多模态大数据积累，但在预训练大模型和多模态数据清洗融合技术领域存在较大差距。不少互联网企业或许与360公司有着类似的选择——用充足的资金储备用于购买大规模算力，深入自行研发的同时寻找强有力的合作伙伴，以此来降低技术壁垒。

“虽然我国在AI领域已有所成就，但主要集中在应用端，技术端仍由美国互联网巨头引领，目前仍有两三年的差距。”朱克力表示，AIGC属于“养成类”产品，除了技术外，“喂养”的内容也非常关键，我国应用市场广大、数据内容丰富，可趁此机会“弯道超车”赶超，“在法律合规的前提下，如何把握好开放、发展与安全的平衡，释放国内的数据内容的潜在价值，值得各方联合探索。”

既是野兽，也是猎手

“如同其他人工智能模型一样，ChatGPT是把双刃剑，既可以是提升效率的工具，甚至编写代码，同时也可能被绕过安全机制，用于实施有害的活动。”奇安信虎符智库研究员李建平告诉记者，对网络安全行业来说，以ChatGPT为代表的人工智能工具，既可以用来编写网络钓鱼、生成恶意软件、开展网络攻击，也能成为网络防御者的有力工具。

奇安信人工智能研究院负责人介绍，美国在暗网中发现了1500多条恶意软件和验证代码中有ChatGPT的身影，甚至还利用恶意代码对ChatGPT进行“培训”，以生成可逃避病毒检测的恶意代码不同变体，研究人员已经确定ChatGPT可以有效生成信息窃取器、远程访问木马和加密货币窃取器等。

此外，ChatGPT还降低了网络犯罪的门槛，即便是没有技术的“小白”，也能成为攻击者。境外已有网络钓鱼即服务（即服务是一种软件许可模式）和勒索软件即服务开始向攻击者提供收费工具包，使其可以轻松实施攻击，特别是ChatGPT面向公众免费开放，网络攻击的成本进一步降低。

△利用ChatGPT生成的钓鱼邮件

目前，国内已经有多家人工智能研究院成立了ChatGPT项目专班，开展该技术在网络安全领域的场景研究和应用，未来将广泛应用于安全产品开发、威胁检测、漏洞挖掘、安全运营及自动化、攻防对抗、反病毒、威胁情报分析和运营、涉网犯罪分析等领域。

“我们看到ChatGPT相继被Stack Overflow编程问答社区、行业协会和高校‘封杀’，部分原因就是它仍然会生成一些虚假错误内容，并且难以辨别。”李建平说。遗憾的是，迄今为止ChatGPT自动生成的内容依然真假难辨，OpenAI已经发布相关AI内容检测器，但是识别置信度正确率仅为26%，甚至还会将人类创作文本误识别为AI创作，“其象征意义比实际意义更大。”

网络上有句戏言：“只有魔法才能打败魔法”，同理，只有AI才能打败AI，规避ChatGPT安全隐患的最好办法，或许正是它自己。

“ChatGPT可以在网络钓鱼检测、漏洞发现和事件分析与响应三方面提高安全防护力。”李建平表示，ChatGPT能帮助组织识别和标记钓鱼邮件，在接收邮件前进行标记，从而降低网络钓鱼成功的机会，同时训练网络钓鱼检测系统，增强识别相关的模式和语言，以便提高网络钓鱼检测系统的效率。另外，随着ChatGPT人工智能模型的演进，有可能实现漏洞检测和修复的自动化。更有甚者，ChatGPT还可以在检测和响应网络攻击，更快地从数据中创建有关安全事件的报告，辅助IT团队做出安全决策。

“来自人工智能的威胁并不是新问题，只是ChatGPT展示了一些看起来很可怕的应用。”奇安信人工智能研究院负责人表示，关键要及时意识到ChatGPT的潜在风险并及时采取适当的措施来应对。展望未来，ChatGPT也可能是一个信号，表明距离网络防御决策的更高自动化不再遥远。

栏目主编：李晔 题图来源：东方IC 图片编辑：雍凯

来源：作者：查睿 吴丹璐