文/探客007

本文原创，未经许可不得转载摘编

通过AI换脸和拟声技术，10分钟就骗取了430万元，你以为这是天方夜谭，可这是事实！

不久以前，内蒙古包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。

事情是这样的。今年4月20日中午，郭先生一个关系比较好的朋友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

郭先生是一个热心人，朋友有难处，关键时刻自然要拉一把。基于对好友的信任，加上已经视频聊天核实了身份，郭先生对这个联系他的“朋友”没有丝毫怀疑，他分两笔把430万转到“朋友”的银行卡上。

而后，郭先生拨打好友电话，马上就傻眼了！朋友根本没有找他借钱！微信上的人根本不是他！这时郭先生才意识到自己是被现在正在兴起的AI换脸诈骗，极有可能是朋友的微信被盗，骗子又利用朋友视频头像做了手脚。

接到报警后，福州、包头两地的警方迅速启动止付机制，成功止付拦截已经在转账程序中的336.84万元，但遗憾的是依旧有93.16万元被转移。

这两年，类似的AI换脸诈骗在国内变得越来越多。面对这种现实，中国警方针对AI换脸欺诈问题发起了专项行动，破获了众多的AI换脸欺诈案。

AI换脸诈骗现象的增多，显示出不法分子正在试图利用AI技术的发展，严重威胁着大家的财产安全。

随着AI技术的普及，AI已经成为一场“全民狂欢”。如今在不管是在工作中还是饭后茶余，如果不能聊几句AI的话题，说明你已经与这个时代落伍了！

并且AI的各种应用已经走到我们身边。

在手机应用市场，以AI作为关键词进行搜索，ChatAi、FacePlay等多款运用AI技术的APP都可以方便地下载应用；在电脑和手机等端口，用户只要搜索关键词就能获得大量的AI开源代码和教学视频。这为大家学习和利用AI技术提供了极大的方便。

AI换脸也变得十分简单。在AI换脸小程序上，只需要选择自己心仪的视频模板，再上传一张自己的正脸照片，就可以实现一秒“换头”。当然，你也可以随意给自己的家人和亲戚朋友们一秒“换头”。

科技的发展是把双刃剑，AI的发展和应用也是如此。随着AI技术的快速普及，也让不法分子找到了可乘之机，他们纷纷为电信诈骗披上AI“马甲”。

中国公安部于8月10日召开了发布会，通报了全国公安机关打击整治侵犯公民个人信息违法犯罪行为的举措和成效，其中就包括了众多“AI换脸”诈骗类案件。截止目前，中国警方针对AI换脸欺诈问题发起了专项行动已经成功侦破了79起相关案件，抓获了515名犯罪嫌疑人。

究竟什么是AI换脸诈骗呢？

所谓的AI换脸诈骗，就是通过AI技术换脸，然后对AI换脸后头像人物的熟人实施诈骗。这种类型的诈骗主要利用了受害者的社会关系，其往往通过信息购买或者其他渠道，充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系，然后实施综合作案。

例如，不法分子利用熟人关系、领导下属关系等，利用受害者“不好意思拒绝”的心理实施诈骗。

与声音合成相比，这种形式欺骗性更强。不法分子会根据收集来的照片和视频，生成与目标对象相似的面容，然后给受害人拨打视频电话，以假乱真。据了解，犯罪分子用于实施AI换脸的物料主要为照片，特别是身份证照片，同时结合人员姓名、身份证号来突破人脸识别验证系统。另外，个人视频头像也是实施AI换脸的素材来源。

业内人士称，只要有足够的图像、音频素材，不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象，实施诈骗。这种诈骗欺骗性高，常常令人防不胜防，稍不留神，就会落入诈骗分子设置的陷阱中。

因此，当大家遇到这种情况时，一定要保持冷静的头脑，在进行有关转账之前要通过打电话的方式和自己的亲人和朋友确认。另外在电话确认之前千万不可按照微信、QQ中的提示进行有关操作。

据了解，这两年中国已经出现的多起利用AI换脸的诈骗案件中，甚至有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

为了遏制AI诈骗的发展势头，国家互联网信息办公室于8月8日发布了《人脸识别技术应用安全管理规定（试行）（征求意见稿）》，旨在提升人脸识别技术的规范应用与合规水平。

此外，国家网信办已审议通过的《生成式人工智能服务管理暂行办法》也将于8月15日起开始施行，这表明我国在相关领域的规定正在逐步完善。

同时，国家公安机关已经联合国家重点实验室等单位，开展人脸识别与活体检测技术安全测评，覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP。这项工作能够帮助及时发现人脸识别验证系统存在的风险隐患，并通报运营主体升级安全保护措施和人脸识别算法，这将有助于遏制该类犯罪的发展势头。

目前，也有一些科技公司正加强对图像、声音伪造技术的反制研究。专家们表示，加强AI安全技术应用研发，将AI技术应用于犯罪识别、预警、对抗中，就可以实现以“白”AI对抗“黑”AI。

据悉，国家还将持续推进个人身份信息尤其是人脸等身体数据信息泄露的治理，这也将对AI换脸诈骗起到很大的抑制作用。

在AI时代已经来临的情况下，我们对AI的滥用和个人信息泄露问题不能放任不管，只有让监管跟上技术发展的步伐，AI技术才能沿着法治的轨道行稳致远。