> 自媒体 > (AI)人工智能 > 抓515人!中国警方重拳打击AI换脸诈骗 这种骗术为何防不胜防?
抓515人!中国警方重拳打击AI换脸诈骗 这种骗术为何防不胜防?
来源:探客社
2023-08-28 17:03:28
446
管理

文/探客007

本文原创,未经许可不得转载摘编

通过AI换脸和拟声技术,10分钟就骗取了430万元,你以为这是天方夜谭,可这是事实!

不久以前,内蒙古包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

事情是这样的。今年4月20日中午,郭先生一个关系比较好的朋友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。

郭先生是一个热心人,朋友有难处,关键时刻自然要拉一把。基于对好友的信任,加上已经视频聊天核实了身份,郭先生对这个联系他的“朋友”没有丝毫怀疑,他分两笔把430万转到“朋友”的银行卡上。

而后,郭先生拨打好友电话,马上就傻眼了!朋友根本没有找他借钱!微信上的人根本不是他!这时郭先生才意识到自己是被现在正在兴起的AI换脸诈骗,极有可能是朋友的微信被盗,骗子又利用朋友视频头像做了手脚。

接到报警后,福州、包头两地的警方迅速启动止付机制,成功止付拦截已经在转账程序中的336.84万元,但遗憾的是依旧有93.16万元被转移。

这两年,类似的AI换脸诈骗在国内变得越来越多。面对这种现实,中国警方针对AI换脸欺诈问题发起了专项行动,破获了众多的AI换脸欺诈案。

AI换脸诈骗现象的增多,显示出不法分子正在试图利用AI技术的发展,严重威胁着大家的财产安全。

随着AI技术的普及,AI已经成为一场“全民狂欢”。如今在不管是在工作中还是饭后茶余,如果不能聊几句AI的话题,说明你已经与这个时代落伍了!

并且AI的各种应用已经走到我们身边。

在手机应用市场,以AI作为关键词进行搜索,ChatAi、FacePlay等多款运用AI技术的APP都可以方便地下载应用;在电脑和手机等端口,用户只要搜索关键词就能获得大量的AI开源代码和教学视频。这为大家学习和利用AI技术提供了极大的方便。

AI换脸也变得十分简单。在AI换脸小程序上,只需要选择自己心仪的视频模板,再上传一张自己的正脸照片,就可以实现一秒“换头”。当然,你也可以随意给自己的家人和亲戚朋友们一秒“换头”。

科技的发展是把双刃剑,AI的发展和应用也是如此。随着AI技术的快速普及,也让不法分子找到了可乘之机,他们纷纷为电信诈骗披上AI“马甲”。

中国公安部于8月10日召开了发布会,通报了全国公安机关打击整治侵犯公民个人信息违法犯罪行为的举措和成效,其中就包括了众多“AI换脸”诈骗类案件。截止目前,中国警方针对AI换脸欺诈问题发起了专项行动已经成功侦破了79起相关案件,抓获了515名犯罪嫌疑人。

究竟什么是AI换脸诈骗呢?

所谓的AI换脸诈骗,就是通过AI技术换脸,然后对AI换脸后头像人物的熟人实施诈骗。这种类型的诈骗主要利用了受害者的社会关系,其往往通过信息购买或者其他渠道,充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系,然后实施综合作案。

例如,不法分子利用熟人关系、领导下属关系等,利用受害者“不好意思拒绝”的心理实施诈骗。

与声音合成相比,这种形式欺骗性更强。不法分子会根据收集来的照片和视频,生成与目标对象相似的面容,然后给受害人拨打视频电话,以假乱真。据了解,犯罪分子用于实施AI换脸的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。另外,个人视频头像也是实施AI换脸的素材来源。

业内人士称,只要有足够的图像、音频素材,不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象,实施诈骗。这种诈骗欺骗性高,常常令人防不胜防,稍不留神,就会落入诈骗分子设置的陷阱中。

因此,当大家遇到这种情况时,一定要保持冷静的头脑,在进行有关转账之前要通过打电话的方式和自己的亲人和朋友确认。另外在电话确认之前千万不可按照微信、QQ中的提示进行有关操作。

据了解,这两年中国已经出现的多起利用AI换脸的诈骗案件中,甚至有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

为了遏制AI诈骗的发展势头,国家互联网信息办公室于8月8日发布了《人脸识别技术应用安全管理规定(试行)(征求意见稿)》,旨在提升人脸识别技术的规范应用与合规水平。

此外,国家网信办已审议通过的《生成式人工智能服务管理暂行办法》也将于8月15日起开始施行,这表明我国在相关领域的规定正在逐步完善。

同时,国家公安机关已经联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP。这项工作能够帮助及时发现人脸识别验证系统存在的风险隐患,并通报运营主体升级安全保护措施和人脸识别算法,这将有助于遏制该类犯罪的发展势头。

目前,也有一些科技公司正加强对图像、声音伪造技术的反制研究。专家们表示,加强AI安全技术应用研发,将AI技术应用于犯罪识别、预警、对抗中,就可以实现以“白”AI对抗“黑”AI。

据悉,国家还将持续推进个人身份信息尤其是人脸等身体数据信息泄露的治理,这也将对AI换脸诈骗起到很大的抑制作用。

在AI时代已经来临的情况下,我们对AI的滥用和个人信息泄露问题不能放任不管,只有让监管跟上技术发展的步伐,AI技术才能沿着法治的轨道行稳致远。

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
4S店关了,消费者权益不能随意“关”|荔枝时评
文/熊志(作者熊志,荔枝新闻特约评论员,资深评论人;本文系荔枝新闻客..
4S店现关停潮,消费者权益谁来保障?
“品牌授权已取消”“公司当前暂停营业”“已提出退网申请”……近期,部..
多地4s店迎来倒闭潮,他们可以一跑了之但消费者怎么办呢?..
最近,多地4S店倒闭潮的消息如惊雷般炸响,让汽车行业的从业者和广大消费..
二手车|别克GL8:空间超大还保值!奶爸首选
随着二胎、三胎政策的放开,再加上生活水平的提升,越来越多的消费者在购..
二手车|天籁:十一、二万,日系+中型+大沙发都有?..
十一、二万,你是选择一台紧凑型还是一台二手日系中型轿车?入门级车型更..
买新车贬值快\u0026#34;不划算\u0026#34;?这几款二手车开上几年不会亏,还..
既然买新车"吃亏",那么二手车怎样呢?今天漫哥就跟大家推荐几款在一直保..
不敢买二手车?看完这些买前功课放心去买吧
[爱卡汽车 淘二手车原创]随着近几年国内二手车行业的发展,相信大家也感..
选购二手车,先看这几点,新手避坑指南
哈喽,兄弟们!熟悉南哥的都知道,南哥自己买的车大多是都二手,比如天籁..
新能源二手车能不能买?三吱跑了1300公里告诉你答案
不知道大家有没有看过电影《飞驰人生》,自从看了这个电影,我一直想体验..
关于作者
杨子(普通会员)
文章
747
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40374 企业收录2981 印章生成221294 电子证书960 电子名片58 自媒体39805

@2022 All Rights Reserved 浙ICP备19035174号-7
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索