> 自媒体 > (AI)人工智能 > 抓515人!中国警方重拳打击AI换脸诈骗 这种骗术为何防不胜防?
抓515人!中国警方重拳打击AI换脸诈骗 这种骗术为何防不胜防?
来源:探客社
2023-08-28 17:03:28
454
管理

文/探客007

本文原创,未经许可不得转载摘编

通过AI换脸和拟声技术,10分钟就骗取了430万元,你以为这是天方夜谭,可这是事实!

不久以前,内蒙古包头警方发布一起利用人工智能(AI)实施电信诈骗的典型案例,福州市某科技公司法人代表郭先生10分钟内被骗430万元。

事情是这样的。今年4月20日中午,郭先生一个关系比较好的朋友突然通过微信视频联系他,自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。

郭先生是一个热心人,朋友有难处,关键时刻自然要拉一把。基于对好友的信任,加上已经视频聊天核实了身份,郭先生对这个联系他的“朋友”没有丝毫怀疑,他分两笔把430万转到“朋友”的银行卡上。

而后,郭先生拨打好友电话,马上就傻眼了!朋友根本没有找他借钱!微信上的人根本不是他!这时郭先生才意识到自己是被现在正在兴起的AI换脸诈骗,极有可能是朋友的微信被盗,骗子又利用朋友视频头像做了手脚。

接到报警后,福州、包头两地的警方迅速启动止付机制,成功止付拦截已经在转账程序中的336.84万元,但遗憾的是依旧有93.16万元被转移。

这两年,类似的AI换脸诈骗在国内变得越来越多。面对这种现实,中国警方针对AI换脸欺诈问题发起了专项行动,破获了众多的AI换脸欺诈案。

AI换脸诈骗现象的增多,显示出不法分子正在试图利用AI技术的发展,严重威胁着大家的财产安全。

随着AI技术的普及,AI已经成为一场“全民狂欢”。如今在不管是在工作中还是饭后茶余,如果不能聊几句AI的话题,说明你已经与这个时代落伍了!

并且AI的各种应用已经走到我们身边。

在手机应用市场,以AI作为关键词进行搜索,ChatAi、FacePlay等多款运用AI技术的APP都可以方便地下载应用;在电脑和手机等端口,用户只要搜索关键词就能获得大量的AI开源代码和教学视频。这为大家学习和利用AI技术提供了极大的方便。

AI换脸也变得十分简单。在AI换脸小程序上,只需要选择自己心仪的视频模板,再上传一张自己的正脸照片,就可以实现一秒“换头”。当然,你也可以随意给自己的家人和亲戚朋友们一秒“换头”。

科技的发展是把双刃剑,AI的发展和应用也是如此。随着AI技术的快速普及,也让不法分子找到了可乘之机,他们纷纷为电信诈骗披上AI“马甲”。

中国公安部于8月10日召开了发布会,通报了全国公安机关打击整治侵犯公民个人信息违法犯罪行为的举措和成效,其中就包括了众多“AI换脸”诈骗类案件。截止目前,中国警方针对AI换脸欺诈问题发起了专项行动已经成功侦破了79起相关案件,抓获了515名犯罪嫌疑人。

究竟什么是AI换脸诈骗呢?

所谓的AI换脸诈骗,就是通过AI技术换脸,然后对AI换脸后头像人物的熟人实施诈骗。这种类型的诈骗主要利用了受害者的社会关系,其往往通过信息购买或者其他渠道,充分掌握了受害者个人的身份信息以及与被换脸对象的社会关系,然后实施综合作案。

例如,不法分子利用熟人关系、领导下属关系等,利用受害者“不好意思拒绝”的心理实施诈骗。

与声音合成相比,这种形式欺骗性更强。不法分子会根据收集来的照片和视频,生成与目标对象相似的面容,然后给受害人拨打视频电话,以假乱真。据了解,犯罪分子用于实施AI换脸的物料主要为照片,特别是身份证照片,同时结合人员姓名、身份证号来突破人脸识别验证系统。另外,个人视频头像也是实施AI换脸的素材来源。

业内人士称,只要有足够的图像、音频素材,不法分子就可以通过人工智能换脸软件、合成声音软件伪造虚拟形象,实施诈骗。这种诈骗欺骗性高,常常令人防不胜防,稍不留神,就会落入诈骗分子设置的陷阱中。

因此,当大家遇到这种情况时,一定要保持冷静的头脑,在进行有关转账之前要通过打电话的方式和自己的亲人和朋友确认。另外在电话确认之前千万不可按照微信、QQ中的提示进行有关操作。

据了解,这两年中国已经出现的多起利用AI换脸的诈骗案件中,甚至有不法分子利用人工智能“深度伪造”冒充领导干部行骗。

为了遏制AI诈骗的发展势头,国家互联网信息办公室于8月8日发布了《人脸识别技术应用安全管理规定(试行)(征求意见稿)》,旨在提升人脸识别技术的规范应用与合规水平。

此外,国家网信办已审议通过的《生成式人工智能服务管理暂行办法》也将于8月15日起开始施行,这表明我国在相关领域的规定正在逐步完善。

同时,国家公安机关已经联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖了境内用户量大、问题隐患突出的即时通讯、网络直播、网络社交、电商平台、金融支付等重点APP。这项工作能够帮助及时发现人脸识别验证系统存在的风险隐患,并通报运营主体升级安全保护措施和人脸识别算法,这将有助于遏制该类犯罪的发展势头。

目前,也有一些科技公司正加强对图像、声音伪造技术的反制研究。专家们表示,加强AI安全技术应用研发,将AI技术应用于犯罪识别、预警、对抗中,就可以实现以“白”AI对抗“黑”AI。

据悉,国家还将持续推进个人身份信息尤其是人脸等身体数据信息泄露的治理,这也将对AI换脸诈骗起到很大的抑制作用。

在AI时代已经来临的情况下,我们对AI的滥用和个人信息泄露问题不能放任不管,只有让监管跟上技术发展的步伐,AI技术才能沿着法治的轨道行稳致远。

1
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
#小货车
最新看一下,二零二一年本地私家一手,在钱包到明年二零二五年,车况相当..
拉货车线上办通行证遇阻,司机折腾一宿“情愿认罚”也难通行;咸阳交警:系..
“我说扣分罚款我认了,你就让我进去卸货,执勤交警说罚款扣分也不能让我..
零首付购车、高薪不愁货源?货车司机要谨防“套路运套路贷”..
南都讯记者陈秋圆 发自北京 “保证货源,报酬丰厚,每公里运费3.5元至4.5..
痛心!一货车司机被发现死在车内,目击者称司机事发前不久和朋友一起吃午饭..
极目新闻记者 张万军5月25日下午,四川成都青白江区仁新路,一名货车司机..
大货车顶垃圾车直冲酿连环车祸 大连警方通报:3名人员受轻微伤..
6月1日早晨,辽宁大连,一辆大货车疑似刹车失灵,连撞多车。视频在网上热..
福特 E-Transit Custom——英国最受欢迎的厢型货车
甚至还有一个小型的直通式舱口,可以进一步延长储物空间。它不是同类产品..
大连一货车因刹车失效追尾前车,警方:3人轻微伤,多车受损..
6月2日,大连市公安局经济技术开发区分局发布警情通报:2024年6月1日8时..
大货车疑刹车失灵顶着垃圾车直冲酿连环车祸,目击者称“好几辆车被‘包饺子..
6月1日早晨,辽宁大连,一辆大货车疑似刹车失灵连撞多车,目击者讲述事发..
大连警方:一货车因刹车失效追尾前车,致3人受伤多车受损..
央视网消息:大连市公安局经济技术开发区分局发布警情通报:6月1日8时许..
关于作者
杨子(普通会员)
文章
751
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40380 企业收录2981 印章生成225462 电子证书981 电子名片58 自媒体40210

@2022 All Rights Reserved 浙ICP备19035174号-7
1
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索