> 自媒体 > (AI)人工智能 > 利用AI编造「火车撞人」假新闻!中国首例ChatGPT犯罪,东莞男子或面临5年监禁
利用AI编造「火车撞人」假新闻!中国首例ChatGPT犯罪,东莞男子或面临5年监禁
来源:大数据文摘
2023-07-21 15:11:13
441
管理

大数据文摘出品

作者:Caleb

4月25日,根据百家号上的一篇报道称,甘肃省一列火车撞上公路工人,造成9人死亡。

警方对此立即展开调查,发现在平台上,共有21个账号同时发布了不同版本的文章,涉及不同的事故地点,包括平凉市崆峒区、兰州、陇南、定西、庆阳等地。

荷兰一列载有乘客的火车周二在海牙附近撞上一台起重机并脱轨,造成至少一名工人死亡,约30人受伤,这是该国多年来最严重的铁路事故。

相关报道迅速得到关注,短时间内获得了超过15,000次点击。

细想下,同时多地发生相似的事故?这也太过巧合了。

事实证明,这些报道确实是假新闻。

中国公安局网安大队调查后发现,发布报道的帐号都隶属于广东深圳一间自媒体公司。

5月5日,警方前往广东该名嫌疑人住处进行取证,审讯后发现,洪姓男子先搜寻了近年来中国讨论度广泛的社会新闻,随后利用ChatGPT将特定元素例如时间、地点、日期或性别等进行修改,重新撰成一篇假新闻,藉由上传这些文章让帐号赚取流量再加以变现。

不仅如此,洪姓男子还利用ChatGPT制作了多个存在细小差距的假新闻版本,以避开百度旗下平台的审查。

据了解,洪姓男子主要通过ChatGPT将收集到的新闻要素修改编辑后,上传至其购买的百家号上非法获利,目前案件正在进一步侦办。

警方表示,洪姓男子编造假新闻并散布在网络上供人大量浏览的行为,已涉嫌寻衅滋事罪,因此对其采取刑事强制措施,最高可判处五年有期徒刑。

首例因滥用人工智能而被捕的案件

这是中国因应人工智能发展,于今年1月起颁布《互联网信息服务深度合成管理规定》后侦破的第一起事件。

“规定”旨在促进人工智能产业发展和防止技术滥用的法规规定,通过深度合成技术(deepfake)制作的合成视频和照片必须明确标注,以防止公众混淆。

该规定还涵盖了deepfake提供者和用户的责任,包括禁止使用该技术进行非法行为、建立审查制度和识别用户信息。

最近,随着ChatGPT的流行,中国在线搜索巨头百度和其他科技公司也相继推出了竞品。

4月11日,中国国家互联网信息办公室(CAC)发布管理生成式AI服务的法规草案。据CAC称,该法规预计将于今年某个时候生效。

ACA表示,国家支持人工智能自主创新和推广应用,但相关产品或服务应符合法律法规要求,尊重社会公德和公共秩序,其中包括服务提供商接入、算法设计、训练数据选择、内容概括、用户隐私和商业秘密等。

中国社会科学院大学法学院副教授刘晓春在接受采访时表示,服务提供商有义务采取风险防范措施并响应监管要求。

规范化使用AI是一个全球性难题

利用ChatGPT这类AI来生成假新闻并非中国独有,美国AI专家、社交媒体公司和政府官员同样关注生成式AI传播错误信息的可能性。

今年4月,美国共和党发布了一个人工智能生成的视频广告,假想了拜登再次当选的情况下,将会引起美国与墨西哥边境的大规模移民浪潮和旧金山文明崩溃。

虽然这则广告被标记为“人工智能生成”,但过于逼真的图像仍然很容易让人们将其视为现实。Reddit上的Midjourney子版块也有用户举例说明了文本到图像生成器如何创建未发生过的历史事件,比如“2001年卡斯卡迪亚9.1大地震和海啸”。

除此之外,人权非营利组织Amnesty World分支机构Amnesty Norway在社交媒体账户上发布了人工智能生成的图像,以此号召人们多多关注哥伦比亚全国罢工两年。但这些图像错误地描绘了哥伦比亚国旗,还用了假人代替了真正的抗议者。

随着ChatGPT得到越来越多的关注和使用,国内的立法者也一直在努力起草管理公司如何开发人工智能的相关规定。拟议的法规包括不生成虚假信息,明确标记使用AI制作的内容,并确保用于训练AI的数据不歧视种族、种族和性别。

但也可以想象,这是一项道阻且长的艰巨工作,还需要时间慢慢打磨。

相关报道:

https://www.vice.com/en/article/y3wvjm/china-arrests-man-for-allegedly-using-chatgpt-to-create-fake-news

https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html

3
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
4S店关了,消费者权益不能随意“关”|荔枝时评
文/熊志(作者熊志,荔枝新闻特约评论员,资深评论人;本文系荔枝新闻客..
4S店现关停潮,消费者权益谁来保障?
“品牌授权已取消”“公司当前暂停营业”“已提出退网申请”……近期,部..
多地4s店迎来倒闭潮,他们可以一跑了之但消费者怎么办呢?..
最近,多地4S店倒闭潮的消息如惊雷般炸响,让汽车行业的从业者和广大消费..
二手车|别克GL8:空间超大还保值!奶爸首选
随着二胎、三胎政策的放开,再加上生活水平的提升,越来越多的消费者在购..
二手车|天籁:十一、二万,日系+中型+大沙发都有?..
十一、二万,你是选择一台紧凑型还是一台二手日系中型轿车?入门级车型更..
买新车贬值快\u0026#34;不划算\u0026#34;?这几款二手车开上几年不会亏,还..
既然买新车"吃亏",那么二手车怎样呢?今天漫哥就跟大家推荐几款在一直保..
不敢买二手车?看完这些买前功课放心去买吧
[爱卡汽车 淘二手车原创]随着近几年国内二手车行业的发展,相信大家也感..
选购二手车,先看这几点,新手避坑指南
哈喽,兄弟们!熟悉南哥的都知道,南哥自己买的车大多是都二手,比如天籁..
新能源二手车能不能买?三吱跑了1300公里告诉你答案
不知道大家有没有看过电影《飞驰人生》,自从看了这个电影,我一直想体验..
关于作者
清水大树(普通会员)
文章
724
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40373 企业收录2981 印章生成219996 电子证书958 电子名片58 自媒体39805

@2022 All Rights Reserved 浙ICP备19035174号-7
3
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索