> 自媒体 > (AI)人工智能 > ChatGPT背后的人工智能安全隐患与对策
ChatGPT背后的人工智能安全隐患与对策
来源:21世纪经济报道
2023-04-29 16:22:39
280
管理

记者与ChatGPT对话截图

“ChatGPT的参数量达到了1750亿。”香港科技大学(广州)人工智能学域主任熊辉向记者粗略算了一笔账,以单价最便宜的英伟达A100显卡(约合1万美元,6.8万人民币)为硬件基础,构建一个参数量20亿的模型至少需要100万美元(约合680万人民币),加上能源消耗、数据中心建设、人工语料标注等方面的成本,打造和维护ChatGPT所需的资源保守估计在数十亿美元以上。

而庞大的参数量和高质量的语料库一方面意味着高昂的成本,另一方面也是其能够应对大量复杂问题的关键原因。

但作为一款过于强大的工具,GhatGPT不可避免地被应用于不同领域中,其中便包括用于网络黑产的不法行为。

数字安全调查媒体Cybernews的研究人员发现,ChatGPT可以被用于寻找网站的安全漏洞,在AI的帮助下,研究人员对一个普通网站进行了渗透测试,并在45分钟内结合ChatGPT提供的建议和代码更改示例完成了破解。

虽然在每段对话的结尾,ChatGPT都对可能的不法行为进行了警告,但其最终仍然提供了具有可行性的建议。

“ChatGPT可以非常有效地回答各类复杂问题,其可能被用于大规模快速生成进行网络诈骗的误导信息或网络钓鱼电子邮件等,甚至可以帮助黑客更快地发现漏洞,加速恶意软件的开发。”

上海大学网络空间安全专业负责人、紫金山实验室车联网内生安全方向负责人李玉峰在接受南方财经全媒体记者采访时表示,目前网络安全威胁的严重程度或多或少与攻击者的知识水平有关,而ChatGPT一类的人工智能无疑将极大降低网络攻击的门槛,因为他不仅扩大了潜在威胁的数量,也在实质上赋予了新手参与安全攻击的能力。

熊辉也指出,目前ChatGPT实现的只是文本对文本的回应,而未来人工智能发展所希望实现的是文本、图像、视频等多模态数据形式间的转化,随着AI模仿、创造能力的进一步提升,人们辨别哪些内容是AI生成的,验证内容真伪的能力将被进一步削弱,深度伪装(Deep Fake)问题会随着人工智能技术进步被进一步放大,并由此衍生出隐私、道德、法律、安全等层面的一系列问题。

AI的软肋

除了被应用于非法活动造成安全问题外,人工智能本身作为高度复杂的软件,同样存在潜藏的安全风险,而这需要我们将目光转向其开发环境中。

当前,绝大部分AI都在开源平台进行开发与调整,包括ChatGPT也是基于大量OpenAI的开源程序搭建完成的,虽然开源平台的使用可以在很大程度上降低开发成本,促进技术交流与创新,但也存在着不容忽视的安全风险。

国家计算机网络应急技术处理协调中心的调查结果显示,近6年来,开源组件生态中漏洞数逐年递增,2020年新增漏洞数3426个,同比增长40%。

李玉峰指出,一旦开源平台失守,可能会引发连锁式影响,可能比互联网时代传统黑客攻击后果更为严重。此外,众多国外开源平台掌控着核心资源和游戏规则,一旦在开源平台中被植入难以发现的“后门”,后果将不堪设想。

除了开发环境存在的安全问题外,作为以自我学习和自我进化为重要属性的人工智能系统,AI的发展方向稳定高度依赖于供其学习和训练的数据与样本,遭到污染的数据集或针对特定参数提供带有偏见的样本,都可能使AI形成安全隐患。

“数据操纵、篡改和训练数据污染或投毒等,都可能会影响人工智能决策的正确性,不完备的数据或者数据中存在的不同知识、概念等可能会导致决策偏见。”李玉峰表示,以深度学习为代表的人工智能算法经常被视作一个“黑箱”,算法可解释性和透明度的严重缺失。算法设计或实施有误可产生与预期不符甚至伤害性结果;算法潜藏偏见和歧视,可能会导致决策结果存在不公等问题。

这种问题在ChatGPT上已有所体现。熊辉指出,当前ChatGPT给出的很多回答存在一个非常严重的问题,就是经常“一本正经地胡说八道”:“你问它为什么量子计算比分布式计算快,它可以头头是道地分析一大段;你问它为什么分布式计算比量子计算快,它同样可以说得有理有据。”

熊辉表示,由于当前的人工智能并非严格意义上基于最完备、最实时的信息进行运算,因此其准确性、完整性、公平性、透明性、可解释性都存在问题,在进行普通文本处理时问题尚且不大,一旦涉及到行业领域专业问题,AI的输出就并不可靠了。

这种针对数据的干扰措施也使得,例如目前被广泛讨论的对抗学习技术:通过对输入样本故意添加一些人无法察觉的细微的干扰,导致模型以高置信度给出一个错误或者有偏差的输出。

2020年,在校研究生单思雄与同学合作开发了AI对抗学习系统Fawkes,该系统支持对照片数据进行修改,修改后的照片几乎不会被人类肉眼发现区别,但却会使得AI做出完全不同的判断。

虽然Fawkes系统开发的本意是为了防止用户照片和人脸信息被盗用,但不可否认的是,如果该技术被用于规避出于身份认证等需求的人脸识别时,可能导致额外的安全问题。

李玉峰表示,生成的对抗性样本可能被模型误判为正常样本,导致模型产生错误的结果;也可能破坏系统的正常运行,例如破坏目标检测模型的准确性。

智能与安全

事实上,随着近年来AI技术走出实验室,进入人们的数字生活乃至现实生活,AI安全问题已不仅仅局限于非法应用和技术漏洞,成为一个横跨日常生活、产业生产、社会治理等多层面的安全问题。

多位受访专家也在与记者交流时指出,人工智能技术是由软硬件结合形成的复杂系统,数据、模型、算法都不是孤立存在的,最终都要依托一套完整的“宿主”系统。因而探讨和解决人工智能安全问题,也不能脱离对系统整体的研究。

早在2019年,欧盟网络与信息安全局(ENISA)近日发布了题为《建立网络安全政策发展框架——对自主代理的安全和隐私考虑》的报告,提出包容性与开放性原则,旨在为欧盟成员国提供一个政策制定框架,以应对AI引发的安全和隐私问题。同年,美国国防创新委员会投票通过了一份名为《人工智能原则:国防部人工智能应用伦理的若干建议》, 文件中提出了“负责、公平、可追踪、可靠、可控”五大原则

2021年,欧盟委员会提出了人工智能规则法案,旨在促进创新,并为人工智能设定全球标准。近日,《欧盟人工智能法案》( EU AI Act)联合报告员对外表示,预计在3月初,欧盟就将就该草案达成共同立场。

2022年9月,经上海市十五届人大常委会第四十四次会议表决,《上海市促进人工智能产业发展条例》正式通过。《条例》中指出,市经济信息化、市场监管部门应当推动行业组织制定机器人智能化水平分级、应用安全测试等标准,引导智能机器人技术迭代,保障智能机器人的信息安全和使用安全。

回顾各国对人工智能安全的管理措施鼓励产业发展与创新,加强标准建设,从技术层面降低安全威胁;与通过政策引导、产业合作等方式占据更多国际规则制定话语权是并行不悖的。

李玉峰指出,以人工智能开源平台安全性问题为例,可以采用代码审核、数据保护、检测与测试、漏洞修复与管理、安全监测、应急响应等技术措施加以应对,也需要进一步加强国产开源生态建设。

“假设未来的智能软件和硬件高度结合,AI是否也会将自己控制的机器视为身体的一部分?当人类佩戴甚至植入带有人工智能的硬件,他行为的主动性又该如何加以确认和区分,这都是AI发展过程中需要思考的问题。”熊辉说。

南财记者与ChatGPT对话截图

SFC

本期编辑 黎雨桐 实习生 余心雨

ChatGPT火出圈:爆火的ChatGPT暗藏风险,或将取代部分职业

深度丨昂贵的ChatGPT背后

AI怎么看AI?我们和ChatGPT聊了聊

再造一个ChatGPT?并没想象的容易

知名电商宣布入局ChatGPT,股价飙涨124%

深交所紧急发函!ChatGPT成多公司翻身密码?谷歌、微软也出手了

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
不雅聊天记录泄露,想摆平?门都没有!
来源:海外网“即使全区知道咱俩开房又怎样?不是都没事吗?我都能摆平!..
我升级了ChatGPT-4,简单聊聊AI对普通职场人的影响
随着科技的发展,Chat-GPT升级到4,在这种快速发展的时代下,AI对普通职..
召唤GPT4多重人格,实力超群大幅减少幻觉!微软UIUC新工作释放大模型认知协..
微软和UIUC联合提出了一种名为 Solo Performance Prompting (SPP) 的方法..
到底有多少人,沉迷在b站上看跟外国人闲聊啊?
世超也打开他主页认真看了几个,发现内容特别朴实无华,就是纯纯记录自己..
全球都在用什么软件聊天?第一你猜到了吗?#聊天软件..
全世界都在用什么聊天?微信已经这么成功了,可是在全球的聊天软件里,它..
我们有数据有技术,为什么ChatGPT没有出在中国?
虽然中国在数据和技术方面拥有很强的实力,但在AI领域,尤其是大规模自然..
突发!OpenAI CEO宣布停止ChatGPT付费账号注册 数万人受影响..
快科技11月15日消息,今天上午,OpenAI首席执行Sam Altman在社交平台上宣..
通讯Plus·深度 | 火爆背后,ChatGPT打开了人工智能的“潘多拉魔盒”..
ChatGPT的爆火,生动诠释了什么是“人红是非多”,发展至今已经吸引了众..
ChatGPT的“前世今生”是什么?未来又将走向何方?
近期,ChatGPT的更新再度引发市场热潮。想必这个产品大家都不陌生,很多..
关于作者
经典好看视频..(普通会员)
文章
351
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40329 企业收录2981 印章生成184271 电子证书781 电子名片48 自媒体20029

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索