> 自媒体 > (AI)人工智能 > AI前哨|AI也有“黑匣子”?ChatGPT背后都藏着什么秘密?
AI前哨|AI也有“黑匣子”?ChatGPT背后都藏着什么秘密?
来源:凤凰网科技
2023-06-03 14:14:19
505
管理

ChatGPT掩盖了它的内部运作原理

凤凰网科技讯 《AI前哨》北京时间5月29日消息,对于一些人来说,“黑匣子”(black box,也称黑盒子)这个词会让人想起飞机上的飞行记录器。如果发生不堪设想的事情,这些设备对事后分析很有价值。但是在人工智能(AI)领域,黑匣子也是一个重要的术语。

什么是AI黑匣子?

AI黑匣子,指的是内部运作原理对用户不可见的AI系统。人们可以向它们提供输入并获得输出,但是不能检查产生输出的系统代码或逻辑。

机器学习是AI的主要分支,它是聊天机器人ChatGPT和图像生成器DALL-E 2等生成式AI系统的基础。机器学习有三个组成部分:一个算法或一组算法、训练数据以及模型。算法是一组程序。在机器学习中,算法在接受大量示例(训练数据)的训练后学会识别模式。一旦机器学习算法被训练,成果就是一个机器学习模型。模型就是人们使用的东西。

例如,人们可以设计一个机器学习算法来识别图像中的模式,训练数据可以是狗的图像,由此产生的机器学习模型将是一个狗的识别器。你可以给它一个图像作为输入,并获得输出,判断图像中是否存在一只狗,以及图像中哪些像素组成了一只狗。

黑匣子是在“黑箱作业”

机器学习系统的三个组成部分中的任何一个都可以被隐藏起来,或者成为一个黑匣子。通常情况下,算法是公开的,所以把它放入黑匣子中的效果并不理想。因此,为了保护知识产权,AI开发者通常会将模型放入黑匣子中。软件开发者采取的另一种方法是对用于训练模型的数据进行模糊处理。换句话说,将训练数据放入黑盒子中,以防止它被泄露。

黑匣子算法让外界很难理解AI是如何工作的,但情况并非完全是这样。

黑匣子的反面有时被称为玻璃匣子(glass box,又称玻璃盒子,指的是内部运作透明)。AI玻璃匣子是一个系统,其算法、训练数据和模型对任何人都是可见的。然而,研究人员有时会将这些玻璃匣子的某些方面描述为黑匣子。

这是因为研究人员并不完全了解机器学习算法,尤其是深度学习算法是如何运作的。可解释的AI领域正在努力开发算法,虽然不一定是玻璃匣子,但可以被人类更好地理解。

黑匣子的弊端

在许多情况下,人们有充分的理由警惕黑匣子机器学习算法和模型。假设一个机器学习模型对你的健康状况做出了诊断,你想要黑匣子还是玻璃匣子呢?对于给您开具治疗方案的医生,也许她想知道模型是如何作出决策的。

如果一个决定你是否有资格从银行获得商业贷款的机器学习模型拒绝了你,该怎么办?你不想知道为什么吗?如果你知道了原因,你可以更有效地上诉决定,或者改变你的情况,以增加你下次获得贷款的机会。

黑匣子对于软件系统安全也有重要的影响。多年来,计算机领域的许多人认为,将软件保存在黑匣子中可以防止黑客检查它,因此它是安全的。这种假设在很大程度上被证明是错误的,因为黑客可以对软件进行逆向工程。也就是说,通过密切观察软件的工作原理来构建一个副本,并发现可利用的漏洞。

如果软件是在一个玻璃匣子里,那么软件测试人员和善意的黑客可以检查它,并告知创建者它的弱点,从而最大限度地减少网络攻击。凤凰网科技《AI前哨》对此将持续关注。(作者/箫雨)

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
广西柳州柳南区通报:网传某公职人员与女子不雅聊天记录,立即开展调查..
来源:精彩柳南情况通报近日,网传柳南区某公职人员与一女子的不雅聊天记..
聊天机器人有多智能?为何火爆出圈?记者“采访”ChatGPT 它三次道歉“我的..
文/图 半岛全媒体记者 牛晓芳 李杨文近日,ChatGPT爆火出圈,上线仅两个月,..
花钱买来的陪拍靠谱吗?线下陪拍服务调查
□ 本报记者 孙天骄□ 本报见习记者 丁 一□ 本报实习生 陈立儿“我本来..
特别会写中文!免费不限,有了Slack + Claude,ChatGPT瞬间不香了..
1 Claude 简介• Claude 是一款开源的深度学习模型,由 Anthropic 最近发..
中国AI危险了?ChatGPT说中文错漏百出,阿里抓住机会亮“王牌”..
随着人工智能技术的不断发展,AI在各个领域的应用已经越来越成熟。但是,..
#openai
人人都能学会的AI应用课。我不知道现在大部分人学习AI课程的目的是什么。..
消息称华为版ChatGPT将于7月初发布,定名“盘古Chat” ;苹果或在 WWDC23 ..
编辑&整理|Steven Lee排版|Dylan动点科技着重关注可持续发展、生命科学..
五层赚钱境界,我在第三层,你在第几层
1、五层赚钱境界前几天,我看了一篇文章,把赚钱的境界分为五层,分别是..
OpenAI:ChatGPT不再局限于2021年前数据
DoNews9月28日消息,OpenA 28 日宣布,ChatGPT不再局限于 2021 年之前的..
关于作者
冷冷的太阳..(普通会员)
文章
602
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40369 企业收录2981 印章生成216705 电子证书945 电子名片57 自媒体34015

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索