> 自媒体 > (AI)人工智能 > 谷歌、OpenAI 做了一个“魔性AI显微镜”,打算撬开人工智能黑箱
谷歌、OpenAI 做了一个“魔性AI显微镜”,打算撬开人工智能黑箱
来源:DeepTech深科技
2023-05-16 06:02:20
557
管理

人工智能的世界是什么样的?

几十年来,研究人员一直对此感到困惑。现在,人们更加想知道这个问题的答案。尤其是,从医疗保健到自动驾驶汽车,越来越多的生活领域开始应用机器视觉系统。而且这些领域直接和人的生命息息相关。

但是让机器眼睛真正“看到”谁是行人谁是路标,仍然是一个挑战。做不到这些可能会产生严重甚至致命的后果。

图丨神经网络使用一层相互连接的人工神经元来处理数据。不同的神经元对图像的不同部分起作用(来源:OpenAI / Google)

当神经网络处理数据时,神经网络中的不同神经元会因响应不同图像而亮起,并通过这种模式连接到图像的标签。正是通过这种关联,神经网络才能“学习”事物的样子。神经网络经过训练后,用户就可以向它展示以前从未见过的图片,并且能激活神经元,然后将用户的输入与特定类别相匹配。

但是,像许多机器学习程序一样,视觉算法本质上只是模式匹配而已。这给了它们一定的优势(例如,只要你拥有必要的数据和计算能力,就可以直接进行视觉算法训练)。但它们也有某些弱点,例如它们很容易被之前从未见过的输入陷入混乱。

研究人员在 2010 年初发现了神经网络在处理视觉任务方面的潜力,他们一直在完善相关研究,试图弄清楚神经网络是如何做的。

早期的一项实验是 DeepDream 程序,这是 2015 年发布的计算机视觉程序,它能将任何图片变成幻觉版本。DeepDream 的视觉效果肯定是有趣的,比如在某些方面,它定义了人工智能美学,但该程序也是算法的早期尝试。“某种程度来说,这一切研究都始于 DeepDream 程序,”Olah 说。

图丨与“潜水管”(左)和“带水肺的潜水员”(右)相关的激活响应。(来源:OpenAI / Google)

我们可以一目了然地看出一些明显的颜色和图案。在顶部,看起来像鱼的鲜艳斑点和条纹,而在底部,有看起来像是面具的形状。但右侧突出显示了一种不寻常的激活响应,与蒸汽机车密切相关的激活响应。研究人员对此感到困惑,为什么这些关于机车的视觉信息对识别潜水员很重要?

“所以我们测试了它,”Carter 说。“我们想,'好吧,如果我们输入一个蒸汽机车的图片,是不是会识别为带水肺的潜水员图片分类或潜水员分类图片?'现在看来确实如此。”

图丨三个图像显示了如何重新分类相同的图片。在左边,它被确定为潜水员分类; 中间,随着机车图片的增加,它变成了带水肺的潜水员分类; 当机车足够大时,它变成了机车分类。(来源:OpenAI / Google)

该团队最终找到了原因:这是因为机车的光滑金属曲线在视觉上类似于潜水员的空气罐。因此,对于神经网络来说,这是带水肺的潜水员和潜水员之间的一个明显区别。为了节省区分这两个类别的时间,它只是从其他地方借用了所需的识别视觉数据。

这种例子出人意外地揭示了神经网络的运作方式。而对于怀疑论者,它揭示了这些系统的局限性。他们表示,视觉算法可能是有效的,但他们学到的信息实际上与人类如何理解世界无关。这使他们容易受到某些诡计的影响。例如,如果将一些精心挑选的像素投射到图像中,可能就足以使算法对其进行错误分类。

但对于 Carter、Olah 和其他研究人员来说,Activation Atlases 和类似工具所揭示的信息显示了这些算法的惊人深度和灵活性。例如,Carter 指出,为了使算法区分带水肺潜水员和潜水员,它还将不同类型的动物与这两个类别联系起来。

“在深水中像海龟一样的动物,被分为 scuba 类,地面上出现的鸟类一样,被分为 snorkel 类,”他说。他指出,这是系统从未指导学习的信息。相反,它是自学的。“这有点像是神经网络对世界更深刻的理解。这真的很令人兴奋。“

研究人员希望通过开发这样的工具,将有助于推动人工智能整个领域的发展。通过了解机器视觉系统如何看待世界,理论上我们可以更有效地构建它们并更彻底地检查它们的准确性。

“现在的人工智能是一个有局限的工具箱,”Olah 说。他表示,我们可以在系统上用测试数据来试图欺骗它们,但这种方法总是受到我们的认知限制。“Activation Atlases 给了我们探索未知问题的新工具,感觉每一代人工智能工具都让我们更接近真正理解这些神经网络中正在发生的事情。”

0
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
有人年赚百万 汽车出海涌现“零公里二手车”
经济观察报 记者 王帅国 在中国汽车出口连年增长的大背景下,二手车出口..
大佬爆赞!余承东邀请周鸿祎体验享界S9 新车豪华美学拉满..
【CNMO科技消息】一年一度的2024粤港澳大湾区车展已经正式揭幕,亮点太多..
深蓝G318解决了方盒子SUV的痛点?看喵哥试驾,你说该卖多少钱..
最近这几年,随着户外露营的兴起,方盒子已经很火了。经常有朋友跟喵哥讲..
多家车企又降价促销了,特斯拉、小鹏等车,最高下调15.1万..
大家都知道,9月份是车市传统销售旺季,消费者购车热情普遍较高,而车企..
丰田汽车全球产销量连续三个月下滑,汽车之王丰田该咋办?..
在世界汽车的江湖之中,丰田汽车可以说是绝对的王者,甚至多年雄踞世界汽..
汽车也有三六九等,一张图教你汽车等级划分,快收藏起来吧..
汽车舆情大事件排行榜:最新召回!涉及这些品牌
通过对2024年5月22日至2024年5月30日期间国内汽车行业事件网络传播..
销量口碑好又保值的5款MPV,最低16万级,别克GL8赛那等压价保底..
不管你是买家用MPV还是商用MPV,如今多数人都在乎保值率。下面这5款在市..
昔日销冠跌出前十,长城汽车魏建军的焦虑与反思
“魏总(魏建军)痛批哈弗H6不会做营销,这点我们得承认。确实没有把H6的..
关于作者
冷冷的太阳..(普通会员)
文章
896
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40399 企业收录2981 印章生成237288 电子证书1052 电子名片60 自媒体49574

@2022 All Rights Reserved 浙ICP备19035174号-7
0
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索