你会相信一个AI在外地工作?

在人工智能(AI)的问题的看法红润世界领先的专家,在人工智能技术的发展主导思路。作为节目的铅 人工智能 在现金网app下载, 教授詹姆斯·贝利 说谈话忽略关于该技术的潜在脆弱性的重要差别。

人们不一定意识到如何脆了很多实际的AI, 他说。 AI系统往往对他们已经被训练来检测一下回应,但与新的或意外的情况下面临的响应会变得不稳定。

这种脆性的例子包括自主车型,其AI将积雪的道路上面临着不能正确定位 - 一个季节性现象在像加州温暖的地方训练过程中没有经历过。

更广泛的问题是,目前还没有标准化的解决了如何验证AI系统的问题, 贝利教授解释说。 这既是一个研究问题作为一个行业的需要,有进步的技术的广泛应用是必不可少的。

Professor Bailey viewed from above with AI overlay highlighting him with light colours
艾模型已经猜到教授贝利应该被归类为“男性”。像素的颜色有助于解释为什么Ai为做出这个决定;黑的装置没有影响,并且光的颜色指示的影响。

在2019年,现金网app下载推出 AI保证实验室 对这个挑战性的工作。我们的目标是解剖,分析和解决顺序艾固有的脆弱性,以更好地满足工业,国防和政府的需求。

AI系统往往很好地回应他们已经被训练来检测一下,但与新的或意外的情况下,面对反应可能变得不稳定

这个问题还远远没有小事

在人工智能系统的缺点是非常难以检测和决心。它们不能被发现为有问题的代码行。它也可能无法培养一个AI部署所有的突发事件之前,它是可能遇到。最重要的是,目前的AI系统不知道,当他们正在一个潜在的灾难性错误。

取得进展,艾保证实验室已经通过先打破什么“保证”手段的AI系统的情况下解决了这个问题。

我们的方法手段,我们可以找出子特质,对应于更大的验证问题的重要方面, 教授贝利说。这些子特质则使人们有可能开发的改进,使针对性的改进成为可能。

一个保证子性状更易于理解是AI的“弹性”,是指它的操作完整性在意外的情况下或在可变条件。这是在被雪难倒自驾车车辆失火的特质。 “弹性”必须由开发前处理上的做法,以确保培训一个AI时相关场景都包括在内。

另一个特点是“explainability”,其中包括提供一个AI系统来解释为什么它到达一个决策的能力。这样的一个例子是一个AI“解释”为什么它分类的结构或对象作为建筑物或特定人的图像。

很多AI系统目前并不十分擅长解释自己的决定,这是一个问题,即人类和一起因它会建立信任的方式AIS工作, 教授贝利说。 explainability是建立信任的伙伴关系是必不可少的。

这种特质是在国防领域尤为重要。教授贝利点的机器人的这被训练来执行侦察和导航任务海洋军团单元内的部署。诚信 - 在这种情况下,机器人的信息 - 是至关重要的。

处理之前它从未“看到”输入时,与此相关的是“能力”,AI的认识局限,自身的竞争力能力的特点。贝利教授介绍了此作为研究非常活跃,非常困难的领域。

该影响可能是深远的。我们有一个T恤设计的实例,其防止从识别出的图像作为人的AI面部识别软件

再就是有关情况涉及恶意特征。这包括“对抗性的机器学习”,它涉及到了外部行为者故意试图愚弄能够利用自身的弹性和能力弱点人工智能的情况。

贝利教授提供放置在骗自驾车特斯拉汽车变更车道意外的道路上巧妙设计的贴纸的例子。在另一个例子中,一个站牌成了看不见加入生锈的特定模式的人工智能视觉系统,同时仍然保持可见于人类。

我们看到,人们可以利用故意使用的输入聪明,但简单的改变AI系统的脆性, 教授贝利说。 该影响可能是深远的。我们有一个T恤设计的例子,可防止认识到的图像作为一个人的AI面部识别软件。

另一种对抗性特征包括在恶意软件隐藏在一个AI系统,并且表现得像一个潜伏特工“后门”。人工智能的行为正常,直到遇到一个预编程的触发,其可以包括在图像中的对象或特定的音频频率。然后系统会做一些完全出乎意料。这些问题特别相关的开源人工智能技术从网站下载。

在AI的性能的影响依赖于它是如何设置的, 教授解释说贝利。 例如,一个特定的声音频率可以用于在呼叫中心来欺骗语音识别系统。不幸的是,目前还没有简单的方法来检测后门卧铺代码。

它的特征是像这样被看到在艾验证人工智能保证实验室工作,以应对面临的行业和国防问题,当谈到选择一个AI系统,以满足他们的需求或者组织开发自己从头开始。

什么已经很明显教授贝利是人工智能技术的采用者将面临一些严峻的权衡,以确保他们的系统是值得信赖的。例如,为了抵御敌对攻击的一个方法是使AI系统非常简单。这使得艾很难糊弄。权衡是简单的AI系统是不准确的,而复杂的AI系统更加精确,但不太可靠。

这是在这方面的研究的挑战, 教授贝利说。 你怎么权衡同样宝贵的特质,如鲁棒性和准确性,因为它似乎是非常困难的,在一次同时获得。

获得平衡是要证明对采用人工智能技术的关键。在股权是艾未未在自动化和其在更大的规模,速度和精确度比人的能力来处理数据涨幅巨大的潜力。

更多信息,请访问 AI保证实验室.

相关话题

ai和数据 技术与社会

计算和信息系统的学校