AI和ML潜在的五大致命威胁及解决办法

编译作者: 风车云马 2019-06-12 09:00:00

AI和ML潜在的五大致命威胁以及解决办法

【51CTO.com快译】人工智能(AI)和机器学习(ML)是这个时代最热门的话题,科学家对此也有很大争议,或许它们所带来的好处怎么强调都不为过,我们也需要关注和理解AI和ML潜在的致命威胁。

谁敢想象,有一天机器的智能会超过人类?——未来学家称之为奇点。著名科学家——人工智能的先驱——艾伦·图灵(Alan Turing)在1950年提出,机器可以像孩子那样训练。

图灵提出:“机器会思考吗?”他在著名的论文《计算机器与智能》中探讨了这个问题和相关问题的答案。

1955年,约翰·麦卡锡发明了一种叫做“人工智能”的编程语言LISP。几年后,研究人员和科学家开始使用计算机编码、识别图像和翻译语言等。早在1955年,人们就希望有一天能让电脑说话和思考。

伟大的研究人员,如机器人学家汉斯·莫拉维克(Hans Moravec )、科幻作家弗诺·文奇(Vernor Vinge)和雷·库兹韦尔(Ray Kurzweil),从更广泛的意义上思考这个问题,机器什么时候能够独自设计实现目标的方法。

曾经像史蒂芬·霍金这样的伟人警告过,当人们无法与先进的人工智能竞争时,这可能意味着人类的终结。“我想说我们不应该做的是,在不考虑潜在风险的情况下,就全力建设超级智能。”加州大学伯克利分校(University of California, Berkeley)计算机科学教授斯图尔特·拉塞尔(Stuart J. Russell)说。

以下是ML和AI的五个可能的危险以及解决办法:

1. 机器学习(ML)模型可能是有偏见的——本质上受人类的影响。

尽管机器学习和人工智能很有前途,但它的模型也容易受到无意的偏见的影响。有些人认为ML模型在决策时是公正的,但他们却忘记了,是人类在训练这些机器——从本质上讲——我们并不***。

此外,在决策过程中,ML模型在处理数据时也可能存在偏差。你提供的本身不完整的数据(片面的数据),机器还会给出正确的结果吗?

举个例子,你经营一家批发商店,想建立一个模型来了解顾客。所以你建立了一个模型,希望评估顾客对商品的购买力;您还希望在年底使用模型的结果来奖励客户。

所以,你收集客户购买记录——那些有着长期良好信用记录的客户。

如果你最信任的一群买家碰巧在银行负债,却无法及时站稳脚跟,他们的购买力将大幅下降。但是,模型无法预测客户的不可预见程度。从技术上讲,如果您决定在年底输出结果,那么得到的是有偏差的数据。

Note:当涉及到机器学习时,数据是一个易受影响的因素,为了克服数据偏见,请雇佣专家来处理这些数据。

还请注意,除了您之外,没有人记录客户的这些数据——可以说,您掌握着一定的话语权。

数据专家应该质疑数据积累过程中存在的任何问题;他们也应该积极寻找这些偏见如何在数据中表现出来的方法。这与您创建了什么类型的数据和记录也有关系。

2. 固定模式。

在认知技术中,这是开发模型时不可忽视的风险之一。不幸的是,大多数已开发的模型,特别是为投资策略设计的模型,都存在这种风险。

想象一下,你花几个月的时间为投资开发出一个模型。经过多次试验,仍然得到了一个“准确的输出”。但用“真实世界的输入”来尝试该模型时,它可能给你一个毫无价值的结果。

为什么会这样?这是因为模型缺乏可变性。这个模型是使用一组特定的数据构建的。它只对设计时使用的数据有效。

因此,具有安全意识的AI和ML开发人员应该在将来开发任何算法模型时学会管理这种风险。通过输入他们能找到的所有形式的数据可变性,例如,演示数据集(当然这并不是所有的数据)。

3.对输出错误数据的解释可能比较困难。

对输出错误数据的解释是机器学习未来可能面临的另一个风险。想象一下,在如此努力地工作以获得良好的数据之后,你决定和另一个人分享成果——也许是你的老板。

同样的数据结果,你老板的解释或许与你自己的观点都不一致。毕竟他的思维过程与你不同,因此他的见解也与你不同。

这种情况经常发生。这就是为什么数据科学家不仅应该在构建模型时注意,而且还应该在理解和正确解释来自任何设计模型的输出结果的“每一点”时注意。

在机器学习中,没有错误和假设的空间——它必须尽可能***。如果我们不考虑每一个角度和可能性,就有可能让这项技术危害人类。

Note:对机器发布的任何信息的误读都可能给公司带来厄运。因此,数据科学家、研究人员以及任何相关人员都不应该忽视这方面。他们开发机器学习模型的意图应该是积极的而不是相反。

4. AI和ML还没有被科学的解释。

从真正意义上说,许多科学家仍在努力全面理解AI和ML到底是什么。尽管它们还没在新兴市场站稳脚跟,但许多研究人员和数据科学家仍在努力了解更多信息。

许多人仍然感到害怕,因为他们相信仍然有一些未知的风险尚待了解。

即使是像谷歌、微软这样的大型科技公司仍然不***。

人工智能聊天机器人Tay Ai由微软公司于2016年3月23日发布。它是通过twitter发布的,目的是与twitter用户互动——但不幸的是,它被认为是种族主义者。它在24小时内被关闭。

Facebook还发现,他们的聊天机器人偏离了最初的脚本,开始用自己创造的一种新语言交流。有趣的是,人类无法理解这种新创造的语言。很奇怪,对吧?

Note:为了解决“存在的威胁”,科学家和研究人员需要了解什么是AI和ML。此外,在正式向公众发布之前,他们还必须测试、测试、再测试机器运行模式的有效性。

5. 这就像一个控制欲极强的不朽独裁者。

机器永远在运行——这是另一个不可忽视的潜在危险。AI和ML机器人不能像人类一样死去,他们是不朽的。一旦他们被训练去做一些任务,他们就会夜以继日,而且常常没有监督。

如果人工智能和机器学习特性没有得到充分的管理或监控,它们可能会发展成为一个独立的杀手机器。当然,这项技术可能对军方有利——但如果机器人不能区分敌人和无辜公民,无辜公民将会遭遇什么?

这种机器模型很容易操作。它们了解我们的恐惧、不喜欢和喜欢,并能利用这些数据来对付我们。注意:人工智能创造者必须准备好承担全部责任,确保在设计任何算法模型时考虑到这一风险。

结论

机器学习无疑是世界上***技术价值的能力之一,具有现实世界的商业价值——尤其是与大数据技术合并时。

正因为如此,我们不应该忽视这样事实:它需要仔细的计划来适当地避免上述潜在的威胁:数据偏差、固定的模型、错误输出的解释、不确定性和极强的控制欲。

原文标题:The Potential “Holy Shit” Threats Surrounding AI and ML,作者:Ejiofor Francis

【51CTO译稿,合作站点转载请注明原文译者和出处为51CTO.com】

AI ML 人工智能
上一篇:数字业务中人工智能的六个设计原则 下一篇:自动驾驶真的来了!全国七地打响第一枪
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

达摩院AI进入中国科技馆,首张AI识别新冠CT成科技抗疫历史见证

5月29日消息,全国科技工作者日来临之际,一个特别的藏品入选中国科技馆“2020数字馆藏”——阿里巴巴达摩院AI识别标注的第一张新冠肺炎CT影像。达摩院AI作为科技抗疫的历史见证,被写入中国科技发展史。

佚名 ·  2天前
人工智能可以塑造活动产业的未来吗?

活动组织者可以为活动管理引入AI,以使他们的活动更加成功。现场活动是很好的营销方式,也是增强业务与客户关系的优秀方式。根据一项调查,84%的领导者认为活动是其业务成功的关键因素。技术的使用正在改变活动的计划和组织方式。

佚名 ·  2天前
提升城市气质守护宜居环境 AI打通治理闭环

人工智能被一些研究人员称为“21世纪的电力”,认为其几乎可以为万事万物提供动力。而在城市加速发展的当下,人工智能也渐渐成为了新型智慧城市建设的“推动者”和“守望者”。

今夕何夕 ·  2天前
12个场景应用,百余种算法,AI是如何攻占经济学的?

在虚拟世界中模拟现实经济状况,想法设计更好的制度只是AI和经济学结合方式之一。其实深度强化学习在面临风险参数和不确定性不断增加的现实经济问题时,也可以提供更好的性能和更高的精度。

蒋宝尚 ·  3天前
你在打王者农药,有人却用iPhone来训练神经网络

在 iOS 设备上也可以直接训练 LeNet 卷积神经网络,而且性能一点也不差,iPhone 和 iPad 也能化为实实在在的生产力。

佚名 ·  3天前
未来20年,全自动驾驶和互联汽车会出现吗?

在这篇博文中,重点介绍了汽车技术如何使交通更安全、更智能、更有趣。

Huibert Verhoeven ·  3天前
AI、机器学习和深度学习是 OEM 的主要市场

人工智能(AI)正在迅速改变全球行业参与者的经营方式。人工智能(AI)正在迅速改变全球行业参与者的经营方式。随着人工智能在商业和商业领域的广泛应用,我们看到了从更智能的产品到专注于聚焦客户服务的一切演变。

佚名 ·  3天前
和AI去码一样神奇?AI上色是黑科技还是逗你玩

在图片处理领域这块,AI 刷的存在感越来越多。早前笔者就介绍过 AI 无损放大图片、AI 去除马赛克、AI 自动给线稿上色之类的玩法,现在,又有人给笔者推荐了一个 AI 黑科技——黑白照片一键变彩色。

Aimo ·  3天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载