人工智能大行其道:科技公司需要设置“首席偏差官”

作者: 佚名 2019-03-22 14:36:34

英国皇家历史学会最近透露,学会利用人工智能算法进行的初次研究显示,英国的劳动力存在“大规模性别偏差”。基于人工智能的系统搜集了整个英国互联网上的资料,排查了现有男女职位的分布。该项研究调研了108个不同的经济行业后发现,其中87%的行业存在倾向于男性的不平等,导致任高层领导职位的男性不成比例。

这项开创性的研究很好地说明了人工智能在阐释我们的世界时具有极大的潜力,毕竟,人工智能的一个强大功能就是分析超大量的数据并在其中找到我们人类无法找到的模式。不过,虽然人工智能可以帮助发现偏差和不公平,但实际上人工智能也可能导致更多偏差和不公平。

来看一下以下的例子:加纳裔美国计算机科学家Joy Buolamwini(https://twitter.com/jovialjoy?lang=en)现在是麻省理工学院媒体实验室的罗德学者和研究员,她以前读研究生时发现她使用的人工智能面部识别系统无法识别她的脸。而只有在她戴上白色面具后系统才能确认她的存在。在Buolamwini案例中,面部识别系统不能识别她,因为用于训练软件的数据池里大部分是白色面孔,而且缺乏足够的多样性。换句话说,问题始于数据本身,人工智能系统要从这个有缺陷的数据集合里学习,系统越来越“智能”时,问题也就会挥之不去。其实,实际的系统会变得越来越笨,因为偏差本身会进一步强化偏差。Buolamwini发起了算法正义联盟(https://www.ajlunited.org/)计划,计划旨在推动大家对人工智能偏差的关注及培训组织实行人工智能实践。Buolamwini希望借计划推动更公平、更道德的人工智能方法,这一使命在人工智能驱动决策制定的时代显得尤其重要。

人工智能大行其道:科技公司需要设置首席偏差官
一众企业不仅必须重新定位数据集和算法培训,还必须重新定位围绕人工智能的流程和人员。(图:美联社)

含偏差的人工智能也扩展到了其他领域,如刑事司法、招聘和招聘等等。IBM发表的一份研究报告提出,已经定义和分了类的人类偏差达180之多,每种偏差都可以干扰判断及影响最终决策。人工智能则很容易复制这些偏差。假定一家公司要利用人工智能来确定员工的工资,定工资的标准部分基于薪酬历史。这就可能会令女性处于相当不利的地位(https://www.brookings.edu/blog/techtank/2019/01/03/artificial- intelligence-and-bias-four-key-challenges/),基本就是因为她们过去一直受到歧视。再例如,推荐引擎也会从用户的偏好中学习并提出相应的建议。

各个组织要如何才能确定自己及人工智能系统所依赖的数据确实是合适的?而且不会强化歧视模式呢?

与许多其他问题一样,克服问题的先要承认问题的存在。企业不仅必须重新定位数据集和算法培训,还必须重新定位围绕人工智能的流程和人员。我们希望有一个更公平的工作场所,在这个过程中解决这些问题就至关重要。我们必须有专门的团队和流程,甚至可能需要创建诸如“首席偏差官”这样的职位,他的工作就是审查数据并确保严格的道德标准,人工智能工具将会在我们的工作环境里越来越普及,他的任务是与偏差和偏见做斗争。

例如,他可以通过推动多样化,影响工程团队的招聘,然后再定期检查工程师为人工智能算法选用的数据输入。这是“人员就是政策”的一个例子。要认识到人工智能并非绝对可靠,这一点很重要,拙劣的输入意味着拙劣的输出。他要定期进行绩效评估,要针对可查算法输出进行控制测试及持续微调。

各组织需确保多种背景的使用,多种背景可以防止扭曲和盲点。 Buolamwini本人则建议组织要检查不同偏差集的算法 ,一系列不同的视角可以加强这方面的工作,可以减少偏差数据及确保更公平的算法代码。

修复算法偏差需要管理层、人力资源和工程师的共同努力,三方面合作才能有效地将有意识和无意识的人类偏见排除在系统之外。人类的愚笨是永远无法完全消除的,但认识了人类的愚笨后,我们就可以打造更公平、更聪慧的人工智能系统,可以真正令我们的工作场所决策少一些人工、多一些智能。

人工智能 算法 组织
上一篇:调查显示,高管们认为人工智能让工作描述变得过时了 下一篇:Uber无人车致命事故过去一年 这10点教训不能忘记
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

AI人工智能正在悄悄的操控着我们的所见所想

在日常生活中大家现在已经越来越依赖手机上各种形形色色的app了,无论我们是出门吃饭时寻找餐厅,还是在视频语音聊天,刷视频,或是网上购物shopping,无时无刻我们都离不开手机APP。

软件说明 ·  1天前
AI 崛起的第九个年头,还有哪些大有可为的地方?

2020年还剩下10个月的时间,让我们去预期,人工智能会有哪些重要的趋势呢? CB insights曾就此问题做了一个判断,并给出人工智能的九个重要研究和应用趋势。AI 科技评论在一定程度上认同这些判断,针对这 9 个趋势,我们将做以下分析。

蒋宝尚 ·  1天前
AI芯片为啥至今都没有出现“爆款”?

“AI芯片”这个新鲜的概念在过去一年间逐渐走过了普及的阶段,越来越被大众所熟知。在行业走过野蛮生长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自己的差异化路线。

佚名 ·  1天前
拥有30亿张照片库的人脸识别初创公司遭黑客攻击!600多家执法机构和银行信息被盗

Clearview AI是美国纽约的一家AI面部识别创业公司Clearview设计的一款突破性的面部识别应用工具,通过拍摄陌生人的照片,然后将其上传,就可以轻松查看该人的公开照片,以及指向这些照片出现位置的链接和具体内容。

张佳、王汐 ·  1天前
数据机器学习在故障检测中的应用

本文将简要介绍几种在故障诊断领域广泛应用的机器学习技术及其各自的应用方向,并对每种技术的优缺点进行简单分析。包括:贝叶斯网络(BN),人工神经网络(ANN),支持向量机(SVM)和隐马尔可夫模型(HMM)技术。

交能网 ·  1天前
人工智能如何改造旅游业

旅游业正在慢慢地将人工智能融入到行业当中,并为游客提供个性化定制体验。在人工智能的帮助下,旅游业的业务流程和客户服务都发生了改变。

佚名 ·  1天前
人工智能技术如何将人们从深度伪造的世界中拯救出来

如今,采用深度伪造(Deepfake)生成的视频和音频,人工智能生成的文本、诗歌和歌词,假网站和假新闻进入人们的世界。人们的生活还会真实吗?

Mike Elgan ·  1天前
四种使用物联网和人工智能加速获取价值的有效方法

最近,话题转向企业如何才能更快,更有效地获取和利用物联网计划的见解。物联网和人工智能的结合为企业实现这一预期成果提供了途径。实际上,这两种技术是相辅相成的,应该紧密相连。

佚名 ·  2天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载