人工智能面部识别面临的问题

作者: Jessica Davis 2019-03-04 21:46:59

如今的人工智能的面部识别算法并不完美。如果企业正在考虑部署此技术,那么应该知道以下这些内容。

安装在货架上的摄像机配有人工智能面部识别软件,可以识别消费者的年龄、性别和种族,这是今年1月在纽约举行的全美零售联盟大型展会期间向零售公司推出的新兴系统之一。

这个想法是给实体店提供人口统计信息,以指导他们如何向个人客户推销。这对于像亚马逊这样一直在利用客户数据的在线零售商而言具有竞争优势。

但是,采用摄像头捕捉客户的照片,用一种他们甚至不会注意到的方式,是不是入侵性太强?除此之外,还有其他问题。如果该软件错误地将男性识别为女性并为其提供女性卫生用品的折扣,该怎么办?有什么后果?

零售环境中的后果可能并不十分重要,但客户可能会感到烦恼,并在社交媒体上谈论,并且不再回到那家商店购物。但是,在机器视觉和人工智能驱动的面部识别软件的其他应用中,其后果会更严重吗?

事实证明,人们对人工智能面部识别软件非常关注,它在商业上可从许多主要供应商获得,其中包括微软、IBM和亚马逊。

最近的一项研究重点是,一些商业算法在识别肤色较深的人员和女性方面不如识别肤色较浅的男人准确。这是以前讨论过的一个话题。例如,2018年7月,美国公民自由联盟(ACLU)对美国国会议员的照片应用了亚马逊算法,该算法确定其中28人是因犯罪而被捕的人。

最近麻省理工学院媒体实验室的一项研究提出这样一个问题:这些商业算法的公开审计是否会影响供应商对提高算法准确性的关注。

这项研究报告由麻省理工学院的研究生Joy Buolamwini共同撰写,他也是算法正义联盟(Algorithmic Justice League)的创始人,该组织自称致力于解决算法中的偏见。这项研究表明,这些算法最擅长识别肤色较浅的男性。他们在识别女性或肤色较深的人时表现不佳。研究还指出,一些供应商在向他们指出这些问题后改进了他们的算法。亚马逊公司对这项研究的回应刊登在《纽约时报》的文章中,Buolamwini已经发表了她关于这个问题的声明和回应,以及供应商对媒体的回应。

在机器学习中,根据所使用的训练数据的数量和类型,结果可能有偏差或不准确。例如,亚马逊公司使用机器学习来筛选求职者的简历,最后得到了大多数的男性候选人。这可能是因为用于训练算法的历史数据池中男性多于女性。

通过向用于训练算法的数据池中添加更多的数据或数据源,供应商可以提高他们的人工智能面部识别系统的准确性。

然而,供应商也提供了一种安全阀来防止这些算法的缺陷。这些系统允许组织客户设置一个阈值或置信水平。这可以根据组织为结果计划的操作类型进行设置。

全美零售联盟展会展出的零售系统展示了它的运作方式。例如,就性别而言,这些系统可能会确定某人是男性,但他们也会提供一个信心分数,基本上说他们是67%(或其他百分比)确定这个人是男性。零售商已经设定了他们愿意接受的置信水平。因此,如果有人被推断为具有67%置信度分数的男性,并且零售商已将阈值水平设定为60%,则客户将看到为男性定制的优惠。如果零售商将阈值分数设置为70%,则客户的67%分数将不会达到该阈值,并且客户将看到可以对任何客户(男性或女性)提供的通用报价。

例如,如果风险很高,在一个可能改变某人生活轨迹的执法应用程序中,组织可能会将阈值设置为99%。如果风险没有那么高,他们可能会把门槛设置在一个较低的水平。

提高隐私意识

但是,收集客户图像是否存在隐私问题,特别是在GDPR法规和其他新数据隐私法已经实施的时代中?全美零售联盟展会的其中一位展台代表表示,客户的图像不会被保留。但是,会保留并分析有关访问特定显示的客户的人口统计数据的汇总数据,以帮助零售商深入了解其客户。

企业是否应该尝试使用人工智能面部识别软件?这可能取决于应用程序和风险等级。对于那些希望在数字竞争对手中获得优势的实体商店零售商来说,这些应用程序可以开辟一个前所未有的数据和洞察世界。

在其他的情况下,采用机器视觉技术查找人们的图像与已知图像数据库进行匹配,例如用于打击拐卖儿童犯罪。人工智能可以展示可能的匹配,并且最终确定是否找到了匹配的人。在这种类型的应用中使用人工智能的好处是,无论是识别失踪的孩子还是在拥挤的体育赛事中实时识别可疑的恐怖分子,该算法都可以在几秒钟内分析并进行匹配。但是在这些高风险的应用中,让人员在循环中进行最后一次调用将是防止这种新兴技术出现错误的重要保障。

这是企业应该牢记的事情。人工智能识别人脸技术还是一项新技术,显然它并不完美,应该谨慎处理。此外,与许多新兴技术一样,到目前为止,还缺乏管理其使用的许多法规。而这些法规可能会在未来几年内出现。

人工智能 面部识别 AI
上一篇:一盆冷水!FDA警告机器人做手术还没那么靠谱 下一篇:在软件开发中实施AI与敏捷管理的九点建议
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

500亿参数,支持103种语言:谷歌推出「全球文字翻译」模型

由于缺乏平行数据,小语种的翻译一直是一大难题。来自谷歌的研究者提出了一种能够翻译 103 种语言的大规模多语言神经机器翻译模型,在数据丰富和匮乏的语种翻译中都实现了显著的性能提升。

机器之心 ·  2天前
对于人工智能的恐惧及其5个解决方法

实施人工智能技术的IT领导人可能会感到一些恐惧,这有着充分的理由。人工智能在拥有数十年发展和应用历史的同时却有着奇怪的定位,但对于许多人来说,人工智能仍然是一种未来主义的感觉。

Kevin Casey ·  2天前
机器学习免费跑分神器:集成各大数据集,连接GitHub就能用

搞机器学习的小伙伴们,免不了要在各种数据集上,给AI模型跑分。现在,Papers with Code (那个以论文搜代码的神器) 团队,推出了自动跑分服务,名叫sotabench,以跑遍所有开源模型为己任。

栗子 鱼羊 ·  2天前
用AI实现动画角色的姿势迁移,Adobe等提出新型「木偶动画」

近日,Adobe 和康奈尔大学的研究人员提出一种基于学习的动画制作方法——基于卡通角色的少量图像样本就可生成新动画。

机器之心 ·  2天前
AI核心难点之一:情感分析的常见类型与挑战

情感分析或情感人工智能,在商业应用中通常被称为意见挖掘,是自然语言处理(NLP)的一个非常流行的应用。文本处理是该技术最大的分支,但并不是唯一的分支。情绪AI有三种类型及其组合。

Veronika Vartanova ·  2天前
AI新贵登上胡润百富榜:“CV四小龙”三家创始人上榜

AI造福人类,也造富了一些创业者。最近公布的2019胡润百富榜就是窥探老板们身价的好机会。

郭一璞 ·  2天前
大数据为什么不够聪明?机器要如何走向强人工智能

大数据为什么不够聪明?比概率语言更强大的思考工具是什么?科幻电影中的强人工智能到底怎样实现?如何让智能机器像人一样思考?搞清楚因果关系才能拨云见日。

明日情报 ·  2天前
2019 AIIA开发者大会新闻发布会在京召开

10月10日,2019 AIIA人工智能开发者大会新闻发布会在北京成功召开。据悉,2019 AIIA人工智能开发者大会暨第四届中国(杭州)人工智能产业发展论坛将于11月1日-2日在杭州召开。

佚名 ·  2天前
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载