人工智能面部识别面临的问题

作者: Jessica Davis 2019-03-04 21:46:59

如今的人工智能的面部识别算法并不完美。如果企业正在考虑部署此技术,那么应该知道以下这些内容。

安装在货架上的摄像机配有人工智能面部识别软件,可以识别消费者的年龄、性别和种族,这是今年1月在纽约举行的全美零售联盟大型展会期间向零售公司推出的新兴系统之一。

这个想法是给实体店提供人口统计信息,以指导他们如何向个人客户推销。这对于像亚马逊这样一直在利用客户数据的在线零售商而言具有竞争优势。

但是,采用摄像头捕捉客户的照片,用一种他们甚至不会注意到的方式,是不是入侵性太强?除此之外,还有其他问题。如果该软件错误地将男性识别为女性并为其提供女性卫生用品的折扣,该怎么办?有什么后果?

零售环境中的后果可能并不十分重要,但客户可能会感到烦恼,并在社交媒体上谈论,并且不再回到那家商店购物。但是,在机器视觉和人工智能驱动的面部识别软件的其他应用中,其后果会更严重吗?

事实证明,人们对人工智能面部识别软件非常关注,它在商业上可从许多主要供应商获得,其中包括微软、IBM和亚马逊。

最近的一项研究重点是,一些商业算法在识别肤色较深的人员和女性方面不如识别肤色较浅的男人准确。这是以前讨论过的一个话题。例如,2018年7月,美国公民自由联盟(ACLU)对美国国会议员的照片应用了亚马逊算法,该算法确定其中28人是因犯罪而被捕的人。

最近麻省理工学院媒体实验室的一项研究提出这样一个问题:这些商业算法的公开审计是否会影响供应商对提高算法准确性的关注。

这项研究报告由麻省理工学院的研究生Joy Buolamwini共同撰写,他也是算法正义联盟(Algorithmic Justice League)的创始人,该组织自称致力于解决算法中的偏见。这项研究表明,这些算法最擅长识别肤色较浅的男性。他们在识别女性或肤色较深的人时表现不佳。研究还指出,一些供应商在向他们指出这些问题后改进了他们的算法。亚马逊公司对这项研究的回应刊登在《纽约时报》的文章中,Buolamwini已经发表了她关于这个问题的声明和回应,以及供应商对媒体的回应。

在机器学习中,根据所使用的训练数据的数量和类型,结果可能有偏差或不准确。例如,亚马逊公司使用机器学习来筛选求职者的简历,最后得到了大多数的男性候选人。这可能是因为用于训练算法的历史数据池中男性多于女性。

通过向用于训练算法的数据池中添加更多的数据或数据源,供应商可以提高他们的人工智能面部识别系统的准确性。

然而,供应商也提供了一种安全阀来防止这些算法的缺陷。这些系统允许组织客户设置一个阈值或置信水平。这可以根据组织为结果计划的操作类型进行设置。

全美零售联盟展会展出的零售系统展示了它的运作方式。例如,就性别而言,这些系统可能会确定某人是男性,但他们也会提供一个信心分数,基本上说他们是67%(或其他百分比)确定这个人是男性。零售商已经设定了他们愿意接受的置信水平。因此,如果有人被推断为具有67%置信度分数的男性,并且零售商已将阈值水平设定为60%,则客户将看到为男性定制的优惠。如果零售商将阈值分数设置为70%,则客户的67%分数将不会达到该阈值,并且客户将看到可以对任何客户(男性或女性)提供的通用报价。

例如,如果风险很高,在一个可能改变某人生活轨迹的执法应用程序中,组织可能会将阈值设置为99%。如果风险没有那么高,他们可能会把门槛设置在一个较低的水平。

提高隐私意识

但是,收集客户图像是否存在隐私问题,特别是在GDPR法规和其他新数据隐私法已经实施的时代中?全美零售联盟展会的其中一位展台代表表示,客户的图像不会被保留。但是,会保留并分析有关访问特定显示的客户的人口统计数据的汇总数据,以帮助零售商深入了解其客户。

企业是否应该尝试使用人工智能面部识别软件?这可能取决于应用程序和风险等级。对于那些希望在数字竞争对手中获得优势的实体商店零售商来说,这些应用程序可以开辟一个前所未有的数据和洞察世界。

在其他的情况下,采用机器视觉技术查找人们的图像与已知图像数据库进行匹配,例如用于打击拐卖儿童犯罪。人工智能可以展示可能的匹配,并且最终确定是否找到了匹配的人。在这种类型的应用中使用人工智能的好处是,无论是识别失踪的孩子还是在拥挤的体育赛事中实时识别可疑的恐怖分子,该算法都可以在几秒钟内分析并进行匹配。但是在这些高风险的应用中,让人员在循环中进行最后一次调用将是防止这种新兴技术出现错误的重要保障。

这是企业应该牢记的事情。人工智能识别人脸技术还是一项新技术,显然它并不完美,应该谨慎处理。此外,与许多新兴技术一样,到目前为止,还缺乏管理其使用的许多法规。而这些法规可能会在未来几年内出现。

人工智能 面部识别 AI
上一篇:一盆冷水!FDA警告机器人做手术还没那么靠谱 下一篇:在软件开发中实施AI与敏捷管理的九点建议
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

厨师与AI完美搭配,一起刺激你的味蕾

最近,索尼人工智能团队和韩国高丽大学联合开发了一种名为FlavorGraph的人工智能映射工具,该工具可以推荐互补的配料,帮助厨师们烹饪菜肴。

科技行者 ·  1天前
违规企业可面临营业额6%罚款 欧盟欲加强对人工智能技术监管

据外媒报道,欧盟委员会近日修订文件显示,如有企业违反欧盟规则使用被禁止的人工智能应用,可能会面临最多相当于其全球营业额6%的罚款,这一数字高于此前提议的4%。

贾桂鹏 ·  1天前
外卖小哥要失业了?美团募资650亿打造无人配送

从疫情开始之后,美团就已经在无人配送方面发力,根据美团的数据显示,目前美团的无人车配送服务已经覆盖了20多个小区,累计配送3.5万订单,自动驾驶里程近30万公里!

首席财经观察 ·  1天前
未来网络领域发生混合威胁的三大趋势

4月7日,欧洲反混合威胁卓越中心发布报告《未来的网络空间与混合威胁》,指出网络空间是发生混合威胁的领域之一,是网络行动和网络信息行动的促成者。

张明月 张岸佳 ·  1天前
MIT小哥联合谷歌训练7个多任务机器人,9600个任务成功率高达89%!

Google研究团队率先研发出了处理大规模任务的新型机器人,这些机器人竟然具有「学习世界」的能力。

新智元 ·  1天前
有了这支矢量神经风格画笔,无需GAN也可生成精美绘画

一种新的神经风格画笔能够生成矢量形式的绘画作品,在统一框架下支持油画、马克笔、水彩画等多种笔触,并可进一步风格化。

机器之心 ·  1天前
5G只比4G多1G?人工智能不答应

4月4日,论文共同作者之一、美国艺术与科学院院士、清华大学智能产业研究院院长张亚勤在接受科技日报记者采访时表示,通信行业正在走向5G,马上要走向6G,光是看视频快点、多发送点图片,那不是5G。什么才是真正的5G?为什么要在5G网络里“注入”人工智能?

科技日报 ·  1天前
通过AI和ML实现完全自动化的5种绝佳方法

在本文中,我们将讨论使用AI和ML的智能测试自动化技术如何帮助项目团队减少测试工作并提高测试覆盖率。

佚名 ·  1天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载