人脸识别“热”中的冷思考:道德伦理问题值得深思

作者: 澎湃新闻 2020-11-27 09:52:55

科技日报11月27日报道,人脸识别系统已经给我们的城市带来诸多方便。然而,在许多国家,对人脸识别的抵抗声也在不断高涨。研究人员、公民自由倡导者和法律学者都受到人脸识别技术兴起的困扰。他们正在跟踪其使用,揭露其危害并开展运动以寻求保障甚至是彻底禁止技术的使用。然而,技术发展的潮流浩浩荡荡,更多人认为该技术的存在是“不可避免的”,但是其背后存在的道德伦理问题值得我们深思。

近期,《自然》杂志的一系列报道对人脸识别系统背后的道德伦理学进行了探讨。一些科学家正在分析人脸识别技术固有的不准确和偏见,对其背后存在的歧视发出警告,并呼吁加强监管、提高技术透明度。

《自然》杂志对480位从事人脸识别、人工智能和计算机科学领域研究的研究人员的调查显示,人们对人脸识别研究的伦理学普遍存在担忧,但也存在分歧。

有些未经同意获取数据

为了使人脸识别算法正常工作,必须对大型图像数据集进行训练和测试,理想情况下,必须在不同的光照条件和不同的角度多次捕获这些图像。过去,科学家普遍招募志愿者,只为收集各种角度的照片;但现在,大多数人未经许可即被收集人脸图像。

在《自然》杂志的480位受访者中,当被问及对应用面部识别方法从外表识别或预测个人特征(如性别、年龄或种族)的研究有何看法时,约三分之二的人表示,此类研究只能在获得面部识别者知情同意的情况下进行,或者在与可能受到影响的群体代表讨论后进行。

大多数人认为,使用人脸识别软件的研究应事先获得伦理审查机构(例如机构审查委员会)的批准。他们认为,对于在学校、工作场所或由私人公司监视公共场所时使用人脸识别进行实时监视感到最不舒服,但是他们通常会支持警察在刑事调查中使用人脸识别系统。

从法律上讲,目前尚不清楚欧洲的科学家是否可以未经人们的同意而收集个人人脸的照片以进行生物识别研究。欧盟的通用数据保护条例并没有为研究人员提供明显的法律依据。在美国,一些州表示,商业公司未经其同意使用个人的生物识别数据是非法的。

受访者强烈认为,应该有其他法规来规范公共机构使用人脸识别技术。超过40%的人则希望禁止实时大规模监视。

存在性别和种族偏见现象

人脸识别系统通常是专有的并且保密,但是专家说,大多数系统涉及一个多阶段过程,该过程通过深度学习对大量数据进行大规模神经网络训练。

美国国家标准技术研究院(NIST)在去年年底发布的报告中称,人脸识别的准确率有了显著提高,深度神经网络在识别图像方面效果明显。但NIST同时也证实,相对于有色人种或女性,大多数人脸识别对于白人男性面孔的准确性更高。特别是,在NIST的数据库中被归类为非裔美国人或亚裔的面孔被误认的可能性是那些被归类为白人的面孔的10—100倍。与男性相比,女性误报的可能性更高。

领导NIST图像小组的电气工程师克雷格·沃森认为,这种不准确很可能反映了每家公司培训数据库构成的不平衡,一些公司可能已经开始解决这个问题。

有待严格立法和监管

致力于人脸识别或分析技术的研究人员指出,人脸识别有很多用途,比如寻找走失的儿童,追踪罪犯,更方便地使用智能手机和自动取款机,通过识别机器人的身份和情绪来帮助机器人与人类互动,在一些医学研究中,还可以帮助诊断或远程跟踪同意的参与者。

人脸识别技术有好处,但这些好处需要根据风险进行评估,这就是为什么它需要得到适当和细致的监管。

目前,许多研究人员以及谷歌、亚马逊、IBM和微软等公司都呼吁在人脸识别系统方面出台更严格的监管措施。

马萨诸塞州波士顿东北大学研究面部监控的计算机科学家、法学教授伍德罗·哈特佐格说视人脸识别技术为“史上最危险的发明”,说如果美国立法者允许公司使用人脸识别,他们应该编写规则,从健身房到餐厅都应当禁止“面部指纹”的收集和储存,并禁止将人脸识别技术与自动化决策(如预测性警务、广告定位和就业)结合使用。

尚须谨慎研究和思考

密歇根州立大学东兰辛分校的计算机科学家阿尼尔·贾恩说:“在我们的社会中,我们需要大量正当而合法的人脸和生物识别应用。”但一些科学家表示,研究人员也必须认识到,在人们不知情的情况下对人脸进行远程识别或分类的技术从根本上是危险的,应该努力抵制其被用来控制人们的做法。

作为人工智能领域的首要会议之一,神经信息处理系统会议是今年首次要求进行这种道德考量,即提交有关人脸识别论文的科学家必须添加一份声明,说明他们的工作中存在的伦理问题和潜在的负面后果。

此外,《自然机器智能》杂志也在试图要求一些机器学习论文的作者在文章中加入一项声明,考虑到更广泛的社会影响和伦理问题。

纽约伊萨卡市康奈尔大学从事技术伦理研究的社会学家凯伦·利维认为,研究人脸识别的学者意识到道德伦理问题,“感觉像是科学界真正的觉醒”。

人脸识别
上一篇:专利申请超全球!新崛起的中国人工智能,还有哪些你不知道的事 下一篇:人工智能虚拟更衣室 零售商新的主流营销利器
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

政协提案:人脸识别技术应用不是越广泛越好 应限定适用范围

人脸识别技术应用引发的个人隐私安全争议,已成为一个备受关注的公共议题。由于具有升级服务、节约成本、提高效率等优点,这一技术在安检通行、移动支付、场所门禁等领域得以广泛运用,但强制使用、肆意滥用现象也随处可见,并引发公众对自身隐私的担忧。

南方都市报 ·  3天前
小区、公厕、健身房……“人脸识别”遍地开花:处处刷脸有必要吗?

如果说,在"人脸识别"智能门禁的运用场景中,居民尚能够想明白提供个人信息的目的和用途,但在其他一些场景中,人脸等信息的索取则显得有些"过度"。

上观新闻 毛锦伟 ·  2021-01-23 10:29:27
很遗憾,自然语言理解是AI尚未攻克的领域

短短几年之内,深度学习算法得到了长足发展,不仅在棋类游戏中击败了全球很优秀的选手,也能够以等同于、甚至超越人类的准确率识别人脸。但事实证明,人类语言仍是一项独特且深邃的难题,亦是AI技术所面对的最为艰巨的挑战之一。

科技行者 ·  2021-01-19 22:38:59
全新的智能人脸识别测温系统解决方案

随着春节假期的来临,全国各大城市的火车站、机场、地铁等公共场所将成为疫情防控的重点区域。在这些人流密集的区域实现非接触式筛查、高温群体快速检测是许多城市共同面临的挑战。需要全新的智能人脸识别测温系统来解决这些难题。

Lichu ·  2021-01-19 19:19:15
“人脸识别”和“指纹解锁”哪个更安全?不少人搞错了

智能手机发展到今天,刷脸和指纹解锁给我们带来了很大的便利,由此成为了大家常用的解锁和支付工具。刷脸和指纹同样是利用人体的生物特征信息来开展工作,使用场景又那么广,那大家是否有想过到底哪一个更安全呢?

手机教授 ·  2021-01-19 12:55:14
美国国土安全部测试戴口罩人脸识别技术,准确率达96%

1月6日消息,近日美国国土安全部(DHS)发布公告称,其在三届年度生物识别技术大会上测试了戴口罩面部识别技术,性能最好的算法模型准确率高达96%。

智东西 ·  2021-01-16 23:25:34
人脸识别能判断政治立场?研究人员:这是真的!准确率高达72%

美国科技网站VentureBeat1月12日消息,美国斯坦福大学的一项研究表明,人脸识别算法可用于判断人们的政治立场,且准确率高达72%。

大洋国际 ·  2021-01-15 14:40:47
为什么反感人脸识别?

疫情带来的无接触需求,加速了人脸识别技术的应用进程。但是为什么反感人脸识别?

中国报道 ·  2021-01-14 22:24:23
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载