别把个人隐私不知不觉“喂”给人工智能

作者: 刘园园 2019-03-25 09:56:02

 

据英国广播公司(BBC)报道,IBM 近日被指在未经用户同意的情况下,在图片分享网站 Flickr 上获取了大约 100 万张照片,用于训练其人脸识别算法。

当个人隐私成了“数据”

据报道,IBM 研究人员在一篇公开的论文中详细描述了使用这些照片进行人脸分析的步骤,包括测量人脸五官的距离等等。研究人员写道,通过使用头部和面部的 47 个标记点,可以对人的面部照片进行很多可靠的测量。

对于技术公司而言,这些照片的价值不言而喻。庞大的图片数据集有助于将人脸识别算法训练得更加精确,从而可以快速地从不同照片或不同场景中识别出某个用户。

然而,那些照片上的人,大概并没有想到,自己的肖像数据就这样被技术公司收集,“喂”给了人工智能神经网络,不知不觉地成了人脸识别技术迭代升级的“粮食”。

IBM 在一则声明中表示,它非常严肃地对待用户隐私,一直谨慎地遵循隐私原则,并表示用户可以选择退出数据集。

话说回来,选择退出时间点应为用户在肖像数据被获取之前,知道自己的肖像数据将被用于其他用途。而在这一事件中,很多用户的隐私已不知不觉地被侵犯了。

行业内公开的秘密

假如你的头像也是上述 100 万张照片之一,肯定会觉得这件事特别诡异。但对某些人来说,IBM 的所作所为并不值得大惊小怪,只是行业内公开的秘密而已。

《麻省理工技术评论》官网发表文章说,人工智能研发人员一直在从互联网的各个角落搜集大量数据,来“喂”那些饥饿的机器学习算法,因为这些算法的训练需要以大数据为支撑。该文称,社交平台 Instagram 上的照片也常常作为技术公司获取图片数据的来源,而且照片的内容标签经常对应照片的内容,这更加方便了研发人员对数据的标注。

除了社交平台上的照片被不知不觉地获取,随着人工智能技术的应用越来越广泛,个人隐私被不当利用的担忧同样存在于其他场景。

比如,最近不少商家把人脸识别技术请上了收银台,推广刷脸支付。消费者在刷脸支付的同时,自己的面部肖像也同时被人脸识别系统所获取。关键是,这些面部会不会也像 Flickr 上的照片那样,变成训练人工智能神经网络的数据?甚至在未经消费者同意的情况下,再次被提供给其他商家,用于其他用途?这些都是值得追问的。

可能被侵犯的个人隐私也不仅仅限于面部肖像。现在多种应用软件都可以在语音识别技术的支持下,允许用户进行语音输入。但声纹是重要的个人生物信息,这些语音数据被商家获取后将如何被保管和使用?要知道,一旦声纹数据被泄露,不法分子有可能利用当前的语音技术,合成出难辨真伪的声音,用于电话诈骗等不良企图。

虹膜识别、指纹支付、文字识别等人工智能技术在应用过程中也可能毫不例外地涉及个人隐私问题。

用户知情同意是前提

人工智能时代,正让每个置身其中的人变得越来越透明。享受其便利的同时,公民的个人隐私也很容易被推向灰色地带。

解决方案其实很简单:获取用户个人隐私信息,应保证用户的知情权;要给予用户选择不拿个人隐私“喂”人工智能的权利。

要实现这一目标,仅仅依靠行业自觉恐怕远远不够。制定相关法律对人工智能技术的应用加以规范才是硬道理。

就在 IBM 事件掀起轩然大波之际,两位美国参议员提议通过新的法案——商业面部识别隐私法,对技术公司的人脸识别技术使用进行一定限制。

这项法案提出,禁止在未经用户同意的情况下,使用商业面部识别技术收集和分享数据,用于识别或追踪用户。新法案还将要求公司在收集人脸识别数据时明确地告知用户,并且经过用户的知情同意才能分享给第三方。

令人欣喜的是,今年两会期间,我国在相关领域也有好消息传出:全国人大常委会已将个人信息保护法等与人工智能密切相关的立法项目列入本届五年的立法规划。

期待人工智能技术在变得越来越能干的同时,也越来越懂得尊重个人隐私。

延伸阅读

欧美学者对于《一般数据保护条例》表示担忧

过去一年,科技发展与隐私保护的冲突似乎愈演愈烈。近日,2014 年经济学诺奖得主、法国图卢兹经济学院教授让·梯若尔等多位知名学者现身杭州,就“数据隐私和技术发展”发表了各自的看法。

2018 年 5 月,由欧盟颁发、被称为史上最严格的 GDPR(《一般数据保护条例》)开始实施,Facebook 等巨头企业接连收到了欧洲开出的天价罚单。与此同时,对于隐私保护的政策争议不断,有人呼吁出台更严格的隐私保护条例,也有不少专家认为,欧洲严格的数据保护条例,并不适合在全世界推广,在未来的大世界面前,隐私就是一个小问题。

讨论中来自欧美的学者对这一由欧盟颁发的数据保护条例普遍表示了担心。让·梯若尔认为,该条例太过复杂,如果不允许收集数据,就类似于“想倒掉洗澡水,把宝宝也泼出去了”。美国伯克利法学院教授姆斯·邓普希则直言,当前对隐私问题的研究,有待于更充足的经济学、社会学层面的知识给予支撑和完善。

《经济学人》智库发布的***报告称,关于隐私,存在很多地区偏见。中国比欧美更认同“数据隐私对企业治理的重要性”。98% 的中国受访者认为,数据隐私是良好企业治理的最重要组成部分,这与中国企业不重视隐私的普遍观念截然相反。

人工智能 机器学习 技术
上一篇:一文看懂四种基本的神经网络架构 下一篇:人工智能专家:深度学习并未走进死胡同
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

超过Google,微信AI在NLP领域又获一项世界第一

微信AI,NLP领域又获一项世界第一,这次是在机器阅读理解方面。

乾明 ·  2天前
AI如何改善采矿行业现状?

人工智能的引入,有望将采矿业转化成一个更安全、利润空间更大且更为环保的行业。

佚名 ·  2天前
大小仅1MB!超轻量级的人脸识别模型火爆Github

近日,用户Linzaer在Github上开源了一款适用于边缘计算设备、移动端设备以及 PC 的超轻量级通用人脸检测模型,该模型文件大小仅1MB,一经开源就霸榜Github Trending榜单。

佚名 ·  2天前
大数据和人工智能如何协同工作

人工智能和机器学习如何帮助组织从大数据中获得更好的业务见解?需要了解人工智能和大数据分析的下一步发展。大数据技术并不像几年前那样广受关注,但这并不意味着大数据技术没有得到发展。如果说有什么不同的话,那就是大数据的规模正在变得越来越大。

Kevin Casey ·  3天前
麻省理工学院开发出组装机器人:未来可建造太空殖民地

麻省理工学院博士生本杰明·杰内特(Benjamin Jenett)和原子中心的尼尔·格申费尔德教授(Neil Gershenfeld)在《电气电子工程师学会机器人与自动化快报》科学期刊上发表报告称,开发出一种组装机器人原型,它可以用很小的零件制成大型结构。

技术力量 ·  3天前
刷脸取件被小学生“破解”!丰巢紧急下线 精选

近日,#小学生发现刷脸取件bug#的话题引发关注!这是真的吗?都市快报《好奇实验室》进行了验证。

好奇实验室 ·  3天前
深度学习/计算机视觉常见的8个错误总结及避坑指南

人类并不是完美的,我们经常在编写软件的时候犯错误。有时这些错误很容易找到:你的代码根本不工作,你的应用程序会崩溃。但有些 bug 是隐藏的,很难发现,这使它们更加危险。

skura ·  3天前
AI艺术日渐繁荣,未来何去何从? 精选

利用人工智能创作而成的画作近年来越来越受瞩目,有的作品甚至能在知名拍卖行拍得高价。但这类作品仍有不少问题需要解答,比如它的作者是开发出算法的程序员还是计算机呢?AI艺术的市场未来将走向何方呢?

网易智能 ·  3天前
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载