Facebook开发了一套“去识别”系统,能让你在实时视频中“隐身”

作者: 刘琳 2019-12-10 10:40:44

 近日,来自挪威科技大学的《DeepPrivacy:A Generative Adversarial Network for Face Anonymization》一篇论文中称用新的更有挑战表示的方法欺骗了人脸识别系统:在不改变原来的数据分布的前提下把人脸匿名化,更通俗的说法来说就是输出一张逼真的人脸,但是不改变原图人的姿态和背景。在这种技术的加持下,人脸识别系统依旧能够正常运行,但是完全无法识别出原来的人脸身份,伪造者则可以冒充他人自由出入具有人脸识别系统的设施。

根据作者们的测试,经过他们匿名化的人脸仍然保持了接近于原图的人脸可识别性,普通的人脸识别对于匿名化后的图像,识别出人脸的平均准确率只下降了 0.7% 。而人脸含有的自然信息自然是 100% 不重合的。

Facebook开发了一套“去识别”系统,能让你在实时视频中“隐身”

用 AI 来欺骗 AI ,这波操作简直是 666 。

此前,Facebook 也就反人脸识别做过尝试,近日,终于有了结果。

外媒 VentureBeat 报道称,近日,Facebook 的人工智能实验室 Facebook AI Research(FAIR)开发出一种“去识别”系统,该系统可以欺骗面部识别系统,例如,让面部识别系统将你识别为一位女明星。

Facebook开发了一套“去识别”系统,能让你在实时视频中“隐身”

该技术使用机器学习实时地改变视频中人物的关键面部特征,诱使面部识别系统错误地识别对象。

据称,该技术将一个对抗自编码器与一个训练过的面部分类器配对,以使人的面部稍微扭曲,从而在迷惑面部识别系统的同时,又能维持一个人们可以认出来的自然样貌,它可以用在视频,甚至是实时视频中。

事实上这种“去识别”技术过去已经存在,以色列的自动反人脸识别系统提供商 D-ID 已经研发出了针对静态图像的去识别技术。另外,还有一种被称为对抗性示例,它利用了计算机视觉系统的弱点,人们通过穿戴印有对抗图案,来诱骗面部识别系统看到并不存在的东西。

过去的技术通常应用于从监控摄像头等渠道获得的照片、静止影像,或是已事先计划好利用对抗图像欺骗人脸识别系统。现在,FAIR 的研究针对实时影像和视频脚本,FAIR 称这项技术成果是行业首例,且它足以抵抗精密的面部识别系统。

Facebook 还发表了一篇论文,解释了其对新技术的态度。它提出了一种观点,即面部识别可能会侵犯隐私,人脸替换技术可能被用来制作误导性视频。为了控制人脸识别技术的滥用,该公司推出了对视频进行去识别的方法,并取得了很好的效果。

此外,据 VentureBeat 报道,Facebook 并不打算在任何商业产品中使用这个反人脸识别技术,但这项研究可能会对未来的个人隐私保护工具产生影响。并且,就像该研究在“误导性视频”中所强调的那样,它能够防止个人肖像被用于制造伪造视频。

其实反人脸识别技术近年来发展迅速,早在去年,多伦多大学 Parham Aarabi 教授和研究生 Avishek Bose 的团队开发了一种算法,可以动态地破坏人脸识别系统。

简单来说,他们选择的方法是通过干扰人脸识别算法来达到阻碍人脸识别的功能。该算法通过改变一些人眼几乎不可识别的微小像素来改变识别器的检测结果。尽管算法对于像素的修改十分微小,但对于检测器来说却是致命的。

研究人员针对 300-W 数据库上的检测结果也证实了这种方法的可行性。该数据集包含多种族,不同照明条件和背景环境的超过 600 张人脸照片,是一个业界的标准库。结果表明,他们的系统可以将原本可检测到的人脸比例从接近 100% 降低到 0.5% 。

而且更可怕的是这个反人脸识别系统具有神经网络自主学习能力,可以随着人脸识别系统的进化而不断改变自己。

但让雷锋网编辑感到更为可怕的是,AI 时代下,我们竟不能保全自己的“脸面”。

AI 数据 人工智能
上一篇:虎博科技入选“2019全球金融科技创新TOP50 ” 下一篇:深度学习遇上稀缺数据就无计可施?这里有几个好办法!
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

MIT提出Liquid机器学习系统,可像液体一样适应动态变化

麻省理工学院(MIT)的研究者开发出了一种新型的神经网络,其不仅能在训练阶段学习,而且还能持续不断地适应。

机器之心 ·  2021-02-21 15:47:47
规划智慧城市时,别忘了无障碍通行

要想成为一个智慧城市甚至一个智慧世界,虽然可能需要时间和有针对性的规划,但我们必须以人为本。

蒙光伟 ·  2021-02-21 10:26:41
2021关于人工智能的五大趋势

数字化变革,比过去10年更多,这主要是由于远程工作的规模,以及企业迅速部署了必要的技术,尤其是与网络安全相关的技术。那,2021关于人工智能的五大趋势会是如何的呢?

Lichu ·  2021-02-21 10:21:01
使数据中心更智能:人工智能如何发挥作用?

随着数据成为维持几乎所有业务运营以获取洞察力和业务成果的先决条件,数据中心正处于这种数字化转型的关键。

Cassie ·  2021-02-21 10:14:59
IBM拟出售Watson Health后,AI医疗还能不能碰

医疗服务仍然是一块商业上尚未被完全发掘的市场,看病难/看病贵、医疗资源紧缺、医疗资源不平均等痛点问题长期存在,对应的市场空间理应是巨大的。而Watson Health作为IBM曾寄予厚望的业务方向,为何要在此时萌生退意?它的故事给业界带来哪些启发?眼下的AI医疗市场,究竟是一副什么样的局面呢?

物联传媒 ·  2021-02-21 08:41:16
抛弃归一化,深度学习模型准确率却达到了前所未有的水平

我们知道,在传递给机器学习模型的数据中,我们需要对数据进行归一化(normalization)处理。

机器之心 ·  2021-02-20 21:09:12
华人博士生首次尝试用两个Transformer构建一个GAN

最近,CV 研究者对 transformer 产生了极大的兴趣并取得了不少突破。这表明,transformer 有可能成为计算机视觉任务(如分类、检测和分割)的强大通用模型。

Yifan Jiang ·  2021-02-20 21:04:53
无监督训练用堆叠自编码器是否落伍?ML博士对比了8个自编码器

柏林工业大学深度学习方向博士生 Tilman Krokotsch 在多项任务中对比了 8 种自编码器的性能。

Tilman Krokotsch ·  2021-02-20 20:57:16
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载