打击换脸技术滥用,谷歌发布大型数据集对抗deepfake

作者: 机器之心 2019-10-08 15:00:45

 deepfake 出现以来引发了大量争议,也带来了诸多伦理和社会问题。最近,Facebook、微软等巨头已开始着手打击 deepfake 滥用,斥资 1000 多万美元举办 deepfake 检测挑战赛。谷歌也不甘落后,近日,这家科技巨头宣布开源大型 deepfake 视频数据集,以支持社区对 deepfake 检测的研究。

深度学习催生出许多几年前难以想象的技术。现代生成模型(modern generative model)就是其中一例,它能够合成超逼真的图像、语音、音乐甚至视频。这些模型已被广泛应用于大量用途,包括直接基于文本生成类人语音、为医疗影像研究生成训练数据等。

和其他革新性技术一样,生成模型也带来了新的挑战,如「deepfake」。2017 年底,deepfake 首次亮相,之后出现了很多开源 deepfake 生成方法,导致合成视频片段大量涌现。尽管很多此类视频的制作初衷是搞笑,但还是有一些 deepfake 视频对个人和社会造成了恶劣影响。

谷歌严肃地考虑了这些问题。去年,谷歌发布了「AI 准则」,承诺探索 AI 优秀实践,以减轻 AI 滥用和 AI 危害。去年 1 月,谷歌发布了一个合成语音数据集,用于支持 ASVspoof 2019 挑战赛,帮助开发高性能的假音频检测器。作为赛事的数据库,该数据集已被 150 多个研究机构和工业界组织下载,目前该数据集已向公众免费开放。

近日,谷歌 AI 与 Jigsaw(原 Google Ideas)合作发布了大型视觉 deepfake 数据集,该数据集已被纳入慕尼黑工业大学和那不勒斯腓特烈二世大学创建的 FaceForensics 基准(由谷歌联合赞助)。

FaceForensics 基准数据集地址:https://github.com/ondyari/FaceForensics/

谷歌此次发布的 deepfake 数据集中的视频示例。在其生成过程中,随机选择一对演员,深度神经网络对其执行换脸操作。

为了制作该数据集,谷歌在过去一年中与多名有偿和无偿演员合作拍摄了数百个视频。然后,谷歌使用公开可用的 deepfake 生成方法,基于这些视频创建出数千个 deepfake 视频。这些真假视频共同构成了该数据集,谷歌创建此数据集的目的是支持 deepfake 检测方面的研究。作为 FaceForensics 基准的一部分,该数据集目前已开源,研究社区可免费获取并用于开发合成视频检测方法。

在多种场景中对演员进行拍摄。上图为真实演员,下图是对应的 deepfake 示例,二者的差异程度取决于创建 deepfake 所用的另一位演员。

deepfake 技术发展迅速,谷歌表示将继续增加该数据集中的数据,并在该领域中持续开展合作。谷歌坚定地支持研究社区减轻合成媒介滥用所带来的潜在危害,而该数据集的发布就是其中的重要一步。

人工智能 机器学习 技术
上一篇:AI用于疾病诊断和新药品设计的前景可观 下一篇:你的人脸数据都去了哪儿?
评论1
取消
2019-10-09 16:34:13

更多资讯推荐

如何避免又一个AI寒冬?

尽管过去几年中,人工智能取得了长足的进步,但相信很多人都还记得20世纪90年代,由于开发者过分夸大承诺以及最终用户不切合实际的期望所导致的AI寒冬。

佚名 ·  1天前
研究型AI面试怎么过?Reddit网友谷歌面试经验分享

大多数学生在求职前,都会经历实习的过程,那么面试就必不可少。

十三 ·  1天前
算法攻破人脸识别「口罩」难题,两天落地千人小区准确率达97% | AI 战疫

日益成熟的人工智能,正成为抗击新冠肺炎疫情战线上一群特别的「逆行者」。

Synced ·  1天前
中美领军全球AI竞赛,人工智能被高估了么?

不久前,谷歌前CEO施密特在出席众议院科学、太空和技术委员会的听证会时表示,美国可能在五到十年后失去在AI方面的领先地位,中国正在努力超越美国。

读芯术 ·  1天前
当下,中国智能机器人发展到底如何?

《中国机器人产业发展报告(2019年)》报告指出,目前,中国机器人研发仍以突破机器人关键核心技术为首要目标,产学研用通力配合,初步实现控制器国产化。并将突破机器人关键核心技术作为科技发展重要战略,中国厂商攻克了减速机、伺服控制、伺服电机等关键核心零部件领域部分难题。因此,核心零部件国产化趋势逐渐显现。

珍珍 ·  1天前
人工智能的未来及对ERP系统的四个新要求

在未来五年内,人工智能将对企业及其商业模式产生重大影响。调研机构普华永道公司第22届全球首席执行官年度调查表明,85%的首席执行官对此深信不疑。但是,33%的首席执行官表示,他们有限地采用人工智能,而且不到十分之一的首席执行官表示正在广泛使用人工智能,人工智能的应用范围迄今仍然受到限制。

Andy Coussins ·  1天前
波士顿机器人火爆全网后,又一个类人机器人登场

十几年前,德黑兰大学的研究人员就介绍了一种名为Surena的基本人形机器人,不久后,又推出了一种改进的可行走模型Surena II,随后在2015年推出了性能更强大的 Surena III。

中国机器人网 ·  1天前
高效的机器学习研究者,应该具备这 6 个习惯

一名优秀的机器学习研究员有哪些特质?是码力超强?还是理论功底一骑绝尘?码力和理论固然重要,但是良好的习惯才应该是检验是否优秀的唯一标准。

AI科技评论 ·  1天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载