Deepfake被玩出圈!有人用它模仿俄罗斯反对派人物,在Zoom上“调戏”欧洲议员

作者: 大数据文摘 2021-05-13 09:57:50

大数据文摘出品

作者:王烨

最近几天,一些欧洲高级议员懵了。

他们收到了一些“俄罗斯反对派人物”的视频会议邀请,还煞有其事地讨论了克里米亚问题之类的政治事务,结果发现在这些所谓的“俄罗斯反对派人物”都是别人用Deepfake换脸假冒的。

这些受骗者包括拉脱维亚议会外交事务委员会主席Rihards Kols,以及来自爱沙尼亚和立陶宛的议员。英国外交事务特别委员会主席Tom Tugendhat也表示,他也是目标之一。

Deepfake真是出息了,终于从娱乐圈搞到国际政治了。

聊完发现被骗,拉脱维亚议会外事委主席发推吐槽

本月早些时候,有一个自称是沃尔科夫的人通过电子邮件联系了拉脱维亚议会外事委主席Rihards Kols,并与他进行了一个简短的视频电话会议,讨论了对俄罗斯政治和克里米亚问题。

Rihards Kols说,直到后来他才意识到自己可能是一个高科技恶作剧的受害者。

Rihards Kols在推特中放出了两张照片,左边是真正的俄罗斯反对派人物Leonid Volkov,右侧是视频会议中用Deepfake生成的Leonid Volkov。

“这是一个非常痛苦的教训,但也许我们也应该感谢这位虚假的Volkov,感谢他给我们、立陶宛同事和爱沙尼亚同事上了这堂课,”他写道。“显然,所谓的真相衰退或后真相和后事实时代有可能严重威胁地方和国际国家、政府和社会的安全与稳定。”

被别人假冒的Volkov自然很生气,他也在推特上指责经常以西方官员为目标的俄罗斯恶作剧“高人”二人组弗拉基米尔·库兹涅佐夫(沃万)和阿列克谢·斯托利亚罗夫(雷克萨斯)是这件事的幕后推手。

曾经恶搞过多国政要的弗拉基米尔·库兹涅佐夫(沃万)和阿列克谢·斯托利亚罗夫(雷克萨斯)

阿列克谢 · 斯托利亚罗夫(雷克萨斯)在 Facebook 上联系到Rihards Kols,他没有否认与Rihards Kols通过话,说他会“保守这个秘密”。他否认使用Deepfake使自己看起来像Volkov,他写道: “很可能Volkov收到了错误的信息。”

换脸背后的技术支撑——Deepfake

从北京卫视把“吴秀波”的脸换掉,到迅速陨落的换脸App Zao,再到现在在国际政治上“搅浑水”,这背后的技术Deepfake早已在AI圈家喻户晓。

Deepfake是一种使用AI深度学习,能够将一张图片中人的脸换到其他人的图片上的技术。通过这种技术,我们可以创建一个非常逼真的“假”视频或图片,“换脸”因此得名。

研究人员使用自动编码器神经结构,使这一想法成为现实。基本思路非常简单:对于每张脸,我们都训练一套编码器和相应的解码神经网络。编码时,使用的是第一个人的图片。而解码时,却是使用第二个人解码器。

对于训练部分,试试这菜需要搜集每个人几百张不同姿势的图片,用吴秀波这种明星来做训练很容易,毕竟有大量的网络公开图片视频。

图片不足时,我们还可以从现有视频中提取。在神经网络训练并学习了关于每个人面部的特征之后,它自己就能预测想出这个人还没摆出来的姿势。

比如,训练生成John Oliver。

在此技术出现之前,人们想换个脸只能依赖手动PS。这就要花费很多人工和时间,而且想在视频里换个脸更难,每一帧都得换。

但自从这个叫做“Deepfake”的软件被匿名开源发布,一切都不一样了。

类似的换脸软件还有一款叫做DeepFaceLab。

在Github上有开源👇

链接:https://github.com/iperov/DeepFaceLab

Deepfake搅动政坛,技术才是最后一道防线?

2019年,美国众议院议长Nancy Pelosi的一段深度伪造的谈话视频出现在社交媒体上,这段视频经由特朗普总统分享,在Facebook上获得了超过250万次的浏览量。

早些的时候,奥巴马的脸被“借用”来攻击特朗普,该视频在网站上也获得480万的浏览量。

特朗普本人也难逃一劫,西雅图电视网曾播放过一段Deepfake的特朗普演讲视频,视频中特朗普满脸通红,还不时做一些滑稽的表情。由于Deepfake技术可以运用在包括总统在内的任何官员身上,美国两党开始担心该技术将成为针对美国和其他西方国家发起虚假信息战争的最新武器。

2019年6月13日,美国众议院情报委员会召开关于人工智能Deepfake的听证会,公开谈论了Deepfake技术对国家、社会和个人的风险及防范和应对措施。

法律法规只能把正规企业的技术关进笼子,但是很难阻止个人的行为。比如这次假冒“俄罗斯反对派人物”忽悠了一帮欧洲高级议员的人,到现在都没有人宣布为此事负责,人们也不知道这背后究竟是谁。

能够打败魔法的也许还是魔法,能不能用技术手段检测Deepfake呢?答案是可以的。

就在Deepfake开源不久,Facebook首席技术官Mike Schroepfer就发布博客宣布,公司正和微软联合来自麻省理工、牛津等大学的研究者,通过置办“Deepfakes鉴别挑战赛”,探索如何通过数据集和基准测试检测Deepfake换脸视频。

美国国防部也研究了一项名为forensic的图像鉴定技术。他们的思路是寻找图片和视频中的不一致性,例如不一致的灯光、阴影和相机噪音。

加州大学河滨分校的学者也提出了检测Deepfake伪造图像的新算法。同样的,算法的一个组成部分是各种“递归神经网络”,它能将有问题的图像分割成小块,然后逐像素观察这些小块。神经网络经过训练可以检测出数千幅Deepfake图像,它找到了赝品在单像素水平上的一些特质。

孵化自清华大学人工智能研究院的RealAI团队也宣称,由于Deepfake生成的造假视频画面会有不“自然”的纹理存在,他们通过海量视频训练神经网络,让其学习正常情况中的纹理特征,再以此检测造假视频中不一致的纹理。利用该技术,可以对造假视频实现逐帧检测,准确率高达90%以上。

不过,这次欧洲议员和假冒的“俄罗斯反对派”人物视频会议发生在Zoom上,显然,Zoom还没有搭载在线检测Deepfake的技术手段。

【本文是51CTO专栏机构大数据文摘的原创译文,微信公众号“大数据文摘( id: BigDataDigest)”】

戳这里,看该作者更多好文

Deepfake 人工智能 AI
上一篇:第十二届交博会正式启动 百度智慧交管解决方案助城市开启智能交通新纪元 下一篇:了不起的中国创造:无处不在的人工智能,将梦想照进现实
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

面部识别的利与弊:是福还是祸?

虽然现代技术使面部识别更加精确和安全,但与面部识别隐私问题和监控有关的担忧也在增加。因此,让我们在这篇文章中探讨一下这该技术的利与弊。

Naveen Joshi ·  2021-06-01 16:36:22
人工智能和5G如何结合以实现物联网收入最大化

网络系统通过信令和使用软件以及分析来检测和分类设备非常棘手,并且对有限且日益紧张的网络资源提出了巨大的需求。然而,解决这些问题有一个主要解决方案:采用人工智能、自动化和5G技术。

Jordi Castellvi ·  2021-06-01 13:49:15
MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶

最近, MIT 计算机科学与人工智能实验室(CSAIL)团队成功展示了一种基于机器学习的自动驾驶系统,该端到端框架仅使用 LiDAR获取的原始 3D 点云数据和类似于手机上的低分辨率 GPS 地图就能进行自主导航,并且大大提升了鲁棒性。

文龙 ·  2021-06-01 12:47:51
自然语言处理(NLP)的历史及其发展方向

自然语言处理的历史是一个充满曲折的故事。它从徒劳的研究开始,经过多年卓有成效的工作,最后结束于一个我们仍在试图找出该领域极限的时代。今天,让我们来一起探索这一AI科学分支的发展。

佚名 ·  2021-06-01 12:46:26
是福还是祸?人脸识别技术的利与弊

面部识别并不是一项全新的技术,但人工智能和机器学习不断使面部识别变得更好。苹果通过引入具有 3D 扫描功能的面部生物识别系统和 iPhone 的 Face ID,提高了面部识别的标准。

Naveen Joshi ·  2021-06-01 11:11:01
人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
美城市Baltimore可能颁布最严格的面部识别禁令

据介绍,拟议的法令将禁止私人或商业组织,甚至执法机构在城市使用面部识别技术。

千家网 ·  2021-06-01 09:34:07
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载