人工智能技术如何将人们从深度伪造的世界中拯救出来

作者: Mike Elgan 2020-02-27 10:03:44

行业专家Mike Elgan对于人工智能在伪造方面起到的作用进行了阐述。他举例说,“在我小时候,我和弟弟用纸碟、锡纸和大理石制成一个UFO(不明飞行物)。然后,我们将UFO悬挂在鱼线上,并登上楼顶采用家里摄像机拍摄UFO飞来的样子,并获得证明外星人的存在的确凿证据,这种游戏就是一种深度伪造。”

人工智能/AI/伪造

伪造和假冒事物一直存在。但是,当这一切都变得数字化时,其创建和分发都变得更加容易、更快以及更加广泛。人工智能(AI)会将其提升到一个全新的水平,使任何人都能创建完美的多媒体(如视频和音频)伪造品。

伪造者创建伪造品,然而采用检测器进行检测,从而向伪造者提供有关检测到的信息。伪造者然后调整他们的方法,并创造更好的伪造品。但是在充满伪造的世界中,人们将如何应对?

假新闻(或有关伪造的新闻)

很多人担心深度伪造(Deepfake)视频会被用于政治。例如近日发生的这样事情,印度人民党主席Manoj Tiwari以不同的语言对其支持者的讲话就是一个Deepfake视频,好在没有用来伪造对手的评论。不过,Deepfake现在已经用于政治领域,这是一个里程碑。

另一个采用人工智能伪造的例子是说唱歌手和词曲作者Travis Scott创作的一首新歌,这首歌名为Jack Park Canny Dope Man,采用人工智能生成的音乐和歌词,由Scott本人在一段音乐视频中演唱。

OpenAI GPT-2是一种语言创建人工智能技术,几乎可以使用任何样式编写文章。它可以模仿《纽约客》杂志的写作风格,甚至可以写诗。OpenAI是一家由特斯拉首席执行官埃隆•马斯克等创立的非盈利研究机构。

很多人担心人工智能创造的伪造品用于犯罪,但这已经发生了。

安全厂商赛门铁克公司已经通过模仿首席执行官的声音,验证了三个针对企业员工的Deepfake音频的案例。Deepfake技术可以从YouTube演讲和企业财务收益电话中获取首席执行官声音样本,诈骗者在电话中模拟其声音,欺骗员工给他紧急汇款。

人工智能将如何制造完美的Deepfake视频

目前有两种创建Deepfake视频的通用方法。第一个是换脸技术,它使用编码器和解码器来逐帧匹配和替换视频中的人脸。

第二种方法称为生成对抗网络或GAN。这种方法可用于创建各种令人信服却是伪造的数据,它使用两种人工智能算法。一个算法用来创建虚假数据;另一个算法进行判断,为创建者算法提供反馈。并大规模重复这种做法,两种算法都提高了它们的能力。最终,创建者算法变得如此出色,它可以产生视频、音频、文本、指纹等假数据。

伪造视频的制作变得越来越复杂。总部位于香港的一家名为SenseTime的初创公司与南洋理工大学和中国科学院自动化研究所合作,开发了一个名为SenseTIme的框架,该框架可以根据语音自动编辑视频。

韩国Hyperconnect公司构建了一个名为MarioNETte的工具,该工具可以实时将某人的脸部动作映射到其他任何人(例如政客或名人)的脸部。

与此同时,Deepfake技术变得越来越强大,并且也变得更加民主化,现在出现在消费者应用程序中。任何人都可以创建令人信服的Deepfake视频和音频,而这只是时间问题。

这就是为什么必须弄清楚如何检测伪造文件的原因。

伪造技术即将上线

科技孵化器Jigsaw公司最初是谷歌公司的一个部门,后来转到Alphabet公司的旗下,如今重新回到谷歌公司。Jigsaw公司创建了一个名为Assembler的平台,帮助核查人员核实图像。该工具结合了美国7所大学开发的不同技术和算法,加上Jigsaw公司自己创建的一个算法,通过发现由伪造照片的已知方法生成的证据来处理图像。

谷歌公司还利用人工智能技术和人类智慧相合,在Google Maps上查找并删除虚假、不道德或恶意的评论。该公司本月宣称,他们已经删除了超过7500万条违反政策的评论和400万份虚假的业务资料。人工智能会首先审核所有评论和业务概况,并自动删除明确的违规者。然后将难以处理的问题交给工作人员处理。

华盛顿大学和艾伦人工智能研究所的研究人员开发了一种名为Grover的算法,该算法可以识别出深度伪造的签名,其准确率高达92%。

Facebook公司最近让独立研究人员通过一个名为Social Science One的程序访问有关用户活动的某些信息。

哈佛大学和麻省理工学院的IBM Watson人工智能实验室的科学家发布了一个“巨型语言模型测试室”的软件,它是基于网络空间,用于确定给定的文本是否由人工智能编写。

由滑铁卢大学的研究人员创建的一家加拿大初创厂商DarwinAI公司开发了他们称之为DarwinAI的技术,该技术使用深度学习来检测虚假新闻。他们的技术将标题与文章内容进行比较。在以后的迭代中,DarwinAI会将文章的文字与其他文章进行比较。

采用假新闻推动政治进程的最疯狂的想法之一是,利用大量的著作和演讲资料,通过模拟他们在人工智能中的思维来“复活”美国开国元勋亚当斯、汉密尔顿、杰伊、杰斐逊、麦迪逊和华盛顿。

一些人提出将区块链作为验证内容的解决方案,但这可能让人难以接受。正如这些早期的产品、技术和试验所证明的那样,检测伪造事物的未来技术显然是人工智能。

人工智能应用在伪造与反伪造之间的竞争

有人估计,四分之一的新社交媒体账户将是伪造或欺诈的账户。假账户听起来无害,但它们往往与假新闻、垃圾邮件和网络犯罪密切相关。据报道,目前用于检测假账户的系统功能并不强大。北约的一项调查发现,他们创建的假冒个人资料中有95%在发布调查报告几周后仍然在使用。

这是一个惊人的事实,因为Twitter、Facebook和其他社交网站为此已经投资数十亿美元,并且多年来一直致力于开发检测假账户的系统。每次他们在检测方面取得新进展时,伪造者都会丢弃数百万个伪造帐户,这意味着伪造者将始终领先于检测。

在某种程度上,伪造者与检测者之间在进行猫捉老鼠的游戏。伪造者创建伪造品,而检测器对其进行检测,从而向伪造者提供有关检测到的信息。然后,伪造者调整他们的方法,并创建更好的伪造品。这种竞争很可能会无限期地继续下去。人类的感知能力将被完全抛在后面,而这种竞争将完全存在于人工智能系统之间。

真相就在那里,但是现在需要人工智能的帮助才能获得真相。

人工智能 AI 伪造
上一篇:AI测温:复工潮里筑起的第一道防疫“屏障” 下一篇:人工智能如何改造旅游业
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

中国AI专利申请量占全球74%,腾讯、百度、OPPO前五

报告显示,过去十年,全球人工智能专利申请集中在中国、美国、日本、韩国。其中,中国和美国处于领先地位。中国专利申请量为389571,位居世界第一,占全球总量的74.7%,是排名第二的美国的8.2 倍。

南方都市报 ·  1天前
AI一键去纹身,几秒钟让你看见明星「真面目」

来自印度的机器学习研究者 Vijish Madhavan 最近开源的一个机器学习工具 SkinDeep 满足了我们的需求。

机器之心 ·  1天前
人工智能进军“古玩鉴定”,人类职业再遭冲击?

近两年,人工智能的风头虽然偶被5G、自动驾驶等所盖过,但其发展和热度并未因此受到影响。

林中易木 ·  1天前
人脸识别技术的优缺点

无论在哪里使用,面部识别都可能会吸引很多人的注意。这就是为什么我们整理了一份关于面部识别的利弊清单,这样你就可以了解这个有争议的话题。

Cassie ·  1天前
人工智能如何为临床试验提供无摩擦的患者匹配

这场疫情凸显了医疗保健行业一些效率低下的方面,为了应对这些危机,一些医疗机构已经采用与大数据相关的技术,例如人工智能技术、自然语言处理、数据管理等。

Kirk Junker ·  1天前
让静态知识动起来:从知识图谱到事理图谱

传统的知识图谱回答的是“是什么”的问题,而以“事”为核心的事理图谱回答的是“为什么”的问题。目前,绝大多数知识图谱主要以实体(特别是人名)为基础,面向事件知识图谱研究的语料构建和研究方法还处于探索阶段。

AI科技评论 ·  1天前
知识图谱是否是自然语言处理的未来?

2021年了,不少当年如日中天技术到今天早已无人问津,而知识图谱这个AI界的大IP最火的时候应该是18,19年,彼时上到头部大厂下到明星创业公司都在PR自己图谱+NLP布局能够赋予AI认知能力。到了当下这个AI总体降温的时间节点,我们是时候冷静思考知识图谱的未来到底该何去何从了。

Luke ·  1天前
人工智能在未来将要经历的七个阶段

自2000年以来,全球对人工智能的投资增长了6倍。据统计,到2025年,全球AI市场预计将增长到600亿美元。

SENSORO升哲 ·  1天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载