互联网巨头集体封杀,AI换脸能走多远?

作者: 读芯术 2020-02-17 13:21:04

 

多少人还记得去年在微博爆火的视频:有人将《射雕英雄传》中朱茵扮演的“黄蓉”换成了杨幂,换脸后的“黄蓉”毫无痕迹,并且轮廓清晰、表情自然,完全看不出是经过换脸的。

在前几日,Twitter和Facebook等互联网巨头表示,将对AI换脸等虚假视频进行打击。比如将对任何“明显且欺骗性地编辑或捏造”的照片和视频打上“虚假”警告标签。在这之前,Alphant旗下的Youtube早些时候就表示,将删除任何经过技术修改,并可能构成“严重伤害风险”的内容。

近两年,AI换脸技术在国内十分火爆的同时,也引发了民众的隐私恐慌,尤其是支付宝等软件对人脸识别技术的使用,使得人们重新审视AI换脸技术的威胁性。

AI换脸如火如荼

其实AI换脸技术并非现在才有的,在17年底,国内引入了一款名为deepfake的软件,该软件能够将视频和照片中的人脸替换成任何想要替换的人脸,并且能够达到以假乱真的程度。

著名影星斯嘉丽·约翰逊就是这样变成了色情电影的女主角。

斯嘉丽·约翰逊

同样,拥有着广泛男性用户粉丝的P站上,AI换脸早就把各大女明星都“玩”遍了,并且,据统计,P站的相关作品中关于斯嘉丽的是最多的。并且,一些网站上也开始出现用AI换脸来“改编”影视作品的博主。

而这股邪风也刮到了国内,除了狠刷了一把流量的“朱茵变杨幂”还有“徐锦江对战灭霸”、“洪世贤换脸艾莉”外,几乎所有的经典影视场景都被AI换脸玩了一遍,这些视频在b站广为流传,播放量惊人。

生产AI换脸视频的软件“ZAO”也刷爆朋友圈,大火特火。在以往,一般仅仅是一些视频爱好者掌握了相关的操作技能之后再对视频进行换脸制作,再发布出来供大家观赏。而这些视频的制作过程通常较为繁琐复杂,对于一般的用户来说是一个费时费力的工作。

而ZAO的使用门槛很低,使用者不需要编程、数据集以及相关AI知识,甚至不需要电脑,只需要一部手机、一张自拍就可以进行操作。

AI换脸带来的前所未有的参与感、体验感以及互动性对用户产生了极大的吸引力,毕竟能将自己的脸放入影视作品中,与自己的偶像来一场“对手戏”,这足以令多少追星少女激动到尖叫,即便是假的,也有满满的刺激感。

换脸视频、ZAO等软件的出现使得AI换脸技术被普通大众所熟知,在普通人用来满足自己的好奇心与新鲜感的同时,不少人从中看到了“商机”。通过这项技术,一些不合法的行为多了起来,也引发了人们对这项技术的怀疑。

AI换脸伴随的黑色产业

在我们的印象中,似乎AI换脸技术在问世以来好像就没有“干过”什么实质性的好事,例如deepfake自诞生,大部分伪造的虚假视频都被用于色情行业了……除了之前所说的影星斯嘉丽·约翰逊被AI换脸放入色情制品,越来越多的女明星的脸通过AI技术被个人、网站所滥用。

某女主播换脸迪丽热巴、佟丽娅、唐嫣

在移动智能产品普及的今天,隐私成为了几乎不太可能的事情。经调查发现,目前AI换脸带来的黑色产业已经形成了完整的产业链,从最下游的色情制品、中游的个性定制视频、上游的软件与教程等都有提供。

“低于15部4元一部,超过的3元一部,80部只要68元……”“定制‘换脸’视频一分钟50元,2分钟95元,3分钟135元,3分钟起定制……”这一类的“广告语”在很多网站进行投放,虽然在淘宝、咸鱼等平台几乎难以找到这类视频的商家,但是他们通过各种网站引流到微信、QQ等社交软件进行交易,往往能赚一大笔。

在技术的支撑下,任何人都有可能成为穿着暴露的色情片主角,这是一件多么令人恐惧的事情,而在当前,这些黑色产业发展如火如荼,其“兴旺”程度令人难以想象。

甚至在进行AI换脸之后仍不能够满足一些人寻求刺激的心理,开始出现了AI脱衣的应用。该应用同样是国外一个技术团队所研发出来的,名为deepnude,该软件的用户只需要上传一张女性的照片,软件就能够自动“脱掉”照片中女性的衣物,直到能够看到果体。

而且deepnude只能对女性照片“一键脱衣”,目前网络上已经出现了不少女明星的“果照”,其中包括霉霉与卡戴珊。该软件在受到广泛关注之后虽立即下线,但是试想,如果这项技术普及且管控不力,会有多少普通女性将深受其害?而AI换脸与AI脱衣这类技术的结合,对女性的危害更是难以想象。

娱乐有风险,换脸需谨慎

生活在互联网技术飞速发展、信息爆炸的时代,普通民众是没有更多资格去对自己的隐私有所“敏感”的,除非你放弃对技术的使用。多少人口中喊着隐私保护、数据安全,身体却诚实地使用它,如同互联网对数据的渴求,在这种大环境背景下,是毋庸置疑且可以理解的。

但是,面对这些,法律却无能为力吗?

斯嘉丽·约翰逊在接受《华盛顿邮报》采访时,发表了自己对于deepfakes的愤怒看法。她表示,“每个国家都有自己的法律,即使你拥有自己形象图片的版权,在别的国家也不一行适用,面对充斥网络的AI换脸情色片,她和她的团队无能为力。”

技术宅们不仅仅是对女明星进行换脸,娱乐的对象甚至包括美国总统特朗普,有人曾将特朗普与影星尼古拉斯·凯奇进行了换脸。

Facebook工作人员为了警示社会,也开了一场假的“记者会”,他们与AI换脸后的特朗普进行视频连线交谈,在这一过程如果不是事先就知道是假的,没有人会怀疑视频的真假。

如果这项技术运用于政治威胁、敲诈勒索等犯罪事件,其以假乱真的程度会带来多大的恐慌?因此,对这项技术的管控似乎迫在眉睫。Twitter、Facebook以及Ins等互联网巨头纷纷采取措施。

在Reddit论坛上原讨论板块将全部被删除。新开辟的板块中,与deepfake相关的讨论区里,前面必须加上SFW(safe for work)的标签。

其中,被整治的最狠的就是P站,与其它平台保留部分无害内容相比,P站直接对AI换脸相关内容进行永久性的封杀。

美国众议院特别情报委员会主席在听证会上也公开表示,社交媒体应立即制定措施保护用户不被虚假信息所诱骗。

并且五角大楼投入了数千万美元来侦测AI换脸视频,美国国内也兴起了一批鉴定视频真伪的公司,但是这些措施对于肆虐的AI换脸虚假视频来说,根本就是杯水车薪的效果。

在这之前,美国加州签署了两项关于deepfake的新法令。一是规定在未来竞选总统的两个月内禁止发布使用竞选人头像的换脸视频,任何竞选人如果认为被deepfake技术伪造了视频,可以提出赔偿。

另一条则规定任何加州居民发现自己的肖像被deepfake技术用于色情片,就可以提起诉讼。

而在国内,对于AI换脸视频的相关法律条文的细节规定相对落后,目前并没有专门针对这方面的专门立法,但是也可以从一些大的法律条文进行约束,如未经本人统一而擅自使用他人照片、视频进行AI换脸的行为,存在侵犯他人肖像权、名誉权的可能,甚至会构成刑事犯罪。

在2017年3月,个人信息保护相关内容也被写入我国民法总则,同年6月,《中华人民共和国网络安全法》实施,包含保护个人信息的条目,最高法和最高检也出台了有关公民个人信息适用法律若干问题的解释。

虽说AI换脸技术目前仍属于初步阶段,但是带来的影响却也有目共睹,发展的潜力令人无法预测与捉摸。面对一项新技术的出现与普及,也应该利用法律等措施来规避技术的风险。诚如大卫·汉密尔顿法官所言,法律必须致力于日益为技术和技术进步推动的社会生活。

人工智能 互联网 技术
上一篇:阿里达摩院再造AI抗疫技术:20秒判读CT影像,识别准确率达96% 下一篇:战疫下的无人机:监控、空中防控、硬核劝返
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

AI批改英语作文行不行?雅思考研四六级,打分评语纠错都得有

如果AI真的能准确评分,甚至给出修改意见,那像我一样的同学们不就能随时随地把英语作文练到飞起了吗?

茕茕 ·  1天前
关于人工智能的十二条名人名言

我们将援引世界上众多最伟大思想家的名言,了解他们如何看待人工智能这一意义深远的主题。希望这些名言有助于阐明AI主旨、涵盖范围、潜在挑战以及蕴藏于其中的巨大能量。

佚名 ·  1天前
自我监督学习:AI技术的未来发展方向

尽管深度学习已经在人工智能领域做出重大贡献,但这项技术本身仍存在一项致命缺陷:需要大量数据的加持。

佚名 ·  1天前
李飞飞团队研发家用AI系统 可监测独居老人新冠症状

日前,在斯坦福大学以人为本人工智能学院(HAI)的一场直播上,斯坦福大学计算机学教授李飞飞向外界介绍了人工智能家用系统,它可以跟踪居民的健康状况,包括新冠肺炎的症状,同时还能确保隐私。

王心馨 ·  2天前
这项开源视频抠图技术火了!换背景的方法着实真假难辨

绿幕是影视剧中抠图、换背景的利器,但如果不在绿幕前拍摄,我们还能完美地转换背景吗?华盛顿大学的研究者最近就上传了这样一份论文,不在绿幕前拍摄也能完美转换视频背景,让整个世界都变成你的绿幕。

Racoon、张倩 ·  2天前
AI技术在医药行业中的作用越来越大

AI可以帮助科学家和生物技术专家简化药物发现和开发的过程,协助诊断,并使通常会浪费时间和人力资源的重复性工作任务自动化……

佚名 ·  2天前
2025年智慧城市AI软件市场将增长700%

分析师机构Omdia的最新分析显示,全球智能城市人工智能(AI)软件市场将从2019年的6.738亿美元增长到2025年的49亿美元,这意味着七倍的增长。

佚名 ·  2天前
实现人工智能价值的5个障碍以及克服它们的方法

正如媒体所报道的,在实施人工智能的过程中确实存在着技术障碍,因而BCG和Gartner的专家们讨论了在企业中部署人工智能的五个陷阱,以及成功的解决方案。

Clint Boulton ·  2天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载