明年1月1日起,AI造假视频不得随意发布

作者: 问耕 2019-12-02 10:18:22

新规来了。

明年1月1日起,AI造假视频不得随意发布

在这份刚刚印发的《网络音视频信息服务管理规定》中,四次直接提及深度学习,基本可以看做是针对AI造假视频的一次针对性管控。

2017年底,deepfake换脸技术出现以来,各种使用AI技术造假的视频层出不穷。而且随着技术的进步,造假视频已经变得越来越真假难辨,也引发了全球范围内的担忧。

现在,不能使用AI技术乱来了。

国内的各位朋友,再搞AI换脸的视频等操作,请注意这些新规定。

对普通用户:

  • 发布非真实AI音视频时,要以显著方式标识出来。
  • 不得使用AI技术制作假新闻。

对于服务商,除了上述要求还有:

  • 上线AI音视频服务,应展开安全评估。
  • 部署非真实音视频鉴别技术。
  • 及时停止传播未显著标识的非真实AI音视频内容。
  • 建立健全辟谣机制。

相关规定条款,我们截图如下。

明年1月1日起,AI造假视频不得随意发布

新规定将于明年1月1日起施行。

《网络音视频信息服务管理规定》的详细内容,可以访问这个页面查看:https://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm

明年1月1日起,AI造假视频不得随意发布

deepfake“改变”世界

对于deepfake等基于深度学习的AI技术,全球都在想办法应对。

毕竟这种技术,可以用来换脸:

明年1月1日起,AI造假视频不得随意发布

还能用来给身体造假:

明年1月1日起,AI造假视频不得随意发布

本月,推特发布了首个反deepfake策略草案,并征集公众意见。根据这个草案,如果一份deepfake伪造的内容威胁到某人的人身安全或可能造成严重伤害,将会被删除。

包括微软、Google等国外公司也在研究如何自动鉴别换脸视频。

AI造假视频,也是最近几个月美国国会中最有争议的话题之一。此前,美国国际战略研究中心(CSIS)发布报告称,伪造信息正在通过互联网迅速传播,破坏了民主进程。

来自人民看点的报道中写道:

  • Deepfake被认为是一种破坏民主的工具。美国情报界发布的2019年全球威胁评估(Worldwide Threat Assessment)中就警告称,恶意攻击者或战略竞争对手可能会使用deepfake技术或类似的机器学习技术来创建看似逼真但其实是伪造的图片、音频和视频文件来加大针对美国和其盟友的活动的影响。
  • CNBC网站在其报道中称,“deepfake”将成为“2020年美国总统选举中的大事件”。就像2016年的“虚假新闻”一样,“deepfake”视频将在2020年的美国大选中,掀起更强大的血雨腥风。
明年1月1日起,AI造假视频不得随意发布

2019年10月,美国加州州长Gavin Newsom签署AB-730法令,明确指出,如果散布伪造的信息使公众对政治人物的言论、行动产生错误或有害的印象,将是犯罪行为。

7月,美国弗吉尼亚州也发布了禁止deepfake滥用的禁令:未经当事人允许分享他人的裸露视频、照片属于违法行为,无论该照片或视频是真实的还是伪造的。

今年6月,斯坦福、普林斯顿等大学发布了一项最新研究:给定任意文本,就能随意改变一段视频里人物说的话。并且,改动关键词后人物口型还能对得奇准无比,丝毫看不出篡改的痕迹。

明年1月1日起,AI造假视频不得随意发布

除了视频造假,AI在音频造假方面也不在话下。

来看一个真实的案例。

有人用AI技术伪造老板的声音,打电话要求转账,结果一家公司上当了,损失了173万元。这家公司,是总部位于英国的一家能源公司。

要不是因为骗了一次还想立刻骗第二次,这个骗局可能也不会马上曝光。

毫无破绽的变脸

如果你还没见识过deepfake的威力,以下是一些网友的大作。

此前,有一个名为“换脸哥”的B站用户将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸,并且把处理过的视频发在了B站。

明年1月1日起,AI造假视频不得随意发布
明年1月1日起,AI造假视频不得随意发布

类似的还有,徐锦江换脸海王。

明年1月1日起,AI造假视频不得随意发布

把《回家的诱惑》里男主的脸换到了“穿着品如衣服”的女性角色艾莉脸上:

明年1月1日起,AI造假视频不得随意发布

更多例子就先不举了。

如果你想试试AI模仿声音的感觉,可以试试搜狗输入法里的“变声”功能。

如果你想试试AI换脸的感觉,可以试试此前曾在国内外掀起一阵旋风、继而引发广泛争议的App:ZAO。

AI 数据 人工智能
上一篇:Reddit网友吵爆!算力和数据真能解决一切? 下一篇:企业级AI如何开展?有Watson,无难题!
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

面部识别的利与弊:是福还是祸?

虽然现代技术使面部识别更加精确和安全,但与面部识别隐私问题和监控有关的担忧也在增加。因此,让我们在这篇文章中探讨一下这该技术的利与弊。

Naveen Joshi ·  2021-06-01 16:36:22
人工智能和5G如何结合以实现物联网收入最大化

网络系统通过信令和使用软件以及分析来检测和分类设备非常棘手,并且对有限且日益紧张的网络资源提出了巨大的需求。然而,解决这些问题有一个主要解决方案:采用人工智能、自动化和5G技术。

Jordi Castellvi ·  2021-06-01 13:49:15
MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶

最近, MIT 计算机科学与人工智能实验室(CSAIL)团队成功展示了一种基于机器学习的自动驾驶系统,该端到端框架仅使用 LiDAR获取的原始 3D 点云数据和类似于手机上的低分辨率 GPS 地图就能进行自主导航,并且大大提升了鲁棒性。

文龙 ·  2021-06-01 12:47:51
自然语言处理(NLP)的历史及其发展方向

自然语言处理的历史是一个充满曲折的故事。它从徒劳的研究开始,经过多年卓有成效的工作,最后结束于一个我们仍在试图找出该领域极限的时代。今天,让我们来一起探索这一AI科学分支的发展。

佚名 ·  2021-06-01 12:46:26
是福还是祸?人脸识别技术的利与弊

面部识别并不是一项全新的技术,但人工智能和机器学习不断使面部识别变得更好。苹果通过引入具有 3D 扫描功能的面部生物识别系统和 iPhone 的 Face ID,提高了面部识别的标准。

Naveen Joshi ·  2021-06-01 11:11:01
人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
高真实感、全局一致、外观精细,面向模糊目标的NeRF方案出炉

自 NeRF 被提出后,有多项研究对其加以改进。在本篇论文中,上海科技大学的研究者提出了首个将显式不透明监督和卷积机制结合到神经辐射场框架中以实现高质量外观的方案。

Haimin Luo等 ·  2021-06-01 09:57:39
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载