Reddit最热:一个专门给不可描述照片加水印的APP被AI破解了!

作者: 佚名 2019-12-19 15:12:37

比利时的电信提供商面向青少年推出一款名叫“.comdom”的安全App,可以为发送的照片加上接收者的信息作为水印,防止私密照片二次传播。但没想到短短几天就被一组研究人员破解了,完美复现原图,引发reddit网友热议。

先问个严肃的问题,你有没有收到过睡在你上铺的兄弟给你发来的不可描述照片?

一项对10300名18岁以下青少年的调查表明,sexting越来越普遍,15%的青少年表示他们发过。在个别欧美国家,这一比例会更高,比如在比利时,有近50%的15-21岁青少年都干过这种事。

为了防止这些图片被滥用,比利时的电信提供商Telenet想了个办法,它与Child Focus合作推出了一个名叫“.comdom”的App。看名字也知道,这个App能让青少年之间发送短信更安全。

简单来说,它可以给照片加水印。与常见的水印不同,它的水印包含照片接收者的姓名和电话号码。而且,水印覆盖了整个照片,用普通的图像编辑工具(例如Photoshop)很难去除。

这样一来,如果你发给对方的隐私照片被二次传播,每个人都会知道是谁干的了。通过这种方式,Telenet希望可以降低隐私照片被二次传播的比例。

但是,加了水印就真的安全了吗?

水印被破解,AI帮大忙

今天,一项破解此App的帖子登上了reddit最热榜:

Reddit最热:一个专门给不可描述照片加水印的APP被AI破解了!

短短几天内,几位来自比利时根特大学IDLab-MEDIA的研究人员开发了一种可自动去除水印的工具,同时保持较高的图像质量,并附上了他们的效果图:

Reddit最热:一个专门给不可描述照片加水印的APP被AI破解了!

使用App加水印后的图

Reddit最热:一个专门给不可描述照片加水印的APP被AI破解了!

使用他们的工具去掉水印后的图

是不是完美还原?如果说后一张图是原图相信很多人都会相信。他们是如何做到的呢?答案就是AI。

这项除水印研究由根特大学Peter Lambert教授的IDLab-MEDIA研究小组的研究人员Martijn Courteaux和Hannes Mareen进行(上图中从左到右的三人)。研究人员可以很容易地找出应用程序是如何构造水印的。然后,他们将水印本身(以多种形式)应用于随机选取的数千张照片的集合中。最后,在此基础上,训练一个相对简单的人工智能算法(神经网络)来找出加水印的照片与其原始照片之间的关系,之后,这个算法便能够从该App拍摄的照片中去除水印。

“.comdom的开发人员低估了现代AI技术的力量。”不过,研究人员表示,为了保护使用这个App的人,不会发布他们去除水印的软件。

去水印事小,社会意义重大!

表面上看,这是又一起“大学生成功破解商业应用”的案例,但其背后的社会意义却不容小视,尤其是DeepFake技术越来越成熟的今天。所以该新闻一登录Reddit立即引发社群用户关注和热议,我们先来看看大家对此事件都有什么想法。

DeepFake的担忧:发照片不露脸也没”那么“安全了

从App开发者的角度来看,他们确实找到了一个可行的防止图片被普通用户二次传播的机制。然而在AI从业者看来,这个方式就显得有点小儿科。

Rhakae:我觉得这个所谓的“安全发送不可描述照片”的功能没意义好嘛?最有效的方式是 1)坚决不发;2)要发也别露脸。

MuonManLaserJab:除了Rhakae提到的两点,我觉得还有一个可能更有效的方式。致力于开发图像伪造软件,以至于你甚至能给老板发一段你自己的基情视频然后说“看,我做的这DeepFake多逼真!”。那么以后再有类似东西流出的话,大家就都没兴趣了。(简直是以毒攻毒至高境界!)

Dr_Thrax_Still_Does:不夸张地说,2020年绝对会有一大波能实现头身互换功能的App甚至是网站,你懂得。而在足够多图片的投喂下,AI甚至能做出极度接近真实细节的图片。

Kautiontape:不露脸虽然并不意味着彻底安全,但起码相对来说还是更安全一些。因为你没办法阻止所有人,但只要能阻止大多数就很不错了。这个项目的目的是完美去除水印。,那么我们是否可以认为可以对水印进行重构呢?

MuonManLaserJab:技术总是很难保持隐秘的,算法迟早会被人识破,有人可以反过来利用这项技术来做坏事。但我相信一个安全模型被人攻破的时候,会迫使技术开发新的升级模型。

schludy:下一步,去掉衣服!

AbsolutelyNotTim:毕生之追求。

睿智的网友正在分析背后的实现原理

LartTheLuser:他们需要使用一组秘密的特殊构造的小波基函数和与加密密钥相对应的一组小波权重的反向小波变换作为一组椭圆曲线的域参数,该组椭圆曲线的元素只有 .comdom 知道。它们使用多个椭圆曲线,可能有数百个椭圆,以防密钥泄漏,并且由于具有冗余性,它们可以随着时间的推移而循环。

然后,信号将逆小波变换与一些复杂的函数进行卷积,这些函数是通过对抗生成而生成的,这些函数具有非常强大的神经网络,可以对这些信号进行反卷积。

然后进行创建,以便.comdom应用程序通过运行上述过程的逆过程将图像加载到屏幕时,将水印动态添加到屏幕上。也就是说必须:1)运行强大的神经网络以对反生成的卷积信号进行反卷积。2)使用小波基函数的先验知识进行小波变换,并获得椭圆曲线权重的一些子集。3)使用特殊的专用椭圆曲线将各种椭圆曲线分解为分量,并验证该分量是有效的密钥,以及与图片水印内容的哈希对应的代码。最后使用该哈希值检索水印的内容并覆盖在图像上。

这样,只要在应用程序或其他参与的应用程序上显示已知图像,就会始终对其加水印。唯一的解决方法是解决一个非常困难的AI问题,一个非常困难的信号问题以及一个迄今为止无法破解的加密机制的复杂序列。

我很确定,中央情报局和其他先进的情报机构用的就是这个机制。

毫秒级图像去噪!英伟达、MIT新AI系统完美去水印

其实,图片去水印并不是什么新鲜事。在ICML2018上,英伟达和MIT等机构的研究人员展示了一项图像降燥技术Noise2Noise,能够自动去除图片中的水印、模糊等噪音,几乎能完美复原,而且渲染时间是毫秒级。

通过这种深度学习去噪方法,无需使用没有“噪声”的清晰图像,就能够实现完美去水印。效果如下:

团队使用了来自ImageNet数据集的5万张图像来训练其人工智能系统,该系统能够从图像中去除噪声,即使它从未见过没有噪声的对应图像。

这个名为“噪声到噪声”(Noise2Noise)的AI系统是使用深度学习创建的,它不是基于配对的清晰图像和噪声图像来训练网络,而是基于配对的噪声图像来训练网络,并且只需要噪声图像。计算机生成的图像和MRI扫描图像也被用来训练Noise2Noise。

通过只使用噪声来训练Noise2Noise,研究人员希望这种方法可以用于已知含有大量噪声的图像,比如天体摄影、核磁共振成像(MRI)或大脑扫描图像。

Reddit最热:一个专门给不可描述照片加水印的APP被AI破解了!

从左到右:输入的噪声图像、去噪图像、和原始图像

来自IXI数据集的50名人类受试者的近5000张图像被用于训练Noise2Noise的MRI图像去噪能力。在没有人工噪声的情况下,结果可能比原始图像稍微模糊一些,但仍然很好地还原了清晰度。

MRI图像去噪

Nvidia的研究人员Jacob Munkberg说:“这是一个概念证明,我们在一个公共核磁共振数据库上进行训练,但在未来,它可能会显示出在实际应用中的希望。”

Noise2Noise系统通过使用一个神经网络来实现这一点,该神经网络使用有损的图像来训练。它不需要干净的图像,但它需要观察源图像两次。实验表明,受不同的合成噪声(加性高斯噪声、泊松噪声和binomial噪声)影响的目标图像仍能与使用干净样本恢复的图像有“几乎相同”的质量。该系统最令人兴奋的是,它可以显著减少图像渲染所需的时间——毫秒级别。

研究人员在论文中写道:“我们观察到,在适当的,常见的情况下,我们可以学习仅从损坏的示例重建信号,而无需观察干净的信号,并且其效果与使用干净样本一样好。如我们在下文所展示的,从统计角度来看,我们的结论可能是微不足道的,但在实践中,通过解除对清洁数据可用性的要求,这种方法显着简化了学习信号的重建。”

对于给照片加水印和去水印,你怎么看?


AI 数据 人工智能
上一篇:人工智能在网络安全领域的四大应用场景 下一篇:AI攻破高数核心,1秒内求解微分方程、不定积分,性能远超Matlab
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

干货!从0到1教你打造一个令人上瘾的聊天机器人?

几千年来,我们一直都是直接通过对话来解决问题的。聊天机器人(Chatbots)的出现实际上是回归到了最简单的岁月。

火火酱 ·  5h前
治愈大脑,人机共生,马斯克为“脑机接口”辩护

随着今年年初特斯拉中国工厂正式开始交付特斯拉 model3 型号电动汽车,特斯拉的股值不断飙升,与此同时特斯拉和马斯克也在新闻媒体上赚足了眼球。

学术君 ·  6h前
英伟达将展示6款机器人:真人大小,力举千斤……

除了显卡之外,老黄近几年也越来越关注AI与机器人,在下月举行的GTC 2020上,英伟达宣布将至少展示6款机器人,它们高矮胖瘦各不同,具备不同的功能。

佚名 ·  10h前
戴口罩难以刷脸支付 刷手行不行?

人工智能技术日益深入生活的同时,公众的隐私担忧也越来越甚。人脸作为生物识别特征数据的一种,与其他识别方式相比具有更容易暴露、难以更改的特性,公众对相关的收集使用活动就更为敏感。那么,有没有其他支付方式?

佚名 ·  10h前
从TensorFlow到Theano:横向对比七大深度学习框架

最近,来自数据科学公司 Silicon Valley Data Science 的数据工程师 Matt Rubashkin(UC Berkeley 博士)为我们带来了深度学习 7 种流行框架的深度横向对比,希望本文能对你带来帮助。

AI小师弟 ·  12h前
AI驱动的网络安全团队致力于人类强化

在很多其他行业,流程自动化和AI预示着工作机会的减少,但与之不同的是,威胁情报的未来是强化人类,而不是取代人类。在这方面,我们的研究发现以下三个主要原因。

邹铮 ·  13h前
关于AI我们完全错了!MIT教授批判:对数据过度关注

Luis Perez-Breva是麻省理工学院(MIT)的教授,也是麻省理工学院或工程学院创新团队的主任。他致力于了解我们如何使用技术来改善生活,并探讨如何努力将新技术推向世界。

图灵联邦 ·  13h前
古有照妖镜,今有换脸识别机,微软CVPR 2020力作,让伪造人脸无处遁形

前些日子,Deepfake技术现身印度选举,被候选人用在了竞选拉票的宣传材料上。虽然此候选人以惨败而收场,但这意味着Deepfake点燃的AI换脸之火有逐渐升温的迹象。

蒋宝尚 ·  17h前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载