“AI换脸”被滥用 科技莫成“黑产”帮凶

作者: 新京报 2019-07-18 14:52:22

“AI换脸”被滥用 科技莫成“黑产”帮凶

科技的发展推动了社会进步,同时也带来很多风险和隐患。从前,很多人只知道运用软件Photoshop(PS)能够修改图片,如今,AI(人工智能)直接将“修图”技术进化成“换脸”。近日,记者在调查时发现,互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频,在百度贴吧、闲鱼等主要网络平台均有出售。

如果有人觉得,明星艺人被美化也好、丑化也罢,都不关自己的事,那就大错而特错了。因为,在现实中,“AI换脸”已经不仅仅是一门技术,一条依附于“AI换脸”的“黑色产业链”已经形成。据记者的调查报道称,有的商家不仅提供成品的视频,还接受买家的订制,只要买家提供20张照片,就可以搞出任何人的“小电影”。还有的商家“授人以渔”,售卖教学视频供人学习,出示学生证还能打七折。

互联网不是法外之地。“AI换脸”技术被应用于淫秽视频,本身就是对科技的侮辱,借此形成“黑色产业链”,造成的社会危害更是不可低估。

首先,“AI换脸”为淫秽视频的传播提供了新的兴奋点,让那些本来未必会接触淫秽视频的未成年人群体,因为“追星”情结而增加了“看一看”的兴趣,最终误入其中,难以自拔。

其次,在“AI换脸”技术下,每个人都可能成为受害者。尤其是普通人,一旦被“AI换脸”成为“小电影”的主角,由于身边人的鉴别能力较弱,大多数人在转发信息时更注重内容的轰动性和刺激性,而非可靠性,就算是一个做工粗糙的视频,也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。

第三,“AI换脸”的应用场景不仅是色情视频,还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财,就算诈骗不成功,也可以造成损害当事人名誉的影响。

第四,“AI换脸”技术具有一定的趣味性和挑战性,会吸引更多人尝试其训练模型的乐趣,从接受者变成参与者。特别是青少年对新事物的接受能力强,计算机技术水平往往较高,其中一些法制观念或道德意识较弱的人在“小试身手”后很容易踩过界,变成“黑色产业链”的一环。

尽管“AI换脸”技术的主要危害在于使用者的滥用,但因“AI换脸”自带“混淆人格”的功能属性,因此,相关部门对“AI换脸”行为的法律限制和行为规范也应更具针对性。首先,公安部门、网络监管者、网络贴吧和电子商务平台的经营者,都有义务清除违法售卖的包含“AI换脸”技术的违法色情视频。对于面向公众销售的或代为制作换脸视频的营利性行为,应坚决予以禁止。

其次,让“AI换脸”技术的爱好者意识到,不管是否使用“AI换脸”技术,在中国境内,凡是传播具有性行为、性器官、裸体的图像或视频都是具有法律风险的,“换脸”技术并不能消除原始素材的违法性,将之作为“技术成果”与大家分享是有风险的。

第三,制作者应防范自己的“换脸”视频被人利用,用于各类欺诈和侵权活动。不要因为觉得“好玩”,就随便帮人制作“爸爸妈妈我要钱啊”之类的视频。

第四,未经当事人授权的“换脸”行为,是对公民人格权和肖像权的侵犯。掌握“AI换脸”技术的人,应该对他人多怀尊重之意,不可轻易“戏之”,更不可没有底线地将“换脸”技术用于非法牟利,否则难免会遭到法律的严惩。

AI 人工智能 换脸
上一篇:“换脸挑战”国外火爆:能看到老年的你长啥样 下一篇:为什么说马斯克的新“脑机接口”是一次大突破?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能违抗主人的命令,甚至发声嘲笑!意识觉醒了?

人工智能作为当下研究的热点项目,各国都为其投入了无限的精力以及心血,渴望能够超越其他国家掌握先机,进而提高自己在国际社会中的地位。而人工智能就目前来看,也已经获得了不小的成果,扫地机器人、机械臂、智能音箱等一切都逐渐日常化。

互联狗 ·  22h前
俄媒:人工智能可利用面部识别判断信仰倾向

《俄罗斯报》1月19日发表了题为《藏不住了?》的文章称,美国斯坦福大学学者迈克尔·科辛斯基教授研发出了一种可根据人脸表情判断其信仰倾向的人工智能技术。

参考消息 ·  22h前
到2030年,人工智能会发展成什么样?

人工智能、机器学习、深度学习这些热词近来被频繁使用。让承认人工智能将融于世界的现实期望固然很赞,但了解和揭秘人工智能同样意义重大。这篇文章将阐述人工智能的所有概念,全面理解人工智能,避免混淆这些概念。

佚名 ·  1天前
人工智能辅助诊疗发展现状与战略研究

本文选取健康医疗信息人机交互、数据智能中的语义理解与医学影像分析作为切入点,简要阐述了人工智能在辅助诊疗问题上的发展方向与现状,讨论了智能诊疗技术发展与应用的问题与挑战,为相关部门提供决策支持。

佚名 ·  1天前
大国竞争的焦点:人工智能与数字主权

2021年1月13日,美国智库大西洋理事会发布题为《大国竞争: 人工智能、中国和全球对数字主权的追求》的报告,本报告总结了2020年度人工智能对话和会议的关键要点,确定了世界不同地区在应对新兴技术时面临的挑战和机遇,并评估了中国在其中的作用。

佚名 ·  1天前
闲聊几句就掏心掏肺?这届人工智能,把你的隐私当成了谈资

随着时代的进步,高科技产品在我们的生活中无处不在,但是,你是否质疑过,自己的隐私正在被这些高科技“生物”所窃取?事实上,我们的隐私正在处于泄露中。

木子Yanni ·  1天前
人工智能不智能?一开始方向就错了

上个世纪50年代,约翰·麦卡锡提出了人工智能的概念,从此“AI”这个名字就诞生了。随着技术的发展,AI被划分为弱人工智能(简称“弱AI”)和强人工智能(简称强AI)两类,这个概念是由一位美国哲学家提出的,两者的区别就在于是否具备自主意识和思维,这就是AI发展的瓶颈。

刘梦还 ·  1天前
多模态生物识别有什么优势

什么是多模态生物识别呢?多模态生物识别就是多种生物识别技术相互融合,满足不同场景和安全级别需要。

智能制造网 ·  1天前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载