人工智能造假值得警惕

作者: 中国国防报 2019-04-26 14:50:06

 人工智能造假值得警惕

任何技术都是双刃剑,人工智能技术也不例外。人工智能技术在军事上可以帮助隐真示假,造势用势,在民用上可以提高产品的实用性。然而近年来,大量人工智能合成信息充斥互联网空间和人们日常生活中,如“骚扰电话”“好评灌水”、合成声音、人工智能生成真人视频或图像等。鉴于此,不少专家认为,人工智能的快速发展使得在现实和网络空间中,人与人的交流正在被智能化、自动化的交互影响。那么,该如何认识人工智能造假现象,进而改变这一现象?这是当前需要深入思考的一个重要问题。

本质上说,机器不会造假。机器的工作原理是将输入变为输出,只计多少,不问是非,所以,人工智能造假本质上是人在造假。一个成熟的算法配上丰富的数据资源,就能生成逼真的照片、视频及文本材料,技术上不难实现,其目的是使人产生感觉上的错乱,进而虚拟真实。

然而,从根本上讲,就算人工智能能够对人类行为模仿造假,但无法模仿构成人类行为背后的各种作用关系。换句话说,如果抓住“事物之间的联系”这个本质,则大多数人工智能造假都可能被识破。

人工智能造假可以通过机器的深度态势感知或上下文感知技术进行过滤、筛选和排除,如一个正常人不会轻易做不正常的事,一个正常机构也不会肆无忌惮地违法违规一样,可以通过观察对比一个人一个机构的以往表现,判别是否作假。然而,一般性地识别不难,难的是特殊情形下的细微区分。所以,面对人工智能造假,除常规性的防伪技术手段之外,还需要开发新的深度态势感知技术和工具,尽可能在造假前期进行识别干预,从态、势、感、知等几个阶段展开深入分析和应对。此外还可以研究相应的管理应急机制方法和手段,及早制定相关法律法规,做好知识普及,促进反人工智能造假技术相关应用广泛落地,从而形成人-机-环境系统联动的反人工智能造假生态链。

俗话说,假的真不了,真的假不了,魔高一尺,道高一丈。毕竟,再好的人工智能都是人造的,而人类本身就是对付不完备性***的“猎人”。

人工智能 AI 造假
上一篇:人工智能时代,能否告别最近热议的“996”? 下一篇:AI奋力赶超,5G弯道超车,特朗普能不焦虑么?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

大数据与AI如何助力食品饮料行业发展?

数字化几乎颠覆了每一个行业,从金融服务到医疗保健,而食品和饮料行业也不例外。从历史上看,风味特点、潮流和新的食品主要归功于厨师和产品开发人员。而在将一个创意转化成产品并推向市场之前,可能需要花费几个月甚至是几年的时间。

至顶网 ·  15h前
研究公司统计了9大AI领域,分析了世界各国AI法律举措

世界各国政府正在迅速采取行动,以确保现有的法律、法规以及框架,能够在人工智能技术变革中继续起效,应对由新浪潮带来的种种新挑战。

佚名 ·  16h前
护卫中小学生安全,如今已离不开机器人!

近年来,生活水平的提升、二胎政策的放宽都推动了全国儿童人口的增多,但同时也使得遭遇安全事故的儿童比例大幅上升。在此情况下,儿童安全问题不容忽视。

林中易木 ·  23h前
华为全场景 AI 计算框架MindSpore开源!

华为Mindspore AI计算框架正式开源,标志着华为向自己的AI梦想,迈出了新的一步,而深度学习开源领域,又迎来了一位重量级的玩家。

佚名 ·  1天前
人工智能会扮演好医生的角色吗?

人工智能技术的发展日新月异。它不仅在娱乐和通信领域发挥作用,而且在未来的健康和生活领域做出重要贡献。在一些国家,人工智能技术已经融入强大的分析工具,以帮助医院的医生诊断癌症和其他疾病。但是人工智能会取代医生的角色吗?

风车云马 ·  1天前
人工智能辅助下社交媒体营销人员的十大戒律

如果我告诉你,在社交媒体中使用人工智能工具(并正确地使用)能够增强每名用户的消费者旅程,从而留下更多的用户,且留存时间更长,会怎么样呢?

读芯术 ·  1天前
2020~2030:人工智能将占据主导地位的十年

AntWorks预测,在未来十年中,很难找到一个没有利用AI来智能地自动化业务流程的行业。在所有行业中都有无数的AI用例,这是我们对2020年及以后的预测。

CDA数据分析师 ·  2天前
用机器学习备忘单解决艰巨问题,你行吗?

在本文中,我们将介绍如何使用备忘单简化机器学习方法,你可以使用该备忘单选择适合解决问题的正确算法。

读芯术 ·  2天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载