人工智能造假值得警惕

作者: 中国国防报 2019-04-26 14:50:06

 人工智能造假值得警惕

任何技术都是双刃剑,人工智能技术也不例外。人工智能技术在军事上可以帮助隐真示假,造势用势,在民用上可以提高产品的实用性。然而近年来,大量人工智能合成信息充斥互联网空间和人们日常生活中,如“骚扰电话”“好评灌水”、合成声音、人工智能生成真人视频或图像等。鉴于此,不少专家认为,人工智能的快速发展使得在现实和网络空间中,人与人的交流正在被智能化、自动化的交互影响。那么,该如何认识人工智能造假现象,进而改变这一现象?这是当前需要深入思考的一个重要问题。

本质上说,机器不会造假。机器的工作原理是将输入变为输出,只计多少,不问是非,所以,人工智能造假本质上是人在造假。一个成熟的算法配上丰富的数据资源,就能生成逼真的照片、视频及文本材料,技术上不难实现,其目的是使人产生感觉上的错乱,进而虚拟真实。

然而,从根本上讲,就算人工智能能够对人类行为模仿造假,但无法模仿构成人类行为背后的各种作用关系。换句话说,如果抓住“事物之间的联系”这个本质,则大多数人工智能造假都可能被识破。

人工智能造假可以通过机器的深度态势感知或上下文感知技术进行过滤、筛选和排除,如一个正常人不会轻易做不正常的事,一个正常机构也不会肆无忌惮地违法违规一样,可以通过观察对比一个人一个机构的以往表现,判别是否作假。然而,一般性地识别不难,难的是特殊情形下的细微区分。所以,面对人工智能造假,除常规性的防伪技术手段之外,还需要开发新的深度态势感知技术和工具,尽可能在造假前期进行识别干预,从态、势、感、知等几个阶段展开深入分析和应对。此外还可以研究相应的管理应急机制方法和手段,及早制定相关法律法规,做好知识普及,促进反人工智能造假技术相关应用广泛落地,从而形成人-机-环境系统联动的反人工智能造假生态链。

俗话说,假的真不了,真的假不了,魔高一尺,道高一丈。毕竟,再好的人工智能都是人造的,而人类本身就是对付不完备性***的“猎人”。

人工智能 AI 造假
上一篇:人工智能时代,能否告别最近热议的“996”? 下一篇:AI奋力赶超,5G弯道超车,特朗普能不焦虑么?
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

图森未来正式登陆纳斯达克,专注AI与自动驾驶,市值超84亿美元

据外媒报道,人工智能(AI)和自动驾驶公司图森未来(TuSimple)正式在纳斯达克挂牌上市,股票代码为“TSP”。

潇冷 ·  11h前
人工智能是应对气候变化的新时代解决方案

气候变化是我们这个星球面临的最大挑战,人工智能可以帮助我们应对不断上升的全球气温。

Cassie ·  15h前
草图变真人脸?AI:可以,多草都行

这篇论文讲技术人员如何在styleGAN顶层训练了一个深度神经网络来学习将源图像映射到styleGAN模型的输入,最终输出高质量的目标图像。

丰色 ·  15h前
深度学习算法

深度学习算法在机器视觉中就如一个巧妙的接收转换器般的存在,它灵活、敏捷、“深度”与广度兼具,强悍的计算与预测能力可以称为其魅力之处。深度计算——可以集数亿个神经网络的自拟,对于数据、语音、图像等多种形式的资源进行分析、解释。

三姆森科技 ·  20h前
人工智能工程可以帮助组织充分利用人工智能

“人工智能”这一术语如今似乎无处不在,这在行业市场的应用中造成一些混乱,甚至可能让技术决策者感到困惑。

Bob Violino ·  20h前
人工智能赖以生存的大数据,掌握在垄断者的手中真的可怕

我至今还记得2016年那场旷世人机大战,人工智能软件“阿尔法狗”战胜世界围棋冠军李世石,那是一场标志性的比赛,打破了人们对人工智能的想象。

国学达人观世界 ·  20h前
中美欧人工智能发展现状比较分析

从投资、人才、研究、硬件、应用、数据多个维度,系统对比中、美、欧人工智能发展现状,最终得出结论称,美国当前依然保持着世界人工智能发展总体领先地位,中国在一些重要领域与美国的差距缩小,欧盟在三者中相对落后。

王璐菲 ·  20h前
基于机器学习的自动漏洞修复分析方法

。在本文中,我们提出了一个基于机器学习的自动化框架来自动化电力公司的修复决策分析。我们将其应用于一家电力公司,并对从该公司获得的两个真实运行数据集进行了大量实验。结果表明,该解决方案具有很高的有效性。

佚名 ·  20h前
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载