瑞莱智慧RealAI打造人工智能安全技术工具 推动行业可信发展

作者: 佚名 2021-04-27 19:40:56

4月26日,由国家互联网信息办公室主办人工智能分论坛举办,论坛以“人工智能—社会实验视角下的社会治理”为主题。各产业相关领域专家代表一同围绕人工智能发展可能带来的风险和问题,探讨人工智能赋能社会治理的规律和经验,共同推进人工智能产业健康发展。论坛期间,由中央网信办信息化发展局组织评选的“人工智能企业典型应用案例”正式发布,本次案例评选在发现和挖掘人工智能行业的最新场景和杰出企业,进一步推动我国人工智能健康稳定发展。经人工智能社会实验专家组评审,瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”成功入选,与华为、百度、旷视、商汤、依图等企业共同位列其中。

瑞莱智慧RealAI CEO田天介绍,由于当前的人工智能仍处在初级阶段,算法本身存在不安全、不可解释等结构性缺陷,这就导致技术漏洞可能被用于恶意攻击,通过对抗性数据污染、算法修改、恶意样本等方式对算法进行深层次攻击,让人工智能系统“精神紊乱”,以高置信度给出错误输出。这产生的后果将可能威胁到人类财产生命安全。比如通过佩戴特定设计、有对抗攻击能力的眼镜等实体物件,导致能够攻破手机解锁、线上身份认证、线下安防等领域的AI系统,让安全验证形同虚设。甚至在交通领域,车辆的辅助驾驶或自动驾驶系统也可能因为AI算法缺陷而丧失正常的视觉识别能力,错误识别交通指示牌、“看不到”大型障碍物等,严重威胁人身和财产安全。

本次论坛主题切实讨论人工智能发展可能带来的风险和问题,作为“人工智能企业典型应用案例”入选企业,瑞莱智慧RealAI的“人工智能安全与深度伪造治理应用案例”为治理工作提出了有效技术方案。据介绍,北京瑞莱智慧科技有限公司是孵化自清华人工智能研究院的官方产学研机构,依托其自身“产学研”一体化优势,瑞莱智慧创新性地提出了“攻防动态平衡”机制,以子之矛、攻子之盾,通过攻防对抗不断升级,演练出针对性的防御技术。通过对抗性算法研究,先于黑客发现并修补漏洞,避免攻击隐患;通过生成更为逼真的深度伪造视频,再训练出更为领先的检测算法。

在此基础上,瑞莱智慧RealAI打造出一套完备且行之有效的技术工具来辅助解决人工智能安全问题。比如,业内首个人工智能安全平台RealSafe,通过集成领先攻防算法,支持对AI系统进行自动化的安全检测与防御加固,提升AI系统对对抗样本等攻击手段的识别能力。在应对滥用方面,瑞莱智慧推出DeepReal深度伪造检测工具和一体机,能够高效精准的判断视频、图片等内容素材是否是经过AI伪造,能够有效避免舆情、预警滥用等。这次入选的“人工智能安全与深度伪造治理应用案例”也正是基于这两大技术平台打造,能够有效避免人工智能落地应用过程面临的潜在安全隐患。

当前,人工智能研究高度开放,这也导致人工智能技术的滥用风险激增,直接性造成风险漏洞的出现。此外,人工智能既有多学科综合、高度复杂等特性,带有天然的技术壁垒,给监管部门的监督管理和风险防范提出了不小的挑战。

同时也有专家表示,人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中,并通过机器学习被人工智能所承继,进而演进为算法歧视。而在具体适用过程中,容易受到对抗样本的干扰或污染,被应用者二次形塑,做出背离设计初衷的错误决策。专家重点提到,在人工智能飞速发展的当下,安全问题日益凸显,需要我们加强对潜在风险的研判和防范,切实维护好利益和安全,确保人工智能安全可靠、可控。

田天表示,人工智能治理是一个长期的工作,“技术”与“制度”需同步推进,前者解决技术的不安全性与脆弱性,后面从应用层面给出规范与指引。

瑞莱智慧RealAI 人工智能
上一篇:2021-2030 无人机行业十大发展趋势 下一篇:2021年4月自动驾驶领域重要动态速览
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

面部识别的利与弊:是福还是祸?

虽然现代技术使面部识别更加精确和安全,但与面部识别隐私问题和监控有关的担忧也在增加。因此,让我们在这篇文章中探讨一下这该技术的利与弊。

Naveen Joshi ·  2021-06-01 16:36:22
人工智能和5G如何结合以实现物联网收入最大化

网络系统通过信令和使用软件以及分析来检测和分类设备非常棘手,并且对有限且日益紧张的网络资源提出了巨大的需求。然而,解决这些问题有一个主要解决方案:采用人工智能、自动化和5G技术。

Jordi Castellvi ·  2021-06-01 13:49:15
MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶

最近, MIT 计算机科学与人工智能实验室(CSAIL)团队成功展示了一种基于机器学习的自动驾驶系统,该端到端框架仅使用 LiDAR获取的原始 3D 点云数据和类似于手机上的低分辨率 GPS 地图就能进行自主导航,并且大大提升了鲁棒性。

文龙 ·  2021-06-01 12:47:51
自然语言处理(NLP)的历史及其发展方向

自然语言处理的历史是一个充满曲折的故事。它从徒劳的研究开始,经过多年卓有成效的工作,最后结束于一个我们仍在试图找出该领域极限的时代。今天,让我们来一起探索这一AI科学分支的发展。

佚名 ·  2021-06-01 12:46:26
是福还是祸?人脸识别技术的利与弊

面部识别并不是一项全新的技术,但人工智能和机器学习不断使面部识别变得更好。苹果通过引入具有 3D 扫描功能的面部生物识别系统和 iPhone 的 Face ID,提高了面部识别的标准。

Naveen Joshi ·  2021-06-01 11:11:01
人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
美城市Baltimore可能颁布最严格的面部识别禁令

据介绍,拟议的法令将禁止私人或商业组织,甚至执法机构在城市使用面部识别技术。

千家网 ·  2021-06-01 09:34:07
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载