周鸿?:人工智能有很多根安全软肋,应建国家级网络安全平台

作者: 澎湃新闻 2019-03-06 11:32:45

周鸿?:人工智能有很多根安全软肋,应建国家级网络安全平台

3月5日,全国政协委员、360集团董事长兼CEO周鸿?公布了他今年的三份“两会”提案,涉及国家级网络安全大脑建设、智能汽车网络安全、人工智能安全风险等安全热点话题。

建设国家级网络安全大脑的提案中,周鸿?建议:将国家级网络安全大脑列为国家重大工程专项。建议成立国家网络安全大脑项目总体工作组、专家组、工程推进组,分别负责顶层设计和总体筹划、系统设计、工程建设。运用新型举国体制,加快推进国家级网络安全大脑建设。由国家相关部门牵头,协调网信、工信、公安、科技等部门和单位,组织国企、民企、科研院所等广泛参与。

周鸿?称:做了十来年的网络安全,感觉我们的网络安全防御有一个很大的问题,就是各个单位基本上各自为战,各守自己的“一亩三分地”、“自扫门前雪”,大家都只掌握自己的局部信息,无法及时发现高级攻击。

他认为,面对这些威胁和挑战,当务之急是能够及时发现网络攻击,唯一的方法要靠安全大数据的联合。构建一个数据统一、国家级的网络空间国土防御系统——国家级网络安全大脑,在全球网络安全形势严峻的今天尤为重要。

在智能汽车网络安全的提案中,周鸿?建议:制定强制性生产标准,把网络安全列为智能汽车标配,一是加装安全联网模块,提高联网防护能力,建立安全接口,加强汽车的控制安全保护,防止控制被劫持。二是强制安全测试。建立测试评价体系,在汽车上市前进行网络安全测评。三是建立厂商安全运营平台,提升安全运营能力,及时发现和阻断黑客攻击。

“我们的目标是让智能汽车不‘裸奔’。今天大家的电脑谁也不敢裸奔,手机里也装了安全杀毒软件,智能汽车也应加装网络安全防护系统。我们要把网络安全系统像‘安全带’一样列为智能汽车标配,做到智能汽车的安全、可靠、可控。” 他说。

周鸿?判断,未来汽车发展将智能化、网联化、电动化和共享化,其电子电气架构会发生翻天覆地的变化。汽车的智能驾驶系统、信息娱乐系统、底盘控制系统和动力控制系统都会与互联网联接,通过网络进行数据传输和软件升级。与互联网连接就会有网络安全风险,黑客可以通过网络攻击劫持汽车,造成人身伤害、群死群伤等安全事故,甚至被用于恐怖袭击,威胁人身安全、社会安全和国家安全。

关于人工智能安全风险的提案中,周鸿?建议:安全应该成为人工智能发展的基础与前提。但是,人工智能网络安全问题非常复杂,迫切需要建立一个开放创新平台,整合各种资源,协同推进和解决。国家对新一代人工智能开放创新平台的建设高度重视。已分别在自动驾驶、城市大脑、医疗影像、智能语音、智能视觉5大领域批准建设人工智能开放创新平台,但在人工智能网络安全领域还是空白。建议国家支持尽快建设国家级网络安全人工智能开放创新平台,确保人工智能健康有序发展。

“现阶段,我们关注的焦点是人工智能本身的安全问题。人工智能有很多根安全‘软肋’,前端传感器可以被干扰,训练数据可能被污染,内部算法可以被欺骗,并且系统中可能存在大量未知漏洞。人工智能无疑是下一轮技术革命的焦点,在技术高速发展的同时,如何保持这个技术更安全是重中之重。”周鸿?表示。

周鸿?表示,人工智能正在加速与经济、社会、国防等深度融合,发挥越来越显着的“头雁”效应。但与此同时,人工智能自身所面临的网络安全风险也越来越突出。“比如,人工智能的传感器存在被干扰的风险;训练数据存在被污染的风险,可能“教坏”智能机器人;概率判断系统不完善,可能导致车毁人亡;而且,人工智能是通过软件实现的,是软件就有漏洞,就很可能被黑客利用。”

“由此可知,如果人工智能自身存在安全问题,就易受攻击并引发严重后果。一方面,人工智能系统可被劫持,造成大量重要训练数据泄露。另一方面,采用人工智能的无人值守系统失控,或导致严重后果。举个例子,现在武器系统的扳机都在战士手里,由人来判断和扣动扳机,未来如果引入人工智能形成智能武器系统,就变成了扳机在电脑系统手里,一旦被黑客控制,就可以远程控制武器射击,滥杀无辜。”他说。

两会 周鸿? 人工智能
上一篇:人工智能加速赋能实体经济 下一篇:1400 小时数据,Common Voice 成最大开源人类语音数据集
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

这台“水下变形金刚”,正接受NASA测试,面向高难度海底工作

Aquanaut代表着一种全新设计,其创造者是一家名为Houston Mechatronics(简称HMI)的初创企业,该公司希望借此彻底颠覆海底机器人技术。

佚名 ·  2019-08-13 16:40:14
求职者的简历如何能通过人工智能和机器人的筛选

根据调研机构的分析,几乎所有财富500强公司(98%以上)和越来越多的中小企业使用求职者跟踪系统过滤简历,然后再将其提交给人力招聘经理。

Stephanie Overby ·  2019-07-23 09:00:57
大数据与机器学习将如何改变全球能源行业?

随着AI技术战争的不断升温,企业与消费者也将受益于更加安全、更加清洁、更加便宜以及更加高效的能源。而让这场技术竞赛也才刚刚开始。

佚名 ·  2019-06-17 14:41:15
全国人大代表刘庆峰:2019年将是人工智能规模化应用落地年

作为当今科技领域最前沿的课题,人工智能连续第三年出现在政府工作报告中,并且在今年的报告中首次提出“智能+”,为制造业转型升级赋能。

佚名 ·  2019-03-07 10:39:47
人工智能正逐渐成熟 找到规律再立法更好

人工智能(AI)这几年发展非常迅速,未来会怎样,这是全国两会上的热点话题之一。全国政协委员、百度公司董事长李彦宏在记者采访时表示,AI的价值是服务人而非控制人,需要及早地把它做一些规范,做一些预判,尽量避免人工智能向不好的方向发展。

重庆商报 ·  2019-03-04 11:00:09
机器学习vs.人工智能:定义和重要性

机器学习,有时也称为计算智能,近年来已经突破了一些技术障碍,并在机器人、机器翻译、社交网络、电子商务,甚至医药和医疗保健等领域取得了重大进展。机器学习是人工智能的一个领域,其目标是开发学习计算技术以及构建能够自动获取知识的系统。

企业网D1Net ·  2019-02-27 08:50:02
事关生死:在医院ICU病房里人工智能可以做什么?

在重症监护室中,人工智能将始终关注病患的一举一动。 未来的ICU将更好地利用机器及其产生的连续数据流。各监控装置不再孤立运作,而是对信息加以汇总,从而向医生全面展示患者的健康状况。

佚名 ·  2018-10-31 10:35:43
马云、孙丕恕、刘强东、周鸿?如何步入“智能时代”?

正在举行的第二届世界智能大会上,马云、孙丕恕、刘强东、周鸿?等大佬各自发表了观点。那么,什么是开启“智能时代”大门的正确姿势?在这场国内科技巨头齐聚、1800多名人工智能专家出席的大会上,又如何让“智能”真正落地?

佚名 ·  2018-05-20 10:59:16
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载