蛋花花:我们能信任人工智能吗,人工智能是以程序来模拟人脑认知、推理和决策的系统科学,其核心目的是使机器能够胜任一些只有人才能承担的工作与任务,本质是海量数据的训练、推理及决策。尽管目前世界上最先进的机器人还远远不能成为终结者,但我们不得不承认,人工智能对人类发展的影响已经产生。
那我们又该如何建立防范机制?就目前来看,人工智能应用的领域越来越广,人们的长相、身体、年龄、喜好、情绪、需求等各种数据被人工智能采集、分析,并通过疾病诊断、消防营救、机器人教育、犯罪预警、自动驾驶等各种形式为其服务。随着技术逐渐强大,服务快速延伸,人工智能公司也开始通过在技术和人员方面建立防护机制来寻求用户的信赖,以获得长远的发展。
乐聚机器人CEO常琳接受采访时曾说:“我们在机器人研发时就搭建了信任系统,以此作为技术管制的手段。工程师必须按照控制框架进行设计,以保证程序和信息的安全。保密、透明、防护是我们机器人设计的三个重要安全准则。”
人员是技术安全的关键因素。2018年底,埃森哲和英特尔合作调查了305家企业,其中70%的公司对其从事人工智能相关技术工作的人员进行了道德培训。尽管道德培训不是防范人工智能“破坏性行为”的关键手段,但也一定是必须有的措施之一。
蛋花花:我们能信任人工智能吗,除了企业的主动性防护机制,第三方审查也是建立人工智能信任机制的重要方式。对于初生的人工智能产业来说,需要清晰的标准和严格的监管机构来规范行业行为,维护合格合规产品及用户的权益。