毫无人性!人工智能才是社会工程的克星

作者: 佚名 2020-01-02 14:57:32

 我们仍处于人工智能 (AI) 的早期阶段,但 AI 正快速成为企业防御自身的关键方法。利用高级算法,企业可以改善事件响应,监视潜在威胁,识别威胁信号。但 AI 的一个重要优势被忽略了,人工智能可以发现人类分析师容易忽视的漏洞。

很多公司企业都尚未发挥 AI 在网络防御中最为重要的应用:缺乏同情心,俗称 “没人性”。

捕获你的信任

社会工程由精于电话或电子邮件技巧的人发起并执行,并不需要高大上的黑客技术。相反,黑客耍弄的是客服代表或持有所需信息的任何人,骗取双因子身份验证绑定的手机号,或套取有利可图的游戏账户密码之类的信息。FBI 互联网犯罪投诉中心声称,商务邮件入侵 (BEC)——一种流行的社会工程方法,仅 2018 年一年就造成了超过 12 亿美元的损失。

尽管银行和其他高价值实体可能是主要目标,但没人能够免疫此类攻击。一名妇女在黑客成功迫使其无线运营商激活一张新 SIM 卡后,损失了价值 3 万美元的加密货币,因为那张新卡被用于盗取她各类金融账户的双因子身份验证凭证。另一起事件中,Ubiquiti Networks 遭黑客假冒其高级员工,说服其财务部门完成了大笔资金转账,损失了 3,910 万美元。

甚至就连奖励计划这么无伤大雅的东西,都有可能招来恶意黑客的兴趣。公司企业目前通过培训员工,设置员工应该随时遵从的一系列规程,来处理该问题。

但遗憾的是,网络安全链中最弱的一环并不是防火墙,而往往是人本身。客户服务业务中希望取悦对方的那些人。他们往往不照着脚本办事儿,还容易受话术高明的骗子影响。只要黑客声称自己遗失了酒店积分卡,申请再发一张到家中,然后问资料中留的是哪个地址,服务台工作人员可能就为他效劳了。于是,陌生人就掌握了特定客户的私人信息。

切断通路

如果在客服人员之前先遇到的是人工智能,尤其是对话式 AI,那结果可能就完全不一样了。全球比较大的游戏公司之一最先体验了这种方式,决定使用对话式 AI 作为前端聊天代理。该公司以诸多成功视频游戏版本而闻名,部署了 Amelia 接管客户的简单游戏问题。该公司觉得 Amelia 可以减少客户等待问题解决的时间,Amelia 也确实实现了该公司的这一目的。但工作一段时间后,Amelia 还注意到通话者有时候会在没有正确识别信息的情况下索要账户访问权,由此检测出网络钓鱼者。游戏世界中置入了真正的金融功能,绑定了金融账户信息,风险是相当高的。人类客服很容易被诱骗交出账户凭证。Amelia 却绝不会被煽情故事打动。

Amelia 严格遵循公司策略做决策,不会落入社会工程技巧的陷阱。她仅仅想要证明你是你自己宣称的那个人,通过遵照脚本和在遭遇风险行为时引入新的身份验证方法来保证这一点。

初始推出即获成功,至少部分成功。Amelia 解决客户投诉的耗时比人类员工要少,还在此基础之上减少了虚假账户使用,但是客户满意度下降了。消费者怎么会不喜欢可以阻止他们账户信息被盗的 AI 呢?

仔细看过 Amelia 和客户在正常聊天和升级聊天过程中的对话转录后,原因就明朗了。Amelia 严格遵从规程,不让自己被黑客牵着鼻子走,黑客就故意给差评,而游戏公司服务中心则给她好评。

实时才是王道

即使不在客户服务环境中,对话式 AI 也能给威胁评估人员带来竞争优势。高级对话式 AI 不是定期和离线扫描数据或监视威胁,它能够实时分析数据和行为,捕获互动上下文。如果用户想要他的余额,高级对话式 AI 会捕获其正确含义——在基于他所提供的信息验证了其身份之后。由于数据在后端在线处理,前端对话式 AI 能给人一种真实的一对一交流的自然感觉。

AI 能够实时评估对话,具备处理每个威胁评估措辞的能力,是个非常强大的工具。如果可疑客户的表现偏离常规太远而构成风险,对话式 AI 能够识别出来,并且采取恰当的行动。这些行动可能仅仅是增加额外的身份验证步骤那么简单。

如果没有 AI,那可能就只有在对话结束后再审查是否有欺诈的迹象了。那时恶意黑客都可能已经卷款逃走了。但如果是由 AI 而不是由真人来进行对话,AI 就可以观察所有发生的事情,分析每个词,围绕威胁、风险和安全作出实时决策。

占据主导

社会工程跟基于暴力破解算法的软件攻击一样,都是黑客攻击之源。无论攻击的是酒店、游戏发行商,还是其他什么机构,黑客总在搜索可以让他们进入目标网络的信息。但他们无需执行高度复杂的攻击来获取自身所需;他们只需要一个动人的故事,一点点耐心,和一名愿意破例的客服中心工作人员。

通过让对话式 AI 在前端聊天中占据主导,公司企业能够缓解社会工程导致的潜在破坏。这项工作可以,也应该,在对客户干扰尽可能少的情况下实施。事实上,你的客户甚至都不应该会去想对话另一头的人是谁。他们只应该简单地输入查询问题,然后获得自己想要的,再继续其他事项。毕竟,这种便利性不就是我们设想的未来吗?

人工智能 社会工程 网络安全
上一篇:谷歌、苹果、英特尔们的“医疗数据隐私保卫战”:三种AI技术你最倾向哪一个? 下一篇:五大面部识别引擎(文中有彩蛋)
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

人工智能项目:需要注意的七件事

维度R的一份报告显示,十分之八的AI失败了,而96%的AI则在标注,标明和建立模型置信度方面遇到了问题。以下是人工智能项目失败的7个常见原因。

闻数起舞 ·  12h前
2020年第一季度人工智能的最新进展

人工智能曾经只是科幻小说,是计算世界的遥不可及的梦想,如今已成为现实。 人工智能,简称AI,是用来描述机器模拟人类智能的能力。

闻数起舞 ·  17h前
2020年优秀AI软件开发工具

人工智能对软件工程和科技公司的影响不可否认,而且还在不断增加。 有许多组织正在利用这项革命性的技术来创建开箱即用的功能强大的Web和移动应用程序。 无论大小,企业都可以利用AI来提高投资回报率,提高效率并很大程度地降低运营风险。

闻数起舞 ·  17h前
人工智能可以塑造活动产业的未来吗?

活动组织者可以为活动管理引入AI,以使他们的活动更加成功。现场活动是很好的营销方式,也是增强业务与客户关系的优秀方式。根据一项调查,84%的领导者认为活动是其业务成功的关键因素。技术的使用正在改变活动的计划和组织方式。

佚名 ·  2天前
提升城市气质守护宜居环境 AI打通治理闭环

人工智能被一些研究人员称为“21世纪的电力”,认为其几乎可以为万事万物提供动力。而在城市加速发展的当下,人工智能也渐渐成为了新型智慧城市建设的“推动者”和“守望者”。

今夕何夕 ·  2天前
12个场景应用,百余种算法,AI是如何攻占经济学的?

在虚拟世界中模拟现实经济状况,想法设计更好的制度只是AI和经济学结合方式之一。其实深度强化学习在面临风险参数和不确定性不断增加的现实经济问题时,也可以提供更好的性能和更高的精度。

蒋宝尚 ·  3天前
你在打王者农药,有人却用iPhone来训练神经网络

在 iOS 设备上也可以直接训练 LeNet 卷积神经网络,而且性能一点也不差,iPhone 和 iPad 也能化为实实在在的生产力。

佚名 ·  3天前
未来20年,全自动驾驶和互联汽车会出现吗?

在这篇博文中,重点介绍了汽车技术如何使交通更安全、更智能、更有趣。

Huibert Verhoeven ·  3天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载