毫无人性!人工智能才是社会工程的克星

作者: 佚名 2020-01-02 14:57:32

 我们仍处于人工智能 (AI) 的早期阶段,但 AI 正快速成为企业防御自身的关键方法。利用高级算法,企业可以改善事件响应,监视潜在威胁,识别威胁信号。但 AI 的一个重要优势被忽略了,人工智能可以发现人类分析师容易忽视的漏洞。

很多公司企业都尚未发挥 AI 在网络防御中最为重要的应用:缺乏同情心,俗称 “没人性”。

捕获你的信任

社会工程由精于电话或电子邮件技巧的人发起并执行,并不需要高大上的黑客技术。相反,黑客耍弄的是客服代表或持有所需信息的任何人,骗取双因子身份验证绑定的手机号,或套取有利可图的游戏账户密码之类的信息。FBI 互联网犯罪投诉中心声称,商务邮件入侵 (BEC)——一种流行的社会工程方法,仅 2018 年一年就造成了超过 12 亿美元的损失。

尽管银行和其他高价值实体可能是主要目标,但没人能够免疫此类攻击。一名妇女在黑客成功迫使其无线运营商激活一张新 SIM 卡后,损失了价值 3 万美元的加密货币,因为那张新卡被用于盗取她各类金融账户的双因子身份验证凭证。另一起事件中,Ubiquiti Networks 遭黑客假冒其高级员工,说服其财务部门完成了大笔资金转账,损失了 3,910 万美元。

甚至就连奖励计划这么无伤大雅的东西,都有可能招来恶意黑客的兴趣。公司企业目前通过培训员工,设置员工应该随时遵从的一系列规程,来处理该问题。

但遗憾的是,网络安全链中最弱的一环并不是防火墙,而往往是人本身。客户服务业务中希望取悦对方的那些人。他们往往不照着脚本办事儿,还容易受话术高明的骗子影响。只要黑客声称自己遗失了酒店积分卡,申请再发一张到家中,然后问资料中留的是哪个地址,服务台工作人员可能就为他效劳了。于是,陌生人就掌握了特定客户的私人信息。

切断通路

如果在客服人员之前先遇到的是人工智能,尤其是对话式 AI,那结果可能就完全不一样了。全球比较大的游戏公司之一最先体验了这种方式,决定使用对话式 AI 作为前端聊天代理。该公司以诸多成功视频游戏版本而闻名,部署了 Amelia 接管客户的简单游戏问题。该公司觉得 Amelia 可以减少客户等待问题解决的时间,Amelia 也确实实现了该公司的这一目的。但工作一段时间后,Amelia 还注意到通话者有时候会在没有正确识别信息的情况下索要账户访问权,由此检测出网络钓鱼者。游戏世界中置入了真正的金融功能,绑定了金融账户信息,风险是相当高的。人类客服很容易被诱骗交出账户凭证。Amelia 却绝不会被煽情故事打动。

Amelia 严格遵循公司策略做决策,不会落入社会工程技巧的陷阱。她仅仅想要证明你是你自己宣称的那个人,通过遵照脚本和在遭遇风险行为时引入新的身份验证方法来保证这一点。

初始推出即获成功,至少部分成功。Amelia 解决客户投诉的耗时比人类员工要少,还在此基础之上减少了虚假账户使用,但是客户满意度下降了。消费者怎么会不喜欢可以阻止他们账户信息被盗的 AI 呢?

仔细看过 Amelia 和客户在正常聊天和升级聊天过程中的对话转录后,原因就明朗了。Amelia 严格遵从规程,不让自己被黑客牵着鼻子走,黑客就故意给差评,而游戏公司服务中心则给她好评。

实时才是王道

即使不在客户服务环境中,对话式 AI 也能给威胁评估人员带来竞争优势。高级对话式 AI 不是定期和离线扫描数据或监视威胁,它能够实时分析数据和行为,捕获互动上下文。如果用户想要他的余额,高级对话式 AI 会捕获其正确含义——在基于他所提供的信息验证了其身份之后。由于数据在后端在线处理,前端对话式 AI 能给人一种真实的一对一交流的自然感觉。

AI 能够实时评估对话,具备处理每个威胁评估措辞的能力,是个非常强大的工具。如果可疑客户的表现偏离常规太远而构成风险,对话式 AI 能够识别出来,并且采取恰当的行动。这些行动可能仅仅是增加额外的身份验证步骤那么简单。

如果没有 AI,那可能就只有在对话结束后再审查是否有欺诈的迹象了。那时恶意黑客都可能已经卷款逃走了。但如果是由 AI 而不是由真人来进行对话,AI 就可以观察所有发生的事情,分析每个词,围绕威胁、风险和安全作出实时决策。

占据主导

社会工程跟基于暴力破解算法的软件攻击一样,都是黑客攻击之源。无论攻击的是酒店、游戏发行商,还是其他什么机构,黑客总在搜索可以让他们进入目标网络的信息。但他们无需执行高度复杂的攻击来获取自身所需;他们只需要一个动人的故事,一点点耐心,和一名愿意破例的客服中心工作人员。

通过让对话式 AI 在前端聊天中占据主导,公司企业能够缓解社会工程导致的潜在破坏。这项工作可以,也应该,在对客户干扰尽可能少的情况下实施。事实上,你的客户甚至都不应该会去想对话另一头的人是谁。他们只应该简单地输入查询问题,然后获得自己想要的,再继续其他事项。毕竟,这种便利性不就是我们设想的未来吗?

人工智能 社会工程 网络安全
上一篇:谷歌、苹果、英特尔们的“医疗数据隐私保卫战”:三种AI技术你最倾向哪一个? 下一篇:五大面部识别引擎(文中有彩蛋)
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

如何避免又一个AI寒冬?

尽管过去几年中,人工智能取得了长足的进步,但相信很多人都还记得20世纪90年代,由于开发者过分夸大承诺以及最终用户不切合实际的期望所导致的AI寒冬。

佚名 ·  1天前
研究型AI面试怎么过?Reddit网友谷歌面试经验分享

大多数学生在求职前,都会经历实习的过程,那么面试就必不可少。

十三 ·  1天前
算法攻破人脸识别「口罩」难题,两天落地千人小区准确率达97% | AI 战疫

日益成熟的人工智能,正成为抗击新冠肺炎疫情战线上一群特别的「逆行者」。

Synced ·  1天前
中美领军全球AI竞赛,人工智能被高估了么?

不久前,谷歌前CEO施密特在出席众议院科学、太空和技术委员会的听证会时表示,美国可能在五到十年后失去在AI方面的领先地位,中国正在努力超越美国。

读芯术 ·  1天前
当下,中国智能机器人发展到底如何?

《中国机器人产业发展报告(2019年)》报告指出,目前,中国机器人研发仍以突破机器人关键核心技术为首要目标,产学研用通力配合,初步实现控制器国产化。并将突破机器人关键核心技术作为科技发展重要战略,中国厂商攻克了减速机、伺服控制、伺服电机等关键核心零部件领域部分难题。因此,核心零部件国产化趋势逐渐显现。

珍珍 ·  1天前
人工智能的未来及对ERP系统的四个新要求

在未来五年内,人工智能将对企业及其商业模式产生重大影响。调研机构普华永道公司第22届全球首席执行官年度调查表明,85%的首席执行官对此深信不疑。但是,33%的首席执行官表示,他们有限地采用人工智能,而且不到十分之一的首席执行官表示正在广泛使用人工智能,人工智能的应用范围迄今仍然受到限制。

Andy Coussins ·  1天前
波士顿机器人火爆全网后,又一个类人机器人登场

十几年前,德黑兰大学的研究人员就介绍了一种名为Surena的基本人形机器人,不久后,又推出了一种改进的可行走模型Surena II,随后在2015年推出了性能更强大的 Surena III。

中国机器人网 ·  1天前
高效的机器学习研究者,应该具备这 6 个习惯

一名优秀的机器学习研究员有哪些特质?是码力超强?还是理论功底一骑绝尘?码力和理论固然重要,但是良好的习惯才应该是检验是否优秀的唯一标准。

AI科技评论 ·  1天前
Copyright©2005-2020 51CTO.COM 版权所有 未经许可 请勿转载