毫无人性!人工智能才是社会工程的克星

作者: 佚名 2020-01-02 14:57:32

 我们仍处于人工智能 (AI) 的早期阶段,但 AI 正快速成为企业防御自身的关键方法。利用高级算法,企业可以改善事件响应,监视潜在威胁,识别威胁信号。但 AI 的一个重要优势被忽略了,人工智能可以发现人类分析师容易忽视的漏洞。

很多公司企业都尚未发挥 AI 在网络防御中最为重要的应用:缺乏同情心,俗称 “没人性”。

捕获你的信任

社会工程由精于电话或电子邮件技巧的人发起并执行,并不需要高大上的黑客技术。相反,黑客耍弄的是客服代表或持有所需信息的任何人,骗取双因子身份验证绑定的手机号,或套取有利可图的游戏账户密码之类的信息。FBI 互联网犯罪投诉中心声称,商务邮件入侵 (BEC)——一种流行的社会工程方法,仅 2018 年一年就造成了超过 12 亿美元的损失。

尽管银行和其他高价值实体可能是主要目标,但没人能够免疫此类攻击。一名妇女在黑客成功迫使其无线运营商激活一张新 SIM 卡后,损失了价值 3 万美元的加密货币,因为那张新卡被用于盗取她各类金融账户的双因子身份验证凭证。另一起事件中,Ubiquiti Networks 遭黑客假冒其高级员工,说服其财务部门完成了大笔资金转账,损失了 3,910 万美元。

甚至就连奖励计划这么无伤大雅的东西,都有可能招来恶意黑客的兴趣。公司企业目前通过培训员工,设置员工应该随时遵从的一系列规程,来处理该问题。

但遗憾的是,网络安全链中最弱的一环并不是防火墙,而往往是人本身。客户服务业务中希望取悦对方的那些人。他们往往不照着脚本办事儿,还容易受话术高明的骗子影响。只要黑客声称自己遗失了酒店积分卡,申请再发一张到家中,然后问资料中留的是哪个地址,服务台工作人员可能就为他效劳了。于是,陌生人就掌握了特定客户的私人信息。

切断通路

如果在客服人员之前先遇到的是人工智能,尤其是对话式 AI,那结果可能就完全不一样了。全球比较大的游戏公司之一最先体验了这种方式,决定使用对话式 AI 作为前端聊天代理。该公司以诸多成功视频游戏版本而闻名,部署了 Amelia 接管客户的简单游戏问题。该公司觉得 Amelia 可以减少客户等待问题解决的时间,Amelia 也确实实现了该公司的这一目的。但工作一段时间后,Amelia 还注意到通话者有时候会在没有正确识别信息的情况下索要账户访问权,由此检测出网络钓鱼者。游戏世界中置入了真正的金融功能,绑定了金融账户信息,风险是相当高的。人类客服很容易被诱骗交出账户凭证。Amelia 却绝不会被煽情故事打动。

Amelia 严格遵循公司策略做决策,不会落入社会工程技巧的陷阱。她仅仅想要证明你是你自己宣称的那个人,通过遵照脚本和在遭遇风险行为时引入新的身份验证方法来保证这一点。

初始推出即获成功,至少部分成功。Amelia 解决客户投诉的耗时比人类员工要少,还在此基础之上减少了虚假账户使用,但是客户满意度下降了。消费者怎么会不喜欢可以阻止他们账户信息被盗的 AI 呢?

仔细看过 Amelia 和客户在正常聊天和升级聊天过程中的对话转录后,原因就明朗了。Amelia 严格遵从规程,不让自己被黑客牵着鼻子走,黑客就故意给差评,而游戏公司服务中心则给她好评。

实时才是王道

即使不在客户服务环境中,对话式 AI 也能给威胁评估人员带来竞争优势。高级对话式 AI 不是定期和离线扫描数据或监视威胁,它能够实时分析数据和行为,捕获互动上下文。如果用户想要他的余额,高级对话式 AI 会捕获其正确含义——在基于他所提供的信息验证了其身份之后。由于数据在后端在线处理,前端对话式 AI 能给人一种真实的一对一交流的自然感觉。

AI 能够实时评估对话,具备处理每个威胁评估措辞的能力,是个非常强大的工具。如果可疑客户的表现偏离常规太远而构成风险,对话式 AI 能够识别出来,并且采取恰当的行动。这些行动可能仅仅是增加额外的身份验证步骤那么简单。

如果没有 AI,那可能就只有在对话结束后再审查是否有欺诈的迹象了。那时恶意黑客都可能已经卷款逃走了。但如果是由 AI 而不是由真人来进行对话,AI 就可以观察所有发生的事情,分析每个词,围绕威胁、风险和安全作出实时决策。

占据主导

社会工程跟基于暴力破解算法的软件攻击一样,都是黑客攻击之源。无论攻击的是酒店、游戏发行商,还是其他什么机构,黑客总在搜索可以让他们进入目标网络的信息。但他们无需执行高度复杂的攻击来获取自身所需;他们只需要一个动人的故事,一点点耐心,和一名愿意破例的客服中心工作人员。

通过让对话式 AI 在前端聊天中占据主导,公司企业能够缓解社会工程导致的潜在破坏。这项工作可以,也应该,在对客户干扰尽可能少的情况下实施。事实上,你的客户甚至都不应该会去想对话另一头的人是谁。他们只应该简单地输入查询问题,然后获得自己想要的,再继续其他事项。毕竟,这种便利性不就是我们设想的未来吗?

人工智能 社会工程 网络安全
上一篇:谷歌、苹果、英特尔们的“医疗数据隐私保卫战”:三种AI技术你最倾向哪一个? 下一篇:五大面部识别引擎(文中有彩蛋)
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

面部识别的利与弊:是福还是祸?

虽然现代技术使面部识别更加精确和安全,但与面部识别隐私问题和监控有关的担忧也在增加。因此,让我们在这篇文章中探讨一下这该技术的利与弊。

Naveen Joshi ·  2021-06-01 16:36:22
人工智能和5G如何结合以实现物联网收入最大化

网络系统通过信令和使用软件以及分析来检测和分类设备非常棘手,并且对有限且日益紧张的网络资源提出了巨大的需求。然而,解决这些问题有一个主要解决方案:采用人工智能、自动化和5G技术。

Jordi Castellvi ·  2021-06-01 13:49:15
MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶

最近, MIT 计算机科学与人工智能实验室(CSAIL)团队成功展示了一种基于机器学习的自动驾驶系统,该端到端框架仅使用 LiDAR获取的原始 3D 点云数据和类似于手机上的低分辨率 GPS 地图就能进行自主导航,并且大大提升了鲁棒性。

文龙 ·  2021-06-01 12:47:51
自然语言处理(NLP)的历史及其发展方向

自然语言处理的历史是一个充满曲折的故事。它从徒劳的研究开始,经过多年卓有成效的工作,最后结束于一个我们仍在试图找出该领域极限的时代。今天,让我们来一起探索这一AI科学分支的发展。

佚名 ·  2021-06-01 12:46:26
是福还是祸?人脸识别技术的利与弊

面部识别并不是一项全新的技术,但人工智能和机器学习不断使面部识别变得更好。苹果通过引入具有 3D 扫描功能的面部生物识别系统和 iPhone 的 Face ID,提高了面部识别的标准。

Naveen Joshi ·  2021-06-01 11:11:01
人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
美城市Baltimore可能颁布最严格的面部识别禁令

据介绍,拟议的法令将禁止私人或商业组织,甚至执法机构在城市使用面部识别技术。

千家网 ·  2021-06-01 09:34:07
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载