AI系统安全测试的自动化工具

作者: Travis 2021-05-08 09:00:53

 鉴于复杂的网络攻击越来越多,网络安全如今已成为微软的首要问题。正因为如此,微软也在不断更新其安全基础设施,以保护自己免受网络安全的威胁。近日,微软通过发布一个名为 Counterfit 的新工具来解决 AI 系统安全性的问题。

Counterfit 是微软开发的一个开源工具,用于对企业或组织的人工智能系统进行自动化的安全测试。鉴于人工智能系统在各行业中广泛运用,其最终目标是让企业对其人工智能系统的稳健性和可靠性有很高的信心。微软指出,在它调查的 28 个企业/组织中,有 25 个认为他们没有正确的机制来保护人工智能系统,他们的安全专业人员也没有很好地处理针对它们的威胁。

Counterfit 最初是一套可用于攻击 AI 模型的脚本。微软首先在自己的内部测试中使用它,但现在,Counterfit 已经发展成为一个自动化工具,可以大规模地攻击多个 AI 模型。该公司表示,它已经成为微软的人工智能业务的主要工具,可以用它来执行和自动化目前正在开发和生产的人工智能服务的对抗性安全测试。

使用 Counterfit 的好处是它与环境、模型和数据无关。这意味着,它可以在企业内部、边缘和云端使用,以测试任何类型的人工智能模型,这些模型依赖于几乎任何形式的输入数据,包括文本和图像。

微软表示,Counterfit 对于使用 Metasploit 或 PowerShell Empyre 的安全团队来说很容易使用。它可以用于渗透测试和漏洞扫描,它还可以记录对人工智能模型的攻击,因此数据科学家可以利用其遥测技术进一步加强其人工智能系统的安全性。

你可以前往该开源项目的 GitHub 页面:https://github.com/Azure/counterfit,了解更多关于 Counterfit 的信息以及如何在企业中部署它。

AI 工具 人工智能
上一篇:机器学习技术使显微镜变得比以往更好 下一篇:人工智能聊天机器人如何彻底改变保险行业
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

面部识别的利与弊:是福还是祸?

虽然现代技术使面部识别更加精确和安全,但与面部识别隐私问题和监控有关的担忧也在增加。因此,让我们在这篇文章中探讨一下这该技术的利与弊。

Naveen Joshi ·  2021-06-01 16:36:22
人工智能和5G如何结合以实现物联网收入最大化

网络系统通过信令和使用软件以及分析来检测和分类设备非常棘手,并且对有限且日益紧张的网络资源提出了巨大的需求。然而,解决这些问题有一个主要解决方案:采用人工智能、自动化和5G技术。

Jordi Castellvi ·  2021-06-01 13:49:15
MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶

最近, MIT 计算机科学与人工智能实验室(CSAIL)团队成功展示了一种基于机器学习的自动驾驶系统,该端到端框架仅使用 LiDAR获取的原始 3D 点云数据和类似于手机上的低分辨率 GPS 地图就能进行自主导航,并且大大提升了鲁棒性。

文龙 ·  2021-06-01 12:47:51
自然语言处理(NLP)的历史及其发展方向

自然语言处理的历史是一个充满曲折的故事。它从徒劳的研究开始,经过多年卓有成效的工作,最后结束于一个我们仍在试图找出该领域极限的时代。今天,让我们来一起探索这一AI科学分支的发展。

佚名 ·  2021-06-01 12:46:26
是福还是祸?人脸识别技术的利与弊

面部识别并不是一项全新的技术,但人工智能和机器学习不断使面部识别变得更好。苹果通过引入具有 3D 扫描功能的面部生物识别系统和 iPhone 的 Face ID,提高了面部识别的标准。

Naveen Joshi ·  2021-06-01 11:11:01
人工智能能否使机器具有流体智力?

麻省理工学院和奥地利研究人员为灵活的人工智能创造了“液体”机器学习。

千家网 ·  2021-06-01 10:38:55
高真实感、全局一致、外观精细,面向模糊目标的NeRF方案出炉

自 NeRF 被提出后,有多项研究对其加以改进。在本篇论文中,上海科技大学的研究者提出了首个将显式不透明监督和卷积机制结合到神经辐射场框架中以实现高质量外观的方案。

Haimin Luo等 ·  2021-06-01 09:57:39
大脑模拟NLP,高德纳奖得主:神经元集合演算用于句子解析

一个简单的大脑模型为人工智能研究提供了新的方向。世界顶尖计算机科学理论学家、哥德尔奖和高德纳奖获得者、哥伦比亚大学计算机科学教授 Christos Papadimitriou 关于「大脑中单词表征」的演讲。

Ben Dickson ·  2021-06-01 09:39:24
Copyright©2005-2021 51CTO.COM 版权所有 未经许可 请勿转载