1. 极安网首页
  2. 网络安全新闻

微软MITRE发布了对抗性机器学习威胁矩阵

Microsoft和MITRE与其他十几个组织合作,开发了一个旨在帮助识别,响应和补救针对机器学习(ML)系统的攻击的框架。

微软MITRE发布了对抗性机器学习威胁矩阵-极安网

微软表示,这种攻击在过去四年中显着增加,并且有望继续发展。微软表示,尽管如此,组织仍未适应对抗性机器学习。

实际上,这家技术巨头最近对28个组织进行的一项调查显示,其中大多数组织(25)没有保护机器学习系统所需的必要工具,并且正在明确地寻求指导。

“我们发现,准备工作不仅限于较小的组织。我们与《财富》 500强公司,政府,非营利组织以及中小型组织进行了交谈。”微软说。

微软与MITRE,IBM,NVIDIA,空客,博世,Deep Instinct,两个六实验室,加的夫大学,多伦多大学,普华永道会计师事务所,卡耐基梅隆大学的软件工程学院,以及微软合作发布的对抗性ML威胁矩阵Berryville机器学习学院是一个专注于行业的开放框架,旨在解决这个问题。

该框架提供了有关攻击者在针对ML系统进行攻击时所采用的技术的信息,并且主要针对安全分析人员。像ATT&CK框架一样,“对抗型ML威胁矩阵”基于已观察到的针对生产型ML系统的有效攻击进行了审查。

由于ML算法固有的局限性,针对这些系统的攻击是可能的,并且需要一种新的安全性方法以及对网络攻击者行为进行建模的方式的转变,以确保对新兴威胁向量的准确反映以及快速发展的对抗机器学习攻击生命周期。

“ MITRE在技术复杂的多方利益相关者问题上拥有丰富的经验。[…]要取得成功,我们知道我们需要带动分析人员社区分享真实威胁数据并改善防御的经验。为此,所有组织和分析师都必须确保他们有一个值得信赖的中立党派,他们可以汇总这些现实事件并保持一定程度的隐私,而在MITRE中则具有这种水平。” MITRE Labs的副总裁兼总经理表示。

新发布的框架是首次尝试创建基于ML系统的攻击方式的知识库,而合作公司将使用从安全和机器学习社区收到的输入来对其进行修改。因此,鼓励业界帮助填补空白,并参与此Google组中的讨论。

“这项工作针对安全分析师和更广泛的安全社区:矩阵和案例研究旨在帮助制定保护和检测策略;该框架为ML系统注入了攻击,因此他们可以在组织中认真进行类似的练习并验证监视策略。”

原创文章,作者: Admin ,转载请注明出处:https://secvery.com/3161.html