趋势科技引领AI安全防护新篇章：MITRE ATLAS框架下的云容器攻击路径研究

自2022年以来，全球安全领导者一直表示其数字攻击面正在失控扩张。如今，随着更多组织采用AI应用和大型语言模型（LLM）来变革业务运营，这些担忧变得更为紧迫。虽然AI能为企业带来变革，但也成为威胁行为者的诱人目标。

趋势科技正引领全球AI安全防护浪潮，通过深度研究分享与社区，并利用自身AI驱动的网络安全平台增强网络风险暴露管理（CREM）。我们最新举措是向世界知名的MITRE ATLAS框架提交新案例研究，有望帮助无数组织提升网络韧性。

趋势科技的案例研究AML.CS0028标志着一个重要里程碑。这是首个记录针对AI基础设施的云和容器攻击路径的ATLAS研究，为防御者提供了关键的新应对手册。自2020年以来，MITRE ATLAS仅接受了31项案例研究，使得这一贡献既罕见又极具影响力。

基于真实场景，该案例研究详细描述了供应链漏洞如何污染AI模型的开发流程，并将攻击的每个阶段映射到ATLAS技术。研究还揭示了支持AI模型的云环境中的系统性风险，为防御者提供了具体见解以更好地保护新兴AI系统。

AI威胁日益增长

据估计，生成式AI（GenAI）每年可为全球经济增加2.6-4.4万亿美元价值。但随着更多组织构建AI基础设施并将该技术嵌入更多关键业务流程，它们也可能以新方式面临敏感数据泄露、勒索和破坏的风险。

我们在过去曾强调这一点，指出向量存储、LLM托管平台和其他开源软件等AI组件中存在无数漏洞和配置错误。组织担心威胁行为者可能窃取训练数据以牟利，污染数据以损害LLM输出和完整性，或窃取模型本身。

在开发AML.CS0028过程中，我们发现了令人不安的趋势：

这一急剧增长反映了一个更广泛的趋势：攻击者日益针对支持AI的基础设施，而不仅仅是AI模型本身。

幸运的是，趋势科技的全球前瞻性威胁研究团队始终在寻找新的威胁行为者战术、技术和程序（TTP）以利用。我们知道得越多，就越能帮助网络防御者增强网络韧性并改进检测、防护和响应工作。

我们已将最新发现提交给MITRE ATLAS。案例研究（AML.CS0028）基于对云中容器托管AI模型的真实数据投毒攻击。作为研究的一部分，我们发现了超过8000个暴露的容器注册表，其中70%允许写入访问，以及1453个也可能被利用的AI模型。

这是首个涉及云和容器基础设施在复杂供应链漏洞中的ATLAS案例研究。自2020年以来，该非营利组织仅接受了31项研究，因此我们很高兴通过此提交为安全社区做出积极贡献。

正如趋势科技专家研究团队的明星阵容所预期的那样，该案例研究在范围和技术深度上均脱颖而出。我们相信其在MITRE ATLAS中的发布将有助于使数字世界更安全，原因如下：

在趋势科技，我们从未忘记网络安全是一项团队运动。这就是为什么我们的威胁研究和产品开发努力不仅用于保护客户，还保护所有技术用户。同样的理念促使我们今年晚些时候创建专门的Pwn2Own AI竞赛，这将有助于揭示一些世界上最流行的AI组件中的新漏洞。

通过MITRE ATLAS，我们有了另一种对全球网络安全格局产生积极影响的方式。