中国支持的黑客利用AI发起首次大规模网络攻击：Anthropic揭露

Anthropic周四表示，它已阻止了其所称的首个主要由AI驱动的大规模网络间谍活动，这凸显了高级智能体正在以多快的速度重塑威胁格局。

在一篇博客文章中，Anthropic表示，一个中国支持的组织使用了其Claude Code（一个在终端中运行的Claude AI版本）发起了入侵行动，其速度和规模是人类黑客无法比拟的。

“这个案例验证了我们在9月底公开分享的内容，“一位Anthropic发言人告诉Decrypt。“我们正处在一个拐点，AI正在显著改变攻击者和防御者的可能性。”

发言人补充说，这次攻击"可能反映了威胁行为者如何在整个前沿AI模型中调整他们的操作，从AI作为顾问转向AI作为操作者。”

“攻击者以前所未有的程度使用了AI的’智能体’能力——不仅使用AI作为顾问，而且使用AI来执行网络攻击本身，“该公司在其帖子中写道。

Anthropic表示，大型科技公司、金融机构、化工制造公司和政府机构成为攻击目标，攻击由一个被公司标记为GTG-1002的组织实施。

攻击过程

根据调查，攻击者通过将工作描述为合法网络安全公司的例行工作，诱使Claude在目标系统内执行技术任务。

一旦模型接受了指令，它就自行执行了入侵生命周期中的大部分步骤。

虽然没有具体说明哪些公司成为目标，但Anthropic表示有30家公司成为目标，其中少数攻击成功了。

报告还记录了被入侵的Claude映射内部网络、定位高价值数据库、生成漏洞利用代码、建立后门账户以及在很少直接监督的情况下提取敏感信息的案例。

这些行动的目标似乎是情报收集，重点是提取用户凭证、系统配置和敏感操作数据，这些是间谍活动中的常见目标。

“我们公开分享这个案例是为了帮助行业、政府和更广泛的研究社区加强他们自己的网络防御，“发言人说。

Anthropic表示，这次AI攻击对"AI智能体时代的网络安全具有重大影响”。

“没有100%避免越狱的修复方法。这将是攻击者和防御者之间持续的斗争，“南加州大学计算机科学教授兼Sahara AI联合创始人Sean Ren告诉Decrypt。“像OpenAI和Anthropic这样的大多数顶级模型公司都投入了主要精力来建立内部红队和AI安全团队，以提高模型免受恶意使用的安全性。”

Ren指出，AI变得更加主流和有能力是使不良行为者能够设计AI驱动的网络攻击的关键因素。

报告称，与早期依赖人类指导的"氛围黑客"攻击不同，攻击者能够使用AI执行80-90%的活动，只需要偶尔进行人为干预。这一次，AI幻觉减轻了危害。

“Claude并不总是完美工作。它偶尔会幻觉出凭证，或者声称提取了实际上是公开可用的秘密信息，“Anthropic写道。“这仍然是完全自主网络攻击的一个障碍。”

Anthropic表示，它已经扩展了检测工具，加强了以网络为重点的分类器，并开始测试新方法以更早地发现自主攻击。该公司还表示，它发布调查结果是为了帮助安全团队、政府和研究人员为AI系统变得更强大时的类似案例做好准备。

Ren表示，虽然AI可能造成巨大损害，但它也可以被用来保护计算机系统：“随着网络攻击的规模和自动化通过AI推进，我们必须利用AI来构建警报和防御系统。”