AI公司声称阻止了中国国家支持的网络攻击活动
一家领先的人工智能公司声称，其阻止了一场中国支持的“网络间谍”活动，该活动几乎无需人工监督即可渗透金融机构和政府机构。
总部位于美国的Anthropic表示，其编码工具Claude Code在9月份被一个中国国家支持的团体“操纵”，用于攻击全球30个实体，并实现了“少数几次成功的入侵”。
该公司在周四的一篇博客文章中写道，这比其之前监测到的AI赋能攻击有了“显著升级”，因为Claude基本上是独立行动的：攻击中涉及的80%到90%的操作是在没有人工参与的情况下完成的。
文章中写道：“攻击者实现了我们认为是首个有记录的大规模、基本无需人工干预执行的网络攻击案例。”
Anthropic没有明确说明哪些金融机构和政府机构成为目标，或者黑客究竟取得了什么成果——尽管该公司确实表示黑客能够访问其目标的内部数据。
它表示，Claude在执行攻击时犯了许多错误，有时编造关于其目标的事实，或者声称“发现了”可以免费访问的信息。
政策制定者和一些专家表示，这些发现令人不安地表明了某些AI系统的能力已经发展到何种程度：像Claude这样的工具现在能够在较长时期内独立工作。
美国参议员克里斯·墨菲在X上对此发现回应道：“醒醒吧。如果我们不把AI监管作为国家优先事项，这将会摧毁我们——而且比我们想象的更快。”
哈佛大学计算安全研究员弗雷德·海丁表示：“AI系统现在可以执行以前需要熟练人类操作员完成的任务。攻击者造成实际损害变得如此容易。AI公司没有承担足够的责任。”
其他网络安全专家则更为怀疑，他们指出了近年来关于AI驱动的网络攻击的夸大说法——例如2023年的一款AI驱动的“密码破解器”表现并不比传统方法更好——并暗示Anthropic正试图围绕AI制造炒作。
独立网络安全专家米哈尔·沃兹尼亚克表示：“对我来说，Anthropic描述的是花哨的自动化，仅此而已。涉及代码生成，但那不是‘智能’，那只是加了料的复制粘贴。”
沃兹尼亚克表示，Anthropic的发布是在转移人们对一个更大的网络安全问题的注意力：企业和政府将“复杂、未被充分理解”的AI工具集成到其运营中却不了解它们，使其暴露于漏洞之下。他说，真正的威胁是网络犯罪分子本身——以及松懈的网络安全实践。
Anthropic像所有领先的AI公司一样，设有护栏，旨在阻止其模型协助网络攻击或促进伤害。然而，该公司表示，黑客通过告诉Claude扮演一家“合法网络安全公司的员工”进行测试的角色，成功绕过了这些护栏。
沃兹尼亚克说：“Anthropic的估值约为1800亿美元，而他们仍然无法搞清楚如何不让自己的工具被一个13岁孩子想恶作剧电话时使用的策略所颠覆。”
评估AI模型安全性的公司Apollo Research的创始人马吕斯·霍布汉表示，这些攻击是能力增长后可能出现情况的征兆。
“我认为社会对这种AI和网络能力快速变化的格局还没有做好准备。我预计未来几年会发生更多类似事件，很可能带来更大的后果。”