AI驱动未来的安全愿景

作者：Daniel Kroese
发布日期：2025年7月29日
阅读时间：4分钟
浏览量：279次

标签： AI治理、AI安全、公告、政府、观点、公共部门、AISecure AI

最大化AI驱动未来的机遇是整个社会的当务之急，Palo Alto Networks对白宫最近发布的《AI行动计划》表示赞赏，该计划为实现这一目标提供了路线图。

AI开发和部署正在呈指数级加速，这已不是秘密，它为重新构想我们的数字生活方式带来了无限可能。在Palo Alto Networks，我们一直处于这一转型的前沿。事实上，我们在10年前首次将机器学习功能引入恶意软件防护产品中，目前部署了超过30款利用AI的产品，还有更多正在开发中。

今天，我们正处于全球AI采用的关键转折点。美国政府最新的AI库存数据显示，AI用例同比增长，从710个增加到2133个。我们最近发布的《GenAI状态报告》强调，GenAI流量在过去一年中增长了890%，平均每个组织利用66个GenAI应用程序。

尽管AI工具的积极部署带来了惊人的效率和生产力提升，但这一快速扩展的AI攻击面也引入了新的安全考虑（例如数据投毒和提示注入攻击），必须加以解决。

《AI行动计划》验证了这一现实，因此，我们特别高兴看到以下条款被纳入。

关键条款 — AI行动计划

推广安全设计AI技术和应用

AI系统容易受到某些类型的对抗性输入（例如数据投毒和隐私攻击）的影响，这使其性能面临风险。美国政府有责任确保其依赖的AI系统（特别是国家安全应用）受到保护，免受虚假或恶意输入的影响。尽管在推进AI保障领域已经做了大量工作，但促进弹性和安全的AI开发和部署应成为美国政府的核心活动。

保护商业和政府AI创新

保持美国在AI领域的领导地位需要美国政府与行业密切合作，在传播尖端AI技术与国家安全关切之间取得适当平衡。美国政府还必须有效应对美国AI公司、人才、知识产权和系统面临的安全风险。

加强关键基础设施网络安全

随着AI系统在编码和软件工程能力方面的进步，它们作为网络攻击和防御工具的效用将扩大。保持强大的防御态势对于关键基础设施的所有者尤其重要，其中许多运营者财务资源有限。幸运的是，AI系统本身可以是优秀的防御工具。通过持续采用AI驱动的网络防御工具，关键基础设施提供商可以领先于新兴威胁。然而，在网络和关键基础设施中使用AI会使这些AI系统面临对抗性威胁。所有在安全关键或国土安全应用中使用AI的行为都应涉及使用安全设计、稳健和弹性的AI系统，这些系统应配备检测性能变化和警报潜在恶意活动（如数据投毒或对抗性示例攻击）的功能。

Palo Alto Networks对安全设计AI的承诺

随着AI基础设施的快速部署，Palo Alto Networks致力于领导为这一扩展的攻击面提供无缝和可扩展的安全保护。在企业IT堆栈中的AI应用程序、代理、模型和数据中，安全领导者需要具备以下能力：

• 发现 — 清晰了解整个企业中正在开发的AI资产。
• 评估 — 持续评估AI应用程序、代理、模型和数据集在供应链和运行时的安全、安全和合规风险。
• 保护 — 检测和预防在供应链和运行时发现的风险。

综合来看，这种安全设计AI方法将使公共和私营企业能够勇敢地部署AI，而无需以风险换取创新。我们很高兴最近完成了对AI应用程序和模型安全领导者Protect AI的收购，进一步增强了我们在整个AI生命周期中提供一流安全的能力。

AI创新和安全部署需要人员、流程和技术协同工作。为此，Palo Alto Networks自豪地签署了《美国青年承诺》。在我们网络安全学院的伟大工作领导下，我们正在将AI融入核心课程，并提供动手实践的AI实验室。

我们期待与特朗普政府、世界其他政府和所有相关利益相关者合作，实现我们对AI驱动未来的安全愿景。