构建安全可信的AI驱动未来

作者：Daniel Kroese
发布日期：2025年7月29日
阅读时间：4分钟

AI治理与安全愿景

最大化AI驱动未来的机遇是全社会的当务之急。Palo Alto Networks赞赏白宫近期发布的《AI行动计划》为此提供了实施路线图。

AI开发和部署正在呈指数级加速，为重塑数字生活方式带来无限可能。Palo Alto Networks始终处于这场变革的前沿——事实上，我们在10年前就将机器学习能力引入恶意软件防护方案，目前部署了30多个采用AI的产品，还有更多正在开发中。

关键数据与安全挑战

当前全球AI应用正处于关键转折点。美国政府最新AI库存数据显示，AI用例从710个同比增长至2133个。我们发布的《生成式AI现状报告》强调，去年生成式AI流量增长890%，平均每个组织使用66个生成式AI应用。

虽然AI工具的积极部署带来了显著的效率和生产力提升，但快速扩张的AI攻击面也引入了必须应对的新型安全考量（例如数据投毒和提示注入攻击）。

《AI行动计划》核心技术条款

1. 推广安全设计的AI技术与应用

AI系统容易受到特定类型的对抗性输入（如数据投毒和隐私攻击），这会危及系统性能。美国政府有责任确保其依赖的AI系统（特别是国家安全应用）受到保护，免受虚假或恶意输入影响。尽管在AI保障领域已取得进展，促进弹性和安全的AI开发与部署应成为美国政府的核心工作。

2. 保护商业和政府AI创新

保持美国在AI领域的领导地位需要政府与行业密切合作，在尖端AI技术传播与国家安全关切之间取得适当平衡。美国政府还必须有效应对美国AI公司、人才、知识产权和系统面临的安全风险。

3. 加强关键基础设施网络安全

随着AI系统在编码和软件工程能力方面的进步，其作为网络攻防工具的效用将不断扩大。保持强大的防御态势对关键基础设施所有者尤为重要，其中许多运营商资金有限。幸运的是，AI系统本身可以成为优秀的防御工具。通过持续采用AI驱动的网络防御工具，关键基础设施提供商能够领先于新兴威胁。然而，在网络和关键基础设施中使用AI会使这些系统面临对抗性威胁。所有在安全关键或国土安全应用中的AI使用都应采用安全设计、稳健且具有弹性的AI系统，这些系统应配备检测性能偏移的机制，并能预警潜在恶意活动（如数据投毒或对抗样本攻击）。

Palo Alto Networks的安全设计承诺

随着AI基础设施的快速部署，Palo Alto Networks致力于领导为这一不断扩大的攻击面提供无缝且可扩展的安全防护。针对企业IT堆栈中的AI应用、代理、模型和数据，安全领导者需要具备以下能力：

• 发现：清晰了解整个企业正在开发的AI资产
• 评估：持续评估AI应用、代理、模型和数据集在整个供应链和运行时的安全、安全性与合规风险
• 防护：检测并预防在供应链和运行时发现的风险

这种"安全设计"方法将使公共和私营企业能够勇敢部署AI，而无需以风险换取创新。我们很高兴最近完成了对AI应用和模型安全领导者Protect AI的收购，进一步增强了我们在整个AI生命周期提供一流安全的能力。

人才与技术协同创新

AI创新和安全部署需要人员、流程和技术的协同工作。为此，Palo Alto Networks自豪地签署了《美国青年承诺书》。在我们的网络安全学院优秀工作的引领下，我们正在将AI融入核心课程，并提供实践性的AI实战实验室。

我们期待与特朗普政府、世界各国政府以及所有相关利益攸关方合作，共同实现我们对AI驱动未来的安全愿景。

相关标签：AI治理、AI安全、公告、政府、观点、公共部门