保护AI时代前夜

2025年夏季阿斯彭美国网络安全小组会议汇集了政府、行业和学术界的精英。我有幸参加并为会议的一个环节致开幕词，该会议为讨论数字世界面临的最紧迫挑战提供了重要平台。随着人工智能的快速发展重塑网络安全格局，这些对话比以往任何时候都更加重要。

在反思会议要点时，三个战略主题引起了最强烈的共鸣，这些见解将在未来几年从根本上指导我们的网络弹性方法。

我们正处于AI"时代前夜"

阿斯彭会议形成了一个核心共识：虽然防御性AI能力目前占据优势，但如果我们在AI方面不继续创新并专注于安全设计原则，这可能只是一个短暂的时刻。我们明确处于AI驱动网络冲突的"前夜"。攻击性AI的发展速度非常惊人，这有可能改变力量平衡。

我们正处于一个要求更高的网络战新时代。地缘政治紧张局势加剧、AI的快速采用和远程工作的扩展使我们的攻击面呈指数级增长。这是一个巨大的转变，需要我们重新思考网络安全的整体方法。

我们的Unit 42威胁情报团队一直在进行模拟，让我们得以一窥这个未来。通过利用先进的AI，我们展示了在短短25分钟内执行从初始访问到数据渗漏的完整攻击链的能力。这种速度和自动化水平远远超过了人类主导的行动能力，突显了未来决定性优势将属于拥有最复杂AI的一方。

我认为特别关键的是关于攻击者不仅自动化旧战术，而且针对我们AI部署基础的见解。我们看到威胁行为者积极攻击内部大型语言模型以导航受害组织。攻击者可以使用受损的LLM来理解组织的网络架构，识别敏感数据存储，并制作复杂的社交工程攻击。但我们预计这些能力将进一步自动化和复杂化，甚至针对我们模型训练的数据。这代表了一个新的高风险战场，保护AI基础设施现在已成为组织安全的基本前提。

AI创造新型"内部威胁"

内部威胁的概念历来以恶意或受感染的员工为中心。然而，阿斯彭的讨论强调了一个新的同样危险的类别：自主AI代理。当这些可以在网络中独立运行的代理受到威胁时，它们就成为了一种新颖且高效的内部威胁形式。

这种新威胁载体正在出现，同时更传统但仍在演变的战术显著增加：国家行为者使用欺诈性远程工作者身份入侵组织。我们看到这种通常归因于朝鲜团体的战术急剧增加。我们与团队分享的2025年Unit 42全球事件响应报告中的数据令人警醒。2024年，使用这些欺诈角色的国家行为者案例同比增长了两倍。这些团体正在利用生成式AI和深度伪造技术创建合成身份，使其极难检测。

从自主代理到复杂的人类冒充者，这种威胁的混合从根本上挑战了我们现有的安全模型。一旦受到威胁，AI代理就拥有最终的内部访问权限。它了解网络，并能以人类攻击者永远无法达到的速度和效率渗漏数据。外部和内部威胁之间的界限正在模糊，迫使我们重新评估零信任原则和身份管理策略。我们必须共同努力保护"人机界面"，即用户与系统交互的关键接触点。

AI技术堆栈是新的安全框架

当我们应对这些新兴威胁时，对话转向了保护AI计划的战略必要性。Paladin Global Institute创建的关于AI技术堆栈的报告在与会者中引起了强烈共鸣，特别是在我们Palo Alto Networks。AI技术堆栈必须成为我们的新安全框架。

仅仅用分散的解决方案追逐每个威胁已经不够了。相反，我们必须以AI为核心进行不懈创新，以保持领先一步。会议提出了一个五层模型，为组织提供了清晰、可操作的路线图。这是一种超越传统安全范式以应对AI独特复杂性的结构化方法：

治理层：这是自上而下的战略层，专注于政策、风险管理和法规遵从。它确保AI被合乎道德地使用，并设置了明确的防护栏。

应用层：这侧重于保护面向用户的AI应用程序本身，应对如提示注入和数据中毒等威胁。

基础设施层：这涉及保护运行AI模型的基础计算和存储基础设施，无论是在云端还是在本地。

模型层：此层致力于AI模型的完整性，防止模型盗窃、规避攻击并确保可靠的输出。

数据层：这是关于保护为AI系统提供数据的安全性，包括数据隐私、访问控制和确保数据质量。

该框架引起了极大兴趣，因为它为CISO和CIO以结构化、全面的方式讨论AI风险提供了实用指南。

量子地平线

我在讲话中强调的另一个关键关切是量子计算带来的未来威胁。这不是明天的理论问题；而是现在就必须准备保护长期数据完整性的当务之急。量子计算对当前加密标准构成真实威胁，创造了今天被盗的敏感加密数据可能在量子计算机成熟后被解密的风险。这就是为什么Palo Alto Networks专注于后量子密码学研究、解决方案，并帮助客户为这个未来做准备。

集体行动呼吁

我在阿斯彭会议的时间强化了我整个职业生涯中持有的基本真理：网络安全是一个集体挑战。威胁正在以前所未有的速度演变，但我们创新和协作的能力也在同步发展。阿斯彭的讨论是一个重要提醒：通过跨公共和私营部门分享知识和共同努力，我们可以驾驭AI时代，建设更具弹性的数字未来。