保护人工智能时代的网络安全

阿斯彭会议的启示

2025年夏季阿斯彭美国网络安全小组会议汇集了来自政府、行业和学术界的精英人士。我有幸参加并在会议上致开幕词，这次会议为讨论数字世界面临的最紧迫挑战提供了重要平台。随着人工智能的快速发展重塑网络安全格局，这些对话比以往任何时候都更加重要。

在反思会议要点时，三个战略主题产生了强烈共鸣，这些见解将在未来几年从根本上指导我们的网络弹性方法。

我们正处于AI的"前时代"

阿斯彭会议形成了一个核心共识：虽然防御性AI能力目前占据优势，但如果我们在AI方面不继续创新并专注于安全设计原则，这可能只是一个短暂的时刻。我们明确处于AI驱动网络冲突的"前时代"。攻击性AI的发展速度非常惊人，这有可能改变力量平衡。

我们正处于网络战的新要求时代。地缘政治紧张局势加剧、AI的快速采用以及远程工作的扩展，使我们的攻击面呈指数级增长。这是一个巨大的转变，要求我们重新思考网络安全的整体方法。

我们的Unit 42威胁情报团队一直在进行模拟，让我们得以一窥这个未来。通过利用先进的AI，我们展示了在短短25分钟内执行完整攻击链的能力，从初始访问到数据泄露。这种速度和自动化水平远远超过了人类主导行动的能力，突显了未来决定性优势将属于拥有最复杂AI的一方。

攻击者不仅仅是在自动化旧战术，而是在针对我们AI部署的基础。我们看到威胁行为者积极针对内部大型语言模型来导航受害组织。攻击者可以使用受损的LLM来理解组织的网络架构，识别敏感数据存储，并制作复杂的社交工程攻击。但我们预计这些能力将进一步自动化和复杂化，甚至针对我们模型训练的数据。这代表着一个新的高风险战场，保护我们的AI基础设施现在是组织安全的基本前提。

AI创造新型"内部威胁"

内部威胁的概念历来集中在恶意或受感染的员工身上。然而，阿斯彭的讨论强调了一个新的同等危险的类别：自主AI代理。当这些可以在网络内独立运行的代理受到威胁时，它们就成为了一种新颖且高效的内部威胁形式。

这种新威胁载体正在出现，同时更传统但仍在演变的战术也显著增加：国家行为者使用欺诈性远程工作者身份入侵组织。我们看到这种通常归因于朝鲜团体的战术急剧增加。我们与团队分享的2025年Unit 42全球事件响应报告中的数据令人警醒。2024年，国家行为者使用这些欺诈角色的案例同比增长了两倍。这些团体正在利用生成式AI和深度伪造技术创建合成身份，使其极难检测。

从自主代理到复杂的人类冒充者，这种威胁的混合从根本上挑战了我们现有的安全模型。一旦受损，AI代理就拥有最终的内部访问权限。它了解网络，并能以人类攻击者无法达到的速度和效率泄露数据。外部和内部威胁之间的界限正在模糊，迫使我们重新评估零信任原则和身份管理策略。我们必须共同努力保护"人机界面"，即用户与系统交互的关键接触点。

AI技术栈成为新的安全框架

在我们应对这些新兴威胁时，对话转向了保护AI计划的战略必要性。Paladin Global Institute创建的关于AI技术栈的报告在与会者中引起了强烈共鸣，尤其是在我们Palo Alto Networks。AI技术栈必须成为我们的新安全框架。

仅仅用分散的解决方案追逐威胁已经不够了。相反，我们必须以AI为核心进行不懈创新，以保持领先一步。会议提出了一个五层模型，为组织提供了清晰、可操作的路线图。这是一种超越传统安全范式的结构化方法，以应对AI的独特复杂性：

治理层：这是自上而下的战略层，专注于政策、风险管理和法规遵从。它确保AI被合乎道德地使用，并设置了明确的防护栏。

应用层：这侧重于保护面向用户的AI应用程序本身，应对如提示注入和数据投毒等威胁。

基础设施层：这涉及保护AI模型运行的底层计算和存储基础设施，无论是在云端还是本地。

模型层：这一层致力于AI模型的完整性，防止模型盗窃、规避攻击并确保可靠的输出。

数据层：这是关于保护为AI系统提供数据的安全性，包括数据隐私、访问控制和确保数据质量。

这个框架引起了极大兴趣，因为它为CISO和CIO提供了以结构化、全面的方式讨论AI风险的实用指南。

量子计算的地平线

我在讲话中强调的另一个关键关切是量子计算带来的未来威胁。这不是明天的理论问题；而是现在就必须准备保护长期数据完整性的当务之急。量子计算对当前加密标准构成真实威胁，创造了今天被盗的敏感加密数据可能在量子计算机成熟后被解密的风险。这就是为什么Palo Alto Networks专注于后量子密码学研究、解决方案，并帮助客户为这个未来做准备。

集体行动呼吁

我在阿斯彭会议的时间强化了我整个职业生涯中持有的基本真理：网络安全是一个集体挑战。威胁正在以前所未有的速度演变，但我们创新和协作的能力也在同步发展。阿斯彭的讨论是一个重要提醒：通过分享知识和跨公共和私营部门合作，我们可以在AI时代航行，并建立更有弹性的数字未来。