保护AI时代前的网络安全

阿斯彭会议的启示

2025年夏季阿斯彭美国网络安全小组会议汇集了来自政府、行业和学术界的精英人士。我有幸参加并为会议的一个环节致开幕词，这次会议为讨论数字世界面临的最紧迫挑战提供了重要平台。随着人工智能的快速发展正在重塑网络安全格局，这些对话比以往任何时候都更加重要。

在回顾会议要点时，有三个战略主题最为突出，这些见解将在未来几年从根本上指导我们的网络弹性方法。

我们正处于AI的“前时代”

阿斯彭会议形成了一个核心共识：虽然防御性AI能力目前占据优势，但如果我们在AI方面不继续创新并关注安全设计原则，这可能只是一个短暂的时刻。我们明确处于AI驱动网络冲突的“前时代”。攻击性AI的发展速度非常惊人，这有可能改变力量平衡。

我们正处于一个要求更高的网络战新时代。地缘政治紧张局势加剧、AI的快速采用和远程工作的扩展，使我们的攻击面呈指数级增长。这是一个巨大的转变，要求我们重新思考整个网络安全方法。

我们的Unit 42威胁情报团队一直在进行模拟，让我们得以一窥这个未来。通过利用先进的AI，我们展示了在短短25分钟内执行完整攻击链的能力，从初始访问到数据渗出。这种速度和自动化水平远超人类主导的操作能力，突显了未来决定性优势将属于拥有最复杂AI的一方。

特别关键的是关于攻击者如何不仅自动化旧战术，而且针对我们AI部署基础的见解。我们看到威胁行为者积极攻击内部大型语言模型（LLM）以导航受害组织。攻击者可以使用受损的LLM来理解组织的网络架构，识别敏感数据存储，并制作复杂的社交工程攻击。但我们预计这些能力将进一步自动化和复杂化，甚至针对我们模型训练的数据。这代表着一个新的高风险战场，保护我们的AI基础设施现在已成为组织安全的基本前提。

AI创造新型“内部威胁”

内部威胁的概念历来以恶意或受感染的员工为中心。然而，阿斯彭的讨论强调了一个新的同样危险的类别：自主AI代理。当这些可以在网络中独立运行的代理受到威胁时，它们就成为了一种新型且非常有效的内部威胁形式。

这种新威胁载体正在出现，同时更传统但仍在演变的战术也显著增加：国家行为者使用欺诈性远程工作者身份入侵组织。我们看到这种通常归因于朝鲜团体的战术急剧增加。我们与团队分享的2025年Unit 42全球事件响应报告中的数据令人警醒。2024年，使用这些欺诈角色的国家行为者案例同比增长了两倍。这些团体正在利用生成式AI和深度伪造技术创建合成身份，使其极难检测。

从自主代理到复杂的人类冒充者，这种威胁的混合从根本上挑战了我们现有的安全模型。一旦受到威胁，AI代理就拥有最终的内部访问权限。它理解网络，并能以人类攻击者永远无法达到的速度和效率渗出数据。外部和内部威胁之间的界限正在模糊，迫使我们重新评估零信任原则和身份管理策略。我们必须共同努力保护“人机界面”，即用户与系统交互的关键接触点。

AI技术栈是新的安全框架

在我们应对这些新兴威胁时，对话转向了保护我们AI计划的战略必要性。由Paladin全球研究所创建的关于AI技术栈的报告在与会者中引起了强烈共鸣，特别是在我们Palo Alto Networks。AI技术栈必须成为我们的新安全框架。

仅仅用分散的解决方案追逐每个威胁已经不够了。相反，我们必须以AI为核心进行不懈创新，以保持领先一步。会议提出了一个五层模型，为组织提供了清晰、可操作的路线图。这是一种超越传统安全范式的结构化方法，以应对AI的独特复杂性：

治理层：这是自上而下的战略层，专注于政策、风险管理和法规遵从。它确保AI被道德使用，并设置了明确的防护栏。

应用层：这侧重于保护面向用户的AI应用程序本身，解决如提示注入和数据中毒等威胁。

基础设施层：这涉及保护AI模型运行的底层计算和存储基础设施，无论是在云端还是本地。

模型层：这一层致力于AI模型的完整性，防止模型盗窃、规避攻击并确保可靠输出。

数据层：这是关于保护供给AI系统的数据，包括数据隐私、访问控制和确保数据质量。

这个框架引起了极大兴趣，因为它为CISO和CIO提供了以结构化、全面的方式讨论AI风险的实用指南。

量子计算的地平线

我在讲话中强调的另一个关键关注点是量子计算带来的未来威胁。这不是明天的理论问题；而是现在就必须准备保护长期数据完整性的当务之急。量子计算对当前加密标准构成真正威胁，创造了今天被盗的敏感加密数据一旦量子计算机成熟就可能被解密的风险。这就是为什么Palo Alto Networks专注于后量子密码学研究、解决方案，并帮助客户为这个未来做准备。

集体行动呼吁

我在阿斯彭会议的时间强化了我整个职业生涯中持有的一个基本真理：网络安全是一个集体挑战。威胁正在以前所未有的速度演变，但我们创新和协作的能力也在提高。阿斯彭的讨论是一个重要的提醒：通过跨公共和私营部门分享知识和共同努力，我们可以在AI时代航行，并建立一个更有弹性的数字未来。