防御零点击AI威胁：EchoLeak漏洞分析与防护策略
关键要点
- EchoLeak是一种零点击AI漏洞，利用Copilot处理历史上下文数据的功能，在无需用户交互的情况下静默执行隐藏提示。
- 攻击方法依赖于嵌入式不可见提示注入（如HTML注释或白底白字文本），旨在后期劫持生成式AI的解释过程。
- 此事件突显了保护AI模型及其与企业数据（如电子邮件和SaaS平台）交互环境的重要性。
- Trend Vision One™通过AI驱动的邮件和协作安全功能防御此类威胁，利用关联情报检测来转换人类智能、验证邮件意图、分析用户行为并关联可疑信号。
- 针对生成式AI访问控制，Trend Vision One™通过零信任安全访问（ZTSA）保护用户旅程，其AI服务访问功能检查生成式AI提示和响应，防止潜在数据泄漏。
EchoLeak：武器化上下文
EchoLeak（CVE-2025-32711）是Microsoft 365 Copilot中最近发现的一个漏洞，其零点击特性使其更加恶意，意味着攻击成功无需用户交互。它展示了有帮助的系统如何为全新形式的攻击打开大门——无需恶意软件、无需网络钓鱼——只需AI代理的无条件服从。
攻击原理
研究人员能够制作恶意邮件并触发条件绕过安全措施，通过以下方式指示AI助手泄露敏感信息：
- 发送看似无害的邮件，其中包含隐藏在Markdown格式文本中的恶意提示负载。
- 提示使用HTML注释标签或白底白字文本隐藏——对用户不可见，但完全被Copilot引擎解析。
例如：
|
|
当用户提出合法问题时，Copilot的检索增强生成（RAG）引擎检索早期邮件以提供上下文，隐藏提示被当作指令的一部分处理，导致Copilot在响应中泄露敏感数据。
影响：隐秘且广泛的风险
EchoLeak可能导致敏感业务信息的未授权披露。由于Copilot通常从共享资源（如电子邮件、Teams消息和文档）中提取信息，任何历史内容都面临风险。
防护措施
为防御此类基于LLM的威胁，组织建议：
- 在Copilot设置中禁用外部邮件上下文
- 在防火墙或网络层实施AI特定的运行时防护栏
- 限制AI输出中的Markdown渲染以减少提示注入风险
Trend Micro的防护方案
邮件和协作安全
Trend Vision One™邮件和协作安全通过AI驱动的邮件保护主动关闭安全漏洞，在威胁到达用户之前进行阻止。它应用AI驱动的关联情报检测来连接跨邮件和协作威胁的可疑信号。
零信任安全访问
ZTSA - AI服务访问通过以下方式保护生成式AI服务访问：
- 基于用户身份、设备和行为的细粒度访问控制
- 对生成式AI请求的主动监控和政策执行
- AI内容过滤，防止敏感信息提交给或由生成式AI工具返回
- 实时检查生成式AI提示和响应，检测潜在提示注入尝试或敏感数据暴露
行业合作推进AI安全
Trend Micro与OWASP LLM和生成式AI项目前10大风险合作，将深度网络安全专业知识与OWASP可信的社区驱动方法相结合，帮助制定最佳实践和行业标准。
标签: 文章, 新闻, 报告 | 人工智能(AI)