保护AI应用每一层的安全
根据公告内容,某安全机构将把Pangea的技术能力整合到Falcon平台中,将安全防护范围从传统的基础设施和终端保护扩展到AI交互层。虽然Falcon平台已经具备保护AI环境和防止云工作负载数据泄露的功能,但Pangea的加入为企业内部构建和使用AI的交互层提供了额外的安全覆盖。
某安全机构联合创始人兼首席执行官指出,随着AI应用加速普及,每次提示都可能成为攻击者的入口点。AI检测与响应系统将实施安全措施,确保AI部署过程中的合规性和安全性。
Pangea的专项防护技术
Pangea带来多项针对性防御能力:
- 提示注入防御:保护AI系统免受恶意提示和越狱尝试的攻击,据称有效性高达99%,并具备近实时响应能力
- 治理控制:通过监控对话、标记风险活动和执行合规策略,让组织能够监督AI工具的使用情况
- 安全设计开发:提供框架和防护栏,使开发人员能够从一开始就将安全性嵌入AI应用程序,而不是在部署后添加
Pangea首席执行官兼创始人表示,公司成立的初衷就是让AI应用变得安全可靠,加入某安全机构将有助于在全球范围内实现这一愿景。
不断变化的AI安全格局
此次收购反映了网络安全行业应对AI应用带来的扩展攻击面的广泛努力。随着组织为员工和面向客户的应用程序部署生成式AI工具,攻击者越来越多地探测提示、数据处理和模型完整性方面的弱点。
该收购也表明了一个整合趋势,即成熟的安全厂商通过吸收专业AI安全公司来保持对不断演变威胁的领先优势。Pangea整合到Falcon平台后,将使某安全机构与正在构建或收购AI原生防御能力的同行处于同等地位。