Zenity扩展AI安全平台,新增事件智能关联与代理浏览器防护功能
Zenity公司扩展了其AI安全平台,增加了事件关联智能、更广泛的代理浏览器覆盖范围,以及一款用于测试新兴大型语言模型(LLM)操纵技术的新开源工具。
随着组织大规模采用AI代理、AI助手和代理浏览器,安全团队越来越难以理解事件是如何跨身份、工作流和环境展开的。传统的警报机制能提供信号,但无法揭示其背后的“故事”。Zenity的最新进展提供了一种统一的方法,用于在真实的企业环境中实时检测、分析和治理AI行为。
Zenity首席执行官Ben Kliger表示:“通过这次发布,我们为安全团队提供了他们从未有过的东西——对意图的真正可见性。我们新的‘关联代理’不仅能检测信号,还能解读信号。它通过连接Zenity平台在整个代理生命周期中收集和生成的每个信号、数据点和洞察,形成一个连贯的单一叙述,从而理解代理试图做什么。”
Kliger补充道:“这对于AI安全来说是一个游戏规则的改变者,尤其是在组织朝着拥有10亿个代理的目标迈进时。通过将分散的信号转化为高置信度的安全叙事,我们正在消除猜测,加速调查,并为团队提供在大规模安全运营所需的清晰度。”
AI安全调查的新事件智能功能
Zenity的新“问题”功能将态势发现、运行时异常、身份关系和基于图的洞察关联起来,形成高置信度的安全事件。该系统将这些信号统一成连贯的叙述,解释发生了什么、为何发生以及影响了什么。这为安全团队提供了即时可见性,使他们能够开始调查,而无需手动重建事件。
关联代理为团队提供了前所未有的能力——对意图的可见性,这是传统检测无法捕获的关键要素。它解读行为,揭示操纵企图,并解释代理实际在做什么,从而减少猜测并缩短理解事件所需的时间。
扩展对代理浏览器的覆盖
Zenity正在将其AI安全覆盖范围扩展到代理浏览器,首先关注ChatGPT Atlas、Perplexity Comet和Dia。这些工具创造了一个新的“影子AI”来源。它们跨认证会话自主读取内容,并代表用户采取行动,导致安全团队无法区分人类活动和代理活动。这形成了一个高风险面,一封电子邮件、网页或文档中的单个恶意指令就可能导致大规模的数据丢失、凭据滥用或其他破坏性后果。
通过Zenity的设备代理,组织可以发现代理浏览器,监控自主活动,应用数据丢失防护并实时检测由意图驱动的异常。这种覆盖确保了代理浏览行为受到与其他副驾驶和企业AI代理相同的统一策略的治理。通过暴露先前不可见的代理行为并揭示高风险操作,Zenity弥补了传统工具无法解决的信任差距。
开源工具帮助团队降低代理风险
Zenity实验室还发布了一款新的开源工具,该工具基于对LLM的数据结构注入和结构化自我建模攻击的持续研究。该工具名为“安全港”,为代理添加了一个专门的“安全行动”,当代理识别到有害内容(例如工作流、工具调用或非结构化输入)时,可以调用此行动。代理可以立即从不安全的工作流中转向,而不是遵循恶意指令执行到底。这使得开发人员能够在构建过程中降低运行时被利用的风险。
这些新功能帮助组织减少噪音,提高调查深度,并增强对日益增长的代理和AI驱动应用生态系统的可见性。