趋势科技Cybertron利用NVIDIA通用LLM NIM微服务实现安全AI推理

本文详细介绍了趋势科技如何利用NVIDIA通用LLM NIM微服务部署其Cybertron网络安全大语言模型,实现快速部署、灵活后端支持和数据主权合规,提升AI驱动的网络安全解决方案的性能和安全性。

趋势科技Cybertron利用NVIDIA通用LLM NIM微服务

在NVIDIA GTC巴黎2025大会上,NVIDIA宣布扩展NVIDIA NIM对广泛大语言模型(LLM)的支持,通过新的通用LLM NIM微服务实现快速可靠的部署。该微服务旨在将部署与后端优化解耦,为企业提供了前所未有的灵活性、速度和可扩展性。

对于趋势科技这一全球网络安全领导者(已集成到NVIDIA企业AI工厂验证设计生态系统中),这一创新是一个战略催化剂。它使我们能够将Trend Cybertron主动网络安全LLM——一个基于多年风险情报、遥测和对抗战术训练的领域特定语言模型——以前所未有的性能和便捷性投入生产环境。这标志着我们在提供基于最先进基础设施的安全、可扩展AI驱动网络安全解决方案方面取得了重要里程碑。

本博客探讨了通用LLM NIM微服务容器、它对安全AI开发的重要性,以及趋势科技如何利用它重新定义主权AI时代的网络安全。

Trend Cybertron与通用LLM NIM微服务的结合

在趋势科技,我们大力投资开发专为网络安全定制的专有Trend Cybertron LLM——这些模型能够理解安全语言,涵盖从MITRE ATT&CK技术和SIEM日志到自然语言风险报告和红队叙述。通用LLM NIM微服务使我们能够直接在NVIDIA企业AI工厂上运行这些定制模型,无论是在云、混合还是本地环境中。

这之所以重要是因为:

  • 快速实现价值:我们可以使用通用NIM容器部署用于实时风险检测的定制LLM,而无需等待定制引擎级优化
  • 灵活的后端支持:无论我们选择NVIDIA TensorRT-LLM进行高性能推理,还是选择vLLM实现高效吞吐量和批处理,通用NIM都抽象了后端复杂性
  • 主权AI就绪:趋势科技服务于具有严格数据主权和安全要求的企业和政府。通过采用NVIDIA企业AI工厂验证设计构建的本地部署,我们可以提供符合国家AI指令的可扩展、私有和可信赖的LLM推理
  • 核心安全性:作为安全供应商,我们受益于自托管模型的能力,保持对训练数据、知识产权和客户遥测的控制——所有这些对于可信AI都至关重要

构建安全的主权AI工厂

Trend Cybertron与通用LLM NIM微服务的集成帮助国家和企业构建可扩展的主权AI工厂和代理。这些创新是实现本地控制、自我改进和安全AI系统的关键推动因素。趋势科技的安全领域专业知识有助于确保AI代理和模型不仅强大,而且安全、可审计和具有弹性。

通过利用NVIDIA NIM微服务,趋势科技能够使用Cybertron LLM构建强大的AI驱动网络安全能力:

  • 模型漂移监控:通过通用NIM微服务实现的快速部署周期,我们可以监控生产中的推理行为,并使用NVIDIA NeMo Data Flywheel重新训练模型,确保持续的准确性
  • 零信任推理:通过本地部署NIM,Cybertron可以在零信任架构中运行,其中模型推理受到严格控制和可审计
  • RAG + 安全LLM:通过将NIM与AI-Q Blueprint集成,趋势科技可以创建能够实时推理安全知识库、遥测日志和威胁情报的AI代理
  • 快速实验:通过后端无关的部署,我们的安全研究人员可以立即在NVIDIA基础设施上测试新的Cybertron变体,提高实时风险期间的响应时间

通过将NVIDIA的高性能AI堆栈与趋势科技在网络安全领域的专业知识相结合,我们共同实现了:

  • 快速部署安全、私有的LLM
  • 为处理敏感数据的AI代理提供端到端可观察性
  • 能够与对手共同进化的自适应、威胁感知AI系统

通过通用NIM微服务部署Trend Cybertron,我们正在使网络安全更快、更智能、更安全、更主动——将AI带到数字防御的前线。

最终思考

通用LLM NIM微服务不仅是一项技术进步——它是企业AI采用的一个转折点。对于趋势科技来说,它释放了我们Trend Cybertron主动网络安全LLM的全部潜力,使我们能够以灵活性和速度部署、迭代和扩展AI安全解决方案。

在一个敏捷性至关重要、风险日新月异的时代,能够在第一天安全部署领域特定的LLM是一个改变游戏规则的因素。无论是防御云基础设施、端点还是企业网络,趋势科技正在与NVIDIA合作构建一个AI和网络安全共同增强的未来。

comments powered by Disqus
使用 Hugo 构建
主题 StackJimmy 设计