趋势科技Cybertron利用NVIDIA通用LLM NIM微服务
在NVIDIA GTC巴黎2025大会上,NVIDIA宣布NVIDIA NIM扩展支持,通过新的通用LLM NIM微服务实现多种大语言模型(LLM)的快速可靠部署。该微服务旨在将部署与后端优化解耦,为企业提供前所未有的灵活性、速度和可扩展性。
对全球网络安全领导者趋势科技而言,这一创新是战略催化剂。趋势科技已集成到NVIDIA企业AI工厂验证设计生态系统中,能够以卓越的性能和便捷性将其Trend Cybertron主动网络安全LLM投入生产环境。该模型是基于多年风险情报、遥测数据和对抗战术训练的领域特定语言模型。这标志着我们在基于最先进基础设施提供安全、可扩展的AI驱动网络安全解决方案方面取得了重要里程碑。
Trend Cybertron与通用LLM NIM微服务的结合
趋势科技投入大量资源开发专为网络安全定制的 proprietary Trend Cybertron LLMs——这些模型理解安全语言,涵盖MITRE ATT&CK技术、SIEM日志、自然语言风险报告和红队叙述。通用LLM NIM微服务使我们能够在NVIDIA企业AI工厂上直接运行这些定制模型,无论是在云、混合还是本地环境中。
其重要性体现在:
- 快速实现价值:无需等待定制引擎级优化,即可使用通用NIM容器部署用于实时风险检测的定制LLM。
- 灵活的后端支持:无论选择NVIDIA TensorRT-LLM进行高性能推理,还是vLLM实现高效吞吐和批处理,通用NIM都抽象了后端复杂性。
- 主权AI就绪:趋势科技服务对数据主权和安全有严格要求的企业和政府。通过采用NVIDIA企业AI工厂验证设计的本地部署,我们可以提供符合国家AI指令的可扩展、私有且可信的LLM推理。
- 核心安全性:作为安全供应商,我们能够自托管模型,保持对训练数据、知识产权和客户遥测的控制,这对可信AI至关重要。
构建安全的主权AI工厂
Trend Cybertron与通用LLM NIM微服务的集成帮助国家和企业构建可扩展的主权AI工厂和代理。这些创新是实现本地控制、自我改进和安全AI系统的关键推动因素。趋势科技的安全领域专业知识确保AI代理和模型不仅强大,而且安全、可审计且具有弹性。
通过利用NVIDIA NIM微服务,趋势科技能够利用Cybertron LLM构建强大的AI驱动网络安全能力:
- 模型漂移监控:借助通用NIM微服务实现的快速部署周期,我们可以在生产中监控推理行为,并使用NVIDIA NeMo Data Flywheel重新训练模型,确保持续的准确性。
- 零信任推理:通过本地部署NIM,Cybertron可以在零信任架构中运行,其中模型推理受到严格控制和审计。
- RAG + 安全LLM:通过将NIM与AI-Q蓝图集成,趋势科技可以创建实时推理安全知识库、遥测日志和威胁情报的AI代理。
- 快速实验:通过后端无关的部署,我们的安全研究人员可以立即在NVIDIA基础设施上测试新的Cybertron变体,提高实时风险响应速度。
通过将NVIDIA的高性能AI堆栈与趋势科技的网络安全领域专业知识相结合,我们共同实现:
- 安全、私有LLM的快速部署
- 处理敏感数据的AI代理的端到端可观测性
- 能够随对手演化的自适应、威胁感知AI系统
借助通过通用NIM微服务可部署的Trend Cybertron,我们使网络安全更快、更智能、更安全、更主动——将AI带入数字防御的前线。
最终思考
通用LLM NIM微服务不仅是技术进步,更是企业AI采用的一个转折点。对趋势科技而言,它释放了我们Trend Cybertron主动网络安全LLM的全部潜力,使我们能够以灵活性和速度部署、迭代和扩展AI安全解决方案。
在敏捷性至关重要、风险日新月异的时代,能够在第一天安全部署领域特定LLM是一项改变游戏规则的能力。无论是防御云基础设施、端点还是企业网络,趋势科技正与NVIDIA合作构建一个AI与网络安全共同增强的未来。