NVIDIA Nemotron 3 Nano 现已登陆 Amazon Bedrock

发布日期： 2025年12月23日

Amazon Bedrock 现已支持 NVIDIA Nemotron 3 Nano 30B A3B 模型。这是 NVIDIA 在高效语言建模领域的最新突破，提供了高推理性能、原生工具调用支持以及支持 256k 标记上下文窗口的扩展上下文处理能力。该模型采用高效的混合专家架构，相较于前代模型，在处理智能体和编码工作负载时能确保更高的吞吐量，同时保持大模型的推理深度。凭借先进的强化学习技术和规模化多环境后训练实现的显式推理控制与更高准确性，该模型非常适合于企业、初创公司和个人开发者构建多智能体工作流、开发人员生产力工具、流程自动化以及科学和数学推理分析等应用。

Amazon Bedrock 上的 NVIDIA Nemotron 3 Nano 由 Project Mantle 提供支持。Project Mantle 是一个专为 Amazon Bedrock 上大规模机器学习模型服务设计的新型分布式推理引擎。它简化和加速了新模型在 Amazon Bedrock 上的集成，通过复杂的服务质量控制提供高性能、高可靠性的无服务器推理，利用自动化容量管理和统一资源池解锁更高的默认客户配额，并提供了与 OpenAI API 规范的开箱即用兼容性。

NVIDIA Nemotron 3 Nano 现已在美国东部、美国西部、亚太和欧洲等多个 AWS 区域的 Amazon Bedrock 上可用，并支持 Amazon Bedrock 上的统一服务端点和 OpenAI API 兼容服务端点。