主要亮点
- CNCF与SlashData的新报告显示,NVIDIA Triton、Metaflow、Airflow和Model Context Protocol在云原生生态系统中获得广泛采纳和开发者信任
- 在AI推理工具类别中,NVIDIA Triton、DeepSpeed、TensorFlow Serving和BentoML被开发者集体评为"采纳"位置
- 在ML编排类别中,Airflow和Metaflow升至"采纳"位置
- 在智能体AI平台中,Model Context Protocol(MCP)和Llama Stack达到"采纳"分类
推理工具展现强大实用性和发展势头
NVIDIA Triton、DeepSpeed、TensorFlow Serving和BentoML是大多数开发者置于"采纳"位置的四个工具。
Triton在成熟度(50%五星,30%四星)和实用性(41%五星,38%四星)方面领先,显示了开发者在处理基础设施密集型AI工作负载时的强烈信心。
Adlik使用较少但推荐度最高,92%的当前或前用户会推荐该工具。
TensorFlow Serving和DeepSpeed在更广泛用例中显示出强大的整体认可度,支持企业对灵活部署路径的需求。而lama的成熟度评分最低(23%),表明并非所有工具都同样准备好进行企业级部署。
ML编排项目随着规模扩大而成熟
Airflow和Metaflow被评为采纳工具。
Metaflow在成熟度方面领先(84%给予四星或五星),Airflow在实用性和推荐评分方面位居榜首。
值得注意的是,Airflow在实用性方面没有收到一星或二星评分。
BentoML作为双类别工具,在推理方面获得采纳评级,在编排方面获得试用评级。这突显了多角色工具在不同领域可能取得不均衡的成功。
此外,Argo Workflows和Kubeflow这两个CNCF项目在编排方面被评为试用级别。
Flyte和Seldon Core的评分较为温和,Flyte主要显示三星评分。这些数据表明,服务于通用用例但尚未脱颖而出的编排工具仍有增长空间。
智能体AI项目出现,认知各异
Model Context Protocol(MCP)和Llama Stack是唯一进入采纳类别的智能体AI工具。
MCP拥有最高的综合四星和五星实用性评分(80%),并且在顶级工具中拥有最广泛的开发者基础。这表明基于结构化智能体的设计正在AI驱动的客户支持等企业用例中找到真正的吸引力。
Agent2Agent(A2A)虽然较新且不太成熟,但获得了最高的推荐率。94%的用户会推荐A2A。这表明开发者的兴奋度和感知轨迹可能超过当前能力。
云原生模式对AI/ML至关重要
数据显示,即使开发者不自称为云原生,他们的AI/ML系统也依赖于云原生架构:容器化、编排、可扩展性和可靠性。
41%的AI/ML开发者现在自认为是云原生的,这一比例预计还会上升。CNCF通过聚焦可靠工具、支持早期项目和提供社区驱动的指导,继续支持这一演变。
方法论
2025年第三季度,全球300多名使用云原生技术的专业开发者对三个类别的工具进行了熟悉度、实用性、成熟度和推荐可能性的评分:AI推理工具、ML编排系统和智能体AI平台。成熟度和实用性采用五星评分制捕获,并转化为净推荐值分数。然后根据使用情况、成熟度、实用性和推荐度的综合得分,将技术分为四个雷达位置:采纳、试用、评估和保留。