https://blog.qife122.com/tags/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%8E%A8%E7%90%86/ Recent content in 机器学习推理 on 办公AI智能小助手 Hugo zh-cn qife Mon, 27 Oct 2025 14:52:47 +0800 https://blog.qife122.com/p/%E8%B0%B7%E6%AD%8Cai%E8%B6%85%E7%AE%97%E5%B9%B3%E5%8F%B0%E9%87%8D%E5%A4%A7%E5%8D%87%E7%BA%A7vllm-tpu%E5%8A%A9%E5%8A%9B%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E6%80%A7%E8%83%BD%E7%AA%81%E7%A0%B4/ Mon, 27 Oct 2025 14:52:47 +0800 https://blog.qife122.com/p/%E8%B0%B7%E6%AD%8Cai%E8%B6%85%E7%AE%97%E5%B9%B3%E5%8F%B0%E9%87%8D%E5%A4%A7%E5%8D%87%E7%BA%A7vllm-tpu%E5%8A%A9%E5%8A%9B%E5%A4%A7%E6%A8%A1%E5%9E%8B%E6%8E%A8%E7%90%86%E6%80%A7%E8%83%BD%E7%AA%81%E7%A0%B4/ <h2 id="宣布全新vllm-tpu">宣布全新vLLM TPU</h2> <p>对于使用大语言模型的机器学习从业者而言，以出色的性价比提供推理工作负载是终极目标。我们激动地宣布本季度最大更新：将JAX和我们行业领先的Cloud TPU的性能引入最受欢迎的开源LLM推理引擎vLLM。</p>