https://blog.qife122.com/tags/%E4%BB%A3%E7%90%86%E6%A1%86%E6%9E%B6/ Recent content in 代理框架 on 办公AI智能小助手 Hugo zh-cn qife Sat, 27 Sep 2025 08:18:42 +0800 https://blog.qife122.com/p/ai%E4%BB%A3%E7%90%86%E4%B8%8Ellm%E5%9F%BA%E7%A1%80%E8%AE%BE%E6%96%BD%E5%85%A8%E8%A7%A3%E6%9E%90%E5%B7%A5%E5%85%B7%E9%80%89%E5%9E%8B%E4%B8%8E%E4%BC%98%E5%8C%96%E7%AD%96%E7%95%A5/ Sat, 27 Sep 2025 08:18:42 +0800 https://blog.qife122.com/p/ai%E4%BB%A3%E7%90%86%E4%B8%8Ellm%E5%9F%BA%E7%A1%80%E8%AE%BE%E6%96%BD%E5%85%A8%E8%A7%A3%E6%9E%90%E5%B7%A5%E5%85%B7%E9%80%89%E5%9E%8B%E4%B8%8E%E4%BC%98%E5%8C%96%E7%AD%96%E7%95%A5/ <h2 id="ai基础设施在ai架构中的关键作用">AI基础设施在AI架构中的关键作用</h2> <p>基础设施（无论是云端、本地还是混合云）在实现AI架构方面发挥着关键作用。本文是系列文章的一部分，探讨用于部署和优化AI代理及大语言模型（LLM）的各种基础设施选项。文章深入探讨基础设施在实现AI架构（特别是推理）中的关键作用。我们将研究各种工具（包括开源解决方案），并通过图表说明推理流程，重点介绍高效可扩展AI部署的关键考虑因素。</p>