https://blog.qife122.com/tags/llm%E9%83%A8%E7%BD%B2/ Recent content in LLM部署 on 办公AI智能小助手 Hugo zh-cn qife Thu, 25 Sep 2025 19:30:50 +0800 https://blog.qife122.com/p/ai%E4%BB%A3%E7%90%86%E4%B8%8E%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E5%9F%BA%E7%A1%80%E8%AE%BE%E6%96%BD%E6%9E%B6%E6%9E%84%E5%85%A8%E8%A7%A3%E6%9E%90/ Thu, 25 Sep 2025 19:30:50 +0800 https://blog.qife122.com/p/ai%E4%BB%A3%E7%90%86%E4%B8%8E%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E5%9F%BA%E7%A1%80%E8%AE%BE%E6%96%BD%E6%9E%B6%E6%9E%84%E5%85%A8%E8%A7%A3%E6%9E%90/ <h2 id="ai代理与llm的基础设施选项工具与优化">AI代理与LLM的基础设施：选项、工具与优化</h2> <p>基础设施（无论是云端、本地还是混合云）在实现AI架构中扮演着关键角色。本文是系列文章的一部分，探讨了用于部署和优化AI代理及大型语言模型（LLM）的各种基础设施选项。文章深入研究了基础设施在实现AI架构（特别是推理方面）中的关键作用。我们将研究各种工具（包括开源解决方案），并通过图表说明推理流程，重点介绍高效可扩展AI部署的关键考量。</p> https://blog.qife122.com/p/%E7%94%9F%E4%BA%A7%E7%8E%AF%E5%A2%83%E4%B8%ADllm%E7%9A%84%E4%BA%94%E5%A4%A7%E6%AE%8B%E9%85%B7%E7%9C%9F%E7%9B%B8api%E5%AE%89%E5%85%A8%E5%AE%9E%E8%B7%B5%E6%8F%AD%E7%A7%98/ Tue, 09 Sep 2025 05:18:47 +0800 https://blog.qife122.com/p/%E7%94%9F%E4%BA%A7%E7%8E%AF%E5%A2%83%E4%B8%ADllm%E7%9A%84%E4%BA%94%E5%A4%A7%E6%AE%8B%E9%85%B7%E7%9C%9F%E7%9B%B8api%E5%AE%89%E5%85%A8%E5%AE%9E%E8%B7%B5%E6%8F%AD%E7%A7%98/ <h1 id="生产环境中llm的五大残酷真相">生产环境中LLM的五大残酷真相</h1> <h2 id="1-完美提示的神话">1. 完美提示的神话</h2> <p>早期我们曾相信&quot;完美提示&quot;的神话——只要编写得当，LLM就能准确回答任何问题。但现实是，即使是最简单的任务，最好的提示也会出错。有时可笑，有时危险。</p>