https://blog.qife122.com/tags/%E9%98%B2%E6%8A%A4%E6%9C%BA%E5%88%B6/ Recent content in 防护机制 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 14:51:37 +0800 https://blog.qife122.com/p/%E4%B8%BA%E4%B8%8D%E5%8F%AF%E9%9D%A0%E7%9A%84llm%E6%B3%A8%E5%85%A5%E5%8F%AF%E9%9D%A0%E6%80%A7%E4%BC%81%E4%B8%9A%E7%BA%A7genai%E5%B7%A5%E4%BD%9C%E6%B5%81%E7%A1%AE%E5%AE%9A%E6%80%A7%E5%AE%9E%E8%B7%B5/ Sat, 20 Sep 2025 14:51:37 +0800 https://blog.qife122.com/p/%E4%B8%BA%E4%B8%8D%E5%8F%AF%E9%9D%A0%E7%9A%84llm%E6%B3%A8%E5%85%A5%E5%8F%AF%E9%9D%A0%E6%80%A7%E4%BC%81%E4%B8%9A%E7%BA%A7genai%E5%B7%A5%E4%BD%9C%E6%B5%81%E7%A1%AE%E5%AE%9A%E6%80%A7%E5%AE%9E%E8%B7%B5/ <h1 id="为不可靠的llm注入可靠性">为不可靠的LLM注入可靠性</h1> <p>大语言模型（LLM）在设计上具有非确定性特征。本文将探讨如何向GenAI工作流中注入一定程度的确定性。</p> <p>随着生成式AI技术日益融入软件产品和工作流，这些产品和工作流开始越来越像LLM本身：可靠性降低、非确定性增强，偶尔会出现错误。LLM本质上是非确定性的，这意味着相同输入会得到不同响应。如果使用推理模型和AI智能体，早期错误会在后续步骤中不断累积。</p>