https://blog.qife122.com/tags/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/ Recent content in 本地部署 on 办公AI智能小助手 Hugo zh-cn qife Mon, 10 Nov 2025 19:52:31 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8%E5%BC%80%E6%BA%90%E5%B7%A5%E5%85%B7%E6%9E%84%E5%BB%BA%E7%A7%81%E6%9C%89%E8%AF%AD%E9%9F%B3%E5%8A%A9%E6%89%8B%E4%B8%80%E6%AD%A5%E6%AD%A5%E5%AE%9E%E6%88%98%E6%8C%87%E5%8D%97/ Mon, 10 Nov 2025 19:52:31 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8%E5%BC%80%E6%BA%90%E5%B7%A5%E5%85%B7%E6%9E%84%E5%BB%BA%E7%A7%81%E6%9C%89%E8%AF%AD%E9%9F%B3%E5%8A%A9%E6%89%8B%E4%B8%80%E6%AD%A5%E6%AD%A5%E5%AE%9E%E6%88%98%E6%8C%87%E5%8D%97/ <p>大多数商业语音助手在响应前都会将您的语音数据发送到云服务器。通过使用开源工具，您可以直接在手机上运行所有组件，获得更好的隐私保护、更快的响应速度，并完全控制助手的行为。</p> https://blog.qife122.com/p/deepseek%E9%9A%90%E7%A7%81%E5%AE%89%E5%85%A8%E9%85%8D%E7%BD%AE%E4%B8%8E%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E5%85%A8%E6%8C%87%E5%8D%97/ Tue, 04 Nov 2025 19:54:32 +0800 https://blog.qife122.com/p/deepseek%E9%9A%90%E7%A7%81%E5%AE%89%E5%85%A8%E9%85%8D%E7%BD%AE%E4%B8%8E%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E5%85%A8%E6%8C%87%E5%8D%97/ <h1 id="如何私密且安全地使用deepseek--卡巴斯基官方博客">如何私密且安全地使用DeepSeek | 卡巴斯基官方博客</h1> <p>我们之前曾写过关于为什么神经网络不是私密对话的最佳选择的文章。像ChatGPT、DeepSeek和Gemini这样的流行聊天机器人默认会收集用户数据进行训练，因此开发人员可以看到我们所有的秘密：您与聊天机器人的每次聊天都会存储在公司的服务器上。这正是为什么必须了解每个神经网络收集哪些数据，以及如何设置它们以实现最大隐私保护的原因。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E6%98%93%E6%8C%87%E5%8D%97/ Mon, 27 Oct 2025 20:20:53 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E6%98%93%E6%8C%87%E5%8D%97/ <h2 id="本地运行llms的最简易方法">本地运行LLMs的最简易方法</h2> <p>如今大多数人都已经与大型语言模型（LLM）互动过，或者我们现在称之为AI的工具。它们已经从被视作会产生幻觉、无能的聊天机器人，发展成为如今非常有用的工具。你可能正在使用三大巨头（OpenAI、Anthropic、Google）的LLM，本地LLM可能不会完全取代它们，但它在隐私和控制方面为你提供了更多选择。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ Mon, 20 Oct 2025 20:06:21 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ <h2 id="本地运行大型语言模型的最简单方法">本地运行大型语言模型的最简单方法</h2> <p>到目前为止，你们中的大多数人已经与大型语言模型（LLM）互动过，或者我们现在称之为AI的东西。它们已经从被视为产生幻觉、无能的聊天机器人发展成为今天有用的工具。你可能正在使用三大巨头（OpenAI、Anthropic、Google）的LLM，本地LLM可能不会取代它们，但它确实在隐私和控制方面给了你更多选择。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ Sat, 11 Oct 2025 05:44:56 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ <h2 id="本地运行大型语言模型的最简单方法">本地运行大型语言模型的最简单方法</h2> <p>到目前为止，大多数人都已经与大型语言模型（LLM）互动过，或者我们现在称之为AI的东西。它们已经从被视作会产生幻觉、无能的聊天机器人，发展成为如今有用的工具。你可能正在使用三大巨头（OpenAI、Anthropic、Google）的LLM，而本地LLM可能不会取代它们，但它确实在隐私和控制方面给了你更多选择。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ Fri, 26 Sep 2025 00:20:47 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ <h1 id="本地运行llms的最简单方法">本地运行LLMs的最简单方法</h1> <p>到目前为止，大多数人都已经接触过大语言模型（LLM），也就是我们现在称之为AI的东西。它们已经从被视为产生幻觉、无能的聊天机器人发展成为如今有用的工具。你可能正在使用三大巨头（OpenAI、Anthropic、Google）的LLM，本地LLM可能不会取代它们，但它确实在隐私和控制方面给了你更多选择。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ Thu, 25 Sep 2025 14:15:23 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ <h2 id="本地运行大型语言模型的最简单方法">本地运行大型语言模型的最简单方法</h2> <p>大多数人都已经接触过大语言模型（LLM），也就是我们现在常说的AI。它们已经从被视作会产生幻觉、不称职的聊天机器人，发展成为如今有用的工具。你可能正在使用三大巨头（OpenAI、Anthropic、Google）的LLM，而本地LLM可能不会取代它们，但它确实在隐私和控制方面为你提供了更多选择。</p> https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ Tue, 23 Sep 2025 22:05:00 +0800 https://blog.qife122.com/p/%E6%9C%AC%E5%9C%B0%E8%BF%90%E8%A1%8C%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%9C%80%E7%AE%80%E5%8D%95%E6%8C%87%E5%8D%97/ <h1 id="本地运行大型语言模型的最简单方法">本地运行大型语言模型的最简单方法</h1> <h2 id="但为什么要这样做">但为什么要这样做？</h2> <ul> <li><strong>隐私保护</strong>：完全离线运行，除非通过MCP授予互联网访问权限</li> <li><strong>成本优势</strong>：除微不足道的推理功耗外完全免费</li> <li><strong>速度可能更快</strong>：相比前沿LLM可能具有更快的响应速度</li> <li><strong>工具集成</strong>：可在VSCode等工具中使用本地API</li> <li><strong>局域网共享</strong>：能为整个本地网络托管LLM</li> <li><strong>定制化能力</strong>：可针对特定用途进行微调</li> <li><strong>全民可及</strong>：对所有人开放使用</li> </ul> <h2 id="自托管llm的硬件要求">自托管LLM的硬件要求</h2> <p>虽然更大的模型需要更强的硬件配置，但根据系统规格仍有许多可流畅运行的模型。经验法则是：模型大小应小于RAM容量，并保留充足内存避免系统卡顿。</p> https://blog.qife122.com/p/%E5%BC%80%E6%BA%90%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90/ Mon, 15 Sep 2025 19:24:24 +0800 https://blog.qife122.com/p/%E5%BC%80%E6%BA%90%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90/ <p>某机构发布了gpt-oss-120b和gpt-oss-20b两款开源权重语言模型，专为高性能推理、工具使用和高效部署而设计。这是自GPT-2以来该公司首次发布完全开源权重的语言模型，采用宽松的Apache 2.0许可证。</p>