https://blog.qife122.com/tags/%E6%A8%A1%E5%9E%8B%E6%8A%95%E6%AF%92/ Recent content in 模型投毒 on 办公AI智能小助手 Hugo zh-cn qife Mon, 05 Jan 2026 02:00:41 +0800 https://blog.qife122.com/p/%E8%AF%BB%E6%87%82transformer%E7%9A%84%E6%80%9D%E6%83%B3llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B%E6%8A%80%E6%9C%AF/ Mon, 05 Jan 2026 02:00:41 +0800 https://blog.qife122.com/p/%E8%AF%BB%E6%87%82transformer%E7%9A%84%E6%80%9D%E6%83%B3llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B%E6%8A%80%E6%9C%AF/ <h1 id="llm投毒攻击13读懂transformer的思想">LLM投毒攻击（1/3）：读懂Transformer的思想</h1> <p>你的本地大型语言模型（LLM）可以入侵你的系统。这个由三部分组成的系列文章将揭示，<strong>微小的权重编辑如何植入隐秘的后门</strong>，这些后门在日常使用中保持休眠状态，但在收到特定输入时被激活，从而将一个“安全”的离线模型变成攻击者。本文展示了Transformer如何编码概念，以及如何在其内部激活状态中检测它们。</p> https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5transformer%E6%80%9D%E7%BB%B4llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E5%99%A8%E6%A3%80%E6%B5%8B%E4%B8%8E%E5%86%85%E9%83%A8%E6%BF%80%E6%B4%BB%E5%88%86%E6%9E%90/ Sat, 06 Dec 2025 19:40:33 +0800 https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5transformer%E6%80%9D%E7%BB%B4llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E5%99%A8%E6%A3%80%E6%B5%8B%E4%B8%8E%E5%86%85%E9%83%A8%E6%BF%80%E6%B4%BB%E5%88%86%E6%9E%90/ <h1 id="llm投毒-13---读取transformer的思维">LLM投毒 [1/3] - 读取Transformer的思维</h1> <p>你的本地LLM可以攻击你。 这个由三部分组成的系列文章揭示了微小的权重编辑如何植入隐蔽的后门，这些后门在日常使用中保持休眠状态，然后在特定输入时触发，将一个“安全”的离线模型转变为攻击者。本文展示了Transformer如何编码概念，以及如何在其内部激活中检测它们。</p> https://blog.qife122.com/p/llm%E6%8A%95%E6%AF%92-1/3-%E8%AF%BB%E5%8F%96transformer%E7%9A%84%E6%80%9D%E6%83%B3%E6%8F%AD%E7%A7%98%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B8%AD%E7%9A%84%E9%9A%90%E5%BD%A2%E5%90%8E%E9%97%A8/ Wed, 03 Dec 2025 14:28:49 +0800 https://blog.qife122.com/p/llm%E6%8A%95%E6%AF%92-1/3-%E8%AF%BB%E5%8F%96transformer%E7%9A%84%E6%80%9D%E6%83%B3%E6%8F%AD%E7%A7%98%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B8%AD%E7%9A%84%E9%9A%90%E5%BD%A2%E5%90%8E%E9%97%A8/ <h1 id="llm投毒-13---读取transformer的思想">LLM投毒 [1/3] - 读取Transformer的思想</h1> <p>你本地的LLM可能会黑掉你。 这个由三部分组成的系列文章揭示了微小的权重编辑如何植入隐形的后门——这些后门在日常使用中保持休眠状态，但在遇到特定输入时被激活，从而将一个“安全”的离线模型变成攻击者。本文展示了Transformer如何编码概念，以及如何在其内部激活中检测到这些概念。</p> https://blog.qife122.com/p/llm%E6%8A%95%E6%AF%92%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90%E8%AF%BB%E5%8F%96transformer%E6%80%9D%E7%BB%B4%E4%B8%8E%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B/ Sat, 01 Nov 2025 14:14:51 +0800 https://blog.qife122.com/p/llm%E6%8A%95%E6%AF%92%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90%E8%AF%BB%E5%8F%96transformer%E6%80%9D%E7%BB%B4%E4%B8%8E%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B/ <h1 id="引言">引言</h1> <p>大型语言模型（LLM）已从小众AI技术迅速发展为日常生产力工具。根据2025年Stack Overflow开发者调查，84%的开发者表示正在使用或计划使用AI工具，51%的专业开发者已日常依赖这些工具。与2023年相比，这一数字显著增长，当时仅有70%的开发者表示正在使用或计划使用AI工具。这一趋势清晰地表明，LLM已不再是利基工具，而是正在成为日常生活的一部分。</p> https://blog.qife122.com/p/%E5%88%A9%E7%94%A8pickle%E6%96%87%E4%BB%B6%E6%94%BB%E5%87%BB%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%A8%A1%E5%9E%8Bsleepy-pickle%E6%8A%80%E6%9C%AF%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ Wed, 10 Sep 2025 01:17:13 +0800 https://blog.qife122.com/p/%E5%88%A9%E7%94%A8pickle%E6%96%87%E4%BB%B6%E6%94%BB%E5%87%BB%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E6%A8%A1%E5%9E%8Bsleepy-pickle%E6%8A%80%E6%9C%AF%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ <h1 id="利用pickle文件攻击ml模型第一部分---trail-of-bits博客">利用Pickle文件攻击ML模型：第一部分 - Trail of Bits博客</h1> <p><strong>Boyan Milanov</strong><br> 2024年6月11日<br> 机器学习</p> <p>我们开发了一种名为Sleepy Pickle的新型混合机器学习（ML）模型利用技术，该技术利用了普遍存在且 notoriously不安全的Pickle文件格式（用于打包和分发ML模型）。Sleepy Pickle超越了以往针对组织部署ML模型时系统的攻击技术，转而秘密破坏ML模型本身，使攻击者能够针对使用该模型的组织的最终用户。在本博客文章中，我们将解释该技术并说明三种危害最终用户安全性、安全性和隐私的攻击。</p>