https://blog.qife122.com/tags/%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%8F%AF%E8%A7%A3%E9%87%8A%E6%80%A7/ Recent content in 神经网络可解释性 on 办公AI智能小助手 Hugo zh-cn qife Mon, 05 Jan 2026 02:00:41 +0800 https://blog.qife122.com/p/%E8%AF%BB%E6%87%82transformer%E7%9A%84%E6%80%9D%E6%83%B3llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B%E6%8A%80%E6%9C%AF/ Mon, 05 Jan 2026 02:00:41 +0800 https://blog.qife122.com/p/%E8%AF%BB%E6%87%82transformer%E7%9A%84%E6%80%9D%E6%83%B3llm%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB%E4%B8%AD%E7%9A%84%E8%A7%A6%E5%8F%91%E8%AF%8D%E6%A3%80%E6%B5%8B%E6%8A%80%E6%9C%AF/ <h1 id="llm投毒攻击13读懂transformer的思想">LLM投毒攻击（1/3）：读懂Transformer的思想</h1> <p>你的本地大型语言模型（LLM）可以入侵你的系统。这个由三部分组成的系列文章将揭示，<strong>微小的权重编辑如何植入隐秘的后门</strong>，这些后门在日常使用中保持休眠状态，但在收到特定输入时被激活，从而将一个“安全”的离线模型变成攻击者。本文展示了Transformer如何编码概念，以及如何在其内部激活状态中检测它们。</p>