https://blog.qife122.com/tags/%E6%81%B6%E6%84%8F%E5%BE%AE%E8%B0%83/ Recent content in 恶意微调 on 办公AI智能小助手 Hugo zh-cn qife Fri, 19 Sep 2025 21:47:01 +0800 https://blog.qife122.com/p/%E8%87%AA%E9%99%8D%E7%BA%A7%E9%98%B2%E5%BE%A1%E6%8A%B5%E5%BE%A1%E6%81%B6%E6%84%8F%E5%BE%AE%E8%B0%83%E6%94%BB%E5%87%BB%E7%9A%84sdd%E6%A1%86%E6%9E%B6/ Fri, 19 Sep 2025 21:47:01 +0800 https://blog.qife122.com/p/%E8%87%AA%E9%99%8D%E7%BA%A7%E9%98%B2%E5%BE%A1%E6%8A%B5%E5%BE%A1%E6%81%B6%E6%84%8F%E5%BE%AE%E8%B0%83%E6%94%BB%E5%87%BB%E7%9A%84sdd%E6%A1%86%E6%9E%B6/ <h1 id="sdd-自降级防御抵御恶意微调">SDD: 自降级防御抵御恶意微调</h1> <p>开源大语言模型（LLMs）通常采用安全对齐方法来抵御有害指令。然而，最近的研究表明，通过在有害数据上进行恶意微调，可以轻易绕过这些安全措施。为了应对这一问题，我们从理论上揭示了恶意微调成功的原因，并识别了潜在的防御策略。</p>