https://blog.qife122.com/tags/%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB/ Recent content in 投毒攻击 on 办公AI智能小助手 Hugo zh-cn qife Thu, 11 Sep 2025 20:04:26 +0800 https://blog.qife122.com/p/fact2fiction%E9%92%88%E5%AF%B9%E6%99%BA%E8%83%BD%E4%BA%8B%E5%AE%9E%E6%A0%B8%E6%9F%A5%E7%B3%BB%E7%BB%9F%E7%9A%84%E5%AE%9A%E5%90%91%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB/ Thu, 11 Sep 2025 20:04:26 +0800 https://blog.qife122.com/p/fact2fiction%E9%92%88%E5%AF%B9%E6%99%BA%E8%83%BD%E4%BA%8B%E5%AE%9E%E6%A0%B8%E6%9F%A5%E7%B3%BB%E7%BB%9F%E7%9A%84%E5%AE%9A%E5%90%91%E6%8A%95%E6%AF%92%E6%94%BB%E5%87%BB/ <h1 id="fact2fiction针对智能事实核查系统的定向投毒攻击">Fact2Fiction：针对智能事实核查系统的定向投毒攻击</h1> <p><strong>作者</strong>：Haorui He, Yupeng Li, Bin Benjamin Zhu, Dacheng Wen, Reynold Cheng, Francis C. M. Lau<br> <strong>提交日期</strong>：2025年8月8日</p> <h2 id="摘要">摘要</h2> <p>最先进的事实核查系统通过部署基于大语言模型（LLM）的自主代理来大规模对抗错误信息。这些代理将复杂声明分解为较小的子声明，分别验证每个子声明，并聚合部分结果以生成带有理由（对判决的解释性推理）的判决。这些系统的安全性至关重要，因为被攻破的事实核查器（往往容易被忽视）可能会放大错误信息。</p>