https://blog.qife122.com/tags/rag%E5%AE%89%E5%85%A8/ Recent content in RAG安全 on 办公AI智能小助手 Hugo zh-cn qife Fri, 26 Sep 2025 06:03:46 +0800 https://blog.qife122.com/p/rag%E5%AE%89%E5%85%A8%E4%B8%8E%E9%9A%90%E7%A7%81%E5%A8%81%E8%83%81%E6%A8%A1%E5%9E%8B%E4%B8%8E%E6%94%BB%E5%87%BB%E9%9D%A2%E7%9A%84%E5%BD%A2%E5%BC%8F%E5%8C%96%E5%88%86%E6%9E%90/ Fri, 26 Sep 2025 06:03:46 +0800 https://blog.qife122.com/p/rag%E5%AE%89%E5%85%A8%E4%B8%8E%E9%9A%90%E7%A7%81%E5%A8%81%E8%83%81%E6%A8%A1%E5%9E%8B%E4%B8%8E%E6%94%BB%E5%87%BB%E9%9D%A2%E7%9A%84%E5%BD%A2%E5%BC%8F%E5%8C%96%E5%88%86%E6%9E%90/ <p><strong>标题</strong>：RAG安全与隐私：形式化威胁模型与攻击面</p> <p><strong>作者</strong>：Atousa Arzanipour, Rouzbeh Behnia, Reza Ebrahimi, Kaushik Dutta</p> <p><strong>摘要</strong>：检索增强生成（RAG）是自然语言处理中的新兴方法，它将大语言模型（LLM）与外部文档检索相结合，以产生更准确和基于事实的响应。尽管RAG在减少幻觉和提高事实一致性方面显示出强大潜力，但它也引入了不同于传统LLM所面临的新的隐私和安全挑战。现有研究表明，LLM可能通过训练数据记忆或对抗性提示泄露敏感信息，而RAG系统继承了这些漏洞。同时，RAG对外部知识库的依赖开辟了新的攻击面，包括可能泄露检索文档的存在或内容信息，或注入恶意内容以操纵模型行为。尽管存在这些风险，目前尚无正式框架来定义RAG系统的威胁格局。在本文中，我们通过提出（据我们所知）首个检索-RAG系统的形式化威胁模型，解决了文献中的关键空白。我们基于攻击者对模型组件和数据的访问权限，引入了对手类型的结构化分类法，并正式定义了关键威胁向量，如文档级成员推理和数据投毒，这些在现实世界部署中构成严重的隐私和完整性风险。通过建立正式定义和攻击模型，我们的工作为更严格和原则性地理解RAG系统中的隐私和安全奠定了基础。</p>