https://blog.qife122.com/tags/toctou%E6%BC%8F%E6%B4%9E/ Recent content in TOCTOU漏洞 on 办公AI智能小助手 Hugo zh-cn qife Sat, 18 Oct 2025 07:41:13 +0800 https://blog.qife122.com/p/%E9%92%88%E5%AF%B9%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%97%B6%E5%B7%AE%E6%94%BB%E5%87%BB%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90/ Sat, 18 Oct 2025 07:41:13 +0800 https://blog.qife122.com/p/%E9%92%88%E5%AF%B9%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E7%9A%84%E6%97%B6%E5%B7%AE%E6%94%BB%E5%87%BB%E6%BC%8F%E6%B4%9E%E5%88%86%E6%9E%90/ <h1 id="针对大型语言模型的时差攻击">针对大型语言模型的时差攻击</h1> <p>这是一项重要的研究：《注意差距：LLM智能代理中的时差（TOCTOU）漏洞》</p> <p><strong>摘要</strong>：大型语言模型（LLM）智能代理正在各类应用中快速普及，但其部署带来了具有安全影响的漏洞。虽然先前研究已探讨基于提示的攻击（如提示注入）和面向数据的威胁（如数据窃取），但时差攻击（TOCTOU）在此背景下仍基本未被探索。当代理验证外部状态（如文件或API响应）后，该状态在使用前被修改，就会产生TOCTOU漏洞，从而实现恶意配置交换或负载注入等实际攻击。本研究首次系统分析了LLM智能代理中的TOCTOU漏洞。我们推出了TOCTOU-Bench基准测试，包含66个现实用户任务，专门用于评估此类漏洞。作为应对措施，我们将系统安全领域的检测与缓解技术适配至此场景，并提出提示重写、状态完整性监控和工具融合三种方案。我们的研究凸显了智能工作流特有的挑战，通过自动化检测方法实现了最高25%的检测准确率，脆弱计划生成减少3%，攻击窗口缩小95%。当结合所有三种方法时，我们将执行轨迹中的TOCTOU漏洞从12%降至8%。我们的发现为AI安全与系统安全的交叉领域开辟了新的研究方向。</p> https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B8%AD%E7%9A%84toctou%E6%94%BB%E5%87%BB%E6%BC%8F%E6%B4%9E%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ Thu, 25 Sep 2025 03:57:19 +0800 https://blog.qife122.com/p/%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E4%B8%AD%E7%9A%84toctou%E6%94%BB%E5%87%BB%E6%BC%8F%E6%B4%9E%E6%B7%B1%E5%BA%A6%E8%A7%A3%E6%9E%90/ <h1 id="大型语言模型中的时差攻击漏洞研究">大型语言模型中的时差攻击漏洞研究</h1> <p>这项研究《注意间隙：LLM赋能智能代理中的检查时与使用时间差漏洞》具有重要价值：</p> <p><strong>摘要</strong>：大型语言模型（LLM）赋能智能代理正快速应用于各个领域，但其部署带来了具有安全影响的漏洞。虽然先前研究已探讨基于提示的攻击（如提示注入）和数据导向威胁（如数据窃取），但检查时与使用时间差（TOCTOU）漏洞在此背景下仍未被充分探索。当智能代理验证外部状态（如文件或API响应）后，该状态在使用前被修改时就会产生TOCTOU漏洞，从而实现恶意配置替换或载荷注入等实际攻击。本研究首次系统分析LLM赋能智能代理中的TOCTOU漏洞，推出包含66个现实用户任务的基准测试集TOCTOU-Bench，并提出提示词重写、状态完整性监控和工具融合等防护措施。研究特别关注智能工作流特有的挑战，通过自动化检测方法实现最高25%的检测准确率，脆弱计划生成减少3%，攻击窗口缩小95%。当结合三种防护方案时，执行轨迹中的TOCTOU漏洞从12%降至8%。本发现为AI安全与系统安全交叉领域开辟了新的研究方向。</p>