https://blog.qife122.com/tags/%E6%BC%8F%E6%B4%9E%E5%AE%A1%E8%AE%A1/ Recent content in 漏洞审计 on 办公AI智能小助手 Hugo zh-cn qife Thu, 11 Sep 2025 23:25:59 +0800 https://blog.qife122.com/p/aibom%E5%B7%A5%E5%85%B7%E5%BC%80%E5%8F%91%E5%BA%94%E5%AF%B9%E7%BE%8E%E5%86%9Bai%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E5%AE%89%E5%85%A8%E6%8C%91%E6%88%98/ Thu, 11 Sep 2025 23:25:59 +0800 https://blog.qife122.com/p/aibom%E5%B7%A5%E5%85%B7%E5%BC%80%E5%8F%91%E5%BA%94%E5%AF%B9%E7%BE%8E%E5%86%9Bai%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E5%AE%89%E5%85%A8%E6%8C%91%E6%88%98/ <h1 id="我们对美军开发aibom工具rfi的回应">我们对美军开发AIBOM工具RFI的回应</h1> <p>Adelin Travers, Michael Brown<br> 2024年2月28日<br> 机器学习, 政策</p> <p>美国陆军情报、电子战与传感器项目执行办公室（PEO IEW&amp;S）近期发布了一份信息请求（RFI），涉及实现和自动化生成人工智能物料清单（AIBOM）的方法，作为Project Linchpin的一部分。RFI将AIBOM描述为构建、训练、验证和配置AI模型及其供应链关系所需组件的详细列表。与软件物料清单（SBOM）概念类似，AIBOM概念的目标是让AI模型的提供者和消费者能够有效应对供应链漏洞。在本博客文章中，我们总结了我们的回应，包括我们对改进概念、确保AI模型安全以及有效实施AIBOM工具的建议。</p> https://blog.qife122.com/p/aibom%E5%B7%A5%E5%85%B7%E5%BC%80%E5%8F%91%E5%BA%94%E5%AF%B9ai%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E5%AE%89%E5%85%A8%E7%9A%84%E6%96%B0%E6%8C%91%E6%88%98/ Thu, 11 Sep 2025 11:16:55 +0800 https://blog.qife122.com/p/aibom%E5%B7%A5%E5%85%B7%E5%BC%80%E5%8F%91%E5%BA%94%E5%AF%B9ai%E6%A8%A1%E5%9E%8B%E4%BE%9B%E5%BA%94%E9%93%BE%E5%AE%89%E5%85%A8%E7%9A%84%E6%96%B0%E6%8C%91%E6%88%98/ <h1 id="我们对美国陆军开发aibom工具rfi的回应---trail-of-bits博客">我们对美国陆军开发AIBOM工具RFI的回应 - Trail of Bits博客</h1> <p>Adelin Travers, Michael Brown<br> 2024年2月28日<br> 机器学习, 政策</p> <p>美国陆军情报、电子战与传感器项目执行办公室（PEO IEW&amp;S）最近发布了一份信息请求（RFI），涉及实现和自动化生成人工智能物料清单（AIBOM）的方法，作为Project Linchpin的一部分。RFI将AIBOM描述为构建、训练、验证和配置AI模型及其供应链关系所需组件的详细列表。与软件物料清单（SBOM）概念类似，AIBOM概念的目标是让AI模型的提供者和消费者能够有效应对供应链漏洞。在这篇博客文章中，我们总结了我们的回应，包括我们改进概念、确保AI模型安全以及有效实施AIBOM工具的建议。</p> https://blog.qife122.com/p/%E6%99%BA%E8%83%BD%E5%90%88%E7%BA%A6%E5%AE%A1%E8%AE%A1%E5%B8%88%E4%B9%8B%E8%B7%AF%E6%8E%8C%E6%8F%A1%E5%9B%9B%E5%A4%A7%E6%A0%B8%E5%BF%83%E6%8A%80%E8%83%BD%E5%AE%88%E6%8A%A4web3%E5%AE%89%E5%85%A8/ Wed, 10 Sep 2025 12:29:33 +0800 https://blog.qife122.com/p/%E6%99%BA%E8%83%BD%E5%90%88%E7%BA%A6%E5%AE%A1%E8%AE%A1%E5%B8%88%E4%B9%8B%E8%B7%AF%E6%8E%8C%E6%8F%A1%E5%9B%9B%E5%A4%A7%E6%A0%B8%E5%BF%83%E6%8A%80%E8%83%BD%E5%AE%88%E6%8A%A4web3%E5%AE%89%E5%85%A8/ <h1 id="智能合约审计师之路掌握四大核心技能守护web3安全">智能合约审计师之路：掌握四大核心技能，守护Web3安全</h1> <h2 id="高风险领域与日益增长的需求">高风险领域与日益增长的需求</h2> <p>智能合约审计师的工作至关重要，正如Nicolas所言：“Web3安全现状堪忧。”与Web2相比，Web3的安全风险更高——Web2中的黑客攻击通常涉及数据窃取并间接变现，而Web3的黑客攻击意味着直接、即时的财务损失。这吸引了高度复杂的国家级攻击者，例如2021年著名的Ronin桥6.11亿美元黑客事件。随着Web3生态系统的扩张，对熟练防御者的需求急剧上升；漏洞赏金计划和审计请求呈指数级增长，为技术娴熟的审计师创造了巨大机遇。</p> https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5%E8%A7%A3%E6%9E%90ask-astro-llm%E9%97%AE%E7%AD%94%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E5%AE%A1%E8%AE%A1%E6%BC%8F%E6%B4%9E%E6%8C%96%E6%8E%98%E4%B8%8E%E9%98%B2%E5%BE%A1%E5%AE%9E%E8%B7%B5/ Thu, 04 Sep 2025 16:38:20 +0800 https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5%E8%A7%A3%E6%9E%90ask-astro-llm%E9%97%AE%E7%AD%94%E5%BA%94%E7%94%A8%E5%AE%89%E5%85%A8%E5%AE%A1%E8%AE%A1%E6%BC%8F%E6%B4%9E%E6%8C%96%E6%8E%98%E4%B8%8E%E9%98%B2%E5%BE%A1%E5%AE%9E%E8%B7%B5/ <h1 id="审计ask-astro-llm问答应用---trail-of-bits博客">审计Ask Astro LLM问答应用 - Trail of Bits博客</h1> <p>今天，我们发布第二个开源AI安全审计项目：分析一个开源检索增强生成（RAG）应用中的安全问题，这些问题可能导致聊天机器人输出被投毒、文档摄取不准确以及潜在拒绝服务。此次审计延续了我们之前的工作，即在流行计算机视觉框架YOLOv7中发现11个安全漏洞。</p> https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5%E8%A7%A3%E6%9E%90ask-astro-llm%E9%97%AE%E7%AD%94%E5%BA%94%E7%94%A8%E7%9A%84%E5%AE%89%E5%85%A8%E5%AE%A1%E8%AE%A1%E6%BC%8F%E6%B4%9E%E6%8C%96%E6%8E%98%E4%B8%8E%E9%98%B2%E5%BE%A1%E5%AE%9E%E8%B7%B5/ Thu, 04 Sep 2025 11:34:48 +0800 https://blog.qife122.com/p/%E6%B7%B1%E5%85%A5%E8%A7%A3%E6%9E%90ask-astro-llm%E9%97%AE%E7%AD%94%E5%BA%94%E7%94%A8%E7%9A%84%E5%AE%89%E5%85%A8%E5%AE%A1%E8%AE%A1%E6%BC%8F%E6%B4%9E%E6%8C%96%E6%8E%98%E4%B8%8E%E9%98%B2%E5%BE%A1%E5%AE%9E%E8%B7%B5/ <h1 id="审计ask-astro-llm问答应用---trail-of-bits博客">审计Ask Astro LLM问答应用 - Trail of Bits博客</h1> <p><strong>Trail of Bits博客</strong><br> <strong>审计Ask Astro LLM问答应用</strong><br> Trail of Bits<br> 2024年7月5日<br> 机器学习, 开源</p> <p>今天我们呈现第二个开源AI安全审计项目：分析一个开源检索增强生成（RAG）应用中的安全问题，这些问题可能导致聊天机器人输出污染、文档摄取不准确及潜在的服务拒绝。此次审计延续了我们之前的工作，即在流行计算机视觉框架YOLOv7中识别出11个安全漏洞。</p>