https://blog.qife122.com/tags/pyrit/ Recent content in PyRIT on 办公AI智能小助手 Hugo zh-cn qife Wed, 12 Nov 2025 05:03:32 +0800 https://blog.qife122.com/p/ai%E8%B6%8A%E7%8B%B1%E6%96%B0%E6%96%B9%E6%B3%95%E4%B8%8A%E4%B8%8B%E6%96%87%E5%90%88%E8%A7%84%E6%94%BB%E5%87%BB%E6%8F%AD%E7%A7%98/ Wed, 12 Nov 2025 05:03:32 +0800 https://blog.qife122.com/p/ai%E8%B6%8A%E7%8B%B1%E6%96%B0%E6%96%B9%E6%B3%95%E4%B8%8A%E4%B8%8B%E6%96%87%E5%90%88%E8%A7%84%E6%94%BB%E5%87%BB%E6%8F%AD%E7%A7%98/ <p>内容警告：本文包含敏感话题讨论，可能引起部分读者不适，请谨慎阅读。</p> <p>今天，我们分享关于一种名为上下文合规攻击(CCA)的简单、无需优化的越狱方法的见解，该方法已被证明对大多数领先的AI系统有效。我们传播这项研究是为了提高认识，并鼓励系统设计者实施适当的安全防护措施。该攻击可以使用微软的开源工具包PyRIT上下文合规编排器进行复现。</p> https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bai%E5%AF%B9%E6%8A%97ai%E7%9A%84%E6%94%BB%E9%98%B2%E5%AE%9E%E8%B7%B5/ Fri, 19 Sep 2025 04:23:35 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bai%E5%AF%B9%E6%8A%97ai%E7%9A%84%E6%94%BB%E9%98%B2%E5%AE%9E%E8%B7%B5/ <h1 id="使用pyrit评估大型语言模型ai对抗ai的攻防实践">使用PyRIT评估大型语言模型：AI对抗AI的攻防实践</h1> <h2 id="大型语言模型简介">大型语言模型简介</h2> <p>如今，许多人已经听说过ChatGPT、Gemini、Bart、Claude、Llama等人工智能助手。这些都是大型语言模型（LLM）的实现，它们被输入从互联网和其他来源收集的海量数据。这些模型经过所谓的训练阶段，学习如何接收用户的问题和提示，利用之前吸收的数据，然后（希望）提供有用的响应。由于需要巨大的计算能力，训练这些模型的系统甚至让最高性能的游戏PC看起来像坏掉的儿童玩具。一旦训练完成，这些模型可以快速回答各种主题的问题、提供代码示例，甚至可以进行来回讨论（尽管要意识到它们实际上并没有意识）。</p> https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bai%E5%AF%B9%E6%8A%97ai%E7%9A%84%E5%AE%89%E5%85%A8%E6%B5%8B%E8%AF%95%E5%AE%9E%E8%B7%B5/ Wed, 10 Sep 2025 08:51:53 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bai%E5%AF%B9%E6%8A%97ai%E7%9A%84%E5%AE%89%E5%85%A8%E6%B5%8B%E8%AF%95%E5%AE%9E%E8%B7%B5/ <h1 id="使用pyrit评估大型语言模型llmai对抗ai">使用PyRIT评估大型语言模型（LLM）：AI对抗AI</h1> <p>许多人都听说过ChatGPT、Gemini、Bart、Claude、Llama或其他人工智能（AI）助手。这些都是大型语言模型（LLM）的实现，它们被输入了从互联网和其他来源收集的海量数据。这些模型经过所谓的训练阶段，学习如何接收用户的问题和提示，利用之前吸收的数据，然后（希望）为用户提供有用的回应。由于这需要巨大的计算能力，训练这些模型的系统甚至让最高性能的游戏PC看起来像坏掉的儿童玩具。一旦训练完成，这些模型可以提供大量实用功能，快速回答各种主题的问题，提供代码示例，甚至可以进行来回讨论（尽管要意识到它们实际上并没有意识）。有关充分利用LLM的更多信息，我强烈建议您查看Bronwen Aker的帖子：https://www.blackhillsinfosec.com/crafting-the-perfect-prompt/。</p> https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bllms%E7%9A%84ai%E5%AF%B9%E6%8A%97ai%E6%8A%80%E6%9C%AF/ Wed, 10 Sep 2025 08:08:47 +0800 https://blog.qife122.com/p/%E4%BD%BF%E7%94%A8pyrit%E8%AF%84%E4%BC%B0%E5%A4%A7%E5%9E%8B%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8Bllms%E7%9A%84ai%E5%AF%B9%E6%8A%97ai%E6%8A%80%E6%9C%AF/ <h1 id="使用pyrit评估大型语言模型llms">使用PyRIT评估大型语言模型（LLMs）</h1> <h2 id="引言">引言</h2> <p>许多人已经听说过ChatGPT、Gemini、Bart、Claude、Llama或其他人工智能（AI）助手。这些都是大型语言模型（LLMs）的实现，它们被输入了从互联网和其他来源收集的海量数据。这些模型经过所谓的训练阶段，学习如何接收用户的问题和提示，使用先前摄入的数据，然后为用户提供（希望是）有用的响应。由于这需要大量的计算能力，训练这些模型的系统使得即使是最高性能的游戏PC也像是一个坏掉的儿童玩具。一旦训练完成，这些模型可以提供巨大的效用，快速回答各种主题的问题，提供代码示例，甚至可以用于进行来回讨论（尽管要意识到它们实际上并没有意识）。</p>