https://blog.qife122.com/tags/%E8%A7%86%E8%A7%89%E6%89%B0%E5%8A%A8/ Recent content in 视觉扰动 on 办公AI智能小助手 Hugo zh-cn qife Fri, 19 Sep 2025 03:50:17 +0800 https://blog.qife122.com/p/%E7%AA%81%E7%A0%B4%E5%A4%9A%E6%A8%A1%E6%80%81%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E9%98%B2%E6%8A%A4%E5%8D%8F%E5%90%8C%E8%A7%86%E8%A7%89%E6%89%B0%E5%8A%A8%E4%B8%8E%E6%96%87%E6%9C%AC%E5%BC%95%E5%AF%BC%E7%9A%84jps%E6%94%BB%E5%87%BB%E6%96%B9%E6%B3%95/ Fri, 19 Sep 2025 03:50:17 +0800 https://blog.qife122.com/p/%E7%AA%81%E7%A0%B4%E5%A4%9A%E6%A8%A1%E6%80%81%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%AE%89%E5%85%A8%E9%98%B2%E6%8A%A4%E5%8D%8F%E5%90%8C%E8%A7%86%E8%A7%89%E6%89%B0%E5%8A%A8%E4%B8%8E%E6%96%87%E6%9C%AC%E5%BC%95%E5%AF%BC%E7%9A%84jps%E6%94%BB%E5%87%BB%E6%96%B9%E6%B3%95/ <h1 id="jps通过协同视觉扰动和文本引导越狱多模态大语言模型">JPS：通过协同视觉扰动和文本引导越狱多模态大语言模型</h1> <p>针对多模态大语言模型（MLLMs）的越狱攻击是一个重要的研究方向。当前研究主要关注最大化攻击成功率（ASR），但往往忽略了生成的响应是否真正实现了攻击者的恶意意图。这种疏忽经常导致输出质量低下：虽然绕过了安全过滤器，但缺乏实质性的有害内容。</p>