https://blog.qife122.com/tags/%E5%AE%89%E5%85%A8%E5%AF%B9%E9%BD%90/ Recent content in 安全对齐 on 办公AI智能小助手 Hugo zh-cn qife Fri, 05 Sep 2025 22:51:03 +0800 https://blog.qife122.com/p/%E8%B7%A8%E6%A8%A1%E6%80%81%E8%A7%86%E8%A7%89%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E8%AF%86%E5%88%AB%E4%B8%8D%E5%AE%89%E5%85%A8%E6%A6%82%E5%BF%B5%E7%9A%84%E8%83%BD%E5%8A%9B%E5%B7%AE%E8%B7%9D%E4%B8%8E%E4%BC%98%E5%8C%96%E6%96%B9%E6%A1%88/ Fri, 05 Sep 2025 22:51:03 +0800 https://blog.qife122.com/p/%E8%B7%A8%E6%A8%A1%E6%80%81%E8%A7%86%E8%A7%89%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E8%AF%86%E5%88%AB%E4%B8%8D%E5%AE%89%E5%85%A8%E6%A6%82%E5%BF%B5%E7%9A%84%E8%83%BD%E5%8A%9B%E5%B7%AE%E8%B7%9D%E4%B8%8E%E4%BC%98%E5%8C%96%E6%96%B9%E6%A1%88/ <h1 id="跨模态视觉语言模型识别不安全概念的能力差距与优化方案">跨模态视觉语言模型识别不安全概念的能力差距与优化方案</h1> <h2 id="摘要">摘要</h2> <p>视觉语言模型（VLMs）因其内部伦理标准和强大推理能力，越来越多地被用于识别不安全或不适当的图像。然而，目前尚不清楚这些模型在不同模态（如文本和图像）呈现时是否能识别各种不安全概念。为此，我们首先构建了UnsafeConcepts数据集，包含75个不安全概念（如“卐字符”、“性骚扰”和“攻击”）以及相关的1.5K张图像。随后，我们系统评估了VLMs的感知（概念识别）和对齐（伦理推理）能力。</p>