https://blog.qife122.com/tags/%E5%81%8F%E8%A7%81%E6%A3%80%E6%B5%8B/ Recent content in 偏见检测 on 办公AI智能小助手 Hugo zh-cn qife Wed, 24 Sep 2025 15:41:26 +0800 https://blog.qife122.com/p/%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%81%8F%E8%A7%81%E8%AF%84%E4%BC%B0%E6%96%B0%E6%95%B0%E6%8D%AE%E9%9B%86%E4%B8%8E%E5%BA%A6%E9%87%8F%E6%96%B9%E6%B3%95%E8%A7%A3%E6%9E%90/ Wed, 24 Sep 2025 15:41:26 +0800 https://blog.qife122.com/p/%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%E5%81%8F%E8%A7%81%E8%AF%84%E4%BC%B0%E6%96%B0%E6%95%B0%E6%8D%AE%E9%9B%86%E4%B8%8E%E5%BA%A6%E9%87%8F%E6%96%B9%E6%B3%95%E8%A7%A3%E6%9E%90/ <h1 id="新数据集与度量方法助力语言模型偏见评估">新数据集与度量方法助力语言模型偏见评估</h1> <p>人类评估研究验证了度量指标的有效性，实验表明流行语言模型中存在偏见证据。</p> <h2 id="数据集构建方法">数据集构建方法</h2> <p>BOLD（开放域语言生成偏见数据集）包含23,000多个文本生成提示，用于从五个维度检测语言模型偏见：职业、性别、种族、宗教信仰和政治意识形态。每个提示由维基百科句子前6-9个单词组成。</p> https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%81%8F%E8%A7%81%E6%A3%80%E6%B5%8B%E5%B7%A5%E5%85%B7clarify%E7%9A%84%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90/ Wed, 24 Sep 2025 08:42:45 +0800 https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%81%8F%E8%A7%81%E6%A3%80%E6%B5%8B%E5%B7%A5%E5%85%B7clarify%E7%9A%84%E6%8A%80%E6%9C%AF%E8%A7%A3%E6%9E%90/ <h2 id="技术背景">技术背景</h2> <p>在机器学习领域，理解模型预测逻辑及潜在偏见一直是一项具有挑战性的劳动密集型任务。随着数据量激增和模型复杂度提升，开发者需要依赖多个开源库进行偏见检测，但这些库存在代码质量参差不齐、维护不足等问题。</p>