https://blog.qife122.com/tags/%E5%81%8F%E8%A7%81%E7%BC%93%E8%A7%A3/ Recent content in 偏见缓解 on 办公AI智能小助手 Hugo zh-cn qife Sat, 20 Sep 2025 15:01:13 +0800 https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E7%BF%BB%E8%AF%91%E4%B8%AD%E7%9A%84%E5%81%8F%E8%A7%81%E7%BC%93%E8%A7%A3%E4%B8%8E%E7%94%A8%E6%88%B7%E9%9C%80%E6%B1%82%E8%B4%B4%E8%BF%91/ Sat, 20 Sep 2025 15:01:13 +0800 https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E7%BF%BB%E8%AF%91%E4%B8%AD%E7%9A%84%E5%81%8F%E8%A7%81%E7%BC%93%E8%A7%A3%E4%B8%8E%E7%94%A8%E6%88%B7%E9%9C%80%E6%B1%82%E8%B4%B4%E8%BF%91/ <p>近年来，缓解机器学习模型中的偏见已成为重要研究课题，自然语言处理领域也不例外。</p> <p>某中心应用科学家兼EMNLP会议领域主席表示：&ldquo;量化并解决偏见不仅是责任所在，这些问题本身也极具挑战性和吸引力。&ldquo;其研究重点是机器翻译，其中量化偏见问题尤为突出。</p> https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E7%BF%BB%E8%AF%91%E4%B8%AD%E7%9A%84%E5%81%8F%E8%A7%81%E7%BC%93%E8%A7%A3%E4%B8%8E%E7%94%A8%E6%88%B7%E9%9C%80%E6%B1%82%E9%80%82%E9%85%8D%E6%8A%80%E6%9C%AF/ Sat, 13 Sep 2025 06:37:57 +0800 https://blog.qife122.com/p/%E6%9C%BA%E5%99%A8%E7%BF%BB%E8%AF%91%E4%B8%AD%E7%9A%84%E5%81%8F%E8%A7%81%E7%BC%93%E8%A7%A3%E4%B8%8E%E7%94%A8%E6%88%B7%E9%9C%80%E6%B1%82%E9%80%82%E9%85%8D%E6%8A%80%E6%9C%AF/ <p>近年来，缓解机器学习模型中的偏见已成为重要研究方向，自然语言处理领域亦不例外。某中心应用科学家、自然语言处理实证方法会议领域主席指出，量化并解决偏见问题既是责任所在，也蕴含极具挑战性的技术难题。</p> https://blog.qife122.com/p/%E5%8F%AF%E4%BF%A1%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%9C%A8%E8%AF%AD%E9%9F%B3%E5%8A%A9%E6%89%8B%E4%B8%AD%E7%9A%84%E4%B8%89%E5%A4%A7%E7%AA%81%E7%A0%B4/ Thu, 11 Sep 2025 07:17:56 +0800 https://blog.qife122.com/p/%E5%8F%AF%E4%BF%A1%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0%E5%9C%A8%E8%AF%AD%E9%9F%B3%E5%8A%A9%E6%89%8B%E4%B8%AD%E7%9A%84%E4%B8%89%E5%A4%A7%E7%AA%81%E7%A0%B4/ <h2 id="隐私保护机器学习">隐私保护机器学习</h2> <p>差分隐私（DP）通过量化模型输出概率差异来保障训练数据隐私。传统DP-SGD机制会导致训练时间大幅增加，某团队提出高效eDP-SGD机制，利用GPU架构的批处理方案和自动化超参数调优，在保持相同隐私保障的同时将训练时间降至与非DP方法相当水平。团队还研究了模型反转攻击（ModIvA）对文本分类模型的威胁，提出针对离散输入输出的防护方案。</p>