概念化不确定性：基于概念的机器学习解释方法
摘要
机器学习中的不确定性指的是模型预测置信度的缺乏程度。虽然存在不确定性量化方法，但在高维设置中对不确定性的解释仍然是一个开放挑战。现有工作主要局限于局部解释的特征归因方法。在全局范围内理解不确定性的起源和特征对于增强模型预测的可解释性和可信度至关重要。
方法
本研究提出通过概念激活向量来解释高维数据分类设置中的不确定性，该方法能够产生局部和全局的不确定性解释。通过利用生成的解释来优化和改进模型，证明了所提出方法的实用性。
主题分类
- 机器学习 (cs.LG)
- 人工智能 (cs.AI)
技术实现
该方法基于概念激活向量（Concept Activation Vectors）技术框架，通过以下方式实现不确定性解释：
- 在高维特征空间中识别语义概念
- 构建概念与模型预测不确定性的关联映射
- 同时提供实例级别的局部解释和模型级别的全局解释
- 将解释反馈用于模型 refinement 过程
应用价值
该方法为理解复杂机器学习模型的不确定性提供了新的技术路径，特别是在需要高可信度和可解释性的应用场景中具有重要价值。通过概念层面的解释，使模型不确定性变得更加透明和可操作。