机器学习伦理与算法公平性探讨

两位全球领先的算法偏见专家回顾过去一年的事件，反思已获得的认知、仍在应对的挑战以及未来发展方向。

2019年11月，某机构学者Michael Kearns和Aaron Roth发布了《伦理算法：社会意识算法设计的科学》。该书核心论点涉及"将公平性和隐私等社会规范嵌入代码的算法设计科学"，在出版时已具有显著相关性。一年后，这些主题变得更为重要。

Aaron Roth指出，著作的核心论点始终未变：在任何特定问题中，必须首先谨慎思考对公平性、隐私等社会期望的需求，以及如何与其他关注点（如准确性）进行权衡。新冠疫情使这些权衡更加极端化，例如在疫情追踪中可能需为准确性牺牲隐私。

Michael Kearns强调，过去一年的社会动荡使算法主题更具现实意义。算法既可用于接触追踪等有益用途，也可用于监控等争议场景。社会正被迫以更直接的方式面对这些算法带来的张力。

Kearns认为不存在唯一的公平定义。每个应用都需要考虑保护对象和防范的损害，这会随时间推移和场景变化而调整。

Roth补充道，公平性始终依赖于语境和观察者视角。不同社会可能关注种族或性别公平，而社区规范也会随时间变化。疫情使人们对健康数据隐私的态度发生显著转变。

Roth表示监管机构已开始关注算法审计，但尚未具备大规模审计的技术能力。Kearns指出监管机构技术落后于行业，需要建立更完善的框架，包括明确最佳实践和规范输出行为而非限制输入变量。

差分隐私已从理论发展为实用技术。2020年美国人口普查首次采用差分隐私保护统计产品，在保护隐私的同时也需要付出某些详细分析不可用的代价。

疫情期间，科技公司使用差分隐私发布人员流动统计数据。该技术擅长发布群体级统计信息，防止推断特定个体信息。通过添加噪声数据，在保持统计准确性的同时保护个人隐私。

Penn等高校已开设数据伦理科学课程，重点教授使算法更符合伦理规范的科学方法，而非传统工程伦理案例研究。该领域需要计算机科学、法学、犯罪学等多学科协作。

研究者强调，算法伦理技术工作只是更大社会技术管道的一部分。需要与数据收集上游和模型应用下游的各方进行对话，获得不同视角的启发。

Kearns建议学生广泛阅读不同领域的观点，参加跨学科会议，接触科学家、法律学者、哲学家和社会学家的视角。Roth提醒研究者避免陷入狭窄技术问题，应保持"多语言"能力，理解不同领域的词汇和世界观。

Roth表示某机构和AWS提供了理论落地的实践场景，希望通过对实际问题的参与影响产品设计并发展 grounded 新理论。Kearns长期关注某机构机器学习从无到有的发展过程，认为这是将特定研究兴趣与顶尖技术公司内部视角结合的良机。

注：本文根据某机构科学网站对两位学者的访谈整理，聚焦机器学习伦理技术层面的讨论。