机器学习的伦理算法设计

某中心网络服务（AWS）机器学习峰会将于6月2日举行，重点探讨机器学习实践中的技术进步。该活动设有面向数据科学家和高级从业者的"机器学习科学"专题 track，包含六个30分钟的技术会议和45分钟的炉边谈话。

专访迈克尔·卡恩斯

迈克尔·卡恩斯是某中心学者，宾夕法尼亚大学计算机与信息科学教授，与亚伦·罗斯合著《伦理算法：社会意识算法设计的科学》（2019年出版）。该书研究如何将公平性、隐私等社会规范嵌入算法设计，保护人类免受算法意外影响。卡恩斯是沃伦网络与数据科学中心的创始主任，近期当选美国国家科学院院士。

问题一：ML峰会谈及的主题是什么？

将介绍机器学习社区设计更"伦理化"算法模型的最新研究：在保持人工智能和机器学习优势的同时，遵守公平性、可解释性和隐私等重要社会规范。包括：

• 差分隐私工具包：通过添加噪声和随机性的计算方式，在开发机器学习模型时提供强大的个人隐私保障
• 基于博弈论的机器学习算法：用于执行涉及种族或性别的群体公平性概念。生成对抗网络（GANs）可将算法框架设置为生成器与判别器之间的博弈游戏

问题二：为何该主题在科学界尤为重要？

即使 casual observer 也注意到社会对人工智能潜在危害和滥用的担忧日益增长。虽然通常呼吁加强技术相关法律法规，但研究指向另一种互补解决方案：从设计源头就构建"行为更良好"的社会意识算法和模型。

部分技术相对成熟（如差分隐私），而其他方法（如使ML模型更可解释）仍处于早期阶段。需要深入探索人们如何使用和解释预测模型的行为理解。

问题三：社会意识算法设计领域的三大进展？

1. 基础科学突破：指向新的算法技术集合，在精度效用目标与AI/ML主要社会关切之间取得平衡
2. 规模化应用落地：包括2020年美国人口普查采用差分隐私，某机构推出的公平可解释ML服务SageMaker Clarify
3. 跨学科协作生态：过去十年形成的跨领域社区，涵盖ML研究者、法律监管专家、政策制定者、社会科学家、公民自由团体甚至哲学家

卡恩斯的研究可通过注册AWS机器学习峰会观看其演讲。