评估选择性加密对抗梯度反演攻击

梯度反演攻击对联邦学习等分布式训练框架构成重大隐私威胁，使恶意方能够从客户端与聚合服务器在聚合过程中的梯度通信中重建敏感本地训练数据。虽然基于传统加密的防御方法（如同态加密）在不影响模型效用的前提下提供强大的隐私保证，但它们通常会产生过高的计算开销。

为缓解这一问题，选择性加密已成为一种有前景的方法，它仅基于特定度量标准下数据的重要性对梯度数据子集进行加密。然而，关于如何在实践中具体指定这一度量标准，目前还缺乏系统性研究。

本文系统评估了采用不同重要性度量的选择性加密方法对抗最先进攻击的效果。我们的研究结果证明了选择性加密在降低计算开销同时保持攻击弹性的可行性。我们提出了一个基于距离的重要性分析框架，为选择关键梯度元素进行加密提供了理论基础。

通过对不同模型架构（LeNet、CNN、BERT、GPT-2）和攻击类型的广泛实验，我们确定梯度幅度是防御基于优化的梯度反演攻击的普遍有效度量标准。然而，我们也观察到没有任何单一的选择性加密策略在所有攻击场景中都是最优的，并针对不同模型架构和隐私需求提供了选择适当策略的指南。