DP-FedDRC:缓解维度坍塌的差分隐私个性化联邦学习OA

联邦学习在分布式隐私保护场景中面临数据异质性与隐私泄露双重挑战。个性化联邦学习通过约束局部模型更新方向缓解数据分布差异,而差分隐私则提供严格的隐私保障。然而,现有方法在同时解决这两个问题时,未能充分考量噪声对数据非独立同分布场景下联邦学习训练过程的耦合影响,导致隐私-效用权衡不足。实验表明,差分隐私噪声会显著加剧数据异质性引发的维度坍塌问题。该问题导致特征空间的有效自由度衰减,并削弱了特征的判别性表达能力,成为模型性能下降的关键原因。为此,提出一种融合特征去相关与特征残差约束的差分隐私个性化联邦学习框架(DP-FedDRC)。该框架通过抑制特征冗余相关性并保留关键判别信息,缓解噪声和数据异质性共同导致的维度坍塌问题。在隐私保护方面,DPFedDRC在本地训练中采用DP-SGD机制实现梯度裁剪与高斯噪声注入,并基于Rényi差分隐私框架严格核算全局隐私预算。在MNIST、Fashion-MNIST和CIFAR-10数据集上的实验表明,在同等严格的隐私约束下,DP-FedDRC相比基线算法实现了更高的模型准确率,且计算开销仅增加8.3%~9.9%。