FLShadow:基于影子模型的拜占庭鲁棒联邦聚合方法OA
在联邦学习中,拜占庭节点可能精心操纵客户端模型更新,导致聚合后中心模型准确率下降、无法收敛或通信轮数增加。由于中心模型无法仅根据客户端更新进行鲁棒性聚合,因此需要可信任的参考梯度。为此,提出基于影子模型拜占庭鲁棒的联邦聚合方法。首先,中心服务器预先收集小规模可信影子数据集并训练得到影子模型,对比客户端模型与可信影子模型更新方向,累计恶意得分,从而标记恶意客户端;然后,中心服务器剔除恶意客户端更新并修剪得到可信梯度;最后,进行聚合,保证模型性能和效率。在多种模型架构和真实数据集中进行测试。结果表明,本方法在3个数据集中能够有效防御6种拜占庭节点攻击。
徐辰晨;汪旭童;王涛春;陈付龙;刘奇旭
安徽师范大学计算机与信息学院,安徽芜湖241000中国科学院信息工程研究所,北京100085 中国科学院大学网络空间安全学院,北京100049安徽师范大学计算机与信息学院,安徽芜湖241000安徽师范大学计算机与信息学院,安徽芜湖241000中国科学院信息工程研究所,北京100085 中国科学院大学网络空间安全学院,北京100049
信息技术与安全科学
联邦学习拜占庭攻击影子模型影子数据集聚合规则隐私安全对抗攻击
《中国科学院大学学报(中英文)》 2026 (4)
P.553-565,13
国家自然科学基金(61972438)安徽师范大学科研项目(2021xjxm037)安徽省重点研究与开发计划项目(2022a05020049)安徽省自然科学基金(2108085MF219)资助。
评论