联邦学习的梯度安全鲁棒聚合算法OA
针对联邦学习中梯度面临的中毒攻击威胁和隐私泄露风险,提出一种联邦学习的梯度安全鲁棒聚合算法(model-secure and robust aggregation algorithms for federated learning,MSRAFL)。该算法可以在保护客户端数据隐私的前提下,有效防御恶意客户端发起的梯度中毒攻击,提升全局模型的鲁棒性和安全性。首先,MSRAFL引入差分隐私机制,通过梯度裁剪与高斯噪声注入实现隐私保护;其次,设计基于历史梯度的引导方向,结合余弦相似度与动态可信阈值对梯度进行投影约束,以纠正由噪声和攻击引起的更新方向偏离;进一步,依据客户端模型损失变化评估其可信度,并联合余弦相似度动态分配聚合权重,从而抑制恶意梯度的影响。在真实数据集上的实验结果显示,即使存在30%的中毒模型,MSRAFL仍能将模型准确率维持在约0.8的水平,优于现有同类聚合算法。这表明,MSRAFL算法能够在严格隐私保护条件下,有效提升联邦学习系统对中毒攻击的防御能力,兼顾隐私安全与模型鲁棒性。
王斌;陈运;张磊;陈杰;郑兵
佳木斯大学信息电子技术学院,黑龙江佳木斯154007 佳木斯大学信息电子技术学院黑龙江省自主智能与信息处理重点实验室,黑龙江佳木斯154007 佳木斯大学信息电子技术学院佳木斯市卫星导航技术与装备工程技术重点实验室,黑龙江佳木斯154007 佳木斯大学科技处,黑龙江佳木斯154007佳木斯大学信息电子技术学院,黑龙江佳木斯154007 佳木斯大学信息电子技术学院黑龙江省自主智能与信息处理重点实验室,黑龙江佳木斯154007 佳木斯大学信息电子技术学院佳木斯市卫星导航技术与装备工程技术重点实验室,黑龙江佳木斯154007佳木斯大学信息电子技术学院,黑龙江佳木斯154007 佳木斯大学信息电子技术学院黑龙江省自主智能与信息处理重点实验室,黑龙江佳木斯154007 佳木斯大学信息电子技术学院佳木斯市卫星导航技术与装备工程技术重点实验室,黑龙江佳木斯154007佳木斯大学信息电子技术学院,黑龙江佳木斯154007 佳木斯大学信息电子技术学院黑龙江省自主智能与信息处理重点实验室,黑龙江佳木斯154007 佳木斯大学信息电子技术学院佳木斯市卫星导航技术与装备工程技术重点实验室,黑龙江佳木斯154007佳木斯大学信息电子技术学院,黑龙江佳木斯154007 佳木斯大学信息电子技术学院黑龙江省自主智能与信息处理重点实验室,黑龙江佳木斯154007 佳木斯大学信息电子技术学院佳木斯市卫星导航技术与装备工程技术重点实验室,黑龙江佳木斯154007
信息技术与安全科学
联邦学习中毒攻击隐私保护差分隐私鲁棒聚合
《计算机应用研究》 2026 (7)
P.1962-1969,8
黑龙江省高等学校基本科研业务费优秀创新团队建设项目(2023-KYYWF-0639)佳木斯大学国家基金培育项目(JMSUGPZR2022-014)黑龙江省省属本科高校优秀青年教师基础研究支持计划(YQJH2024239)黑龙江省自然科学基金联合基金培育项目(PL2024F002)佳木斯大学博士专项科研基金启动项目(JMSUBZ2022-12)黑龙江省教育厅创新团队项目(2024-KYYWF-0611)佳木斯大学“东极”学术团队项目(DJXSTD202413)。
评论