多目标联邦学习推断攻击防御策略OA
在实现多方协同训练时,联邦学习仍然面临成员推断攻击等隐私泄露风险.攻击者通过分析传输至中央服务器的梯度信息及模型参数变化,构建分析模型,从而辨识训练样本是否参与训练,并逆向推导出参与设备的私有数据特征.针对这一问题,本文提出了一种基于多目标学习优化策略的防御方法,该方法通过构建多目标学习函数,一方面通过缩小模型对成员数据与非成员数据预测差异以提升隐私保护效果,另一方面借助随机多梯度优化算法在隐私保护与模型精度互相制约的目标下取得最优解.实验结果表明,在3个常用数据集上的测试中,与无防御基线相比,该方法将成员推断攻击的ROC曲线下面积由75%降至50%,使攻击者的判断能力仅相当于随机猜测,同时对模型准确性的影响较小.
蒋伟进;杨璇;杜熙晨;刘茜;聂彩燕;蒋意容
湖南工商大学人工智能与先进计算学院,湖南长沙410205 湘江实验室,湖南长沙410205 湖南工商大学计算机学院,湖南长沙410205湖南工商大学人工智能与先进计算学院,湖南长沙410205 湘江实验室,湖南长沙410205湘江实验室,湖南长沙410205 湖南工商大学计算机学院,湖南长沙410205湘江实验室,湖南长沙410205 湖南工商大学计算机学院,湖南长沙410205湘江实验室,湖南长沙410205 湖南工商大学计算机学院,湖南长沙410205湖南信息学院艺术学院,湖南长沙410151
信息技术与安全科学
联邦学习推断攻击防御多目标学习随机多梯度下降
《控制理论与应用》 2026 (6)
P.1331-1339,9
国家自然科学基金项目(61772196)湖南省自然科学基金项目(2020JJ4249)湖南工商大学研究生科研创新项目(CX2024YB001)资助。
评论