面向社交网络的协同内容审核后门防御方法研究OA

在大型社交媒体平台中,联邦学习作为一种保护用户隐私的关键技术,正被用于协同内容审核。然而,这种涉及海量用户的开放环境极易受到大规模、协同式的后门攻击,特别是来自“水军”的威胁,为平衡效率与隐私,系统每轮随机选择部分客户端参与训练。可能出现某几轮中恶意客户端数量多于良性客户端数量的情况,导致传统防御机制失效。为应对此挑战,该文提出一种鲁棒联邦聚合方法—FedComKD。“水军”的协同行为导致其模型更新在参数空间中形成同质化的恶意集群。FedComKD首先通过对客户端模型更新进行降维和社区发现,精准识别并剔除由攻击者形成的恶意“水军”社区。随后,利用由可信客户端构成的教师模型,通过知识蒸馏来引导和净化全局模型,消除残余的后门影响。在Cifar10数据集和MNIST数据集上的仿真实验表明,FedComKD能有效抵御此类威胁,在将后门攻击成功率大幅降低的同时,维持了主任务精度。