数据流场景下内存受限本地差分隐私协议鲁棒性评估与增强OA
Evaluating and enhancing the robustness of memory-bounded LDP protocols for streaming data
本地差分隐私(LDP)因其本地扰动的特性易受数据投毒攻击,现有研究多聚焦于静态数据协议,对内存受限场景下采用域压缩技术的流式数据采集分析协议鲁棒性研究不足.针对BGR、DSR、BDR、CNR这4种主流LDP流式高频项识别协议展开研究.首先,提出一种攻击驱动的鲁棒性评估框架,设计基于最大化频率提升的数据投毒攻击,通过分析协议对该攻击的抵抗性来评估协议的鲁棒性.其次,将攻击成功率(ASR)作为评估指标,在3个现实数据集上评估发现DSR协议鲁棒性最高;同时,发现存储空间大小依然对协议鲁棒性有显著影响.最后,提出一种基于分布一致性的攻击检测方案,不依赖具体协议设计,通过数据频率重建技术解决受限内存下全域频率缺失的问题.实验表明,该方案在低隐私预算或高投毒比例下检测效果显著.
Local differential privacy(LDP)is vulnerable to data poisoning attacks,yet the robustness of memory-bounded streaming data protocols with domain compression remains understudies.Four mainstream LDP streaming fre-quent item identification protocols(BGR,DSR,BDR,and CNR)were investigated.Firstly,an attack-driven evaluation framework was proposed,and a data poisoning attack maximizing frequency gain was designed.Secondly,using attack success rate(ASR)as the evaluation metric,experiments on three datasets showed that DSR was the most robust proto-col,and storage size significantly impacts robustness.Finally,a protocol-agnostic attack detection scheme based on dis-tribution consistency was proposed,utilizing data frequency reconstruction to address missing global frequencies.Experi-mental results demonstrate that the proposed scheme achieves significant detection performance under low privacy bud-gets or high poisoning ratios.
田月池;彭锦钰;李效光;张芊龙;李凤华;左金鑫;牛犇
中国科学院信息工程研究所,北京 100085||中国科学院大学网络空间安全学院,北京 100049||网络空间安全防御全国重点实验室,北京 100085中国科学院信息工程研究所,北京 100085||中国科学院大学网络空间安全学院,北京 100049||网络空间安全防御全国重点实验室,北京 100085西安电子科技大学网络与信息安全学院,陕西 西安 710126中国科学院信息工程研究所,北京 100085||中国科学院大学网络空间安全学院,北京 100049||网络空间安全防御全国重点实验室,北京 100085中国科学院信息工程研究所,北京 100085||中国科学院大学网络空间安全学院,北京 100049||网络空间安全防御全国重点实验室,北京 100085中国科学院信息工程研究所,北京 100085||网络空间安全防御全国重点实验室,北京 100085中国科学院信息工程研究所,北京 100085||网络空间安全防御全国重点实验室,北京 100085
信息技术与安全科学
本地差分隐私鲁棒性评估数据流挖掘内存受限数据投毒
local differential privacyrobustness evaluationdata stream miningmemory boundeddata poisoning
《通信学报》 2026 (8)
60-77,18
国家自然科学基金资助项目(No.62332018,No.62402363)陕西省博士后科研项目资助(No.2024BSHSDZZ106) The National Natural Science Foundation of China(No.62332018,No.62402363),Shaanxi Province Postdoc-toral Research Funding Program(No.2024BSHSDZZ106)
评论