首页|期刊导航|计算机应用研究|基于模糊推理和熵约束的联邦半监督学习算法

基于模糊推理和熵约束的联邦半监督学习算法OA

Federated semi-supervised learning via fuzzy reasoning and entropy constraints

中文摘要英文摘要

针对联邦半监督学习(FSSL)过程中标注数据稀缺和数据异构性所导致的模型偏见等问题,提出了一种基于模糊推理和熵约束的学习方案.现有研究大多直接利用预测生成的伪标签挖掘未标注数据的价值,通常通过设置置信度阈值对预测结果进行筛选,但这类方法往往未能深入探究置信度得分较低的深层原因.未标注客户端之间的数据分布可能存在显著差异,当不加区分地使用带有噪声的伪标注数据时,这种显著的数据分布变化会导致性能下降.为此,提出通过模糊计算模块进行不确定性建模,充分挖掘低置信度伪标签的潜在信息,特别关注混淆类别生成的伪标签.同时引入基于信息熵的过滤机制,有效剔除低质量未标注数据,从而降低噪声数据的影响.提出一种用于联邦半监督学习的级联学习算法FedFREC,通过结合上述针对混淆类别的模糊计算模块和基于信息熵的低置信度样本过滤机制,有效利用了未标注数据中包含的信息.在SVHN、CIFAR-10、CIFAR-100、fashion MNIST和ISIC2018数据集上的大量实验证明了所提算法的优越性.

This study tackled model bias in federal semi-supervised learning(FSSL)caused by scarce labeled data and hetero-geneous data distributions.The research proposed a new learning scheme that used fuzzy inference and entropy constraints.Most existing methods generate pseudo-labels from predictions to leverage unlabeled data.They usually set confidence thres-holds to screen these predictions.However,these approaches often missed the deeper reasons behind low confidence scores.Unlabeled clients can show significant differences in their data distributions.Using noisy pseudo-labels without distinction de-grades model performance.To resolve this problem,this paper designed a fuzzy computation module to model uncertainty.This module explored potential information in low-confidence pseudo-labels,paying special attention to pseudo-labels from con-fusing categories.The scheme also introduced a filtering mechanism to use information entropy.This mechanism effectively removed low-quality unlabeled data and reduced the impact of noisy samples.The research created FedFREC,a cascaded learning algorithm for FSSL.The algorithm combined the fuzzy computation module for confusing categories with the entropy-based filtering mechanism for low-confidence samples.This approach successfully utilized the information embedded in unla-beled data.Extensive experiments on the SVHN,CIFAR-10,CIFAR-100,fashion MNIST,and ISIC2018 datasets demon-strate the superiority of the proposed method.

施庭波;宫文娟;李淳涵

中国石油大学(华东) 青岛软件学院、计算机科学与技术学院,山东青岛 266580||中国石油大学(华东) 山东省智能油气工业软件重点实验室,山东青岛 266580中国石油大学(华东) 青岛软件学院、计算机科学与技术学院,山东青岛 266580||中国石油大学(华东) 山东省智能油气工业软件重点实验室,山东青岛 266580中国石油大学(华东) 青岛软件学院、计算机科学与技术学院,山东青岛 266580||中国石油大学(华东) 山东省智能油气工业软件重点实验室,山东青岛 266580

信息技术与安全科学

联邦半监督学习伪标签模糊推理熵约束不确定性建模

federated semi-supervised learningpseudo labelfuzzy inferenceentropy constraintuncertainty modeling

《计算机应用研究》 2026 (6)

1647-1654,8

山东省自然科学基金资助项目(ZR2023MF041)

10.19734/j.issn.1001-3695.2025.09.0412

评论