基于门控特征融合的双通道文本分类模型OA
针对现有的基于图神经网络的文本分类模型存在全局上下文信息和图结构信息提取不足等问题,提出了一种基于门控特征融合的双通道文本分类模型。构建文本序列通道,利用BERT对输入的文本进行词嵌入,并且利用多尺度窗口跨层注意力和卷积双向长短期记忆网络分别捕捉序列中的多尺度特征信息和顺序依赖信息。为了探究最优权重,使用门控机制来融合两者的特征,实现了特征的加权融合,保留了两者重要的信息。构建图结构数据通道,利用文本数据构建文本图,通过简化图卷积网络和图注意力网络的联合训练来捕捉图结构信息,有效地学习了图的结构信息和节点间的关联信息。使用插值法融合两个通道的概率分布,得到最终的标签预测结果。为了评估模型的性能,在四个公开数据集上进行测试,实验结果表明提出的模型在评价指标上优于其他模型。
苏易礌;李卫军;李贯峰;刘雪洋;丁建平;刘世侠;王子怡
北方民族大学计算机科学与工程学院,银川750021北方民族大学计算机科学与工程学院,银川750021 北方民族大学图形图像智能处理国家民委重点实验室,银川750021宁夏大学信息工程学院,银川750021北方民族大学计算机科学与工程学院,银川750021北方民族大学计算机科学与工程学院,银川750021北方民族大学计算机科学与工程学院,银川750021北方民族大学计算机科学与工程学院,银川750021
信息技术与安全科学
文本分类门控特征融合多尺度窗口跨层注意力加权融合插值法
《计算机工程与应用》 2026 (4)
P.168-179,12
国家自然科学基金(62066038,61962001)宁夏自然科学基金(2021AAC03215)中央高校基本科研业务费项目(2021JCYJ12)。
评论