融合双语信息的汉语篇章主次识别方法OA
Integration of Bilingual Information for Nuclearity Recognition in Chinese Discourse
在主次识别中,汉语句子间的显式衔接手段较少,因此其主次识别具有极大的挑战性.英语大多用明确的主从结构或连接词来表示句子的主次关系,而现有方法在训练模型时没有利用英语信息.与现有方法在训练模型时单独使用中文数据不同,提出的方法在训练模型时使用平行双语数据.对双语文本编码时使用多语言预训练模型,在得到的编码上应用多头注意力机制,捕获显式或隐含于句中的主从信息.在汉语篇章树库(Chinese Discourse Treebank,CDTB)上的实验显示,提出的模型和方法比之前最好的 GMN-Nu 模型在宏平均 F1值和微平均 F1 值上提高了 8.7%和 6.1%;相较于仅使用预训练模型和单语数据训练的方法,融合双语信息的主次识别方法对于 mBERT、mT5、XLM-R 3 种模型在微平均 F1 值上分别提高了 1.6%、3.5%、1.3%.在汉英篇章结构平行语料库(Chinese-English Discourse Treebank,CEDT)上的实验显示,融合双语信息的主次识别方法比单语言的主次识别方法在微平均 F1 值和宏平均 F1 值上分别提升了 10.2%和 5.8%.
Chinese nuclearity recognition encounters inherent difficulties owing to limited explicit inter-sentential connectives.In contrast,English systematically marks nuclearity through subordinate constructions and discourse markers.Current approaches trained models exclusively on Chinese corpora without leveraging English signals.Our methodology addresses this gap by incorporating parallel bilingual training data.A multilingual pre-trained model processed the bilingual texts,and a multi-head attention mechanism captured explicit and implicit nuclearity features.Experiments on the Chinese Discourse Treebank(CDTB)showed that our model achieved 8.7%and 6.1%improvements in Macro-F1 and Micro-F1 scores over the previous state-of-the-art GMN-Nu model.Compared to monolingual training with mBERT,mT5,and XLM-R,the bilingual fusion strategy increased Micro-F1 by 1.6%,3.5%and 1.3%,respectively.Additional tests on the Chinese-English Discourse Treebank(CEDT)demonstrated 10.2%and 5.8%gains in Micro-F1 and Macro-F1 over monolingual methods.
李艳翠;郭鹏程;苗国义
河南师范大学计算机与信息工程学院,河南 新乡 453007教育人工智能与个性化学习河南省重点实验室,河南 新乡 453007河南省教学资源与教育质量评估大数据工程研究中心,河南 新乡 453007
信息技术与安全科学
篇章分析主次识别预训练模型双语信息
discourse analysisnuclearity recognitionpretrained modelsbilingual information
《南京师大学报（自然科学版）》 2026 (2)
74-84,11
教育部人文社会科学研究项目(22YJCZH091)、河南省科技攻关项目(252102210102、262102210084)、河南省自然科学基金项目(262300421797).
评论