基于语法增强BERT的作文自动评分方法OA
针对现有的预训练模型无法涵盖大量不同领域的知识且在少样本数据集上进行优化的效果不是很好的问题,提出基于语法增强BERT的作文自动评分方法,采用BERT提取深层语义特征,通过语法提取层获取显示语法特征作为外部知识与BERT结合,通过自训练编码层提取文本特征实现领域适配,通过特征融合进行作文自动评分。实验结果表明,所提出的模型在Kaggle ASAP数据集上评分效果良好,平均QWK达到78.89%。
曹家华;杨勇;任鸽;帕力旦·吐尔逊
新疆师范大学计算机科学技术学院,新疆乌鲁木齐830054新疆师范大学计算机科学技术学院,新疆乌鲁木齐830054新疆师范大学计算机科学技术学院,新疆乌鲁木齐830054新疆师范大学计算机科学技术学院,新疆乌鲁木齐830054
信息技术与安全科学
作文自动评分预训练语言模型BERT语法
《计算机应用与软件》 2026 (7)
P.96-102,7
新疆维吾尔自治区自然科学基金项目(2021D01B72)国家自然科学基金项目(62167008,62066044)。
评论