融合RAG和大语言模型微调的学术短文本学科分类研究OACHSSCD
[目的/意义]学术短文本的学科分类研究能够有效促进学术论文的计量分析。[方法/过程]本文提出了一种融合检索增强生成(RAG)与大语言模型微调的学术短文本分类框架,通过动态检索学科关联信息,结合参数高效微调技术,在增强模型输入的语义表征能力的同时,实现领域任务的深度适配。[结果/结论]实验表明,相较于传统深度学习模型和通用大语言模型,融合LoRA微调与RAG的协同范式显著提升了多标签分类性能,分类错误率相对下降36.8%,汉明损失、覆盖度与首标记错误率均达到最优水平。融合RAG与大语言模型微调的分类框架在学术短文本多标签分类中展现出协同优势,其模块化架构为跨学科知识分类提供了技术路径,具有重要的学术价值与实践意义。
尚渡新;段宇锋;柏萍;谢佳宏;刘宴佐
华东师范大学经济与管理学院信息管理系,上海200062华东师范大学经济与管理学院信息管理系,上海200062华东师范大学经济与管理学院信息管理系,上海200062华东师范大学经济与管理学院信息管理系,上海200062华东师范大学经济与管理学院信息管理系,上海200062
信息技术与安全科学
学科分类学术短文本分类检索增强生成大语言模型LoRA微调
《现代情报》 2026 (3)
P.18-29,12
国家社会科学基金一般项目“基于知识图谱推理的健康信息可信度计算研究”(项目编号:20BTQ092)。
评论