基于多阶段协同推理的大语言模型司法问答框架OA
近年来,大语言模型在司法领域展现出广阔前景,但在知识密集型推理与复杂逻辑判断的司法问答任务中,仍存在推理能力不足、法律知识运用不精准等挑战。为此,提出了一种“思考推理”解耦的多阶段协同推理框架DCRF,通过微调轻量级“思考者”生成高层次思维链,为下游推理提供策略引导;再由未经微调的Qwen1.5-14B-Chat“推理者”,在检索增强生成机制及相关法律条文的辅助下,展开细粒度逻辑推理。该框架实现了策略层与推理执行的协同,显著提升了模型调用法律知识的灵活性和准确性,同时避开大模型高成本微调,降低了训练开销。在JEC-QA,DISC-Law-Eval Benchmark等数据集上,DCRF在单选题准确率较基线模型平均提升9.77个百分点,在多选题F 1分数上平均提升7.48个百分点;其中,单选超越DeepSeek-R1-Distill-Qwen-14B,多选表现与其相当。实验结果表明,DCRF在降低训练成本的同时,有效强化了大语言模型的司法推理能力。
付启航;秦永彬;黄瑞章;周裕林;胡青青
贵州大学文本计算与认知智能教育部工程研究中心,贵州贵阳550025 贵州大学公共大数据国家重点实验室,贵州贵阳550025 贵州大学计算机科学与技术学院,贵州贵阳550025贵州大学文本计算与认知智能教育部工程研究中心,贵州贵阳550025 贵州大学公共大数据国家重点实验室,贵州贵阳550025 贵州大学计算机科学与技术学院,贵州贵阳550025贵州大学文本计算与认知智能教育部工程研究中心,贵州贵阳550025 贵州大学公共大数据国家重点实验室,贵州贵阳550025 贵州大学计算机科学与技术学院,贵州贵阳550025贵州大学文本计算与认知智能教育部工程研究中心,贵州贵阳550025 贵州大学公共大数据国家重点实验室,贵州贵阳550025 贵州大学计算机科学与技术学院,贵州贵阳550025贵州黔南科技学院法学与公共管理学院,贵州惠水550600
信息技术与安全科学
多阶段推理大语言模型法律推理检索增强生成指令微调
《计算机工程与科学》 2026 (2)
P.268-276,9
国家重点研发计划(2023YFC3304500)国家自然科学基金(62066007,62066008)贵州省重大科技专项(黔科合重大专项字[2024]003)。
评论