基于幻觉消除大模型的误导性信息检测方法研究OA

近年兴起的大语言模型凭借强大的语义理解能力在误导性信息检测领域弥补了传统方法依赖人工特征且跨模态处理能力弱、时效性滞后、可解释性差等瓶颈,但其固有的幻觉问题严重制约了检测的准确性和可靠性。为此,提出一种基于幻觉消除大模型的误导性信息检测框架。创新设计了基于查询复杂度的智能动态路由机制,以双路检索增强生成为架构,主要构建了深度融合幻觉消除机制的领域知识图谱,通过创新动态构建与校验算法,分析经结构化提示模板解析后的事件元素,自适应地决策检索路径,有效减轻传统检索增强生成(RAG)存在上下文读取能力差、多轮检索能力欠缺等痼疾。另一方面,创新提出了基于冲突消解与置信度加权的多源证据融合算法,其以动态路由机制输出的初步证据为基础,将证据合成为高一致性、高可信度的增强上下文,并且与冲突检测提示模板紧密配合,为大型语言模型提供了清晰、可靠且结构化的证据体。此外,采用QLoRA高效微调策略,利用知识图谱高质量的结构化知识,深度内化误导检测领域知识,提升模型处理复杂输入的能力。实验表明,该方法在FakeNewsAMT和Chinese_Rumor_Dataset数据集上的准确率、精确率等指标上均显著优于传统方法及主流大语言模型基线,且具有一定的泛化能力。该检测框架有效缓解了大模型在误导性信息检测中的幻觉问题,为基于大语言模型的误导性信息检测任务提供了有效的技术方案。