大语言模型幻觉引发信息污染的成因解构与治理研究OACHSSCD

[目的]大语言模型的“幻觉”现象带来了错误信息产生的新机制,探究其引发信息污染的成因和治理策略,对于提升智能信息服务的可靠性和可落地性至关重要。[方法]通过文献分析、对比分析等方法,梳理、讨论并进一步厘清了AI语境下的幻觉概念及类型,基于幻觉信息生命周期框架从源头、传播、检测、干预四个环节解构幻觉带来的信息污染成因,提出治理策略。[结果/结论]成因方面,数据缺陷、技术短板、交互质量不足直接产生了幻觉信息,幻觉信息逃逸进入传播链后扩散侵入信息生态,受限于有效检测手段和干预策略的不足,导致幻觉信息的“二次加工”和“幻觉传染”,造成了复杂且长期的信息污染。治理方面,提出从源头出发降低幻觉信息产生几率,减少幻觉信息传播扩散,提高幻觉信息甄别效率,做好预防性和治疗性双向干预,遏制其带来的不良影响,为认识和治理大语言模型幻觉带来的信息污染问题提供了综合性视角,为推动可信AI建设提供了参考路径。