基于预训练大语言模型的短期风电预测及其可解释性研究OA

新型电力系统背景下风电功率预测面临精度与泛化性双重挑战,为应对大语言模型应用于风电预测领域时存在的适应性瓶颈,提升短期风电功率预测的准确性与模型在电力系统决策中的可信度,提出一种基于预训练大语言模型的短期风电预测方法,并基于SHAP(SHapley Additive exPlanations)算法对模型预测结果进行系统归因。首先,分析主流大模型架构,通过数学推导证明Decoder-only(仅解码)架构模型的优异性,以确定基座模型。其次,基于Qwen大模型构建其基本神经网络结构,为形成风电预测架构奠定基础。随后,面向风电预测任务提出基于参数冻结的训练策略,重新设计预训练Qwen模型的输入输出层,并基于特征迁移冻结其主干网络中的注意力与多层感知机(MLP)模块,仅微调部分网络结构的参数,实现日前风电出力预测。最后,为提升预测结果的可解释性,采用基于SHAP值的特征贡献度分析方法,量化了各气象特征对风电功率预测的影响程度,揭示了关键特征对模型预测结果的贡献机制。算例结果表明:在多时间分辨率下的风电出力预测实验中,本文使用的Qwen模型在保留6个Decoder时展现出最优的泛化性能;相较于基准模型,本文方法在训练效率方面表现最优。在全量数据与少样本两种测试场景下,本文方法的预测误差比对比方法平均降低超过11.53%。通过SHAP可解释性分析实验表明,地面100 m处风速特征对模型预测结果具有最强影响。综上,本文方法能够有效捕获风电出力的时序特征,提升短期风电功率预测的精度。