System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于可解释性与模型融合的风电功率预测方法及装置制造方法及图纸_技高网
当前位置: 首页 > 专利查询>之江实验室专利>正文

一种基于可解释性与模型融合的风电功率预测方法及装置制造方法及图纸

技术编号:42900242 阅读:10 留言:0更新日期:2024-09-30 15:16
本发明专利技术公开了一种基于可解释性与模型融合的风电功率预测方法及装置,包括:收集历史风电功率和风速数据,将这些数据进行归一化处理,得到数据集;构建Transformer模型的编码器和解码器,所述编码器用于处理输入序列,所述解码器用于生成预测结果;将Transformer模型中的多层感知机部分替换为KAN网络,得到风电功率预测模型;利用数据集训练风电功率预测模型,优化模型参数;该模型的输出即为最终的风电功率预测值。相比传统Transformer模型,本方法使用KAN网络代替前馈神经网络,提高了风电功率预测的准确性;且本方法更具有可解释性,便于将模型迁移到全新的数据集上。

【技术实现步骤摘要】

本专利技术涉及风电功率预测领域,具体涉及一种基于可解释性与模型融合的风电功率预测方法及装置


技术介绍

1、风电作为一种清洁能源,在全球范围内得到了广泛应用。然而,风电功率预测由于风速的随机性和复杂性,始终是一个挑战。传统的风电功率预测方法包括物理模型和统计模型。物理模型基于流体力学和气象学原理进行预测,但计算复杂且需要大量的先验知识。统计模型则基于历史数据进行建模,如时间序列分析和回归分析,虽然计算效率高,但难以捕捉风速与风电功率之间的复杂非线性关系。

2、近年来,深度学习方法在风电功率预测中展现出强大的性能,尤其是transformer模型。transformer模型通过自注意力机制,能够高效处理长时间序列数据,适用于风电功率预测。然而,transformer模型的黑箱性质限制了其在需要解释性的领域中的应用。为了提升模型的解释性和预测性能,本专利技术提出了一种基于kolmogorov–arnold网络(kan)的可解释风电功率预测方法及装置。


技术实现思路

1、本专利技术的目的在于针对现有技术的不足,提供了一种基于可解释性与模型融合的风电功率预测方法及装置。

2、为实现上述目的,本专利技术提供了一种基于可解释性与模型融合的风电功率预测方法,包括以下步骤:

3、(1)数据预处理:收集历史风电功率和风速数据,将这些数据进行归一化处理,得到数据集;

4、(2)模型构建:构建transformer模型的编码器和解码器,所述编码器用于处理输入序列,所述解码器用于生成预测结果;将transformer模型中的前馈神经网络替换为kan网络,得到风电功率预测模型;

5、(3)模型训练:利用步骤(1)得到的数据集训练步骤(2)得到的风电功率预测模型,优化模型参数;所述风电功率预测模型的输出即为最终的风电功率预测值。

6、进一步地,所述步骤(2)中,编码器由多个相同的层叠加而成,每一层包含一个多头自注意力机制和一个前馈神经网络,自注意力机制通过计算输入序列中每个位置与其他位置的相关性来捕捉输入序列的全局信息,前馈神经网络用于对每个位置的表示进行独立的非线性变换。

7、进一步地,所述自注意力机制的表达式为:

8、

9、其中,查询q、键k、值v分别由输入矩阵x通过线性变换得到:

10、q=xwq,k=xwk,v=xwv  (2)

11、w是可学习的参数矩阵,dk是键向量的维度,用于缩放点积结果;

12、所述前馈神经网络的表达式为:

13、ffn(x)=max(0,xw1+b1)w2+b2  (5)

14、其中,x表示输入向量;w1表示连接输入层和隐藏层的权重,w2表示连接隐藏层和输出层的权重;b1表示添加到隐藏层的偏置,b2表示添加到输出层的偏置。

15、进一步地,所述解码器的结构与编码器类似,但在每一层中增加了一个用于捕捉编码器输出与解码器输入之间关系的多头注意力机制。

16、进一步地,所述多头注意力机制通过并行计算多个注意力头来捕捉不同子空间的信息,有如下表达式:

17、multihead(q,k,v)=concat(head1,head2,…,headh)wo  (3)

18、其中,每个head是一个独立的注意力机制:

19、

20、进一步地,所述将transformer模型中的前馈神经网络替换为kan网络具体为:transformer模型由一个注意力层和一个前馈神经网络组成,kan网络在输入输出相同的情况下替代前馈神经网络,接受注意力层的输出作为输入,经过两个隐藏层的一维函数对输入特征进行变换,得到新的特征表示,高效逼近多维函数,获得最终输出。

21、进一步地,在将kan网络用于替换transformer模型中的前馈神经网络时,将b样条用于参数化kan网络的一元连续函数φi和ψij;通过利用b样条的局部控制和平滑性特性,捕捉数据中的复杂非线性关系;

22、其中,结合kan网络和b样条的操作具体为:定义节点向量,选择适当的节点向量用于b样条;使用b样条基函数参数化kan网络的一元连续函数φi和ψij;训练kan网络以学习b样条的控制点,这些控制点定义了输入特征的变换和组合。

23、为实现上述目的,本专利技术还提供了一种基于可解释性与模型融合的风电功率预测装置,包括一个或多个处理器,用于实现上述的基于可解释性与模型融合的风电功率预测方法。

24、为实现上述目的,本专利技术还提供了一种电子设备,包括存储器和处理器,所述存储器与所述处理器耦接;其中,所述存储器用于存储程序数据,所述处理器用于执行所述程序数据以实现上述的基于可解释性与模型融合的风电功率预测方法。

25、为实现上述目的,本专利技术还提供了一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现上述的基于可解释性与模型融合的风电功率预测方法。

26、与现有技术相比,本专利技术的有益效果是:本专利技术通过引入kolmogorov-arnoldnetworks网络(kan),解释其预测过程和结果,提高了风电功率预测的准确性;通过将kan与transformer模型相结合,替换原先的mlp(多层感知机)层,提升模型的预测效果。

本文档来自技高网...

【技术保护点】

1.一种基于可解释性与模型融合的风电功率预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述步骤(2)中,编码器由多个相同的层叠加而成,每一层包含一个多头自注意力机制和一个前馈神经网络,自注意力机制通过计算输入序列中每个位置与其他位置的相关性来捕捉输入序列的全局信息,前馈神经网络用于对每个位置的表示进行独立的非线性变换。

3.根据权利要求2所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述自注意力机制的表达式为:

4.根据权利要求2所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述解码器的结构与编码器类似,但在每一层中增加了一个用于捕捉编码器输出与解码器输入之间关系的多头注意力机制。

5.根据权利要求4所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述多头注意力机制通过并行计算多个注意力头来捕捉不同子空间的信息,有如下表达式:

6.根据权利要求1所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述将Transformer模型中的前馈神经网络替换为KAN网络具体为:Transformer模型由一个注意力层和一个前馈神经网络组成,KAN网络在输入输出相同的情况下替代前馈神经网络,接受注意力层的输出作为输入,经过两个隐藏层的一维函数对输入特征进行变换,得到新的特征表示,高效逼近多维函数,获得最终输出。

7.根据权利要求6所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,在将KAN网络用于替换Transformer模型中的前馈神经网络时,将B样条用于参数化KAN网络的一元连续函数φi和ψij;通过利用B样条的局部控制和平滑性特性,捕捉数据中的复杂非线性关系;

8.一种基于可解释性与模型融合的风电功率预测装置,其特征在于,包括一个或多个处理器,用于实现权利要求1-7中任一项所述的基于可解释性与模型融合的风电功率预测方法。

9.一种电子设备,包括存储器和处理器,其特征在于,所述存储器与所述处理器耦接;其中,所述存储器用于存储程序数据,所述处理器用于执行所述程序数据以实现上述权利要求1-7任一项所述的基于可解释性与模型融合的风电功率预测方法。

10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7任一项所述的基于可解释性与模型融合的风电功率预测方法。

...

【技术特征摘要】

1.一种基于可解释性与模型融合的风电功率预测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述步骤(2)中,编码器由多个相同的层叠加而成,每一层包含一个多头自注意力机制和一个前馈神经网络,自注意力机制通过计算输入序列中每个位置与其他位置的相关性来捕捉输入序列的全局信息,前馈神经网络用于对每个位置的表示进行独立的非线性变换。

3.根据权利要求2所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述自注意力机制的表达式为:

4.根据权利要求2所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述解码器的结构与编码器类似,但在每一层中增加了一个用于捕捉编码器输出与解码器输入之间关系的多头注意力机制。

5.根据权利要求4所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述多头注意力机制通过并行计算多个注意力头来捕捉不同子空间的信息,有如下表达式:

6.根据权利要求1所述的基于可解释性与模型融合的风电功率预测方法,其特征在于,所述将transformer模型中的前馈神经网络替换为kan网络具体为:transformer...

【专利技术属性】
技术研发人员:刘磊李斌
申请(专利权)人:之江实验室
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1