System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于并行多维度注意力机制的日前电价预测方法技术_技高网

基于并行多维度注意力机制的日前电价预测方法技术

技术编号:43800737 阅读:2 留言:0更新日期:2024-12-27 13:20
本发明专利技术公开了基于并行多维度注意力机制的日前电价预测方法,属于电力市场日前电价预测技术领域;通过采用最大互信息系数挑选出与电价具有一定相关性的变量来辅助预测未来电价数据,其次,采用分解算法对原始电价信号进行分解处理;然后,将分解得到的电价子分量和电价相关变量输入到MBI‑IPMDA‑PBISA深度学习模型中,进行未来电价的预测,如此可使MBI‑IPMDA‑PBISA深度学习模型充分学习电价子分量和电价相关变量与未来电价之间的复杂关联关系,又避免了单独预测电价子分量后再叠加得到未来电价所造成的误差叠加问题,解决了现有注意力机制在预测时精度不高的问题,提升了预测精度。

【技术实现步骤摘要】

本专利技术属于电力市场日前电价预测,具体为基于并行多维度注意力机制的日前电价预测方法


技术介绍

1、由于风电、光伏发电等清洁能源大量加入到电力市场后,导致电力市场中的电价波动剧烈,进而增加了电价预测的难度,所以如何在高比例新能源加入电力市场的情况下进行准确的日前电价预测已成为现今国内外研究学者密切关注的一大问题。

2、随着深度学习和数据处理技术的发展,近几年许多研究开始将多种算法进行组合,来构成复杂的预测框架。电价数据和电价相关变量数据中存在许多与未来电价数据相关的特征信息,如何挖掘有用的深层特征来预测未来电价数据是非常重要的。

3、注意力机制是一种模仿人类对事物的关注度不同的机制,其对重要的特征给予更高的关注度来选取更关键的信息,提高模型精度。2017年谷歌提出了自注意力机制(self-attention,sa),其通过模仿生物视觉的注意力选择性,捕捉输入序列本身的关键性信息,具有强大的自适应能力,适用于处理输入序列的长期依赖关系。2018年jiehu等人提出了通道注意力网络(squeeze-and-excitationnetworks,se-net),利用通道注意力机制有选择性地调整不同特征通道的重要程度,使网络更关注特征图中的有用特征通道来提高整个网络模型的性能;2018年sanghyun woo等人提出了卷积注意力机制模块(convolutionalblock attention module,cbam),其利用通道注意力模块cam(channel attentionmodule,cam)和空间注意力模块sam(spartialattentionmodule,sam)来更全面地提高重要特征的关注度;2021年qibinhou等人提出了坐标注意力机制(coordinateattention,ca),将特征图位置信息融合到通道注意力机制中来提高特征图中更重要特征点的关注度,而不是只关注特征图的重要特征区域。

4、但是,由于se注意力机制对通道内的信息做了全局处理,所以只关注了各通道的重要性,却忽略了空间上的信息交互,cbam通过通道注意力模块和空间注意力模块串联来关注通道和空间的信息交互,而空间注意力模型是先对通道进行池化操作后再使用了7×7的卷积来进行提取空间特征,其只能捕捉局部信息,将会导致部分远程依赖关系被忽略,以上方法并不能考虑全面,导致现有注意力机制在预测时精度不高。


技术实现思路

1、本专利技术的目的是针对现有各注意力机制在进行预测时考虑不全面导致的预测精度不高的问题,提出了基于并行多维度注意力机制的日前电价预测方法,通过采用最大互信息系数挑选出与电价具有一定相关性的变量来辅助预测未来电价数据,其次,采用分解算法对原始电价信号进行分解处理;然后,将分解得到的电价子分量和电价相关变量输入到mbi-ipmda-pbisa深度学习模型中,进行未来电价的预测,如此可使预测模型充分学习电价子分量和电价相关变量与未来电价之间的复杂关联关系,又避免了单独预测电价子分量后再叠加得到未来电价所造成的误差叠加问题,解决了现有注意力机制在预测时精度不高的问题,提升了预测精度。

2、与现有技术相比,本专利技术综合考虑了输入的电价和电价相关变量中蕴含的深层特征不同这一特点,采用了不同的特征提取模块对其进行特征信息挖掘,最终提出了mbi-ipmda-pbisa深度学习模型。

3、为解决上述技术问题,本专利技术提供了基于并行多维度注意力机制的日前电价预测方法,包括:

4、s1、采集电价数据和电价相关变量,对采集到的数据进行数据预处理,构建电价预测数据集;

5、s2、基于所述电价预测数据集,计算电价数据与电价相关变量之间的最大互信息系数,通过最大互信息系数筛选出与电价具有一定相关性的电价相关变量;

6、s3、采用分解算法对电价数据进行分解处理,得到电价子分量;

7、s4、构建mbi-ipmda-pbisa深度学习模型;

8、s5、将所述电价子分量和s2中筛选的电价相关变量进行输入输出划分,得到数据集样本,每个样本中包含电价子分量和电价相关变量与未来电价真实值,分别将每个样本中的电价子分量、电价相关变量进行合并,得到电价子分量输入矩阵和电价相关变量输入矩阵,最终每个样本中包含了电价子分量输入矩阵和电价相关变量输入矩阵与未来电价真实值;

9、s6、对所述样本划分为训练集和测试集,先将训练集输入到mbi-ipmda-pbisa深度学习模型中进行训练,再将测试集输入到训练好的mbi-ipmda-pbisa深度学习模型中进行测试来预测未来电价。

10、作为优选,所述数据预处理包括对电价预测数据集中的异常值进行处理和对电价预测数据集进行标准化处理。

11、作为优选,所述异常值进行处理包括:对于数据缺失值,采用滑动窗口填充法进行补充;对于时间节点相同且数据值重复时,直接采用其中一条数据,对于时间节点相同而数据值不同的可取两条数据的平均值进行后续计算;对于数据异常值,采用3δ准则或格拉布斯检验法对电价数据和电价相关变量数据进行检验,若确定某一点为异常值数据,将其删除后再视作数据缺失值处理。

12、作为优选,所述构建mbi-ipmda-pbisa深度学习模型包括:

13、sa、对于电价子分量输入分支,使用2层inception模块串联并对电价子分量进行多尺度空间特征提取,得到若干多尺度空间特征矩阵,将提取到的若干多尺度空间特征矩阵在第三维度上进行堆叠得到电价子分量的多尺度空间特征;

14、sb、通过串联并行多维度注意力机制来调整所述电价子分量的多尺度空间特征中各维度上的注意力权重;

15、sc、对于电价相关变量输入分支,采用inception模块和bilstm模块并联的结构来同时提取电价相关变量的空间特征和时序特征,将此空间特征和时序特征融合后得到电价相关变量的时空特征;

16、sd、通过串联自注意力机制调整电价相关变量的时空特征中的内部注意力权重;

17、se、将调整了各维度上的注意力权重后的电价子分量的多尺度空间特征和调整了内部注意力权重后的电价相关变量的时空特征进行融合后经全连接层和回归层进一步整合后得到mbi-ipmda-pbisa深度学习模型输出,也就是输出未来电价预测值。

18、作为优选,所述sa包括:将电价子分量输入分支第1个inception模块计算,且此分支下第2个inception模块和电价相关变量输入分支中的inception模块计算过程与其相同,将电价子分量输入分支第2个inception模块提取到的多尺度空间特征矩阵输入到串联并行多维度注意力机制中;其中,电价子分量输入分支第1个inception模块计算的过程如下式所示:

19、

20、式中:fp为丹麦电价分解矩阵,为1×1卷积支路第i个卷积核的权重矩阵;分别为第一层3×3、5×5、7×7卷积第i个卷积核的权重矩阵;分别本文档来自技高网...

【技术保护点】

1.基于并行多维度注意力机制的日前电价预测方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述数据预处理包括对电价预测数据集中的异常值进行处理和对电价预测数据集进行标准化处理。

3.根据权利要求2所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述异常值进行处理包括:对于数据缺失值,采用滑动窗口填充法进行补充;对于时间节点相同且数据值重复时,直接采用其中一条数据,对于时间节点相同而数据值不同的可取两条数据的平均值进行后续计算;对于数据异常值,采用3δ准则或格拉布斯检验法对电价数据和电价相关变量数据进行检验,若确定某一点为异常值数据,将其删除后再视作数据缺失值处理。

4.根据权利要求1所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述构建MBI-IPMDA-PBISA深度学习模型包括:

5.根据权利要求4所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述Sa包括:将电价子分量输入分支第1个Inception模块计算,且此分支下第2个Inception模块和电价相关变量输入分支中的Inception模块计算过程与其相同,将电价子分量输入分支第2个Inception模块提取到的多尺度空间特征矩阵输入到串联并行多维度注意力机制中;其中,电价子分量输入分支第1个Inception模块计算的过程如下式所示:

6.根据权利要求4所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述Sb包括:

7.根据权利要求4所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述Sc包括:

8.根据权利要求4所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述Sd包括:

9.根据权利要求1所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述数据集样本中的每个样本中包括电价子分量和电价相关变量与未来电价真实值,当得到电价子分量输入矩阵和电价相关变量输入矩阵后,最终每个样本中包括电价子分量输入矩阵和电价相关变量输入矩阵与未来电价真实值。

...

【技术特征摘要】

1.基于并行多维度注意力机制的日前电价预测方法,其特征在于,包括如下步骤:

2.根据权利要求1所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述数据预处理包括对电价预测数据集中的异常值进行处理和对电价预测数据集进行标准化处理。

3.根据权利要求2所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述异常值进行处理包括:对于数据缺失值,采用滑动窗口填充法进行补充;对于时间节点相同且数据值重复时,直接采用其中一条数据,对于时间节点相同而数据值不同的可取两条数据的平均值进行后续计算;对于数据异常值,采用3δ准则或格拉布斯检验法对电价数据和电价相关变量数据进行检验,若确定某一点为异常值数据,将其删除后再视作数据缺失值处理。

4.根据权利要求1所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述构建mbi-ipmda-pbisa深度学习模型包括:

5.根据权利要求4所述的基于并行多维度注意力机制的日前电价预测方法,其特征在于,所述sa包括:将电价子分量输...

【专利技术属性】
技术研发人员:黄泽孙高龙安阳张猛张欣成肖思达熊晶
申请(专利权)人:中国电建集团贵阳勘测设计研究院有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1