一种消除噪声的电力负荷预测方法、系统、设备及介质技术方案

本发明专利技术提供一种消除噪声的电力负荷预测方法、系统、设备及介质，所述方法包括：基于Transformer算法，构建具有变量选择网络的Transformer负荷预测模型；将待电力负荷预测的数据建模为一个数据分布，并将所述数据分布作为输入变量输入至Transformer负荷预测模型中，以消除待电力负荷预测的数数据中含有的数据噪声。本发明专利技术保证了预测的精度和Transformer负荷预测模型的稳健性。Transformer负荷预测模型的稳健性。Transformer负荷预测模型的稳健性。

【技术实现步骤摘要】
一种消除噪声的电力负荷预测方法、系统、设备及介质


[0001]本专利技术属于电力负荷
，特别涉及一种消除噪声的电力负荷预测方法、系统、设备以及介质。

技术介绍

[0002]“清洁低碳、安全可控、灵活高效、智能友好、开放互动”的新型电力系统建设势在必行。新型电力系统具有“高比例的电力电子设备、高比例的可再生能源、供应侧随机性增强、需求侧随机性增强”的“双高、双随机”特点，可再生能源的接入多元化和用电负荷多元化导致电力负荷数据量级增大、数据类别增多、数据特性复杂，这对电力系统负荷预测带来了新的挑战。
[0003]电力系统负荷预测主要分为两类：一是传统负荷预测方法，二是现代负荷预测法。传统负荷预测方法包括回归分析法、指数平滑法和时间序列法：回归分析预测方法的模型结构较为简单，但需要正确选择对负荷预测影响较高的分量，不同数据集选取影响较大的分量所采用方法不同，对最终预测结果的准确性影响较大；指数平滑法是通过对预测时刻前的几个时间点的历史负荷数据加权求和得出预测结果，且临近预测时刻的数据赋予较大的权重；时间序列法主要是通过分析电力负荷数据在时间上的变化规律建立预测模型并进行预测。现代负荷预测方法包括机器学习和深度学习等应用人工智能技术的方法，如人工神经网络、随机森林、极限学习机、长短期记忆网络等。
[0004]基于机器学习的负荷预测方法的主要思路是学习历史负荷数据的特征与未来预测值之间关系的函数，仅考虑了数据的特征，并没有考虑日期信息和时间顺序隐含的与用电负荷的关系；基于深度学习的负荷预测方法拥有极强的数据特征表示能力，不需要专门针对某专业的数据进行特征提取，但现有研究中没有考虑数据噪声对预测模型的负面作用，导致其预测精度易受到观测数据噪声的影响，难以应用于实际场景。
[0005]因此，可以设计一种消除噪声的电力负荷预测方法、系统、设备及存储介质，以解决上述技术问题。

技术实现思路

[0006]针对上述问题，本专利技术提出了一种消除噪声的电力负荷预测方法，其中，所述方法包括：
[0007]基于Transformer算法，构建具有变量选择网络的Transformer负荷预测模型；
[0008]将待电力负荷预测的数据建模为一个数据分布，并将所述数据分布作为输入变量输入至Transformer负荷预测模型中，以消除数据噪声，其中，所述待电力负荷预测的数据为与时间呈依赖关系的变量的数据。
[0009]进一步地，
[0010]所述变量选择网络，还用于处理静态协变量和与时间呈依赖关系的变量，并选择出最显著的特征，以进行模型学习。
[0011]进一步地，所述Transformer负荷预测模型还包括与变量选择网络连接的长短记忆网络以及与长短记忆网络连接的第一门控残差网络，其中，
[0012]所述长短记忆网络，用于对经过变量选择网络处理后，输出的变量和静态协变量进行处理；
[0013]所述第一门控残差网络，用于对长短记忆网络的输出，进行非线性处理。
[0014]进一步地，
[0015]所述变量选择网络所使用到的公式如下：
[0016][0017]其中，为变量选择网络的输出，m
x
为历史输入变量，为第j个输入经过变量选择网络中的门控残差网络处理过的特征变量，为t时刻第j个输入变量的变量选择权重；
[0018]其中，通过如下公式确定：
[0019][0020]其中，为t时刻的变量选择网络的输入变量，GRN为变量选择网络中的门控残差网络；
[0021]通过如下公式确定：
[0022][0023]其中，为变量选择权重，c
s
为静态协变量的编码，E为t时刻做预测的所有历史输入变量m
x
的拼接矩阵；
[0024]E通过如下公式确定：
[0025][0026]其中，T为矩阵的转置符号；
[0027]C
s
通过如下公式确定：
[0028][0029]式中，ζ为静态协变量输入S经过变量选择网络的输出。
[0030]进一步地，长短记忆网络的每一个神经元都具有三个输入参数，分别是来自上一时刻神经元的输出h
n
‑1、上一时刻神经元的状态参数C
n
‑1和当下的外界输入；
[0031]长短记忆网络所使用到的公式如下：
[0032]h
t
＝o
t
*tanh(C
t
)
[0033]其中，h
t
为t时刻长短记忆网络的神经元的输出，o
t
为输出门的输入，C
t
为t时刻状态参数。
[0034]o
t
的通过如下公式确定：
[0035]o
t
＝σ(W
o
[h
t
‑1，x
t
]+b
o
)
[0036]式中，σ为sigmoid激活函数，x
t
为t时刻的输入，W
o
为输出门的权重，[h
t
‑1，x
t
]为输入门的两种输入信息拼接起来的新矩阵，b
o
为输出门的偏置；
[0037]C
t
通过如下公式确定：
[0038][0039]式中，f
t
表示C
t
‑1的权重，i
t
表示的权重，为输入门记录信息的候选值，C
t
‑1表示t
‑
1时刻的状态参数；
[0040]f
t
通过如下公式确定：
[0041]f
t
＝σ(W
f
[h
t
‑1，x
t
]+b
f
)
[0042]式中，W
f
为遗忘门的权重，b
f
为遗忘门的偏置；
[0043]i
t
通过如下公式确定：
[0044]i
t
＝σ(W
i
[h
t
‑1，x
t
]+b
i
)
[0045]式中，W
i
为输入门的权重，b
i
为输入门的偏置；
[0046]通过如下公式确定：
[0047][0048]式中，W
c
为新数据对应的神经元状态候选值的权重，b
c
为对应偏置。
[0049]进一步地，所述长短记忆网络中的隐层变量通过如下公式确定：
[0050][0051]式中，为神经元的外界输入，LN表示层归一化；
[0052]其中，φ(t，n)通过如下公式确定：
[0053][0054]其中，n∈[
‑
k，γmax]为本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种消除噪声的电力负荷预测方法，其中，所述方法包括：基于Transformer算法，构建具有变量选择网络的Transformer负荷预测模型；将待电力负荷预测的数据建模为一个数据分布，并将所述数据分布作为输入变量输入至Transformer负荷预测模型中，以消除数据噪声，其中，所述待电力负荷预测的数据为与时间呈依赖关系的变量的数据。2.根据权利要求1所述的一种消除噪声的电力负荷预测方法，其中，所述变量选择网络，还用于处理静态协变量和与时间呈依赖关系的变量，并选择出最显著的特征，以进行模型学习。3.根据权利要求1或2所述的一种消除噪声的电力负荷预测方法，其中，所述Transformer负荷预测模型还包括与变量选择网络连接的长短记忆网络以及与长短记忆网络连接的第一门控残差网络，其中，所述长短记忆网络，用于对经过变量选择网络处理后，输出的变量和静态协变量进行处理；所述第一门控残差网络，用于对长短记忆网络的输出，进行非线性处理。4.根据权利要求3所述的一种消除噪声的电力负荷预测方法，其中，所述变量选择网络所使用到的公式如下：其中，为变量选择网络的输出，mx为历史输入变量，为第j个输入变量经过变量选择网络中的门控残差网络处理过的特征变量，为t时刻第j个输入变量的变量选择权重；其中，通过如下公式确定：其中，为t时刻的变量选择网络的输入变量，GRN为变量选择网络中的门控残差网络；通过如下公式确定：其中，为变量选择权重，c
s
为静态协变量的编码，E为t时刻做预测的所有历史输入变量m
x
的拼接矩阵；E通过如下公式确定：其中，T为矩阵的转置符号；
c
s
通过如下公式确定：式中，ζ为静态协变量输入S经过变量选择网络的输出。5.根据权利要求4所述的一种消除噪声的电力负荷预测方法，其中，长短记忆网络的每一个神经元都具有三个输入参数，分别是来自上一时刻神经元的输出h
n
‑1、上一时刻神经元的状态参数C
n
‑1和当下的外界输入；长短记忆网络所使用到的公式如下：h
t
＝O
t
*tanh(C
t
)其中，h
t
为t时刻长短记忆网络的神经元的输出，o
t
为输出门的输入，C
t
为t时刻状态参数；O
t
的通过如下公式确定：o
t
＝σ(W
o
[h
t
‑1，x
t
]+b
o
)式中，σ为sigmoid激活函数，x
t
为t时刻的输入，W
o
为输出门的权重，[h
t
‑1，x
t
]为输入门的两种输入信息拼接起来的新矩阵，b
o
为输出门的偏置；C
t
通过如下公式确定：式中，f
t
表示C
t
‑1的权重，i
t
表示的权重，为输入门记录信息的候选值，C
t
‑1表示t
‑
1时刻的状态参数；f
t
通过如下公式确定：f
t
＝σ(W
f
[h
t
‑1，x
t
]+b
f
)式中，W
f
为遗忘门的权重，b
f
为遗忘门的偏置；i
t
通过如下公式确定：i
t
＝σ(W
i
[h
t
‑1，x
t
]+b
i
)式中，W
i...

【专利技术属性】
技术研发人员：樊倩男，曹兵，亓国梁，刘树勇，程雅楠，宋杰，徐玉杰，张轶姿，张时雨，李如萍，李鑫，王雪，李士亮，张思睿，
申请(专利权)人：国网天津市电力公司国家电网有限公司，
类型：发明
国别省市：