基于多层改进GRU神经网络的短期电力负荷预测方法技术

本发明专利技术公开了一种基于多层改进GRU神经网络的短期电力负荷预测方法，周期性的构建样本数据集；对样本中的输入数据进行异常点识别和缺失值处理，对处理后的数据进行标准化变换，并将数据集分成训练集、验证集和待预测集；构建改进的GRU神经网络，将训练集数据输入该网络进行多轮训练，得到训练完成后的网络，并利用该网络对验证数据集进行多轮验证测试学习效果，记录并保存最优验证结果的模型权重；将待预测数据集输入训练后得到的最优GRU模型，计算标准化预测结果并进行逆标准化变换，得出最终预测结果。本发明专利技术提升了训练的速度和训练的效率。

【技术实现步骤摘要】
基于多层改进GRU神经网络的短期电力负荷预测方法
本专利技术涉及一种基于多层改进GRU神经网络的短期电力负荷预测方法。
技术介绍
电力负荷预测，是指对未来一定时期范围内的用电需求进行预测。作为电力部分的重要工作，准确的负荷预测，可以促进调度和供电公司经济合理地安排电网内部发电机组的发电计划和机组检修计划，保持电网运行的安全稳定性，确保社会的正常生产和生活。本案中，短期电力负荷预测是以30分钟或者1小时为间隔的日内负荷数据作为预测对象。对于电力部门来说，短期负荷预测的准确性直接影响着调度对次日发电计划的安排，有助于电网日内的稳定运行；对于用电企业来说，准确的负荷预测可以帮助其合理安排生产，从而最大限度地利用峰谷电价政策提高自己的经济效益。传统的短期电力负荷预测法的主要有回归分析法、时间序列法、趋势外推法和专家系统法等，但是传统的方法由于模型较为简单以及预测者主观情绪等因素影响，往往难以达到较高的预测准确性。随着计算机信息技术、机器学习和大数据等大规模、高效计算技术的发展，目前常用的短期电力负荷预测方法主要有：支持向量机、小波变换算法、模糊预测法等方法。但支持向量机难以处理大规模训练样本；小波变换算法通常需要与人工神经网络相结合；模糊系统不具备自学习能力，建立模糊规则较多依赖专家经验。
技术实现思路
本专利技术为了解决上述问题，提出了一种基于多层改进GRU神经网络的短期电力负荷预测方法，本专利技术对传统GRU网络结构中的状态单元进行了修改，使每个输出状态单元先进入SELU激活函数后才能进行下一步的计算，从而防止了网络在训练过程中的梯度消失和梯度爆炸问题，使进一步增加网络深度成为可能，更深的网络显然更有利于提高预测的准确性,能够解决传统短期电力预测方法难以深入挖掘数据，以及现有深度学习算法训练时间过长并易产生梯度消失和梯度爆炸等方面的问题。为了实现上述目的，本专利技术采用如下技术方案：一种基于多层改进GRU神经网络的短期电力负荷预测方法，包括以下步骤：(1)周期性的构建样本数据集；(2)对样本中的输入数据进行异常点识别和缺失值处理，对处理后的数据进行标准化变换，并将数据集分成训练集、验证集和待预测集；(3)对GRU网络结构中的状态单元进行修改，使每个输出状态单元先进入激活函数后再进行下一步的计算，以此构建改进的GRU神经网络，将训练集数据输入该网络进行多轮训练，得到训练完成后的网络，并利用该网络对验证数据集进行多轮验证测试学习效果，记录并保存最优验证结果的模型权重；(4)将待预测数据集输入训练后得到的最优GRU模型，计算标准化预测结果；(5)对预测结果进行逆标准化变换，得出最终预测结果。所述步骤(1)中，对选取的给定时间段的样本数据进行整理、提取，形成输入、输出数据集，输入数据是指某个时间段内、以一定时间为间隔的电力负荷数据，输出数据是滞后于输入数据某个时期后的电力负荷数据。所述步骤(1)中，以滚动窗口期内的一组数据作为单一输入单元，来预测未来某一期数据，得到的输入数据是一个以数据量为行、窗口期为列的矩阵。所述步骤(2)中，采取垂直法进行数据异常点处理。进一步的，所述步骤(2)中，如果有数据值与之前的数据平均值的差值大于设定阈值，则该数据值为数据异常点，将该数据值重新赋值，其大小为之前的数据平均值与设定阈值的和或差。所述步骤(2)中，当发生数据缺失，且缺失的数量小于设定范围时，选择相邻数据取平均值替代缺失值，当缺失的数据大于设定范围时，采用垂直法利用历史同时期数据的平均值进行平滑代替缺失值。所述步骤(2)中，利用归一化将数据的均值和向量统一到0和1上。所述步骤(2)中，按照设定的比例将整个数据集依次划分为训练集、验证集和待预测集。所述步骤(3)中，改进GRU模型在计算门的过程中使状态先进入一个激活函数，同时在输出端也需要通过一个激活函数，才能完成最后的输出。优选的，所述步骤(3)中，激活函数选择SELU函数，以使神经元的激励值自动收敛到零均值和单位方差。所述步骤(3)中，采用选取随机梯度下降法作为多层改进GRU网络更新参数的算法。进一步的，所述步骤(3)中，多层改进GRU网络更新时，利用上一次的参数与迭代时梯度选取的步长和损失函数的乘积的差值，得到更新后的对应参数。所述步骤(4)中，将待预测数据输入多层改进GRU神经网络，计算得出与标准化处理后同量纲的电力负荷预测结果。所述步骤(5)中，对预测的结果按照训练时计算的标准化变换系数进行逆变换，得出最终预测结果。与现有技术相比，本专利技术的有益效果为：(1)本专利技术运用GRU神经网络模型能够发挥循环神经网络对时间序列数据挖掘的作用，同时与LSTM相比减少了网络中的参数数量，提升了训练的速度和训练的效率；(2)本专利技术通过对传统GRU神经网络的改进，引入了SELU激活函数，实现了隐层状态变量和输出变量的自归一化过程，从而有效避免了多层神经网络在使用梯度下降法进行参数寻优过程中出现的梯度消失和梯度爆炸问题；(3)本专利技术搭建了多层改进GRU神经网络，同时采取了Sequence2one训练和预测方式，进一步提升了网络的数据挖掘能力和效率，GRU网络控制门的减少还可以使网络在训练过程中的效率得到大大提高；(4)由于短期电力负荷数据具有数据量大，短时变化相对较为平稳以及时间序列相关性较强的特征。因此，采用多层改进GRU神经网络模型对电力负荷数据进行挖掘可以充分发挥网络本身的优势，是针对短期电力负荷预测的合适方法。附图说明构成本申请的一部分的说明书附图用来提供对本申请的进一步理解，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。图1是传统GRU单元内部结构图；图2是本专利技术的改进GRU网络神经元结构图；图3是本专利技术的短期电力负荷预测流程图；图4是本专利技术的多层改进GRU网络结构图。具体实施方式：下面结合附图与实施例对本专利技术作进一步说明。应该指出，以下详细说明都是例示性的，旨在对本申请提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本申请所属
的普通技术人员通常理解的相同含义。需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本申请的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。在本专利技术中，术语如“上”、“下”、“左”、“右”、“前”、“后”、“竖直”、“水平”、“侧”、“底”等指示的方位或位置关系为基于附图所示的方位或位置关系，只是为了便于叙述本专利技术各部件或元件结构关系而确定的关系词，并非特指本专利技术中任一部件或元件，不能理解为对本专利技术的限制。本专利技术中，术语如“固接”、“相连”、“连接”等应做广义理解，表示可以是固定连接，也可以是一体地连接或可拆卸连接；可以是直接相连，也可以通过中间媒介间接相连。对于本领域的相关科研或技术人员，可以根据具体情况确定上述术语在本专利技术中的具体含义，不能理解为对本专利技术的限制。正如
技术介绍
所介绍的，现有技术中存在传统短期电力预测方法难以深入挖掘数据，以及现有深度学习算法训练时间过长并易产生梯度消失和梯度爆炸等方面的不足，为了解决如上的本文档来自技高网...

【技术保护点】
一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：包括以下步骤：(1)周期性的构建样本数据集；(2)对样本中的输入数据进行异常点识别和缺失值处理，对处理后的数据进行标准化变换，并将数据集分成训练集、验证集和待预测集；(3)对GRU网络结构中的状态单元进行修改，使每个输出状态单元先进入激活函数后再进行下一步的计算，以此构建改进的GRU神经网络，将训练集数据输入该网络进行多轮训练，得到训练完成后的网络，并利用该网络对验证数据集进行多轮验证测试学习效果，记录并保存最优验证结果的模型权重；(4)将待预测数据集输入训练后得到的最优GRU模型，计算标准化预测结果；(5)对预测结果进行逆标准化变换，得出最终预测结果。

【技术特征摘要】
1.一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：包括以下步骤：(1)周期性的构建样本数据集；(2)对样本中的输入数据进行异常点识别和缺失值处理，对处理后的数据进行标准化变换，并将数据集分成训练集、验证集和待预测集；(3)对GRU网络结构中的状态单元进行修改，使每个输出状态单元先进入激活函数后再进行下一步的计算，以此构建改进的GRU神经网络，将训练集数据输入该网络进行多轮训练，得到训练完成后的网络，并利用该网络对验证数据集进行多轮验证测试学习效果，记录并保存最优验证结果的模型权重；(4)将待预测数据集输入训练后得到的最优GRU模型，计算标准化预测结果；(5)对预测结果进行逆标准化变换，得出最终预测结果。2.如权利要求1所述的一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：所述步骤(1)中，对选取的给定时间段的样本数据进行整理、提取，形成输入、输出数据集，输入数据是指某个时间段内、以一定时间为间隔的电力负荷数据，输出数据是滞后于输入数据某个时期后的电力负荷数据。3.如权利要求1所述的一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：所述步骤(1)中，以滚动窗口期内的一组数据作为单一输入单元，来预测未来某一期数据，得到的输入数据是一个以数据量为行、窗口期为列的矩阵。4.如权利要求1所述的一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：所述步骤(2)中，采取垂直法进行数据异常点处理。5.如权利要求4所述的一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：所述步骤(2)中，如果有数据值与之前的数据平均值的差值大于设定阈值，则该数据值为数据异常点，将该数据值重新赋值，其大小为之前的数据平均值与设定阈值的和或差。6.如权利要求1所述的一种基于多层改进GRU神经网络的短期电力负荷预测方法，其特征是：所述步骤(2)中，当发生数据缺失，且缺失的数量小于设定范围时，选择相邻数据取平均...

【专利技术属性】
技术研发人员：路宽，麻常辉，程艳，孟祥荣，孙雯雪，庞向坤，蒋哲，于芃，陈素红，张用，李广磊，王文宽，韩英昆，姚常青，王士柏，
申请(专利权)人：国网山东省电力公司电力科学研究院，国家电网公司，
类型：发明
国别省市：山东,37