基于增量学习的厄尔尼诺极端天气预警方法及装置制造方法及图纸

本发明专利技术公开了一种基于增量学习的厄尔尼诺极端天气预警方法及装置，方法包括：基于增量训练，即使用一多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识；使用一多尺度特征自适应融合技术，根据输入多尺度数据不同的时间跨度，自适应学习不同的融合参数，增强对新任务的学习能力；自适应融合后的特征通过全连接层，输出反映厄尔尼诺现象变化规律的Nino3.4指数，建立极端降雨概率的映射函数，预测值超过阈值则进行暴雨预警并提前开展输电线路暴雨防治工作。装置包括：处理器和存储器。本发明专利技术可以有效的提升增量的厄尔尼诺现象下降雨量预测的准确度，减轻自然灾害。害。害。

【技术实现步骤摘要】
基于增量学习的厄尔尼诺极端天气预警方法及装置


[0001]本专利技术涉及气象预测、海洋现象预测以及增量学习领域，尤其涉及一种基于增量学习的厄尔尼诺极端天气预警方法及装置。

技术介绍

[0002]厄尔尼诺现象
[1,2,3]是一种海洋
‑
大气系统的周期性变化，是地球年际气候变化的主要驱动因素之一，会对全球范围内的气候、环境和社会经济造成极大影响
[4]。厄尔尼诺现象与全球极端天气灾害的发生息息相关，已经受到学术界和相关行业的重视。例如，1997厄尔尼诺事件发生的次年，1998年夏季，我国长江流域、东北地区发生流域性特大暴雨洪涝灾害；2014年开始的厄尔尼诺事件，导致2015年我国冬季全国平均降水量较常年同期偏多五成以上，创历史最高纪录，长江流域和江南地区极易发生洪涝灾害。极端暴雨期间，容易导致输电线路杆塔塔基、变压器、变电站等重要电力设施浸水，甚至造成火灾导致大面积的停电，影响电网安全稳定运行。
[0003]近年来，为了预防极端天气并降低其对人类生产生活的影响，全球的研究者们致力于利用基于神经网络的表示学习来提高对全球气候的预测水平。例如：厄尔尼诺现象的发生与缓慢的海洋变化及其与大气的耦合有关，这表明利用卷积神经网络提前对厄尔尼诺事件进行预测，进而对其导致的暴雨等极端天气进行预警是可行的
[5]。但是，目前有关在厄尔尼诺现象影响下对极端降雨的预测工作较少，利用增量学习
[6,7]提升基于神经网络的厄尔尼诺极端天气预测水平的工作尚未开展，例如，利用增量学习对厄尔尼诺影响下极端降雨进行准确预测及对电网防灾预警工作尚未开展。

技术实现思路

[0004]本专利技术提供了一种基于增量学习的厄尔尼诺极端天气预警方法及装置，本专利技术致力于提升基于神经网络的厄尔尼诺极端天气预测水平，解决了传统卷积神经网络在面对持续出现的新数据时扩展性不足、时空继承性缺乏的问题，以及极端降雨长短期预测的差异化问题，例如，可以有效的提升增量的厄尔尼诺现象下输电线路沿线降雨量预测的准确度，减轻自然灾害；详见下文描述：第一方面，一种基于增量学习的厄尔尼诺极端天气预警方法，所述方法包括：对海洋数据进行下采样，得到多尺度的海洋数据，将多尺度数据以预设年为界划分为多个任务序列；将任务序列以数据流形式输入并行卷积神经网络，通过有监督表示学习提取多尺度特征；基于增量训练，使用多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识；使用多尺度特征自适应融合技术，根据输入多尺度数据不同的时间跨度，自适应学习不同的融合参数，增强对新任务的学习能力；
自适应融合后的特征通过全连接层，输出反映厄尔尼诺现象变化规律的Nino3.4指数；基于Nino3.4指数建立极端降雨概率的映射函数，预测值超过阈值则进行暴雨预警并提前开展输电线路暴雨防治工作。
[0005]其中，所述多尺度特征频域蒸馏技术用于使新并行网络的输出特征去逼近旧并行网络的输出特征。
[0006]其中，所述多尺度特征自适应融合技术包括：多尺度并行网络，两个瓶颈层，两个全连接层，以及一个自适应融合函数。
[0007]进一步地，所述使用多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识具体为：在每次训练新任务时，利用上一个训练阶段已经训练好的旧并行网络参数初始化新并行网络，冻结旧并行网络的参数，并将训练数据同时输入新旧的并行网络中；将新并行网络和旧并行网络输出的多尺度特征和进行离散余弦变换，拉近其多尺度特征低频分量之间的欧式距离，约束特征的演变；将欧式距离定义为多尺度特征频域蒸馏损失函数：其中，代表训练阶段，代表新并行网络的输出特征的前个低频分量，代表旧并行网络的输出特征的前个低频分量，K为特征向量的长度。
[0008]进一步地，所述旧并行网络第个训练阶段已经训练好的网络；所述新并行网络：使用上一阶段训练好的网络来初始化参数的新并行网络，用于当前第个训练阶段的训练；在新的训练阶段，旧并行网络参数全程冻结，用于帮助训练新并行网络，新并行网络训练完成后删除旧并行网络。
[0009]其中，所述自适应融合函数为：其中，所述自适应融合函数为：其中，为大尺度特征对最终结果的重要性，为小尺度特征对最终结果的重要性，和log函数旨在使大或小的输入值得到更显著的区分，函数旨在将和的值映射到(0, 1)区间，为打分层，用于输出每一尺度特征的重要性；其中，为多尺度特征自适应融合后的最终特征，代表原大尺度特征，此特征更适合进行短期预测，代表原小尺度特征。
[0010]第二方面，一种基于增量学习的厄尔尼诺极端天气预警装置，所述装置包括：
划分多个任务序列模块，用于对海洋数据进行下采样，得到多尺度的海洋数据，将多尺度数据以预设年为界划分为多个任务序列；提取多尺度特征模块，用于将任务序列以数据流形式输入并行卷积神经网络，通过有监督表示学习提取多尺度特征；增量训练模块，用于基于增量训练，使用多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识；自适应融合模块，用于使用多尺度特征自适应融合技术，根据输入多尺度数据不同的时间跨度，自适应学习不同的融合参数，增强对新任务的学习能力；预警模块，用于自适应融合后的特征通过全连接层，输出某一海洋现象变化规律的Nino3.4指数；基于Nino3.4指数建立极端降雨概率的映射函数，预测值超过阈值则进行暴雨预警并提前开展输电线路暴雨防治工作。
[0011]第三方面，一种基于增量学习的厄尔尼诺极端天气预警装置，所述装置包括：处理器和存储器，所述存储器中存储有程序指令，所述处理器调用存储器中存储的程序指令以使装置执行第一方面中的任一项所述的方法步骤。
[0012]第四方面，一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令被处理器执行时使所述处理器执行第一方面中的任一项所述的方法步骤。
[0013]本专利技术提供的技术方案的有益效果是：1、本专利技术将增量学习、厄尔尼诺现象以及降雨预测预警这些领域创新性地结合起来，现有的基于深度学习的预测方法需要一次性在封闭数据库上训练，耗时长，计算量大，难以在线适应新的海洋数据，因此导致实用性非常有限；本专利技术基于增量学习，使得基于神经网络的海洋数据表示学习模型可以增量地学习并挖掘新出现的海洋数据中的变化规律，同时保持对已经学习到的旧知识的记忆与巩固，弥补了之前研究的盲点，提高了厄尔尼诺现象下输电线路沿线降雨量预测在现实世界中的部署能力；2、本专利技术添加了多尺度特征频域蒸馏技术，对新并行网络和旧并行网络提取到的特征进行离散余弦变换，得到一系列正交的特征分量，利用欧式距离进行特征层面的蒸馏，匹配新旧并行网络输出的低频特征分量，进而约束了网络参数的更新，尽力减轻灾难性遗忘；3、本专利技术添加了多尺度特征自适应融合技术，根据长短期预测任务自适应学习多尺度特征的融合参数，进而提高了对新任务的学习能力本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于增量学习的厄尔尼诺极端天气预警方法，其特征在于，所述方法包括：对海洋数据进行下采样，得到多尺度的海洋数据，将多尺度数据以预设年为界划分为多个任务序列；将任务序列以数据流形式输入并行卷积神经网络，通过有监督表示学习提取多尺度特征；基于增量训练，使用多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识；使用多尺度特征自适应融合技术，根据输入多尺度数据不同的时间跨度，自适应学习不同的融合参数，增强对新任务的学习能力；自适应融合后的特征通过全连接层，输出反映厄尔尼诺现象变化规律的Nino3.4指数；基于Nino3.4指数建立极端降雨概率的映射函数，预测值超过阈值则进行暴雨预警并提前开展输电线路暴雨防治工作。2.根据权利要求1所述的一种基于增量学习的厄尔尼诺极端天气预警方法，其特征在于，所述多尺度特征频域蒸馏技术用于使新并行网络的输出特征去逼近旧并行网络的输出特征。3.根据权利要求1所述的一种基于增量学习的厄尔尼诺极端天气预警方法，其特征在于，所述多尺度特征自适应融合技术包括：多尺度并行网络，两个瓶颈层，两个全连接层，以及一个自适应融合函数。4.根据权利要求1或2所述的一种基于增量学习的厄尔尼诺极端天气预警方法，其特征在于，所述使用多尺度特征频域蒸馏技术，选择性地约束多尺度特征低频分量的漂移，记忆并行卷积神经网络在旧任务中学到的知识具体为：在每次训练新任务时，利用上一个训练阶段已经训练好的旧并行网络参数初始化新并行网络，冻结旧并行网络的参数，并将训练数据同时输入新旧的并行网络中；将新并行网络和旧并行网络输出的多尺度特征和进行离散余弦变换，拉近其多尺度特征低频分量之间的欧式距离，约束特征的演变；将欧式距离定义为多尺度特征频域蒸馏损失函数：其中，代表训练阶段，代表新并行网络的输出特征的前个低频分量，代表旧并行网络的输出特征的前个低频分量，K为特征向量的长度。5.根据权利要求4所述的一种基于增量学习的厄尔尼诺极端天气预警方法，其特征在于，所述旧并行网络第个训练阶段已经训练好的网络；
所述新并行网络：使用上一阶段训练好的网络来初始化参数的...

【专利技术属性】
技术研发人员：刘安安，鲁昊纯，李文辉，宋丹，魏志强，聂婕，张文生，孙正雅，
申请(专利权)人：青岛海洋科学与技术国家实验室发展中心，
类型：发明
国别省市：