基于动态深度置信网络的蓝藻水华预测方法技术

本发明专利技术公开了一种基于动态深度置信网络的蓝藻水华预测方法，属于水质监测技术领域。本发明专利技术的预测方法包括建立DDBN模型，动态受限玻尔兹曼机DRBM的学习算法更新，以及采用BP神经网络反向传播算法微调DDBN模型参数三个部分。本发明专利技术对传统的RBM权重更新公式进行了改进，使权重、偏置和学习速率更新公式具有时序性，便于处理时间序列问题，提高预测精度；反向传播算法只微调了与t时刻相关的参数，这样不仅避免了局部最优现象的出现，同时也减少微调的时间。

Prediction method of cyanobacteria blooms based on dynamic depth confidence network

【技术实现步骤摘要】
基于动态深度置信网络的蓝藻水华预测方法
本专利技术涉及一种水华预测方法，属于水质监测
具体地说，是对水华的生成过程进行分析后建立的动态深度置信网络(DynamicDeepBeliefNets,DDBN)预测模型的一种提高预测精度的水华预测方法。
技术介绍
近年来，由于人们大规模的生产，水体富营养化现象越来越普遍，造成了严重的水生态问题。水华是水体富营养化的典型特征之一，水华的爆发，破坏了生态系统结构，严重制约了经济建设和社会发展。水华已成为国内外治理的一大难题。因此，深入研究藻类水华的爆发过程，并对其爆发过程进行有效的预测和模拟具有重要意义。目前，水华生成过程建模方法主要包括数据驱动建模和机理驱动建模。数据驱动建模主要是通过采集的大量数据建立多个量影响某个量或某几个量的线性关系或者非线性关系。该模型不需要分析其内部机理，只根据研究对象中的输入输出数据之间的关系进行建模，主要适用于很难从机理分析中发现系统规律的高度非线性和严重不确定系统。机理驱动模型主要包括生态变量和待定参数。它是从水华形成的过程机理出发，通过物理、化学规律建立关键变量与其它可测变量之间的数学方程，经推导后建立起来的描述形成过程的方程组的数学模型。由于藻类水华的爆发现象非常复杂，使得系统的结构性质并不清楚，因此单纯的机理驱动的建模方法并不适合藻类水华预测。而在现有的水华预测方法中，大多采用单一的数据驱动模型，如一些神经网络模型、回归模型等等，但它们都存在预测结果不够准确的问题。时间序列分析法是根据系统观测到的时间序列数据通过曲线拟合和参数估计来建立数学模型的理论和方法。该方法适于描述和预测水华生成的随机过程，进而建立水华形成的时序模型。时间序列分析法的特点在于在已建立的模型中引入了时间变量，仅仅依靠过去时刻的若干组数据就可以对未来时刻的数据进行预测，这恰恰也反映了水华的生成过程是一个具有时变特性的动态过程。然而，传统的时间序列模型只适用于线性系统的建模分析，而水华的形成过程具有高度的非线性特征，故传统的时间序列模型并不适用。因此，需要采用一种适用于预测和非线性建模的方法来对时间序列模型的参数进行优化。深度置信网络是由多个受限玻尔兹曼机(RBM)和BP神经网络堆叠而成的一类包含多个隐藏层的多层神经网络算法，适用于预测和非线性建模。深度置信网络继承了传统神经网络的优点(例如，非常强的非线性映射能力等)，并且与传统的神经网络相比，深度置信网络具有收敛到全局最优的能力。然而，单纯的深度置信网络需要对大量的样本进行训练，并且无法很好的处理时序问题，这为预测带来了一定难度。因此，在引入时间变量后寻找一种优化时序模型参数的方法，是湖库藻类水华研究领域中亟待解决的问题。
技术实现思路
本专利技术的目的是为了解决现有的水华预测精度不高、难以通过适量样本进行预测等问题，将改进后的深度置信网络方法与时间序列模型相结合，构建一种动态深度置信网络预测模型，从而提高水华的预测精度，为湖库藻类水华预测提供一种新思路。本专利技术提供的基于动态深度置信网络的蓝藻水华预测方法，主要包括以下四个步骤：步骤一、建立DDBN模型；时间序列模型是指某一现象按照时间排列次序形成的一个动态数列。水华预测是一个时间序列预测问题，而叶绿素是表征水体中藻类现存量的最直接指标，并且叶绿素的含量具有随时间变化的特点，因此将叶绿素作为反映藻类水华生成的表征因素建立输入数据与输出数据的时序关系。传统的深度置信网络DBN模型由多层RBM和BP神经网络模型堆叠而成，BP神经网络算法是对权重和偏置项等参数进行微调，而传统的RBM参数更新算法，不能很好的处理时序预测问题，故需要对RBM中权重参数和偏置参数的算法进行改进，建立DDBN模型，以便能够更好的处理时序预测问题。步骤二、动态受限玻尔兹曼机(DRBM)的学习算法；(1)动态受限玻尔兹曼机权重的学习公式；DRBM权重的算法与传统的RBM算法相同，均采用对比散度算法计算权重差值，然后进行权重更新，但DRBM权重算法增加了历史时刻的权重更新。(2)DRBM输入层偏置的学习公式；DRBM输入层偏置更新时，不仅仅考虑对比散度算法产生的偏置差值，同时还要考虑输入层t时刻与其历史时刻之间、输入层t时刻与隐藏层t-q时刻之间的连接产生的偏置变化以及输入层t-q时刻与其历史时刻之间连接产生的偏置变化。(3)DRBM隐藏层偏置的学习公式；DRBM隐藏层偏置更新时，不仅仅考虑对比散度算法产生的偏置差值，同时还要考虑隐藏层t时刻与隐藏层t-q时刻之间、隐藏层t时刻与其输入层历史时刻之间连接产生的偏置变化以及隐藏层t-q时刻与其输入层历史时刻之间的连接产生的偏置变化。步骤三、DRBM采用动态学习速率；由于DRBM在迭代初期需要在较大范围内进行参数调整，在迭代后期，网络基本趋于稳定只需在较小的范围内进行参数调整。所以DRBM采用动态学习速率进行网络学习。步骤四、采用BP神经网络反向传播算法微调DDBN模型参数；采用BP神经网络反向传播算法对DDBN模型中的参数进行微调，由于DDBN模型参数较多，且历史时刻参数均与当前时刻参数相关，故反向传播时，仅微调与t时刻的相关参数即可。本专利技术的优点在于：1.本专利技术在建立DDBN模型时采用了多个时间序列AR模型，AR模型能够直接通过历史数据对未来数据进行预测，减少了样本使用量。2.本专利技术对传统的RBM权重更新公式进行了改进，使权重更新公式具有时序性，便于处理时间序列问题，提高预测精度。3.本专利技术对传统的RBM输入层偏置更新公式进行了改进，增加了输入层t-q时刻与其历史时刻、输入层t时刻与其历史时刻以及输入层t时刻与隐藏层t-q时刻的连接，使历史时刻与当前时刻构建了多个时间序列AR模型，便于处理时序问题，进而提高预测精度。4.本专利技术对传统的RBM隐藏层偏置更新公式进行了改进，增加了隐藏层t-q时刻与其输入层历史时刻、隐藏层t时刻与其输入层历史时刻以及隐藏层t时刻与隐藏层t-q时刻的连接，使历史时刻与当前时刻构建了多个时间序列AR模型，便于处理时序问题，进而提高预测精度。5.本专利技术将传统的RBM中固定的学习速率变为动态学习速率，有助于网络的迭代寻优，提高预测精度。6.本专利技术采用了反向传播算法对DDBN中的参数进行微调，并只微调了与t时刻相关的参数，这样不仅避免了局部最优现象的出现，同时也减少微调的时间。附图说明图1是本专利技术基于动态深度置信网络的湖库藻类水华预测方法的结构图。图2是本专利技术的基于动态深度置信网络的蓝藻水华预测方法流程图。图3是经过归一化处理后的所选取的训练样本的叶绿素a浓度曲线。图4、图5、图6分别是通过DDBN模型进行预测的(t+1)、(t+2)、(t+3)时刻的叶绿素浓度的预测值和它们的真实值的曲线。具体实施方式下面将结合附图和实施例对本专利技术作进一步的详细说明。本专利技术是一种基于动态深度置信网络的蓝藻水华预测方法，具体方法实施的流程图如图2所示，通过如下步骤实现：步骤一、建立DDBN模型；如图1所示，vt和vt-p分别表示t时刻和t-p时刻输入层矩阵。ht和ht-q分别表示t时刻和t-q时刻隐藏层矩阵。vt+i表示t+i时刻输出层矩阵。由图1可以看出，输入层负责接收历史时刻和当前时刻的叶绿素浓度，隐藏层主要是提取输入层历史时刻本文档来自技高网...

【技术保护点】
基于动态深度置信网络的蓝藻水华预测方法，其特征在于：步骤一、建立DDBN模型；所述的DDBN是指动态深度置信模型，所述的模型包括输入层、隐藏层和输出层，将叶绿素作为反映藻类水华生成的表征因素建立输入数据与输出数据的时序关系；输入层负责接收历史时刻和当前时刻的叶绿素浓度，隐藏层负责提取输入层历史时刻和当前时刻的叶绿素浓度的特征，输出层则表示未来时刻的叶绿素浓度；输入层数据和输出层数据都是由长度固定，且沿时间序列顺次向前的移动窗口组成；步骤二、动态受限玻尔兹曼机DRBM的学习算法；(1)动态受限玻尔兹曼机权重的学习公式；采用对比散度算法计算权重差值，然后进行权重更新；(2)DRBM输入层偏置的学习公式；DRBM输入层偏置更新时，包括对比散度算法产生的偏置差值，还包括输入层t时刻与其历史时刻之间、输入层t时刻与隐藏层t‑q时刻之间的连接产生的偏置变化以及输入层t‑q时刻与其历史时刻之间连接产生的偏置变化；(3)DRBM隐藏层偏置的学习公式；DRBM隐藏层偏置更新时，包括对比散度算法产生的偏置差值，还包括隐藏层t时刻与隐藏层t‑q时刻之间、隐藏层t时刻与其输入层历史时刻之间连接产生的偏置变化以及隐藏层t‑q时刻与其输入层历史时刻之间的连接产生的偏置变化；步骤三、DRBM采用动态学习速率；步骤四、采用BP神经网络反向传播算法微调DDBN模型参数。...

【技术特征摘要】
1.基于动态深度置信网络的蓝藻水华预测方法，其特征在于：步骤一、建立DDBN模型；所述的DDBN是指动态深度置信模型，所述的模型包括输入层、隐藏层和输出层，将叶绿素作为反映藻类水华生成的表征因素建立输入数据与输出数据的时序关系；输入层负责接收历史时刻和当前时刻的叶绿素浓度，隐藏层负责提取输入层历史时刻和当前时刻的叶绿素浓度的特征，输出层则表示未来时刻的叶绿素浓度；输入层数据和输出层数据都是由长度固定，且沿时间序列顺次向前的移动窗口组成；步骤二、动态受限玻尔兹曼机DRBM的学习算法；(1)动态受限玻尔兹曼机权重的学习公式；采用对比散度算法计算权重差值，然后进行权重更新；(2)DRBM输入层偏置的学习公式；DRBM输入层偏置更新时，包括对比散度算法产生的偏置差值，还包括输入层t时刻与其历史时刻之间、输入层t时刻与隐藏层t-q时刻之间的连接产生的偏置变化以及输入层t-q时刻与其历史时刻之间连接产生的偏置变化；(3)DRBM隐藏层偏置的学习公式；DRBM隐藏层偏置更新时，包括对比散度算法产生的偏置差值，还包括隐藏层t时刻与隐藏层t-q时刻之间、隐藏层t时刻与其输入层历史时刻之间连接产生的偏置变化以及隐藏层t-q时刻与其输入层历史时刻之间的连接产生的偏置变化；步骤三、DRBM采用动态学习速率；步骤四、采用BP神经网络反向传播算法微调DDBN模型参数。2.根据权利要求1所述的基于动态深度置信网络的蓝藻水华预测方法，其特征在于：步骤二中所述的DRBM权重学习公式分为t时刻和t-q时刻，t时刻的权重更新公式如下：W′t←Wt+ΔWt(1)其中，Wt和W′t是更新前后的权重矩阵，ΔWt是采用对比散度算法后权重的变化；ΔWt用如下公式表示：ΔWt＝η(＜vtht＞0-＜vtht＞1)(2)＜·＞0表示数据集的数学期望，＜·＞1表示经过一次对比散度算法后的重构值的数学期望，η为DRBM本次迭代的学习速率，t-q时刻的权重更新公式和对比散度算法与t时刻相同；步骤二中所述的DRBM输入层偏置的学习公式包括输入层t-q时刻和t时刻的偏置更新公式，输入层t-q时刻的偏置更新公式为：其中，at-q和a't-q分别表示t-q时刻更新前后的输入层偏置，表示输入层t-q时刻的某一历史时刻t-p的输入层矩阵，ΔAt-p表示输入层t-p时刻与输入层t-q时刻之间的连接产生的权重变化，ΔA't-q是输入层t-q时刻经过对比散度算法后自身的偏置变化，其中：ΔA't-q＝＜vt-q＞0-＜vt-q＞1(5)输入层t时刻的偏置更新公式是在输入层t-q时刻的基础上又增加了隐藏层t-q时刻与输入层t时...

【专利技术属性】
技术研发人员：王立，张天瑞，王小艺，许继平，于家斌，赵峙尧，张慧妍，
申请(专利权)人：北京工商大学，
类型：发明
国别省市：北京,11