基于混沌深度小波网络的数据分类方法技术

本发明专利技术公开了一种基于混沌深度小波网络的数据分类方法，主要解决现有技术中人工参与过多、分类正确率较低和可移植性不强等问题。其实现主要是：构建混沌深度小波网络，逐层提取输入数据在不同深度层次的特征；在网络学习时用混沌模拟退火算法对分层网络和整体网络参数寻优得到分类网络；将待分类数据输入网络得到分类结果。本发明专利技术通过构建混沌深度小波网络，自动对数据进行特征提取，获得数据更丰富的特征表述，避免人工参与，消除不确定因素，提高分类正确率；训练网络时用混沌模拟退火方法，降低网络训练时间，提高分类性能。本发明专利技术可移植性强，普适性强，可用于数据分类、图像分类、场景分类、目标识别及数据预测分析。

【技术实现步骤摘要】

本专利技术属于数据分类
，特别涉及数据处理分析和分类的方法，具体是一种基于混沌深度小波网络的数据分类方法，可用于数据分类、图像分类、场景分类、目标识别及数据预测分析。
技术介绍
数据分类技术是很多工程和研究工作的基础，将数据较好地按照类别划分可以更好地得到对目标的描述，对后续数据处理的方法有重要的作用。皇家飞利浦电子股份有限公司申请的专利“一种用于对生物分子数据进行分类的分类系统”(专利申请号：CN200980114561，公开号：CN102016881B)中公开了一种用于对生物分子数据进行分类的分类系统。该系统的输入端接收待分类样本的多个特征和多个相应的误差估计。统计模块将概率密度函数与所述特征相关联，其中所述概率密度函数的方差依赖于所述误差估计。复制模块产生所述样本的多个扰动的副本，其中所述特征根据对应的各个概率密度函数被随机扰动。分类器基于所述扰动的特征对所述扰动的副本进行分类。分析器基于对所述分类的副本的统计分析将待分类的样本进行分类以获得样本分类。其仍然存在的不足是，该系统的构建模型较为复杂，而且对于数据特征的提取需要人工参与，容易产生不确定因素，进而会影像分类结果的准确率。哈尔滨工业大学申请的专利“基于深度学习的高光谱遥感数据分类方法”(专利号：201410359935)公开了一种基于深度学习的高光谱遥感数据分类方法，该方法首先对高光谱原始数据进行处理获得高光谱原始数据的光谱特征向量和空间特征信息；再对所述光谱特征向量和空间特征信息进行整合；由高光谱整合数据确定标记样本，并由标记样本中选择训练样本和测试样本；使用训练样本对构成深层网络的多层限制玻尔兹曼机进行预训练；使用训练样本对多层限制玻尔兹曼机构成的网络进行有监督学习；将测试样本输入微调后的多层限制玻尔兹曼机构成的网络，实现高光谱遥感数据的分类。该方法在一定程度上解决了现有对蕴含非线性特征的高光谱数据进行分类的方法存在分类精度低的问题，但是仍然存在的不足是，网络学习时间较长，网络参数寻优的时间复杂度较高。
技术实现思路
本专利技术的目的在于克服上述现有技术中在数据分类时对分类数据特征提取方面需要人工参与容易导致不确定性的问题，提出了一种高效的自动提取特征，正确率高，可移植性强的基于混沌深度小波网络的数据分类方法。本专利技术的目的和思路叙述如下：通过构建混沌深度小波网络，通过网络中小波能量提取层对输入数据小波域能量值的提取，获得输入数据更丰富的特征表述；同时用混沌模拟退火方法对该网络进行训练，这样的训练方式对于网络参数的寻优具有更快速高效的性能。本专利技术与现有技术中其他数据分类方法相比，能够克服现有技术中对于特征提取过程中由于人工参与过多而导致的不确定性，本专利技术分类准确度高，自动化程度高，可移植性强。为实现上述目的，本专利技术的技术方案包括如下方法：本专利技术是一种基于混沌深度小波网络的数据分类方法，其特征在于，包括有如下步骤：步骤1输入待处理数据，根据该数据建立数据分类所用数据集，包括分别建立训练集U和测试集V；步骤2构建混沌深度小波网络，设定该网络具有1个输入层和1个输出层，在输入层和输出层之间具有1个小波能量提取层和n个自编码特征抽象层，组成小波能量提取层的是小波元，组成自编码特征抽象层的是自编码元；步骤3划分该网络的层次，对小波能量提取层和自编码特征抽象层的参数逐层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的过程中，用混沌模拟退火算法对网络的参数进行寻优：3a设定混沌搜索步长C、混沌终止条件Cmin、退火的初始高温T、寻优迭代停止条件设为温度达到最小值Tmin，计算网络的当前能量；3b设定网络评价标准，即损失函数，作为判定网络是否达到稳定的标志：L=12||y-hw,b(x)||2]]>其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，该式代表的是预测标签和类别标签的差别；3c判断当前温度T是否达到温度的最小值Tmin，若已达到，则退出循环，执行步骤5；若没有达到，则转入步骤3d；3d前向运行当前网络，计算损失函数L，记为当前网络的能量E(j)；3e按照以下条件为标准，判定当前网络的能量改变能否被接受：若E(j)≤E(i),则接受该状态的改变，将当前的网络的参数记录，作为待应用网络；若E(j)>E(i)，则状态改变以概率被接受，将当前的网络参数记录，作为待应用网络；其中E(j)为当前状态网络的能量值，E(i)为前一状态网络的能量值，K是波尔兹曼常数，T是当前网络的温度；3f判断当前损失函数是否满足混沌终止条件Cmin，若满足，则将搜索步长更新为较小的步长；若不满足，则根据Logistic映射对搜索空间进行进一步的搜索；转入步骤3d进行迭代运算，直到网络稳定为止；步骤4将分层主动学习获得的小波能量提取层和自编码特征抽象层的当前最优参数分别赋给混沌深度小波网络的各级对应层，得到初始混沌深度小波网络；步骤5将训练集U中的样本输入到已得到的初始混沌深度小波网络，再次用混沌模拟退火算法对网络的参数进行学习和训练，得到一个用于分类的混沌深度小波网络；步骤6将测试集V中的样本输入混沌深度小波网络，得到该测试集V中各样本的分类结果。本专利技术的实现还在于：其中步骤1所述的数据集，每个样本的输入向量是原始数据的基本特征构成的M*1维列向量，输出向量为该样本所属的类别标签；所有数据构成测试集V，随机选取有标签数据的3％做为训练集U。本专利技术的实现还在于：其中步骤2所述的构建混沌深度小波网络，输入层直接与小波能量提取层连接，通过小波能量提取层的作用得到输入数据在小波域的能量值f0；小波能量提取层直接与自编码特征抽象层的第一层相连，将f0输入到自编码特征抽象层的第一层，得到的是中级特征f1，自编码特征抽象层的2～n层得到的结果记为高级特征f2，f3，…，fn，其中fn记为网络中用于分类的终级特征；自编码特征抽象层的第n层直接与输出层相连，将fn输入到输出层的分类器，经过输出层得到对输入数据的分类结果。本专利技术的实现还在于：其中步骤2所述的小波元，其构成方式为小波和网络神经元直接融合的方式，选用Morlet小波作为激活函数：h(x-ba)=cos(1.75x-ba)exp(-0.5(x-ba)2)]]>其中，a和b代表尺度和平移系数。本专利技术的实现还在于：其中步骤2所述的自编码元，选用Sigmoid函数作为激活函数本文档来自技高网...

【技术保护点】
一种基于混沌深度小波网络的数据分类方法，其特征在于，包括有如下步骤：步骤1输入待处理数据，根据该数据建立数据分类所用数据集，包括分别建立训练集U和测试集V；步骤2构建混沌深度小波网络，设定该网络具有1个输入层和1个输出层，在输入层和输出层之间具有1个小波能量提取层和n个自编码特征抽象层，组成小波能量提取层的是小波元，组成自编码特征抽象层的是自编码元；步骤3划分该网络的层次，对小波能量提取层和自编码特征抽象层的参数逐层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的过程中，用混沌模拟退火算法对网络的参数进行寻优：3a设定混沌搜索步长C、混沌终止条件Cmin、退火的初始高温T、寻优迭代停止条件设为温度达到最小值Tmin，计算网络的当前能量；3b设定网络评价标准，即损失函数，作为判定网络是否达到稳定的标志：L=12||y-hw,b(x)||2]]>其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，该式代表的是预测标签hw,b(x)和类别标签y的差别；3c判断当前温度T是否达到温度的最小值Tmin，若已达到，则退出循环，执行步骤4；若没有达到，则转入步骤3d；3d前向运行当前网络，计算损失函数L，记为当前网络的能量E(j)；3e按照以下条件为标准，判定当前网络的能量改变能否被接受：若E(j)≤E(i),则接受该状态的改变，将当前的网络的参数记录，作为待应用网络；若E(j)>E(i)，则状态改变以概率被接受，将当前的网络参数记录，作为待应用网络；其中E(j)为当前状态网络的能量值，E(i)为前一状态网络的能量值，K是波尔兹曼常数，T是当前网络的温度；3f判断当前损失函数是否满足混沌终止条件Cmin，若满足，则将搜索步长更新为较小的步长；若不满足，则根据Logistic映射对搜索空间进行进一步的搜索；转入步骤3d进行迭代运算，直到网络稳定为止；步骤4将分层主动学习获得的小波能量提取层和自编码特征抽象层的当前最优参数分别赋给混沌深度小波网络的各级对应层，得到初始混沌深度小波网络；步骤5将训练集U中的样本输入到已得到的初始混沌深度小波网络，再次用混沌模拟退火算法对网络的参数进行学习和训练，得到一个用于分类的混沌深度小波网络；步骤6将测试集V中的样本输入混沌深度小波网络，得到该测试集V中各样本的分类结果。...

【技术特征摘要】
1.一种基于混沌深度小波网络的数据分类方法，其特征在于，包括有如下步
骤：
步骤1输入待处理数据，根据该数据建立数据分类所用数据集，包括分别建
立训练集U和测试集V；
步骤2构建混沌深度小波网络，设定该网络具有1个输入层和1个输出层，
在输入层和输出层之间具有1个小波能量提取层和n个自编码特征抽象层，组成
小波能量提取层的是小波元，组成自编码特征抽象层的是自编码元；
步骤3划分该网络的层次，对小波能量提取层和自编码特征抽象层的参数逐
层进行分层主动学习，所用训练数据为训练集U中的样本；在逐层主动学习的
过程中，用混沌模拟退火算法对网络的参数进行寻优：
3a设定混沌搜索步长C、混沌终止条件Cmin、退火的初始高温T、寻优迭
代停止条件设为温度达到最小值Tmin，计算网络的当前能量；
3b设定网络评价标准，即损失函数，作为判定网络是否达到稳定的标志：
L=12||y-hw,b(x)||2]]>其中，y为有标签数据的类别标签，hw,b(x)为输入x经过网络后的输出，
该式代表的是预测标签hw,b(x)和类别标签y的差别；
3c判断当前温度T是否达到温度的最小值Tmin，若已达到，则退出循环，
执行步骤4；若没有达到，则转入步骤3d；
3d前向运行当前网络，计算损失函数L，记为当前网络的能量E(j)；
3e按照以下条件为标准，判定当前网络的能量改变能否被接受：
若E(j)≤E(i),则接受该状态的改变，将当前的网络的参数记录，作为
待应用网络；
若E(j)>E(i)，则状态改变以概率被接受，将当前的网络参
数记录，作为待应用网络；
其中E(j)为当前状态网络的能量值，E(i)为前一状态网络的能量值，
K是波尔兹曼常数，T是当前网络的温度；
3f判断当前损失函数是否满足混沌终止条件Cmin，若满足，则将搜索步长
更新为较小的步长；若不满足，则根据Logistic映射对搜索空间进行进一步的搜
索；转入步骤3d进行迭代运算，直到网络稳定为止；
步骤4将分层主动学习获得的小波能量提取层和自编码特征抽象层的当前
最优参数分别赋给混沌深度小波网络的各级对应层，得到初始混沌深度小波网
络；

【专利技术属性】
技术研发人员：焦李成，屈嵘，李倩，杨淑媛，侯彪，王爽，马文萍，马晶晶，刘红英，
申请(专利权)人：西安电子科技大学，
类型：发明
国别省市：陕西;61