一种基于小波变换和卷积神经网络的时序分类方法技术

本发明专利技术涉及时间序列分类技术领域，具体是一种基于小波变换和卷积神经网络的时序分类方法，所述方法包括以下步骤：S1、对多维时间序列进行降维，得到一维时间序列；S2、将一维输入时间序列，经过小波变换变为近似分量cA和细节分量cD；S3、通过卷积神经网络CNN分析模型，得到CNN

【技术实现步骤摘要】
一种基于小波变换和卷积神经网络的时序分类方法


[0001]本专利技术涉及时间序列分类
，具体是一种基于小波变换和卷积神经网络的时序分类方法。

技术介绍

[0002]随着全社会工业化和智能信息化程度不断加深，近年来从传感器和其他输入源记录的时间序列数据的量级和流行度都出现了爆炸式增长，时间序列的应用正变得越来越广泛。例如在医疗保健、社会安全、人类活动识别、遥感、天文学、摄谱仪等领域，都产生了在长度、数量、维度等方面规模十分巨大的时间序列数据集，因此，时间序列分类任务也开始得到广泛关注。对于分类任务，人们可以通过观察直观的发现时间序列的相似性并进行分类，但对于计算机来说这项任务十分复杂，因为机器并不能直接看见并理解这些序列。时间序列作为非平稳信号，统计特征随时间维度不断变化，计算机从时间序列中提取统计分类模型并非易事。到目前为止，已有数百种时序分类算法被提出，这些算法可以分类两大类，传统机器学习类算法和深度学习类算法。早些时期，传统机器学习类算法是研究得最好最多的方法，这类方法或多或少关注序列的某一特定特征，如几何距离、频域频率、时间间隔、标志性子序列等。经过不断改进，基于特定模式的分类方法在挖掘原始数据集时几乎已经达到性能极限，另一方面，数据集的噪声和高维性也很大程度上降低了这类方法的分类精度。后来，研究人员提出了基于分层投票机制的集成式算法：即将前面介绍的某几个算法集成在一起，对每个方法的独立结果按照权重加和得到最终分类结果。虽然这种集成式算法达到了所有分类方法中最高水平，但由于其极高的计算代价，它无法在大型数据集中使用。最近几年，随着芯片架构和制造工艺的大幅进步，图形处理器（GPU）的并行计算能力爆发式增长，使得基于深度学习的方法在各个领域中都取得了令人惊叹的成绩。在图像分类领域，基于深度学习的分类算法在精确度上已经大幅度超过了传统机器学习算法，2015年，基于卷积神经网络的图像分类方法首次达到人类视觉分类水平。深度学习在计机器视觉领域取得巨大成功后，大量研究提出了许多新的深度学习架构来解决如机器翻译、学习词嵌入和语音识别等自然语言处理（NLP）任务。NLP数据如语音信号、上下文语句等都有着数据的内在顺序性，这也是时间序列数据的基本特征，时序分类任务迎来新变革。
[0003]目前却只有少数算法使用了深度神经网络（DNN）来解决时间序列分类任务，因此，探究适合时序分类任务的DNN构架，缓解传统机器学习分类算法计算代价过高、过拟合单一数据集和在大规模数据上性能退化的问题，对于相关领域研究落地有着重要现实意义和价值，因此，针对以上现状，迫切需要开发一种基于小波变换和卷积神经网络的时序分类方法，以克服当前实际应用中的不足。

技术实现思路

[0004]本专利技术的目的在于提供一种基于小波变换和卷积神经网络的时序分类方法，以解决上述
技术介绍
中提出的问题。
[0005]为实现上述目的，本专利技术提供如下技术方案：一种基于小波变换和卷积神经网络的时序分类方法，所述方法包括以下步骤：S1、对多维时间序列进行降维，得到一维时间序列；S2、将步骤S1中降维得到的一维输入时间序列，经过小波变换变为近似分量cA和细节分量cD；S3、通过卷积神经网络CNN分析模型，得到CNN
‑
cA卷积和CNN
‑
cD卷积；S4、对步骤S3生成的两组特征矩阵进行融合，保持两个矩阵各自代表的不同方面特征，不进行归一化处理，最后得到一个特征矩阵；S5、将步骤S4融合得到的特征矩阵输入线性岭回归分类器进行分类，得到原始时间序列的分类标签。
[0006]作为本专利技术进一步的方案：在步骤S2中，近似分量cA代表对原始信号的近似拟合，细节分量cD表示原始信号的细节频率。
[0007]作为本专利技术进一步的方案：在对近似分量cA分解中，只对原始信号在Level为1下做分解，以获得频率细节表示的同时尽量保证分辨率。
[0008]作为本专利技术进一步的方案：在步骤S3中，CNN
‑
cA卷积层可以在整体上提取时间序列的特征，CNN
‑
cD卷积层可以在局部上提取时间序列的噪声。
[0009]作为本专利技术进一步的方案：所述CNN
‑
cA卷积层拥有大量卷积核，且每个卷积核拥有固定的核长度为9；卷积核权重随机初始化且固定不变，核权重只有两个值，每个卷积核的所有权重加和为零；每个卷积核采用不同的偏置，可以区分时间序列的一些相同特征；每个卷积核交替的使用零填充，使用填充可以保证核中心对齐序列第一个元素；采用四种不同的池化操作来降低卷积后的特征图维度。
[0010]作为本专利技术进一步的方案：所述CNN
‑
cD卷积层的每个卷积核拥有不同的核长度，可以捕获不同的范围的噪声；卷积核权重随机初始化且固定不变，核权重只有两个值，每个卷积核的所有权重加和为零；卷积核不适用偏置，但交替使用零填充；采用四种不同的池化操作来降低卷积后的特征图维度。
[0011]作为本专利技术进一步的方案：采用统计假设检验的原理验证所选的模型和所解释的公式，可以对不同模型的性能进行比较。
[0012]与现有技术相比，本专利技术的有益效果是：本专利技术在保持了良好时间序列分类精度的同时，达到目前主流时序分类算法的先进水平，大大降低了算法的训练时间和成本，对不同领域的时间序列数据都有良好的泛化性能，能适应各种领域的时间序列分类任务，与目前主流的算法相比，本算法有极低的训练成本和速度，并且模型耦合度低，结构简单，可以根据需要定制化添加或删除模块，能够很好的迁移到其他任务上。
附图说明
[0013]图1为本专利技术实施例中基于小波变换和卷积神经网络的时序分类方法的整体结构示意图。
[0014]图2为本专利技术实施例中原始信号的分解示意图。
[0015]图3为本专利技术实施例中卷积层在整体上提取时间序列的特征示意图。
[0016]图4为本专利技术实施例中卷积层在局部上提取时间序列的噪声示意图。
[0017]图5为本专利技术实施例中特征矩阵分类示意图。
[0018]图6为本专利技术实施例中算法的平均性能统计图。
实施方式
[0019]下面将结合本专利技术实施例中的附图，对本专利技术实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例仅仅是本专利技术一部分实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本专利技术保护的范围。
[0020]以下结合具体实施例对本专利技术的具体实现进行详细描述。
[0021]请参阅图1
‑
图6，本专利技术实施例提供的一种基于小波变换和卷积神经网络的时序分类方法，所述基于小波变换和卷积神经网络的时序分类方法包括：第一步，按照一定规则对多维时间序列进行降维，得到一维时间序列；第二步，一维输入时间序列经过小波变换变为近似分量cA和细节分量cD，前者代表对原始信号的近似拟合，后者表示原始信号的细节频率；由于每次分解都会造成cA分辨率变为原来的一半，为本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于小波变换和卷积神经网络的时序分类方法，其特征在于，所述方法包括以下步骤：S1、对多维时间序列进行降维，得到一维时间序列；S2、将步骤S1中降维得到的一维输入时间序列，经过小波变换变为近似分量cA和细节分量cD；S3、通过卷积神经网络CNN分析模型，得到CNN
‑
cA卷积和CNN
‑
cD卷积；S4、对步骤S3生成的两组特征矩阵进行融合，保持两个矩阵各自代表的不同方面特征，不进行归一化处理，最后得到一个特征矩阵；S5、将步骤S4融合得到的特征矩阵输入线性岭回归分类器进行分类，得到原始时间序列的分类标签。2.根据权利要求1所述的基于小波变换和卷积神经网络的时序分类方法，其特征在于，在步骤S2中，近似分量cA代表对原始信号的近似拟合，细节分量cD表示原始信号的细节频率。3.根据权利要求2所述的基于小波变换和卷积神经网络的时序分类方法，其特征在于，在对近似分量cA分解中，只对原始信号在Level为1下做分解，以获得频率细节表示的同时尽量保证分辨率。4.根据权利要求1所述的基于小波变换和卷积神经网络的时序分类方法，其特征在于，在步骤S3中，CNN
‑
cA卷积层可以在...

【专利技术属性】
技术研发人员：彭涛，毕海嘉，于博，包铁，刘露，
申请(专利权)人：吉林大学，
类型：发明
国别省市：