System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及时序数据处理,特别涉及一种监督对比学习网络模型训练多元时序数据分类方法及系统。
技术介绍
1、随着传感器技术和数据采集能力的不断提升,我们能够获得大量包含时间演化过程的多元时间序列数据。多元时间序列数据(mtsc)指的是在不同时间点上记录了多个相关变量或属性的时间序列数据。因此,如何挖掘多元序列数据中有用信息成为数据挖掘、机器学习等领域中极为关注的研究。mtsc是时间序列数据分析中一项具有挑战性的任务,在人类活动识别、运动分类及异常行为预测等人体行为分析领域有着非常广泛的应用。不同于其他类型的分类任务,mtsc问题的独特之处在于需要同时处理多维时间序列数据中变量之间的相互关联性和时序依赖性。
2、在过去几十年里,mtsc任务的方法不断涌现,主要可以划分为传统方法和深度学习方法两大类。传统方法主要分为两种类型:基于距离和基于特征的方法。基于距离的方法通常假设相似的时间序列在特征空间中也会更接近,因此,该类方法主要计算不同时间序列之间的距离或相似度来进行分类。例如:动态时间规整(dtw)结合最近邻分类是非常著名的基于距离的分类算法。与基于距离的方法不同,基于特征的方法是首先从时间序列中提取特征,然后利用这些特征进行分类。而深度学习方法利用神经网络模型从mtsc数据中获取数据表示,具有强大的表征能力和自动学习特征的能力。近期已有研究者提出了基于对比学习的mtsc模型——ts2vec和micos。ts2vec是一种无监督的方法通过将损失函数改成有监督对比损失再进行对比;micos是基于混合监督对比学习的mtsc
3、然而,基于特征的方法则需要手动选择特征,因此不可避免存在主观性和适应性差异,且可能丢失细节信息。基于深度学习的方法注重通过卷积神经网络提取局部信息,且分类效果依赖于数据增强方式并且没有最大程度利用标签信息。由此,传统方法和现有的深度学习方法集中关注如何捕捉时间序列整体的长时程相关性或者寻找局部的关键序列片段,却忽略了整体与局部之间的协同特性和导致无法最大限度地使用标签信息,使得多元时间序列数据分类结果的准确率不够。
技术实现思路
1、基于此,本专利技术提出一种监督对比学习网络模型训练多元时序数据分类方法及系统,旨在能够从多元时间序列数据中提取多尺度局部-全局特征以及能够充分利用标签信息,以提高多元时序数据分类结果的准确率。
2、根据本专利技术提出的监督对比学习网络模型训练多元时序数据分类方法,应用于人体行为分析,所述监督对比学习网络模型包括双流编码层、对比学习层和分类网络层,所述方法包括:
3、通过传感器获取目标人体行为的多元时序数据;
4、将所述多元时序数据分为训练数据集和测试数据集;
5、将所述训练数据集输入所述双流编码层,以提取多尺度局部-全局特征;
6、将所述多尺度局部-全局特征输入所述对比学习层,以得到综合对比损失;
7、并将所述多尺度局部-全局特征输入所述分类网络层,以得到分类损失;
8、根据所述综合对比损失和所述分类损失计算所述监督对比学习网络模型的总体损失;
9、将所述总体损失反向传播给所述监督对比学习网络模型,进行优化迭代,以得到优化后的监督对比学习网络模型;
10、将所述测试数据集输入所述优化后的监督对比学习网络模型中,得到每个测试数据对应的概率向量,从所述概率向量中选取最大概率值所对应的预测分类作为最终分类结果。
11、与现有技术相比,本专利技术提出的一种监督对比学习网络模型训练多元时序数据分类方法,通过监督对比学习网络模型对多元时序数据进行训练,得到人体行为的分类结果,具体地,通过所述监督对比学习网络模型中的双流编码层,从多元时序数据中提取出多尺度局部-全局特征,在捕捉多元时序数据整体的长时程相关性或者寻找局部的关键序列片段时,考虑到了整体与局部之间的协同特性;再通过所述监督对比学习网络模型中的混合监督对比学习层,计算出多尺度局部-全局特征信息的综合对比损失,并且还考虑了分类损失,能够提高所述监督对比学习网络模型的分析评估能力,使得标签信息能够更加充分地被利用,即最终模型输出的分类结果更加接近真实分类结果。因此,本专利技术提供的方法及系统,有效提取多元时序数据中的多尺度局部-全局特征和充分利用标签信息,进而有助于提高多元时序数据分类结果的准确率。
12、进一步地,所述双流编码层包括注意力门控循环子层和双层多尺度卷积神经网络子层,所述将所述训练数据集输入所述双流编码层,以提取多尺度局部-全局特征的步骤包括:
13、通过所述注意力门控循环子层,从所述训练数据集中提取多元时序数据的人体行为模式信息和长期依赖信息;
14、并通过所述双层多尺度卷积神经网络子层,从所述训练数据集中提取多元时序数据的多尺度特征信息;
15、再将所述人体行为模式信息和长期依赖信息与所述多尺度特征信息进行特征融合,得到多元时序数据的多尺度局部-全局特征信息。
16、进一步地,所述注意力门控循环子层包括维度置换单元、门控循环单元和注意力单元,所述通过所述注意力门控循环子层,从所述训练数据集中提取多元时序数据的人体行为模式信息和长期依赖信息的步骤包括:
17、通过所述维度置换单元,将所述训练数据集中的多元时序数据转化为矩阵表示;
18、通过所述门控循环单元,从所述矩阵表示中提取多元时序数据的特征表示;
19、通过所述注意力单元,对所述特征表示进行映射,生成注意力分数,再对所述注意力分数进行平均操作和归一化处理,得到每个通道的全局注意力权重;
20、将所述特征表示和所述全局注意力权重进行点乘运算,得到多元时序数据的人体行为模式信息和长期依赖信息。
21、进一步地,所述双层多尺度卷积神经网络子层包括第一层多尺度卷积神经网络和第二层多尺度卷积神经网络,所述第一层多尺度卷积神经网络和第二层多尺度卷积神经网络均包括二维卷积单元、一维卷积单元和最大池化单元,所述并通过所述双层多尺度卷积神经网络子层,从所述训练数据集中提取多元时序数据的多尺度特征信息的步骤包括:
22、通过所述二维卷积单元,从所述训练数据集中提取多元时序数据的相关变量信息;
23、并通过所述一维卷积单元,从所述训练数据集中提取多元时序数据中的不同时间步间信息;
24、并通过所述最大池化单元,从所述训练数据集中提取多元时序数据的全局特征;
25、再将所述相关变量信息、所述不同时间步间信息和所述全局特征进行拼接操作,得到多元时序数据的单层多尺度卷积神经网络的融合特征;
26、再引入注意力机制对所述第一层多尺度卷积神经网络和第二层多尺度卷积神经网络的所述融合特征进行加权,得到多元时序数据的多尺度特征信息。
27、进一步地,所述对比学习层包括本文档来自技高网...
【技术保护点】
1.监督对比学习网络模型训练多元时序数据分类方法,其特征在于,应用于人体行为分析,所述监督对比学习网络模型包括双流编码层、对比学习层和分类网络层,所述方法包括:
2.根据权利要求1所述的多元时序数据分类方法,其特征在于,所述双流编码层包括注意力门控循环子层和双层多尺度卷积神经网络子层,所述将所述训练数据集输入所述双流编码层,以提取多尺度局部-全局特征的步骤包括:
3.根据权利要求2所述的多元时序数据分类方法,其特征在于,所述注意力门控循环子层包括维度置换单元、门控循环单元和注意力单元,所述通过所述注意力门控循环子层,从所述训练数据集中提取多元时序数据的人体行为模式信息和长期依赖信息的步骤包括:
4.根据权利要求2所述的多元时序数据分类方法,其特征在于,所述双层多尺度卷积神经网络子层包括第一层多尺度卷积神经网络和第二层多尺度卷积神经网络,所述第一层多尺度卷积神经网络和第二层多尺度卷积神经网络均包括二维卷积单元、一维卷积单元和最大池化单元,所述并通过所述双层多尺度卷积神经网络子层,从所述训练数据集中提取多元时序数据的多尺度特征信息的步骤包括:
>5.根据权利要求1所述的多元时序数据分类方法,其特征在于,所述对比学习层包括实例级对比学习子层和时间步级对比学习子层,所述将所述多尺度局部-全局特征输入所述对比学习层,以得到综合对比损失的步骤包括:
6.根据权利要求5所述的多元时序数据分类方法,其特征在于,所述通过所述实例级对比学习子层,计算所述多尺度局部-全局特征的实例级对比损失的步骤包括:
7.根据权利要求1所述的多元时序数据分类方法,其特征在于,所述分类网络层包括池化子层、线性子层和softmax子层,所述并将所述多尺度局部-全局特征输入所述分类网络层,以得到分类损失的步骤包括:
8.监督对比学习网络模型训练多元时序数据分类系统,其特征在于,应用于人体行为分析,所述监督对比学习网络模型包括双流编码层、对比学习层和分类网络层,所述系统包括:
9.一种计算机设备,其特征在于,所述计算机设备包括存储器和处理器,其中:
10.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一所述的多元时序数据分类方法。
...【技术特征摘要】
1.监督对比学习网络模型训练多元时序数据分类方法,其特征在于,应用于人体行为分析,所述监督对比学习网络模型包括双流编码层、对比学习层和分类网络层,所述方法包括:
2.根据权利要求1所述的多元时序数据分类方法,其特征在于,所述双流编码层包括注意力门控循环子层和双层多尺度卷积神经网络子层,所述将所述训练数据集输入所述双流编码层,以提取多尺度局部-全局特征的步骤包括:
3.根据权利要求2所述的多元时序数据分类方法,其特征在于,所述注意力门控循环子层包括维度置换单元、门控循环单元和注意力单元,所述通过所述注意力门控循环子层,从所述训练数据集中提取多元时序数据的人体行为模式信息和长期依赖信息的步骤包括:
4.根据权利要求2所述的多元时序数据分类方法,其特征在于,所述双层多尺度卷积神经网络子层包括第一层多尺度卷积神经网络和第二层多尺度卷积神经网络,所述第一层多尺度卷积神经网络和第二层多尺度卷积神经网络均包括二维卷积单元、一维卷积单元和最大池化单元,所述并通过所述双层多尺度卷积神经网络子层,从所述训练数据集中提取多元时序数据的多尺度特征信息的步骤包括:
<...【专利技术属性】
技术研发人员:易玉根,刘敏,盛绘,张宁毅,代江艳,
申请(专利权)人:江西师范大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。