System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及大数据领域,特别是涉及一种流水数据处理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
技术介绍
1、流水数据能够提供高频次、细粒度和覆盖广泛的数据信息,但是随着大数据技术的飞速发展和社会经济活动复杂性的不断提升,导致分析流水数据处理越来越困难。
2、目前,相关技术中对流水数据处理主要依赖于市场调研和统计数据,这些方法虽然有效,但是这种方式对流水数据处理效率低下。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种能够高效处理流水数据的流水数据处理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品。
2、第一方面,本申请提出了一种流水数据处理方法,所述方法包括:
3、获取待处理流水数据;所述待处理流水数据中包括若干子流水数据;
4、通过不同的并行线程分别对若干所述子流水数据进行结构化处理,得到关键性指标值;
5、分别获取各关键性指标值对应的各预设步长,并分别基于所述预设步长对各所述关键性指标值进行采样,得到标准化流水数据;
6、基于所述标准化流水数据,生成流水数据处理结果。
7、在其中一个实施例中,所述通过不同的并行线程分别对若干所述子流水数据进行结构化处理,得到关键性指标值,包括:
8、各所述线程根据预设类别参数对各所述子流水数据分类得到若干流水数据集合,并对各所述流水数据集合中的所述子流水数据聚合得到所述关键性指标值。
9、在其中一个
10、基于所述流水数据处理结果得到所述待处理流水数据与时间的映射关系,并基于所述映射关系得到目标时间下的目标流水数据处理结果。
11、在其中一个实施例中,所述基于所述流水数据处理结果得到所述待处理流水数据与时间的映射关系,并基于所述映射关系得到目标时间下的目标流水数据处理结果是通过预先设置的数据处理模型得到的;所述数据处理模型的训练过程,包括:
12、获取历史样本数据;所述历史样本数据包括若干个时间序列流水数据;
13、将所述历史样本数据输入至初始模型中,所述初始模型计算各所述时间序列流水数据之间的相关性,并根据所述相关性确定所述初始模型的参数,得到所述数据处理模型。
14、在其中一个实施例中,所述分别基于所述预设步长对各所述关键性指标值进行采样,得到标准化流水数据,包括:
15、分别基于所述预设步长对各所述关键性指标值进行采样,得到采样指标值;
16、对各所述采样指标值进行数据标准化,得到所述标准化流水数据。
17、在其中一个实施例中,所述基于所述标准化流水数据,生成流水数据处理结果,包括:
18、根据预设权重对各所述标准化流水数据进行加权,得到初始流水数据处理结果;
19、对所述初始流水处理结果去噪,得到所述流水数据处理结果。
20、第二方面,本申请提出了一种流水数据处理装置,所述装置包括:
21、获取模块,用于获取待处理流水数据;所述待处理流水数据中包括若干子流水数据;
22、结构化模块,用于对所述子流水数据进行结构化处理,得到关键性指标值;
23、数据标准化模块,用于基于所述关键性指标值进行计算,得到初始行业健康度;
24、目标计算模块,用于对所述初始行业健康度进行预测,得到目标行业健康度。
25、第三方面,本申请提出了一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述的方法的步骤。
26、第四方面,本申请提出了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述的方法的步骤。
27、第五方面,本申请提出了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现上述的方法的步骤。
28、上述流水数据处理方法、装置、计算机设备、计算机可读存储介质和计算机程序产品,通过不同线程提取多个关键指标,每个线程负责不同维度的关键性指标提取。并且,从通过对若干子流水数据进行结构化处理,可以将大量散落、孤立的子流水数据进行聚合,可以减少数据维度。因此,通过多线程以及降维处理,可以大大提高对待处理数据的分析效率。
本文档来自技高网...【技术保护点】
1.一种流水数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述通过不同的并行线程分别对若干所述子流水数据进行结构化处理,得到关键性指标值,包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述流水数据处理结果得到所述待处理流水数据与时间的映射关系,并基于所述映射关系得到目标时间下的目标流水数据处理结果是通过预先设置的数据处理模型得到的;所述数据处理模型的训练过程,包括:
5.根据权利要求1所述的方法,其特征在于,所述分别基于所述预设步长对各所述关键性指标值进行采样,得到标准化流水数据,包括:
6.根据权利要求1所述的方法,其特征在于,所述基于所述标准化流水数据,生成流水数据处理结果,包括:
7.一种流水数据处理装置,其特征在于,所述装置包括:
8.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至6中任一项所述的方法的步骤
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
10.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6中任一项所述的方法的步骤。
...【技术特征摘要】
1.一种流水数据处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述通过不同的并行线程分别对若干所述子流水数据进行结构化处理,得到关键性指标值,包括:
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
4.根据权利要求3所述的方法,其特征在于,所述基于所述流水数据处理结果得到所述待处理流水数据与时间的映射关系,并基于所述映射关系得到目标时间下的目标流水数据处理结果是通过预先设置的数据处理模型得到的;所述数据处理模型的训练过程,包括:
5.根据权利要求1所述的方法,其特征在于,所述分别基于所述预设步长对各所述关键性指标值进行采样,得到标准化流水数据...
【专利技术属性】
技术研发人员:高明霄,何川,
申请(专利权)人:见知数据科技上海有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。