System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及时序存储空间占用优化方向领域,具体提供一种适用于时序存储的降采样方法及装置。
技术介绍
1、随着传感器和数据采集技术的快速发展,时序数据在各个领域的应用越来越广泛。时序数据通常记录了某个系统或现象在不同时间点的状态变化,因此具有很强的时间关联性和动态性。
2、然而,时序数据也面临着数据量大、维度高、信息冗余等问题,这些问题对于数据的存储、传输和处理都带来了很大的挑战。为了解决这些问题,通常需要对时序数据进行降采样处理,以减少数据量、降低维度,同时尽可能保留原始数据的本质特征。
技术实现思路
1、本专利技术是针对上述现有技术的不足,提供一种实用性强的适用于时序存储的降采样方法。
2、本专利技术进一步的技术任务是提供一种设计合理,安全适用的适用于时序存储的降采样装置。
3、本专利技术解决其技术问题所采用的技术方案是:
4、一种适用于时序存储的降采样方法,具体步骤如下:
5、s1、时序数据的分区数据写入;
6、s2、历史分区数据降采样。
7、进一步的,在步骤s1中,进一步包括:
8、s101、创建时间分区,写入时序数据;
9、s102、作为历史分区存在时,不会进行数据写入,仅支持数据读取。
10、进一步的,在步骤101中,首先存储引擎启动时会创建一个时间分区,以时间戳命名,所述时间分区用来写入时序数据,一个时间分区对应一天的时序数据。
11、进
12、进一步的,在步骤s2中,进一步包括:
13、s201、降采样服务每天定时启动多线程降采样任务;
14、s202、启动各个线程,对线程内分区队列中的分区依次进行分区降采样处理;
15、s203、针对每个分区的降采样,根据分区时间,按照降采样规则,确定降采样表执行的降采样规则;
16、s204、根据降采样规则构造出降采样查询语句;
17、s205、针对历史分区,先创建出一个临时分区,用来保存降采样结果数据;
18、s206、处理其它分区,直至所有需要降采样分区处理完毕。
19、进一步的,在步骤s201中,降采样服务每天定时启动多线程降采样任务,从元数据中查询降采样规则信息,获取所有需要降采样的历史分区,平均分配历史分区到不同线程处理。
20、进一步的,在步骤s203中,针对每个分区的降采样,根据分区时间,按照降采样规则,确定降采样表需要执行第n级降采样规则,其中n=1、2、3、4,不同的降采样级别表示不同的采样时间间隔。
21、进一步的,在步骤s204中,根据降采样规则构造出降采样查询语句,针对历史分区执行当前查询语句,获取出历史分区的降采样结果数据。
22、进一步的,在步骤s205中,然后针对历史分区,先创建出一个临时分区,所述临时分区以时间戳+下划线命名,用来保存降采样结果数据;
23、数据写入完成后,将历史分区移除,再将临时分区替换为历史分区,至此当前分区降采样处理完毕。
24、一种适用于时序存储的降采样装置,包括:至少一个存储器和至少一个处理器;
25、所述至少一个存储器,用于存储机器可读程序;
26、所述至少一个处理器,用于调用所述机器可读程序,执行一种适用于时序存储的降采样方法。
27、本专利技术的一种适用于时序存储的降采样方法及装置和现有技术相比,具有以下突出的有益效果:
28、本专利技术减少历史数据总量,提升查询效率,减少磁盘空间占用,降低用户成本。
本文档来自技高网...【技术保护点】
1.一种适用于时序存储的降采样方法,其特征在于,具体步骤如下:
2.根据权利要求1所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S1中,进一步包括:
3.根据权利要求2所述的一种适用于时序存储的降采样方法,其特征在于,在步骤101中,首先存储引擎启动时会创建一个时间分区,以时间戳命名,所述时间分区用来写入时序数据,一个时间分区对应一天的时序数据。
4.根据权利要求3所述的一种适用于时序存储的降采样方法,其特征在于,在步骤102中,当存在第二天的时序数据写入时,会进行数据分区切换,先创建新的时间分区目录用来保存第二天的时序数据,然后对前一天的时间分区进行压缩,此时已压缩的时间分区将作为历史分区存在,所述时间分区不会进行数据写入,仅支持数据读取。
5.根据权利要求4所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S2中,进一步包括:
6.根据权利要求5所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S201中,降采样服务每天定时启动多线程降采样任务,从元数据中查询降采样规则信息,获取所有需要降采样的
7.根据权利要求6所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S203中,针对每个分区的降采样,根据分区时间,按照降采样规则,确定降采样表需要执行第N级降采样规则,其中N=1、2、3、4,不同的降采样级别表示不同的采样时间间隔。
8.根据权利要求6所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S204中,根据降采样规则构造出降采样查询语句,针对历史分区执行当前查询语句,获取出历史分区的降采样结果数据。
9.根据权利要求6所述的一种适用于时序存储的降采样方法,其特征在于,在步骤S205中,然后针对历史分区,先创建出一个临时分区,所述临时分区以时间戳+下划线命名,用来保存降采样结果数据;
10.一种适用于时序存储的降采样装置,其特征在于,包括:至少一个存储器和至少一个处理器;
...【技术特征摘要】
1.一种适用于时序存储的降采样方法,其特征在于,具体步骤如下:
2.根据权利要求1所述的一种适用于时序存储的降采样方法,其特征在于,在步骤s1中,进一步包括:
3.根据权利要求2所述的一种适用于时序存储的降采样方法,其特征在于,在步骤101中,首先存储引擎启动时会创建一个时间分区,以时间戳命名,所述时间分区用来写入时序数据,一个时间分区对应一天的时序数据。
4.根据权利要求3所述的一种适用于时序存储的降采样方法,其特征在于,在步骤102中,当存在第二天的时序数据写入时,会进行数据分区切换,先创建新的时间分区目录用来保存第二天的时序数据,然后对前一天的时间分区进行压缩,此时已压缩的时间分区将作为历史分区存在,所述时间分区不会进行数据写入,仅支持数据读取。
5.根据权利要求4所述的一种适用于时序存储的降采样方法,其特征在于,在步骤s2中,进一步包括:
6.根据权利要求5所述的一种适用于时序存储的降采样方法,其特征在于,在步骤s...
【专利技术属性】
技术研发人员:李盟,贾德星,章佳义,
申请(专利权)人:山东浪潮数据库技术有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。