System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术公开一种方法与装置,涉及数据查询,具体地说是一种时序数据库查询优化方法与装置。
技术介绍
1、时序数据是随时间不断产生的一系列数据,即带时间戳的数据。时序数据库(timeseries database,tsdb)是用于摄取、处理和存储时序数据的数据库。时序数据可能来自服务器和应用程序的指标、物联网传感器的读数、网站或应用程序上的用户交互或金融市场上的交易活动等各种场景。在物联网和大数据应用中,时序数据往往分布在不同的模块或设备中,需要进行多模查询以获得完整的时序数据视图。然而,现有的数据库系统往往不能有效处理多模查询情况。
技术实现思路
1、本专利技术针对现有技术的问题,提供一种时序数据库查询优化方法与装置,通过异步读取来提高多模查询的查询性能以及减少资源消耗。
2、本专利技术提出的具体方案是:
3、本专利技术提供一种时序数据库查询优化方法,包括:
4、步骤1:将倒排索引信息持久化到磁盘文件:
5、将series byid以及seriesbytagkeyvalue数据排序,
6、持久化serieskey,
7、持久化tagvalue,
8、持久化所有的tagkey,形成tag block,
9、持久化时序表元数据信息,形成table block;
10、步骤2:使用倒排索引进行多维度条件过滤查询:
11、根据时序表名在table block进行过滤,定位
12、获取时序表名对应tag key区域的hash index,使用维度名进行hash运算,定位到维度名对应的维度值的存储区域,
13、获取维度名对应维度值区域的hash index,使用维度值进行hash运算,定位到维度值对应的所有seriesid,seriesid对应series key在磁盘文件中的偏移量,
14、根据seriesid加载出对应的serieskey,
15、根据serieskey、fieldkey以及时间范围在磁盘文件中查找对应的满足查询条件的结果集。
16、进一步,所述的一种时序数据库查询优化方法中步骤1中利用持久化线程判断积攒的倒排索引信息是否达到阈值或满足执行持久化操作条件,是则将内存中的倒排索引信息写入磁盘文件中。
17、进一步,所述的一种时序数据库查询优化方法中步骤1中持久化serieskey时,先构建series block,在构建的同时记录serieskey与该key在磁盘文件中偏移量的对应关系,对应关系表示为<serieskey,serieskeyoffset>。
18、进一步,所述的一种时序数据库查询优化方法中步骤1中持久化tagvalue时,将同一个tagkey下的所有tagvalue持久化在一起并生成对应hash index写入磁盘文件。
19、本专利技术还提供一种时序数据库查询优化装置,包括索引持久化模块和过滤查询模块,
20、索引持久化模块将倒排索引信息持久化到磁盘文件:
21、将series byid以及seriesbytagkeyvalue数据排序,
22、持久化serieskey,
23、持久化tagvalue,
24、持久化所有的tagkey,形成tag block,
25、持久化时序表元数据信息,形成table block;
26、过滤查询模块使用倒排索引进行多维度条件过滤查询:
27、根据时序表名在table block进行过滤,定位到table block对应的所有维度值所在的文件区域,
28、获取时序表名对应tag key区域的hash index,使用维度名进行hash运算,定位到维度名对应的维度值的存储区域,
29、获取维度名对应维度值区域的hash index,使用维度值进行hash运算,定位到维度值对应的所有seriesid,seriesid对应series key在磁盘文件中的偏移量,
30、根据seriesid加载出对应的serieskey,
31、根据serieskey、fieldkey以及时间范围在磁盘文件中查找对应的满足查询条件的结果集。
32、进一步,所述的一种时序数据库查询优化装置的索引持久化模块利用持久化线程判断积攒的倒排索引信息是否达到阈值或满足执行持久化操作条件,是则将内存中的倒排索引信息写入磁盘文件中。
33、进一步,所述的一种时序数据库查询优化装置的索引持久化模块持久化serieskey时,先构建series block,在构建的同时记录serieskey与该key在磁盘文件中偏移量的对应关系,对应关系表示为<serieskey,serieskeyoffset>。
34、进一步,所述的一种时序数据库查询优化装置的索引持久化模块持久化tagvalue时,将同一个tagkey下的所有tagvalue持久化在一起并生成对应hash index写入磁盘文件。
35、本专利技术的有益之处是:
36、本专利技术将倒排索引信息持久化到磁盘文件,并使用倒排索引进行多维度条件过滤查询,提高多模查询的查询性能以及减少资源消耗。
本文档来自技高网...【技术保护点】
1.一种时序数据库查询优化方法,其特征是包括:
2.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中利用持久化线程判断积攒的倒排索引信息是否达到阈值或满足执行持久化操作条件,是则将内存中的倒排索引信息写入磁盘文件中。
3.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中持久化SeriesKey时,先构建Series Block,在构建的同时记录SeriesKey与该Key在磁盘文件中偏移量的对应关系,对应关系表示为<SeriesKey,SeriesKeyOffset>。
4.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中持久化tagValue时,将同一个tagKey下的所有tagValue持久化在一起并生成对应Hash Index写入磁盘文件。
5.一种时序数据库查询优化装置,其特征是包括索引持久化模块和过滤查询模块,
6.根据权利要求5所述的一种时序数据库查询优化装置,其特征是索引持久化模块利用持久化线程判断积攒的倒排索引信息是否达到阈值或满足执行持久化操作
7.根据权利要求5所述的一种时序数据库查询优化装置,其特征是索引持久化模块持久化SeriesKey时,先构建Series Block,在构建的同时记录SeriesKey与该Key在磁盘文件中偏移量的对应关系,对应关系表示为<SeriesKey,SeriesKeyOffset>。
8.根据权利要求5所述的一种时序数据库查询优化装置,其特征是索引持久化模块持久化tagValue时,将同一个tagKey下的所有tagValue持久化在一起并生成对应Hash Index写入磁盘文件。
...【技术特征摘要】
1.一种时序数据库查询优化方法,其特征是包括:
2.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中利用持久化线程判断积攒的倒排索引信息是否达到阈值或满足执行持久化操作条件,是则将内存中的倒排索引信息写入磁盘文件中。
3.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中持久化serieskey时,先构建series block,在构建的同时记录serieskey与该key在磁盘文件中偏移量的对应关系,对应关系表示为<serieskey,serieskeyoffset>。
4.根据权利要求1所述的一种时序数据库查询优化方法,其特征是步骤1中持久化tagvalue时,将同一个tagkey下的所有tagvalue持久化在一起并生成对应hash index写入磁盘文件。
5.一种时序数据...
【专利技术属性】
技术研发人员:牟冠学,赵春泽,史大义,
申请(专利权)人:上海沄熹科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。