System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开涉及计算机,具体地,涉及一种索引数据的处理方法、索引生成方法、装置、介质及设备。
技术介绍
1、在数据库系统中,需要在数据写入时生成该数据的索引,从而使得用户可以进行数据查询。然后然而在较大规模和较高负载下,索引的生成和写入都会造成索引写入延迟飘高,导致用户查询延迟。
技术实现思路
1、提供该
技术实现思路
部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该
技术实现思路
部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
2、第一方面,本公开提供一种索引数据的处理方法,所述方法包括:
3、在数据表中写入数据时,获取所述数据表中写入的目标数据对应的索引数据,其中,所述索引数据为所述目标数据中、用于构建索引的索引字段对应的数据;
4、基于所述数据表对应的日志队列,确定每一所述索引数据要写入的目标日志队列和目标索引日志文件,其中,每一所述日志队列下存储有多个索引日志文件,每一所述索引日志文件中存储有多条索引数据;
5、将所述目标数据对应的索引数据写入所述目标日志队列中的所述目标索引日志文件中,其中,所述索引日志文件为预写式日志文件,所述索引日志文件用于进行数据回放以生成所述索引数据对应的索引。
6、第二方面,本公开提供一种索引生成方法,所述方法包括:
7、确定待处理的索引日志文件对应的待处理日志队列,其中,所述索引日志文件为基于第一方面所
8、从所述待处理日志队列中获取所述索引日志文件;
9、基于所述索引日志文件中的索引数据进行数据回放,生成所述索引数据对应的索引。
10、第三方面,本公开提供一种索引数据的处理装置,所述装置包括:
11、第一获取模块,用于在数据表中写入数据时,获取所述数据表中写入的目标数据对应的索引数据,其中,所述索引数据为所述目标数据中、用于构建索引的索引字段对应的数据;
12、第一确定模块,用于基于所述数据表对应的日志队列,确定每一所述索引数据要写入的目标日志队列和目标索引日志文件,其中,每一所述日志队列下存储有多个索引日志文件,每一所述索引日志文件中存储有多条索引数据;
13、第一处理模块,用于将所述目标数据对应的索引数据写入所述目标日志队列中的所述目标索引日志文件中,其中,所述索引日志文件为预写式日志文件,所述索引日志文件用于进行数据回放以生成所述索引数据对应的索引。
14、第四方面,本公开提供一种索引生成装置,所述装置包括:
15、第四确定模块,用于确定待处理的索引日志文件对应的待处理日志队列,所述索引日志文件为基于第一方面所述的索引数据的处理方法所生成的;
16、第二获取模块,用于从所述待处理日志队列中获取所述索引日志文件;
17、生成模块,用于基于所述索引日志文件中的索引数据进行数据回放,生成所述索引数据对应的索引。
18、第五方面,本公开提供一种计算机可读介质,其上存储有计算机程序,该程序被处理装置执行时实现第一方面或第二方面所述方法的步骤。
19、第六方面,本公开提供一种电子设备,包括:
20、存储装置,其上存储有计算机程序;
21、处理装置,用于执行所述存储装置中的所述计算机程序,以实现第一方面或第二方面所述方法的步骤。
22、在上述技术方案中,在数据表中写入数据时,获取数据表中写入的目标数据对应的索引数据,之后基于数据表对应的日志队列,确定每一索引数据要写入的目标日志队列和目标索引日志文件,从而将该索引数据写入目标日志队列中的目标索引日志文件中。该索引日志文件用于进行数据回放以生成所述索引数据对应的索引,则基于该方案可以在数据写入时获取其中的索引数据并进行存储,以保证索引的准确生成,有效解决大规模数据的索引数据的处理效率,避免出现掉电后丢失索引的问题。同时,在该技术方案中,可以在索引数据写入索引日志文件的过程中基于日志队列对数据写入过程进行负载均衡控制,从而可以为实现索引数据的写入均衡提供支持,保证后续对索引日志文件中的索引数据的进行处理时的效率,便于提高索引生成的效率,降低索引写入的延迟和用户查询延迟。
23、本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
本文档来自技高网...【技术保护点】
1.一种索引数据的处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述数据表对应的日志队列,确定每一所述索引数据要写入的目标日志队列和目标索引日志文件,包括:
3.根据权利要求2所述的方法,其特征在于,所述索引数据对应的属性信息包括所述数据表的表标识、所述索引数据对应的索引字段的字段标识、所述索引数据所属时段信息中的至少一者;
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
7.一种索引生成方法,其特征在于,所述方法包括:
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
9.一种索引数据的处理装置,其特征在于,所述装置包括:
10.一种索引生成装置,其特征在于,所述装置包括:
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-8中任一
12.一种电子设备,其特征在于,包括:
...【技术特征摘要】
1.一种索引数据的处理方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述基于所述数据表对应的日志队列,确定每一所述索引数据要写入的目标日志队列和目标索引日志文件,包括:
3.根据权利要求2所述的方法,其特征在于,所述索引数据对应的属性信息包括所述数据表的表标识、所述索引数据对应的索引字段的字段标识、所述索引数据所属时段信息中的至少一者;
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
5.根据权利要求1所述的方法,其特征在于,所述方法还包...
【专利技术属性】
技术研发人员:蔡舒,
申请(专利权)人:北京火山引擎科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。