System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据库表聚合方法、装置、设备及计算机可读存储介质制造方法及图纸_技高网

数据库表聚合方法、装置、设备及计算机可读存储介质制造方法及图纸

技术编号:43028612 阅读:6 留言:0更新日期:2024-10-18 17:28
本公开涉及一种数据库表聚合方法、装置、设备及计算机可读存储介质,所述方法包括:获取任务配置信息,所述任务配置信息包括多个映射规则;根据多个所述映射规则中的目标映射规则,确定目标聚合任务,所述目标聚合任务表征将至少一个目标源表的数据聚合到一个目标聚合表中;针对所述目标聚合任务,运行目标同步服务,所述目标同步服务包括第一同步机制和第二同步机制,所述第一同步机制用于将所述目标源表的数据变化信息实时同步到所述目标聚合表中,所述第二同步机制用于在满足预设条件时,将所述目标源表的数据信息全量同步至所述目标聚合表。本公开一个或者多个实施方式提供的技术方案,可以有效维护聚合服务,能够保证数据聚合效率。

【技术实现步骤摘要】

本公开涉及计算机数据处理,具体涉及一种数据库表聚合方法、装置、设备及计算机可读存储介质


技术介绍

1、在网络应用的开发过程中,常常会遇到如全局搜索、数据概览、业务报表等类型的功能需求,这类功能需求有一个类似的点:需要将一系列的数据进行归类聚合,即把源自多个数据库表的数据进行模型转换后,插入到一张聚合表中,方便后续业务使用。

2、为实现这些聚合操作,可以通过聚合服务对源数据库表的数据进行读取、转换,然后将完成转换的数据插入到新的数据库表中。聚合服务的工作量,一般跟源数据库表的数据量成正比。并且,随着源数据库表的扩充,通常还需要在聚合服务中增加新的数据转换逻辑。

3、因此,当存在大量聚合任务(例如全局搜索、数据概览、业务报表等功能被频繁调用)时,聚合服务的维护难度急剧上升,数据聚合效率也难以保证。


技术实现思路

1、有鉴于此,本公开一个或者多个实施方式提供了一种数据库表聚合方法、装置、设备及计算机可读存储介质,可以有效维护聚合服务,能够保证数据聚合效率。

2、本公开一方面提供了一种数据库表聚合方法,所述方法包括:获取任务配置信息,所述任务配置信息包括多个映射规则;根据多个所述映射规则中的目标映射规则,确定目标聚合任务,所述目标聚合任务表征将至少一个目标源表的数据聚合到一个目标聚合表中;针对所述目标聚合任务,运行目标同步服务,所述目标同步服务包括第一同步机制和第二同步机制,所述第一同步机制用于将所述目标源表的数据变化信息实时同步到所述目标聚合表中,所述第二同步机制用于在满足预设条件时,将所述目标源表的数据信息全量同步至所述目标聚合表。

3、本公开另一方面还提供了一种数据库表聚合装置,所述装置包括:获取单元,用于获取任务配置信息,所述任务配置信息包括多个映射规则;管理单元,用于根据多个所述映射规则中的目标映射规则,确定目标聚合任务,所述目标聚合任务表征将至少一个目标源表的数据聚合到一个目标聚合表中;同步单元,用于针对所述目标聚合任务,运行目标同步服务,所述目标同步服务包括第一同步机制和第二同步机制,所述第一同步机制用于将所述目标源表的数据变化信息实时同步到所述目标聚合表中,所述第二同步机制用于在满足预设条件时,将所述目标源表的数据信息全量同步至所述目标聚合表。

4、本公开另一方面还提供了一种电子设备,所述电子设备包括存储器和处理器,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时,实现上述的数据库表聚合方法。

5、本公开另一方面还提供了一种计算机可读存储介质,所述计算机可读存储介质用于存储计算机程序,所述计算机程序被处理器执行时,实现上述的数据库表聚合方法。

6、本公开一个或者多个实施方式提供的技术方案,允许用户以配置化的方式创建聚合任务,可以减少聚合任务的创建难度。根据多个映射规则,可以分别创建不同的聚合任务,完成源数据库表至聚合表的数据同步功能。相互独立的聚合任务,可以降低聚合服务的维护难度。

7、本公开一个或者多个实施方式提供的技术方案,具体到目标聚合任务时,可以运行对应的目标同步服务。目标同步服务,可以包含实时同步和全量同步两种同步机制。两种同步机制的相互合作,使得目标同步服务可以满足多种实际工作场景,提升了聚合任务的效率与稳定性。

本文档来自技高网...

【技术保护点】

1.一种数据库表聚合方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述运行目标同步服务,包括:

4.根据权利要求3所述的方法,其特征在于,所述根据预定的数据入库条件,执行与所述第二消息体相匹配的数据入库操作,包括以下至少一项:

5.根据权利要求3所述的方法,其特征在于,所述运行目标同步服务,还包括:

6.根据权利要求5所述的方法,其特征在于,在完成所述第一源表与所述目标聚合表之间的一次全量信息同步之后,所述方法还包括:

7.根据权利要求1-6任意一项所述的方法,其特征在于,所述运行目标同步服务,包括:

8.一种数据库表聚合装置,其特征在于,所述装置包括:

9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器用于存储计算机程序,所述计算机程序被所述处理器执行时,实现如权利要求1至7中任一所述的方法。

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储计算机程序,所述计算机程序被处理器执行时,实现如权利要求1至7中任一所述的方法。

...

【技术特征摘要】

1.一种数据库表聚合方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述运行目标同步服务,包括:

4.根据权利要求3所述的方法,其特征在于,所述根据预定的数据入库条件,执行与所述第二消息体相匹配的数据入库操作,包括以下至少一项:

5.根据权利要求3所述的方法,其特征在于,所述运行目标同步服务,还包括:

6.根据权利要求5所述的方法,其特征在于,在完成所述第一源表与所述目标聚合表之间的一次全...

【专利技术属性】
技术研发人员:高长玉李娟
申请(专利权)人:苏州元脑智能科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1