System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据表连接方法、装置、电子设备及存储介质制造方法及图纸_技高网

一种数据表连接方法、装置、电子设备及存储介质制造方法及图纸

技术编号:42580315 阅读:22 留言:0更新日期:2024-08-29 00:42
本发明专利技术提供了一种数据表连接方法、装置、电子设备及存储介质,涉及数据库领域,包括:获取第一拼接表和第二拼接表的相同字段标记为拼接字段,并获取第一拼接表在拼接字段下的第一拼接字段值列表和第二拼接表在拼接字段下的第二拼接字段值列表,创建第二拼接字段值列表的拼接布隆过滤器,遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找,若查找不到,将该第一拼接字段值在第一拼接字段值列表中删除,并获取第二拼接字段值列表和删除后的第一拼接字段值列表的交集,作为指定字段值列表,基于指定字段值列表,将第一拼接表和第二拼接表进行连接,获取指定连接表,高效实现数据量大的表之间的拼接。

【技术实现步骤摘要】

本专利技术涉及数据库领域,特别是涉及一种数据表连接方法、装置、电子设备及存储介质


技术介绍

1、数据库中的join操作是关系型数据库管理系统中的一个核心功能,join操作的基本流程包括:解析查询、优化查询计划、执行join、结果集生成。join操作有优化策略,包括:索引优化、小表优先原则、并行处理等。对于大表和小表的join操作,通常将小表作为join的驱动表,以减少需要检查的行数,再进行并行处理提高效率。然而对于大表和大表的join操作,仍然处理效率较低。


技术实现思路

1、针对上述技术问题,本专利技术采用的技术方案为:

2、一种数据表连接方法,所述方法包括:

3、获取第一拼接表和第二拼接表,其中,第一拼接表中空值的数量<第二拼接表中空值的数量;

4、获取第一拼接表和第二拼接表的相同字段标记为拼接字段,并获取第一拼接表在拼接字段下的第一拼接字段值列表和第二拼接表在拼接字段下的第二拼接字段值列表,其中,所述第一拼接字段值列表包含若干个第一拼接字段值,所述第二拼接字段值列表包含若干个第二拼接字段值;

5、基于第二拼接字段值的数量、预设误报率,创建第二拼接字段值列表的拼接布隆过滤器;

6、遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找,若查找不到,将该第一拼接字段值在第一拼接字段值列表中删除,并获取第二拼接字段值列表和删除后的第一拼接字段值列表的交集,作为指定字段值列表;

7、基于指定字段值列表,将第一拼接表和第二拼接表进行连接,获取指定连接表。

8、一种数据表连接装置,所述装置包括:

9、第一拼接表和第二拼接表获取模块,用于获取第一拼接表和第二拼接表,其中,第一拼接表中空值的数量<第二拼接表中空值的数量;

10、拼接字段获取模块,用于获取第一拼接表和第二拼接表的相同字段标记为拼接字段,并获取第一拼接表在拼接字段下的第一拼接字段值列表和第二拼接表在拼接字段下的第二拼接字段值列表,其中,所述第一拼接字段值列表包含若干个第一拼接字段值,所述第二拼接字段值包含若干个第二拼接字段值。

11、拼接布隆过滤器创建模块,用于基于第二拼接字段值的数量、预设误报率,创建第二拼接字段值列表的拼接布隆过滤器。

12、指定字段值列表获取模块,用于遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找,若查找不到,将该第一拼接字段值在第一拼接字段值列表中删除,并获取第二拼接字段值列表和删除后的第一拼接字段值列表的交集,作为指定字段值列表。

13、指定连接表获取模块,用于遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找,若查找不到,将该第一拼接字段值在第一拼接字段值列表中删除,并获取第二拼接字段值列表和删除后的第一拼接字段值列表的交集,作为指定字段值列表。

14、根据本专利技术的另一个方面,提供了一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现前述的方法。

15、根据本专利技术的又一个方面,提供了一种电子设备,包括处理器和前述的非瞬时性计算机可读存储介质。

16、本专利技术至少具有以下有益效果:

17、综上,获取第一拼接表和第二拼接表的相同字段标记为拼接字段,并获取第一拼接表在拼接字段下的第一拼接字段值列表和第二拼接表在拼接字段下的第二拼接字段值列表,基于第二拼接字段值的数量、预设误报率,创建第二拼接字段值列表的拼接布隆过滤器,遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找,若查找不到,将该第一拼接字段值在第一拼接字段值列表中删除,并获取第二拼接字段值列表和删除后的第一拼接字段值列表的交集,作为指定字段值列表,基于指定字段值列表,将第一拼接表和第二拼接表进行连接,获取指定连接表,本专利技术通过布隆过滤器的方式将第一拼接表和第二拼接表的相同字段进行筛选再进行拼接,高效的实现大表之间的拼接。

本文档来自技高网...

【技术保护点】

1.一种数据表连接方法,其特征在于,所述方法包括:

2.根据权利要求1所述的数据表连接方法,其特征在于,基于第二拼接字段值的数量、预设误报率,创建第二拼接字段值列表的拼接布隆过滤器具体包括:

3.根据权利要求2所述的数据表连接方法,其特征在于,所述预设误报率基于第二拼接表的数据量获取。

4.根据权利要求2所述的数据表连接方法,其特征在于,所述基于插入元素数量和预设误报率,创建第二拼接字段值列表的拼接布隆过滤器,具体包括:

5.根据权利要求1所述的数据表连接方法,其特征在于,遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找具体包括:

6.根据权利要求1所述的数据表连接方法,其特征在于,通过如下步骤获取第一拼接表和第二拼接表:

7.根据权利要求6所述的数据表连接方法,其特征在于,所述数据表类型确定方法为:

8.一种数据表连接装置,其特征在于,所述装置包括:

9.一种非瞬时性计算机可读存储介质,所述存储介质中存储有至少一条指令或至少一段程序,其特征在于,所述至少一条指令或所述至少一段程序由处理器加载并执行以实现如权利要求1-7中任意一项所述的数据表连接方法。

10.一种电子设备,其特征在于,包括处理器和权利要求9中所述的非瞬时性计算机可读存储介质。

...

【技术特征摘要】

1.一种数据表连接方法,其特征在于,所述方法包括:

2.根据权利要求1所述的数据表连接方法,其特征在于,基于第二拼接字段值的数量、预设误报率,创建第二拼接字段值列表的拼接布隆过滤器具体包括:

3.根据权利要求2所述的数据表连接方法,其特征在于,所述预设误报率基于第二拼接表的数据量获取。

4.根据权利要求2所述的数据表连接方法,其特征在于,所述基于插入元素数量和预设误报率,创建第二拼接字段值列表的拼接布隆过滤器,具体包括:

5.根据权利要求1所述的数据表连接方法,其特征在于,遍历第一拼接字段值列表,使用第一拼接字段值在拼接布隆过滤器中查找具...

【专利技术属性】
技术研发人员:董霖段永康张衍林于林斌
申请(专利权)人:每日互动股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1