System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种数据处理方法、装置、设备以及存储介质制造方法及图纸_技高网

一种数据处理方法、装置、设备以及存储介质制造方法及图纸

技术编号:41567523 阅读:4 留言:0更新日期:2024-06-06 23:48
本发明专利技术公开了一种数据处理方法、装置、设备以及存储介质,属于数据处理技术领域,所述方法包括:从源数据库中采集预设数量的未迁移数据,作为批次采集数据;对批次采集数据进行过滤处理,得到待迁移数据;将待迁移数据迁移至目标数据库,得到目标数据库中的存储数据;对批次采集数据和存储数据进行数据比对,得到比对结果;并更新批次采集数据,直至源数据库中不存在未迁移数据。本发明专利技术保证了数据迁移过程中数据的准确性,提高了数据库的数据迁移效率,加快了数据库的改造进度。

【技术实现步骤摘要】

本专利技术涉及数据处理,尤其涉及一种数据处理方法、装置、设备以及存储介质


技术介绍

1、在数据库改造过程中,源数据库到目标数据库的数据迁移是不可避免的过程。不同机制的数据比对方法,在数据迁移过程中的比对效率也各有不同。在业务侧有数据迁移时间窗口的情况下,数据比对方法的高效与否很大程度上能够直接决定数据迁移的结果。

2、目前大多数分布式数据库的数据迁移工具并不完善,或者效率低下,又或者过于单一。在单一数据比对机制下,如果数据比对的时间不满足数据迁移时间窗口的要求,会导致源数据库与目标数据库的数据无法准确同步,进而会导致数据迁移的失败。


技术实现思路

1、本专利技术提供了一种数据处理方法、装置、设备以及存储介质,以保证数据迁移过程中数据的准确性,提高数据库的数据迁移效率,加快数据库的改造进度。

2、根据本专利技术的一方面,提供了一种数据处理方法,该方法包括:

3、从源数据库中采集预设数量的未迁移数据,作为批次采集数据;

4、对批次采集数据进行过滤处理,得到待迁移数据;

5、将待迁移数据迁移至目标数据库,得到目标数据库中的存储数据;

6、对批次采集数据和存储数据进行数据比对,得到比对结果;并更新批次采集数据,直至源数据库中不存在未迁移数据。

7、根据本专利技术的另一方面,提供了一种数据处理装置,该装置包括:

8、批次采集数据确定模块,用于从源数据库中采集预设数量的未迁移数据,作为批次采集数据

9、待迁移数据确定模块,用于对批次采集数据进行过滤处理,得到待迁移数据;

10、存储数据确定模块,用于将待迁移数据迁移至目标数据库,得到目标数据库中的存储数据;

11、比对结果确定模块,用于对批次采集数据和存储数据进行数据比对,得到比对结果;并更新批次采集数据,直至源数据库中不存在未迁移数据。

12、根据本专利技术的另一方面,提供了一种电子设备,所述电子设备包括:

13、至少一个处理器;以及

14、与至少一个处理器通信连接的存储器;其中,

15、存储器存储有可被至少一个处理器执行的计算机程序,计算机程序被至少一个处理器执行,以使至少一个处理器能够执行本专利技术任一实施例的数据处理方法。

16、根据本专利技术的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,计算机指令用于使处理器执行时实现本专利技术任一实施例的数据处理方法。

17、本专利技术实施例的技术方案,通过从源数据库中采集预设数量的未迁移数据,作为批次采集数据;对批次采集数据进行过滤处理,得到待迁移数据;将待迁移数据迁移至目标数据库,得到目标数据库中的存储数据;对批次采集数据和存储数据进行数据比对,得到比对结果;并更新批次采集数据,直至源数据库中不存在未迁移数据。上述技术方案,在分批次将源数据库中的未迁移数据迁移到目标数据库的同时,对每一批次迁移的数据进行数据比对,提供了数据迁移过程中的数据校验功能,保证了数据迁移过程中数据的准确性,同时使得数据库的数据迁移工作可以在较短的时间内完成,提高了数据库的数据迁移效率,从而加快了数据库的改造进度。

18、应当理解,本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征,也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。

本文档来自技高网...

【技术保护点】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述从源数据库中采集预设数量的未迁移数据,作为批次采集数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述对所述批次采集数据进行过滤处理,得到待迁移数据,包括:

4.根据权利要求1所述的方法,其特征在于,所述将所述待迁移数据迁移至目标数据库,得到目标数据库中的存储数据,包括:

5.根据权利要求1所述的方法,其特征在于,所述对所述批次采集数据和所述存储数据进行数据比对,得到比对结果,包括:

6.根据权利要求1所述的方法,其特征在于,所述比对结果包括差异位置信息以及差异位置信息对应的比对数据。

7.根据权利要求1所述的方法,其特征在于,所述未迁移数据为所述源数据库中的全量数据或增量数据。

8.一种数据处理装置,其特征在于,包括:

9.一种电子设备,其特征在于,所述电子设备包括:

10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的数据处理方法。

...

【技术特征摘要】

1.一种数据处理方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述从源数据库中采集预设数量的未迁移数据,作为批次采集数据,包括:

3.根据权利要求1所述的方法,其特征在于,所述对所述批次采集数据进行过滤处理,得到待迁移数据,包括:

4.根据权利要求1所述的方法,其特征在于,所述将所述待迁移数据迁移至目标数据库,得到目标数据库中的存储数据,包括:

5.根据权利要求1所述的方法,其特征在于,所述对所述批次采集数据和所述存储数据进行数据比对,得到比对结果...

【专利技术属性】
技术研发人员:李小航
申请(专利权)人:金篆信科有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1