System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及数据同步备份,更具体的说,本申请涉及一种财务数据实时同步备份方法及相关设备。
技术介绍
1、财务数据的实时同步备份是指在财务管理系统中,通过实时或定期的方法,将数据从一个主数据库复制到一个或多个备份数据库中,以确保数据的安全性、一致性和高可用性,数据同步备份在现代财务系统中尤为重要,因为财务数据具有高价值和高敏感性,任何数据丢失或损坏都可能导致严重的业务中断或财务损失。
2、现有技术中财务数据的实时同步备份通常使用数据库复制、日志传送和数据流实时将数据变更从主数据库同步到备份数据库,常见的方法包括主从复制和多主复制,当数据在各个数据节点之间分布不均衡时,会导致部分数据节点负载过重而影响数据同步性能,从而无法确保同步数据的及时性,使得备份数据库中的数据和主数据库的最新状态的数据差异过大,即数据新鲜度不够高,通过对日志并行回放的方式可实现财务数据中数据节点的并行同步备份,从而能够根据各个数据节点中同步数据量对每个数据点的同步线程数进行控制,进而避免因负载分布不均衡而导致的数据新鲜度过低的问题,因此,如何对财务数据中数据节点的并行同步备份,从而避免不同数据节点的负载分布不均衡,提高数据库中财务数据的数据新鲜度是业界面临的难题。
技术实现思路
1、本申请提供一种财务数据实时同步备份方法及相关设备,可通过日志并行回放的方式实现对财务数据中数据节点的并行同步备份,从而提高了数据库中财务数据的数据新鲜度。
2、第一方面,本申请提供一种财务数据实时同步备份方法,包
3、监测目标财务数据在数据库中的日志信息,进而得到目标财务数据的历史日志记录;
4、通过所述历史日志记录从所述目标财务数据中筛选出高频财务信息,进而根据所述历史日志记录确定所述高频财务信息在数据同步备份过程中的日志回放位点;
5、将所述历史日志记录划分为事务同步记录和基础同步记录,通过所述日志回放位点和所述基础同步记录确定所述高频财务信息在进行日志回放时的数据倾斜度,进而根据所述数据倾斜度和所述事务同步记录确定所述高频财务信息的数据新鲜度;
6、获取所述高频财务信息在每个数据节点中的数据读取记录,通过各个数据读取记录和所述日志回放位点对数据读取与数据同步之间的冲突性进行耦合检测,得到对应数据节点在数据读取与数据同步之间的冲突耦合熵;
7、当目标财务数据中的高频财务信息进行同步备份时,基于所述数据新鲜度和各个冲突耦合熵对所述高频财务信息的每个数据节点进行并行同步备份。
8、在一些实施例中,根据所述历史日志记录确定所述高频财务信息在数据同步备份过程中的日志回放位点具体包括:
9、对于所述高频财务信息中的每个高频数据表,在所述历史日志记录中获取高频数据表的待同步日志记录;
10、通过所述待同步日志记录确定高频数据表在当前时刻的回放队列,进而得到每个高频数据表在当前时刻的回放队列;
11、根据各个回放队列对应的初始回放数据的日志位点确定所述高频财务信息在数据同步备份过程中的日志回放位点。
12、在一些实施例中,通过所述日志回放位点和所述基础同步记录确定所述高频财务信息在进行日志回放时的数据倾斜度具体包括:
13、通过所述日志回放位点在所述基础同步记录中提取当前时刻对所述高频财务信息中每个高频数据表的操作同步队列;
14、根据各个操作同步队列确定对应高频数据表的数据同步偏差;
15、依据所有的数据同步偏差确定所述高频财务信息在进行日志回放时的数据倾斜度。
16、在一些实施例中,根据所述数据倾斜度和所述事务同步记录确定所述高频财务信息的数据新鲜度具体包括:
17、在所述事务同步记录中获取所有事务日志;
18、通过所述事务同步记录确定每个事务日志在数据同步过程中的日志发送时间;
19、对所述事务同步记录进行统计,得到同步事务量;
20、通过所述同步事务量和所述数据倾斜度确定事务类日志中事务操作的日志回放时间;
21、根据各个日志发送时间和所述日志回放时间确定所述高频财务信息的数据新鲜度。
22、在一些实施例中,将所述历史日志记录划分为事务同步记录和基础同步记录具体包括:
23、获取所述历史日志记录中每个日志信息的操作类型标识;
24、获取所述历史日志记录中的已同步日志记录;
25、通过各个操作类型标识对所述已同步日志记录进行映射划分,得到事务同步记录和基础同步记录。
26、在一些实施例中,基于所述数据新鲜度和各个冲突耦合熵对所述高频财务信息的每个数据节点进行并行同步备份具体包括:
27、对于每个数据节点,获取数据节点对应的冲突耦合熵;
28、通过所述冲突耦合熵和所述数据新鲜度确定数据节点中高频财务信息的同步紧急度;
29、若所述同步紧急度大于预设的紧急阈值,则对数据节点中的高频财务信息进行同步备份,进而完成对每个数据节点的并行同步备份。
30、在一些实施例中,所述数据库为分布式数据库。
31、第二方面,本申请提供一种财务数据实时同步备份系统,包括有同步备份单元,所述同步备份单元包括:
32、获取模块,用于监测目标财务数据在数据库中的日志信息,进而得到目标财务数据的历史日志记录;
33、处理模块,用于通过所述历史日志记录从所述目标财务数据中筛选出高频财务信息,进而根据所述历史日志记录确定所述高频财务信息在数据同步备份过程中的日志回放位点;
34、所述处理模块还用于将所述历史日志记录划分为事务同步记录和基础同步记录,通过所述日志回放位点和所述基础同步记录确定所述高频财务信息在进行日志回放时的数据倾斜度,进而根据所述数据倾斜度和所述事务同步记录确定所述高频财务信息的数据新鲜度;
35、所述处理模块还用于获取所述高频财务信息在每个数据节点中的数据读取记录,通过各个数据读取记录和所述日志回放位点对数据读取与数据同步之间的冲突性进行耦合检测,得到对应数据节点在数据读取与数据同步之间的冲突耦合熵;
36、执行模块,用于当目标财务数据中的高频财务信息进行同步备份时,基于所述数据新鲜度和各个冲突耦合熵对所述高频财务信息的每个数据节点进行并行同步备份。
37、第三方面,本申请提供一种计算机设备,所述计算机设备包括存储器和处理器,所述存储器用于存储计算机程序,所述处理器用于从所述存储器中调用并运行所述计算机程序,使得所述计算机设备执行上述的财务数据实时同步备份方法。
38、第四方面,本申请提供一种计算机可读存储介质,所述计算机可读存储介质中存储有指令或代码,当指令或代码在计算机上运行时,使得计算机执行时实现上述的财务数据实时同步备份方法。
39、本申请公开的实施例提供的技术方案具有以下有益效果:
40、本申请提供的本文档来自技高网...
【技术保护点】
1.一种财务数据实时同步备份方法,其特征在于,包括如下步骤:
2.如权利要求1所述的方法,其特征在于,根据所述历史日志记录确定所述高频财务信息在数据同步备份过程中的日志回放位点具体包括:
3.如权利要求1所述的方法,其特征在于,通过所述日志回放位点和所述基础同步记录确定所述高频财务信息在进行日志回放时的数据倾斜度具体包括:
4.如权利要求1所述的方法,其特征在于,根据所述数据倾斜度和所述事务同步记录确定所述高频财务信息的数据新鲜度具体包括:
5.如权利要求1所述的方法,其特征在于,将所述历史日志记录划分为事务同步记录和基础同步记录具体包括:
6.如权利要求1所述的方法,其特征在于,基于所述数据新鲜度和各个冲突耦合熵对所述高频财务信息的每个数据节点进行并行同步备份具体包括:
7.如权利要求1所述的方法,其特征在于,所述数据库为分布式数据库。
8.一种财务数据实时同步备份系统,该财务数据实时同步备份系统包括有同步备份单元,其特征在于,所述同步备份单元包括:
9.一种计算机设备,其特征在于,
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有指令或代码,当指令或代码在计算机上运行时,使得计算机执行时实现如权利要求1至7中任一项所述的财务数据实时同步备份方法。
...【技术特征摘要】
1.一种财务数据实时同步备份方法,其特征在于,包括如下步骤:
2.如权利要求1所述的方法,其特征在于,根据所述历史日志记录确定所述高频财务信息在数据同步备份过程中的日志回放位点具体包括:
3.如权利要求1所述的方法,其特征在于,通过所述日志回放位点和所述基础同步记录确定所述高频财务信息在进行日志回放时的数据倾斜度具体包括:
4.如权利要求1所述的方法,其特征在于,根据所述数据倾斜度和所述事务同步记录确定所述高频财务信息的数据新鲜度具体包括:
5.如权利要求1所述的方法,其特征在于,将所述历史日志记录划分为事务同步记录和基础同步记录具体包括:
6.如权利要求1所述的方法,其特征在于,基于所述数据新鲜度和各个冲突耦合熵对所述高频财务...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。