System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 业务数据分块备份方法、系统、电子设备及存储介质技术方案_技高网

业务数据分块备份方法、系统、电子设备及存储介质技术方案

技术编号:43491124 阅读:1 留言:0更新日期:2024-11-29 17:00
本发明专利技术公开了业务数据分块备份方法、系统、电子设备及存储介质,包括:获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息;根据基础信息、运行性能数据以及故障信息训练节点同时故障预测模型,并根据节点同时故障预测模型预测下一服务周期内两个存储节点同时出现故障的第一概率值;根据第一概率值和预设的概率阈值对存储节点进行分组得到多个存储节点组,使得同一存储节点组内任意两个存储节点对应的第一概率值小于等于概率阈值;根据多个存储节点组对待备份业务数据进行分块备份。本发明专利技术提高了业务数据存储的安全性,降低了业务数据备份容灾的成本,可广泛应用于数据处理技术领域。

【技术实现步骤摘要】

本专利技术涉及数据处理,尤其是一种业务数据分块备份方法、系统、电子设备及存储介质


技术介绍

1、伴随着云计算、大数据、物联网、人工智能等信息技术的快速发展和传统产业的数字化转型,互联网数据呈现出极大的增长态势。而互联网数据必须要有专用的设施来进行存储、传输与使用,为了确保能够为用户提供稳定的数据服务,数据的存储安全性十分重要。然而,由于硬件设备、软件网络以及外来攻击的因素,单点存储的数据很容易出现数据损失、服务失效的问题,给服务提供商和用户带来不可估量的损失。因此,当前多对数据采用备份容灾处理,即将数据复制存储到多个存储节点中,这样在发生灾难性事件时,能够快速恢复数据和系统,以确保业务的正常运行。

2、但是,目前常规的备份方法,一般是将业务数据整体拷贝为多份,分置到不同的存储节点。这种方式存在有以下问题:1)虽然是将业务数据进行了备份处理,但是可能存在有选取的存储节点不当(比如选择了同一个服务商提供的不同存储节点)、多个存储节点同时出现故障的情况,数据安全性偏低;2)每个存储节点都要存储完整的业务数据备份,成本较高,数据读取写入不便。

3、术语解释:

4、备份容灾:是指为了保障数据安全和业务连续性,采取一系列措施和技术手段来备份数据、实现灾难恢复以及保证系统可用性。

5、存储节点:在计算机网络中,用于存储数据的设备或者系统。存储节点可以是计算机、服务器或者数据中心等。


技术实现思路

1、本专利技术的目的在于至少一定程度上解决现有技术中存在的技术问题之一。

2、为此,本专利技术实施例的一个目的在于提供一种业务数据分块备份方法,该方法提高了业务数据存储的安全性,降低了业务数据备份容灾的成本。

3、本专利技术实施例的另一个目的在于提供一种业务数据分块备份系统。

4、为了达到上述技术目的,本专利技术实施例所采取的技术方案包括:

5、一方面,本专利技术实施例提供了一种业务数据分块备份方法,包括以下步骤:

6、获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息;

7、根据所述基础信息、所述运行性能数据以及所述故障信息训练节点同时故障预测模型,并根据所述节点同时故障预测模型预测下一服务周期内两个所述存储节点同时出现故障的第一概率值;

8、根据所述第一概率值和预设的概率阈值对所述存储节点进行分组得到多个存储节点组,使得同一所述存储节点组内任意两个所述存储节点对应的所述第一概率值小于等于所述概率阈值;

9、根据多个所述存储节点组对待备份业务数据进行分块备份。

10、进一步地,在本专利技术的一个实施例中,所述获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息,其具体包括:

11、获取各所述存储节点的所述基础信息,所述基础信息包括节点名称、节点位置、网络拓扑结构、硬件配置、软件环境以及服务提供商中的至少一种;

12、获取各所述存储节点在所述预设历史时段的所述运行性能数据和所述故障信息,所述运行性能数据包括所述存储节点的cpu利用率、内存利用率、磁盘io数据、网络延迟、丢包率以及带宽利用率中的至少一种,所述故障信息包括所述存储节点的故障发生时间。

13、进一步地,在本专利技术的一个实施例中,所述根据所述基础信息、所述运行性能数据以及所述故障信息训练节点同时故障预测模型,其具体包括:

14、根据所述服务周期对所述预设历史时段进行分段,得到多个样本服务周期,并确定各所述样本服务周期内所述存储节点的所述运行性能数据和所述故障信息;

15、随机抽取两个所述存储节点作为样本存储节点,根据所述样本存储节点的所述基础信息以及在当前样本服务周期的所述运行性能数据构建训练样本,并根据所述样本存储节点在下一样本服务周期的所述故障信息确定所述训练样本的标签信息,所述标签信息用于表征所述样本存储节点是否同时发生故障;

16、将所述训练样本输入到预先构建的长短期记忆网络,得到节点同时故障预测结果;

17、根据所述节点同时故障预测结果和所述标签信息确定损失值,并根据所述损失值对所述长短期记忆网络进行更新,得到训练好的所述节点同时故障预测模型。

18、进一步地,在本专利技术的一个实施例中,所述根据所述节点同时故障预测模型预测下一服务周期内两个所述存储节点同时出现故障的第一概率值,其具体包括:

19、获取两个所述存储节点在当前服务周期的所述运行性能数据,根据两个所述存储节点的所述基础信息以及在当前服务周期的所述运行性能数据生成输入数据;

20、将所述输入数据输入到所述节点同时故障预测模型,得到两个所述存储节点在下一服务周期同时出现故障的所述第一概率值。

21、进一步地,在本专利技术的一个实施例中,所述根据所述第一概率值和预设的概率阈值对所述存储节点进行分组得到多个存储节点组,其具体包括:

22、当所述第一概率值大于所述概率阈值,确定对应的两个所述存储节点为互斥存储节点,并将所述互斥存储节点划分至不同的所述存储节点组;

23、当所有所述互斥存储节点划分完毕,将剩余的所述存储节点补入所述存储节点组,使得各所述存储节点组均包括至少两个所述存储节点。

24、进一步地,在本专利技术的一个实施例中,所述业务数据分块备份方法还包括更新所述概率阈值的步骤,其具体包括:

25、获取所述概率阈值的初始值和更新粒度值;

26、根据所述第一概率值和所述概率阈值对所述存储节点进行分组,并判断分组是否成功;

27、当分组成功,将该轮循环的所述概率阈值减去所述更新粒度值得到更新后的所述概率阈值,并返回根据所述第一概率值和所述概率阈值对所述存储节点进行分组;

28、当分组不成功,将上轮循环的所述概率阈值作为所述概率阈值的最终值。

29、进一步地,在本专利技术的一个实施例中,所述根据多个所述存储节点组对待备份业务数据进行分块备份,其具体包括:

30、将所述待备份业务数据拆分为多个数据块,并确定各所述数据块对应的所述存储节点组;

31、对所述数据块进行复制得到多个备份数据块,进而将多个所述备份数据块分别存储至对应的所述存储节点组内的多个所述存储节点。

32、另一方面,本专利技术实施例提供了一种业务数据分块备份系统,包括:

33、数据获取模块,用于获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息;

34、预测模块,用于根据所述基础信息、所述运行性能数据以及所述故障信息训练节点同时故障预测模型,并根据所述节点同时故障预测模型预测下一服务周期内两个所述存储节点同时出现故障的第一概率值;

35、节点分组模块,用于根据所述第一概率值和预设的概率阈值对所述存储节点进行分组得到多个存储节点组,使得同一所述存储节点组内任意两个所述存储节点对应的所述第一概率值小于本文档来自技高网...

【技术保护点】

1.一种业务数据分块备份方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息,其具体包括:

3.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述根据所述基础信息、所述运行性能数据以及所述故障信息训练节点同时故障预测模型,其具体包括:

4.根据权利要求3所述的一种业务数据分块备份方法,其特征在于,所述根据所述节点同时故障预测模型预测下一服务周期内两个所述存储节点同时出现故障的第一概率值,其具体包括:

5.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述根据所述第一概率值和预设的概率阈值对所述存储节点进行分组得到多个存储节点组,其具体包括:

6.根据权利要求5所述的一种业务数据分块备份方法,其特征在于,所述业务数据分块备份方法还包括更新所述概率阈值的步骤,其具体包括:

7.根据权利要求1至6中任一项所述的一种业务数据分块备份方法,其特征在于,所述根据多个所述存储节点组对待备份业务数据进行分块备份,其具体包括:

8.一种业务数据分块备份系统,其特征在于,包括:

9.一种电子设备,其特征在于,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现如权利要求1至7中任一项所述的业务数据分块备份方法的步骤。

10.一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现如权利要求1至7中任一项所述的业务数据分块备份方法的步骤。

...

【技术特征摘要】

1.一种业务数据分块备份方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述获取多个存储节点的基础信息以及在预设历史时段的运行性能数据和故障信息,其具体包括:

3.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述根据所述基础信息、所述运行性能数据以及所述故障信息训练节点同时故障预测模型,其具体包括:

4.根据权利要求3所述的一种业务数据分块备份方法,其特征在于,所述根据所述节点同时故障预测模型预测下一服务周期内两个所述存储节点同时出现故障的第一概率值,其具体包括:

5.根据权利要求1所述的一种业务数据分块备份方法,其特征在于,所述根据所述第一概率值和预设的概率阈值对所述存储节点进行分组得到多个存储节点组,其具体包括:

6.根据权利要求5所述的一种业务数据分块备份方法,其特征在...

【专利技术属性】
技术研发人员:李佳华徐啸帅高祝冰
申请(专利权)人:中国电信股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1