System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 数据迁移方法、装置、非易失性存储介质和计算机设备制造方法及图纸_技高网

数据迁移方法、装置、非易失性存储介质和计算机设备制造方法及图纸

技术编号:43958838 阅读:1 留言:0更新日期:2025-01-07 21:43
本发明专利技术公开了一种数据迁移方法、装置、非易失性存储介质和计算机设备。其中,该方法包括:接收待处理数据的处理请求;基于处理请求,确定待处理数据的更新后的状态信息和初始存储层级的更新后的存储状态信息;获取存储池中除初始存储层级外的存储层级对应的存储状态信息;根据待处理数据的更新后的状态信息、初始存储层级的更新后的存储状态信息和存储池中除初始存储层级外的存储层级对应的存储状态信息,确定待处理数据的目标存储层级;将待处理数据从初始存储层级移动至目标存储层级。本发明专利技术解决了传统分布式存储调度算法的性能与资源利用率不能满足分离式数据中心存储系统的要求的技术问题。

【技术实现步骤摘要】

本专利技术涉及电子信息,具体而言,涉及一种数据迁移方法、装置、非易失性存储介质和计算机设备


技术介绍

1、数据中心作为数据的载体,是当代信息世界中必不可少的资源。传统的数据中心以服务器为基本组成单元,将计算、内存、存储资源打包至服务器中,服务器间难以实现跨系统池化存储,存储调度算法大多只能将数据进行逐层迁移,性能较低。目前,一种新型的分离式数据中心被广泛关注。在分离式数据中心的存储架构中,实现了存储资源按类别池化,不同层次的存储介质池通过高速网络连接,数据可通过网络在不同的存储池之间迁移。

2、由于存储架构的差异,分离式数据中心存储系统也面临着多方面挑战:首先,在存储层级结构方面,分离式存储资源池中引入了新型存储介质,更高效的软件设计是一大挑战;其次,在存储分层调度策略方面,传统分布式存储调度算法设计基于存储和计算紧密结合的环境,多数考虑服务器节点的异构性、计算性能、节点的负载等因素;彻底的存算解耦后,不仅需要考虑性能、成本等因素,还需关注网络带宽影响、存储系统可扩展性和适配性。

3、针对上述的问题,目前尚未提出有效的解决方案。


技术实现思路

1、本专利技术实施例提供了一种数据迁移方法、装置、非易失性存储介质和计算机设备,以至少解决传统分布式存储调度算法的性能与资源利用率不能满足分离式数据中心存储系统的要求的技术问题。

2、根据本专利技术实施例的一个方面,提供了一种数据迁移方法,包括:接收待处理数据的处理请求;基于处理请求,更新待处理数据的状态信息和存储待处理数据的初始存储层级的存储状态信息,确定待处理数据的更新后的状态信息和初始存储层级的更新后的存储状态信息,其中,待处理数据的状态信息包括待处理数据的热度值,热度值表征待处理数据被访问的频率,初始存储层级位于存储池中,初始存储层级的存储状态信息包括初始存储层级中存储的数据对应的热度值的均值;获取存储池中除初始存储层级外的存储层级对应的存储状态信息;根据待处理数据的更新后的状态信息、初始存储层级的更新后的存储状态信息和存储池中除初始存储层级外的存储层级对应的存储状态信息,确定待处理数据的目标存储层级;将待处理数据从初始存储层级移动至目标存储层级。

3、可选地,基于处理请求,更新待处理数据的状态信息,确定待处理数据的更新后的状态信息,其中,待处理数据的状态信息包括待处理数据的热度值,包括:根据处理请求,获取存储池在当前时刻对应的预设周期内的总访问量;根据总访问量,确定存储池对应的热度时期,其中,热度时期表征存储池中数据的访问情况,包括低峰期和平稳期;基于存储池对应的热度时期,确定待处理数据的热度值的计算公式;基于待处理数据的热度值的计算公式,确定待处理数据的热度值。

4、可选地,在存储池对应的热度时期为平稳期的情况下,确定待处理数据的热度值的计算公式为第一计算公式,其中,第一计算公式如下:

5、

6、其中,t(tn)为待处理数据在tn时刻的热度值,tn-1为待处理数据上一次被访问的时刻,theat为待处理数据在tn时刻被访问后上升的热度值,在待处理数据在tn时刻被访问的情况下,c的取值为1,在待处理数据在tn时刻没有被访问的情况下,c的取值为0。

7、可选地,在存储池对应的热度时期为低峰期的情况下,确定待处理数据的热度值的计算公式为第二计算公式,其中,第二计算公式如下:

8、

9、其中,bi为待处理数据在tn时刻对应的预设周期内的平均热度值,c为选取的在tn时刻对应的预设周期前的预设时长内的样本数据的个数,mnewavg为多个样本数据的热度值的平均值,nbayes为在tn时刻对应的预设周期内待处理数据被访问的次数,为在tn时刻对应的预设周期内,基于第一计算公式计算得到的待处理数据在多个时刻的热度值的和。

10、可选地,根据待处理数据的更新后的状态信息、初始存储层级的更新后的存储状态信息和存储池中除初始存储层级外的存储层级对应的存储状态信息,确定待处理数据的目标存储层级,包括:将待处理数据的更新后的状态信息、初始存储层级的更新后的存储状态信息和存储池中除初始存储层级外的存储层级对应的存储状态信息输入到存储数据迁移模型中,得到待处理数据的目标存储层级,其中,存储数据迁移模型采用训练样本训练得到,训练样本包括数据的状态信息。

11、可选地,存储数据迁移模型采用训练样本训练得到,包括:定义初始存储数据迁移模型的状态空间、动作空间、奖励函数,其中,状态空间包括存储池中的状态信息和数据的状态信息,动作空间定义了数据迁移选择的多个存储层级,奖励函数用于计算对数据进行的迁移动作对应的奖励值;将样本数据集输入到初始存储数据迁移模型中,基于预设的深度学习框架进行训练,对初始存储数据迁移模型进行优化,得到存储数据迁移模型。

12、可选地,待决策数据的状态信息还包括用户需求,其中,用户需求表征用户对数据访问速率的需求。

13、根据本专利技术实施例的另一方面,还提供了一种数据迁移装置,包括:接收模块,用于接收待处理数据的处理请求;第一确定模块,用于基于处理请求,更新待处理数据的状态信息和存储待处理数据的初始存储层级的存储状态信息,确定待处理数据的更新后的状态信息和初始存储层级的更新后的存储状态信息,其中,待处理数据的状态信息包括待处理数据的热度值,热度值表征待处理数据被访问的频率,初始存储层级位于存储池中,初始存储层级的存储状态信息包括初始存储层级中存储的数据对应的热度值的均值;获取模块,用于获取存储池中除初始存储层级外的存储层级对应的存储状态信息;第二确定模块,用于根据待处理数据的更新后的状态信息、初始存储层级的更新后的存储状态信息和存储池中除初始存储层级外的存储层级对应的存储状态信息,确定待处理数据的目标存储层级;移动模块,用于将待处理数据从初始存储层级移动至目标存储层级。

14、根据本专利技术实施例的又一方面,还提供了一种非易失性存储介质,非易失性存储介质包括存储的程序,其中,在程序运行时控制非易失性存储介质所在设备执行上述中任意一项数据迁移方法。

15、根据本专利技术实施例的再一方面,还提供了一种计算机设备,计算机设备包括处理器,处理器用于运行程序,其中,程序运行时执行上述中任意一项数据迁移方法。

16、根据本专利技术实施例的再一方面,还提供了一种计算机程序产品,包括计算机程序,计算机程序被处理器执行时实现上述中任意一项数据迁移方法。

17、在本专利技术实施例中,采用数据迁移方法,通过接收待处理数据的处理请求;基于处理请求,更新待处理数据的状态信息和存储待处理数据的初始存储层级的存储状态信息,确定待处理数据的更新后的状态信息和初始存储层级的更新后的存储状态信息,其中,待处理数据的状态信息包括待处理数据的热度值,热度值表征待处理数据被访问的频率,初始存储层级位于存储池中,初始存储层级的存储状态信息包括初始存储层级中存储的数据对应的热度值的均值;获取存储池中除初始存储层级外的存储层级对应的存储状态信息本文档来自技高网...

【技术保护点】

1.一种数据迁移方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述处理请求,更新所述待处理数据的状态信息,确定所述待处理数据的更新后的状态信息,其中,所述待处理数据的状态信息包括所述待处理数据的热度值,包括:

3.根据权利要求2所述的方法,其特征在于,在所述存储池对应的热度时期为平稳期的情况下,确定所述待处理数据的热度值的计算公式为第一计算公式,其中,所述第一计算公式如下:

4.根据权利要求3所述的方法,其特征在于,在所述存储池对应的热度时期为低峰期的情况下,确定所述待处理数据的热度值的计算公式为第二计算公式,其中,所述第二计算公式如下:

5.根据权利要求1所述的方法,其特征在于,所述根据所述待处理数据的更新后的状态信息、所述初始存储层级的更新后的存储状态信息和所述存储池中除所述初始存储层级外的存储层级对应的存储状态信息,确定所述待处理数据的目标存储层级,包括:

6.根据权利要求5所述的方法,其特征在于,所述存储数据迁移模型采用训练样本训练得到,包括:

7.根据权利要求6所述的方法,其特征在于,所述待决策数据的状态信息还包括用户需求,其中,所述用户需求表征用户对数据访问速率的需求。

8.一种数据迁移装置,其特征在于,包括:

9.一种非易失性存储介质,其特征在于,所述非易失性存储介质包括存储的程序,其中,在所述程序运行时控制所述非易失性存储介质所在设备执行权利要求1至7中任意一项所述数据迁移方法。

10.一种计算机设备,其特征在于,包括:存储器和处理器,

11.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任意一项所述数据迁移方法。

...

【技术特征摘要】

1.一种数据迁移方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述基于所述处理请求,更新所述待处理数据的状态信息,确定所述待处理数据的更新后的状态信息,其中,所述待处理数据的状态信息包括所述待处理数据的热度值,包括:

3.根据权利要求2所述的方法,其特征在于,在所述存储池对应的热度时期为平稳期的情况下,确定所述待处理数据的热度值的计算公式为第一计算公式,其中,所述第一计算公式如下:

4.根据权利要求3所述的方法,其特征在于,在所述存储池对应的热度时期为低峰期的情况下,确定所述待处理数据的热度值的计算公式为第二计算公式,其中,所述第二计算公式如下:

5.根据权利要求1所述的方法,其特征在于,所述根据所述待处理数据的更新后的状态信息、所述初始存储层级的更新后的存储状态信息和所述存储池中除所述初始存储层...

【专利技术属性】
技术研发人员:郝佳恺金明李宇婷朴天高高鹏白昊洋杨静袁政利胡鑫郭少勇温明时李俊芹王萍萍海天翔庞迪董旭董峥王涵张展鹏郝汉卿赵紫君李宏鉴刘晓宸谭静林超吴凡张伍伟
申请(专利权)人:国网北京市电力公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1