System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本公开实施例涉及分布式集群,尤其涉及一种数据存储控制方法及设备。
技术介绍
1、在分布式存储系统中,设置有多个存储设备,每个存储设备的存储对象可以包括数据和任务。分布式存储系统的扩容包括纵向扩容和横向扩容两种。纵向扩容是将分布式存储系统的所有存储设备中的数据整体迁移到容量充足的机房。横向扩容是基于多机房部署方案,将部分数据从原始机房迁移到新增机房中。
2、现有技术中,在上述横向扩容方案中,需要确定迁移策略,以建立存储对象和机房之间的对应关系,从而可以按照该对应关系将存储对象迁移至对应机房。该迁移策略可以通过机房容量和业务需求灵活设置。
3、然而,上述技术方案存在开销较大的问题。
技术实现思路
1、本公开实施例提供一种数据存储控制方法及设备,可以降低数据迁移引入的开销。
2、第一方面,本公开实施例提供一种数据存储控制方法,所述方法包括:
3、根据分布式存储系统中的各存储对象之间的依赖关系,构建所述分布式存储系统的机房分配模型,所述机房分配模型用于根据机房分配策略输出对应的迁移评估结果,所述机房分配策略用于指示为所述分布式存储系统中的存储对象分配的目标机房,所述迁移评估结果用于指示从原始机房迁移存储至所述目标机房的数据变迁处理所引起的开销;
4、调用所述机房分配模型,基于各机房分配策略对应的迁移评估结果,确定所述迁移评估结果最小时对应的机房分配策略作为目标机房分配策略;
5、根据所述目标机房分配策略,对所述分布式存
6、第二方面,本公开实施例提供一种数据存储控制装置,所述装置包括:
7、函数构建模块,用于根据分布式存储系统中的各存储对象之间的依赖关系,构建所述分布式存储系统的机房分配模型,所述机房分配模型用于根据机房分配策略输出对应的迁移评估结果,所述机房分配策略用于指示为所述分布式存储系统中的存储对象分配的目标机房,所述迁移评估结果用于指示从原始机房迁移存储至所述目标机房的数据变迁处理所引起的开销;
8、目标策略确定模块,用于调用所述机房分配模型,基于各机房分配策略对应的迁移评估结果,确定所述迁移评估结果最小时对应的机房分配策略作为目标机房分配策略;
9、数据迁移模块,用于根据所述目标机房分配策略,对所述分布式存储系统进行数据迁移。
10、第三方面,本公开实施例提供一种电子设备,包括:至少一个处理器和存储器;
11、所述存储器存储计算机执行指令;
12、所述至少一个处理器执行所述存储器存储的计算机执行指令,使得所述电子设备实现如第一方面所述的方法。
13、第四方面,本公开实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,使计算设备实现如第一方面所述的方法。
14、第五方面,本公开实施例提供一种计算机程序,所述计算机程序用于实现如第一方面所述的方法。
15、本公开实施例提供了一种数据存储控制方法及设备,该方法包括:根据分布式存储系统中的各存储对象之间的依赖关系,构建分布式存储系统的机房分配模型,机房分配模型用于根据机房分配策略输出对应的迁移评估结果,机房分配策略用于指示为分布式存储系统中的存储对象分配的目标机房,迁移评估结果用于指示从原始机房迁移存储至目标机房的数据变迁处理所引起的开销;调用机房分配模型,基于各机房分配策略对应的迁移评估结果,确定迁移评估结果最小时对应的机房分配策略作为目标机房分配策略;根据目标机房分配策略,对分布式存储系统进行数据迁移。在迁移之前为分布式存储系统构建了机房分配模型,该机房分配模型用于根据机房分配策略输出对应的迁移评估结果。因此,对机房分配模型进行优化求解可以得到数据迁移对应的开销最小时对应的目标机房分配策略。这样,通过目标机房分配策略和原始机房对比去进行数据迁移时,可以最小化开销。
本文档来自技高网...【技术保护点】
1.一种数据存储控制方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述迁移评估结果包括:所述分布式存储系统对应的迁移成本、按照所述机房分配策略进行机房分配后所对应的跨机房访问量,所述迁移成本包括:将所述分布式存储系统中的所述存储对象,从所述存储对象对应的所述原始机房迁移存储到所述存储对象在所述机房分配策略中对应的目标机房,所需要的总成本。
3.根据权利要求2所述的方法,其特征在于,所述存储对象包括数据路径和计算任务,所述根据分布式存储系统中的各存储对象之间的依赖关系,构建所述分布式存储系统的机房分配模型,包括:
4.根据权利要求3所述的方法,其特征在于,所述迁移成本与单个存储对象的迁移成本、待迁移的存储对象数量相关,所述待迁移的存储对象数量与所述原始机房、所述机房分配策略相关;
5.根据权利要求1至4任一项所述的方法,其特征在于,所述调用所述机房分配模型,基于各机房分配策略对应的迁移评估结果,确定所述迁移评估结果最小时对应的机房分配策略作为目标机房分配策略,包括:
6.根据权利要求4所述的方
7.根据权利要求6所述的方法,其特征在于,所述根据所述有向无环图确定迁移顺序,包括:
8.根据权利要求7所述的方法,其特征在于,所述根据所述待迁移有向图确定迁移顺序,包括:
9.根据权利要求7所述的方法,其特征在于,所述目标节点包括以下一项:所述计算任务所在的节点、所述数据路径所在的节点。
10.一种数据存储控制装置,其特征在于,包括:
11.一种电子设备,其特征在于,包括:至少一个处理器和存储器;
12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,使计算设备实现如权利要求1至9任一项所述的方法。
13.一种计算机程序,其特征在于,所述计算机程序用于实现如权利要求1至9任一项所述的方法。
...【技术特征摘要】
1.一种数据存储控制方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,所述迁移评估结果包括:所述分布式存储系统对应的迁移成本、按照所述机房分配策略进行机房分配后所对应的跨机房访问量,所述迁移成本包括:将所述分布式存储系统中的所述存储对象,从所述存储对象对应的所述原始机房迁移存储到所述存储对象在所述机房分配策略中对应的目标机房,所需要的总成本。
3.根据权利要求2所述的方法,其特征在于,所述存储对象包括数据路径和计算任务,所述根据分布式存储系统中的各存储对象之间的依赖关系,构建所述分布式存储系统的机房分配模型,包括:
4.根据权利要求3所述的方法,其特征在于,所述迁移成本与单个存储对象的迁移成本、待迁移的存储对象数量相关,所述待迁移的存储对象数量与所述原始机房、所述机房分配策略相关;
5.根据权利要求1至4任一项所述的方法,其特征在于,所述调用所述机房分配模型,基于各机房分配策略对应的迁移评估结果,确定所述迁移评估结果最小时对应的机...
【专利技术属性】
技术研发人员:叶金韬,章玮,赵波,陈彬彬,陈祖志,马凯雄,田勇,冯玮,张康,张铁赢,陈建军,
申请(专利权)人:北京火山引擎科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。