System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术涉及数据处理,尤其涉及一种自适应负载均衡方法、装置、电子设备及存储介质。
技术介绍
1、在当前云计算环境下,异构算力资源日益增多,在结构、性能、功耗等方面存在显著差异。同时,不同类型的应用负载对算力资源的需求也不尽相同,如何根据应用负载的实际需求,将其精准调度到最佳匹配的异构算力资源上,是提高资源利用率和应用执行效率的关键。现有的负载均衡调度算法大多基于静态的资源属性进行调度决策,缺乏对动态负载状态的感知能力,无法实现精细化的负载均衡。另外,这些算法往往只考虑单一的调度策略,如基于最小响应时间、最小负载等,无法充分适应复杂多变的应用负载场景。
技术实现思路
1、本专利技术提出一种自适应负载均衡方法、装置、电子设备及存储介质,旨在至少在一定程度上解决相关技术中的技术问题之一,本专利技术实施例能够高效准确实现自适应负载均衡。
2、一方面,本专利技术实施例提供了一种自适应负载均衡方法,包括:
3、响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型;
4、其中,构建全局语义算力模型包括定义基础语义和关键指标以构建原语算力语义库的原语算力模型、组合描述目标算力需求的复合算力模型以及关联服务语义的服务算力模型;服务算力模型包括待调度服务的服务算力语义向量;
5、利用原语算力模型获取目标异构资源集群中的资源节点的第一语义向量表示;
6、根据每个资源节点对应的第一语义向量表示与服务算力语义
7、对每个资源节点对应的资源使用状态和相似分数进行模糊评估,得到每个资源节点对应的综合评估得分;
8、基于综合评估得分确定每个资源节点的调度优先级,以使得目标异构资源集群根据调度优先级进行各个资源节点的负载均衡。
9、可选地,响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建原语算力模型包括以下步骤:
10、获取预设的每个底层异构算力资源的原语算力指标,进而整合得到多组训练数据集;原语算力指标包括算力、带宽和能耗;训练数据集中标注有不同的底层异构算力资源的原语算力指标之间的语义相似性分数;
11、对每组训练数据集中每个原语算力指标进行独热编码,得到每个原语算力指标对应的编码指标;将所有编码指标拼接得到输入向量;
12、将输入向量作为转换器模型的输入,以使得转换器模型基于多头自注意机制学习得到各个原语算力指标之间的关联程度;
13、基于关联程度和语义相似性分数,利用对比损失函数训练转换器模型,构建得到原语算力模型;
14、其中,原语算力模型用于利用训练完成的转换器模型处理得到任意一组原语算力指标的第二语义向量表示,以构建得到原语算力语义库。
15、可选地,原语算力语义库包括目标异构资源集群中不同底层异构算力资源的原语算力组合对应的语义向量及相应的计算操作;响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建复合算力模型包括以下步骤:
16、将原语算力语意库中的语义向量和计算操作表示为语义向量,进而作为树结构的叶子节点的输入;
17、根据每个叶子节点的输入,基于树结构lstm模型构建层次结构捕获算力语义,构建得到复合算力模型。
18、可选地,响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建服务算力模型包括以下步骤:
19、响应于预设的服务算力的主要需求维度,收集不同类型的服务计算需求样本;主要需求维度包括应用算法类型、计算强度、内存需求、存储需求、带宽需求和延迟要求;
20、对服务计算需求样本进行文本化描述,构建得到服务算力语料库;服务算力语料库中包括每个服务计算需求样本经过文本化描述对应得到的服务句子;
21、将基于迁移学习得到的语义编码器应用到服务算力语料库进行迁移训练,得到每个服务计算需求样本对应的服务算力语义向量;
22、其中,迁移训练以各个服务句子之间相似性作为监督信号进行。
23、可选地,利用原语算力模型获取目标异构资源集群中的资源节点的第一语义向量表示,包括以下步骤:
24、通过实时监控获取目标异构资源集群中资源节点的监控指标;监控指标包括算力、带宽和能耗;
25、对监控指标进行独热编码,得到每个监控指标对应的编码后指标;
26、将所有编码后指标拼接输入原语算力模型,得到资源节点对应的第一语义向量表示。
27、可选地,根据每个资源节点对应的第一语义向量表示与服务算力语义向量进行相似度计算,得到相似度列表;基于相似度列表筛选得到目标异构资源集群中的目标资源,包括以下步骤:
28、从服务算力模型中获取待调度服务的服务算力语义向量;
29、利用余弦相似度度量方法依次处理得到服务算力语义向量与每个资源节点的第一语义向量表示的相似分数,整理得到相似度列表;
30、将相似度列表中最高的相似分数对应的资源节点作为目标资源。
31、可选地,对每个资源节点对应的资源使用状态和相似分数进行模糊评估,得到每个资源节点对应的综合评估得分,包括以下步骤:
32、基于预设的量值范围,利用隶属度函数处理得到每个资源节点对应的资源使用状态和相似分数对应各个量值范围的隶属度;
33、根据隶属度将每个资源节点对应的资源使用状态和相似分数划分到相应模糊等级对应的模糊集;
34、根据资源使用状态和相似分数所处的模糊集对应的模糊等级,基于预设的模糊映射规则获得综合评估得分;
35、其中,资源使用状态对应的模糊等级与综合评估得分呈反比;相似分数对应的模糊等级与综合评估得分呈正比。
36、另一方面,本专利技术实施例提供了一种自适应负载均衡装置,包括:
37、第一模块,用于响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型;
38、其中,构建全局语义算力模型包括定义基础语义和关键指标以构建原语算力语义库的原语算力模型、组合描述目标算力需求的复合算力模型以及关联服务语义的服务算力模型;服务算力模型包括待调度服务的服务算力语义向量;
39、第二模块,利用原语算力模型获取目标异构资源集群中的资源节点的第一语义向量表示;
40、第三模块,根据每个资源节点对应的第一语义向量表示与服务算力语义向量进行相似度计算,得到相似度列表;基于相似度列表筛选得到目标异构资源集群中的目标资源;相似度列表包括服务算力语义向量与每个第一语义向量的相似分数;
41本文档来自技高网...
【技术保护点】
1.一种自适应负载均衡方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述原语算力模型包括以下步骤:
3.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述原语算力语义库包括所述目标异构资源集群中不同底层异构算力资源的原语算力组合对应的语义向量及相应的计算操作;所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述复合算力模型包括以下步骤:
4.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述服务算力模型包括以下步骤:
5.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述利用所述原语算力模型获取目标异构资源集群中的资源节点的第一语义向量表示,包括以下步骤:
6.根据权利要求1所述的自适应负
7.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述对每个所述资源节点对应的资源使用状态和所述相似分数进行模糊评估,得到每个所述资源节点对应的综合评估得分,包括以下步骤:
8.一种自适应负载均衡装置,其特征在于,包括:
9.一种电子设备,其特征在于,包括处理器以及存储器;
10.一种计算机存储介质,其中存储有处理器可执行的程序,其特征在于,所述处理器可执行的程序在由所述处理器执行时用于实现如权利要求1至7任一项所述的方法。
...【技术特征摘要】
1.一种自适应负载均衡方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述原语算力模型包括以下步骤:
3.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述原语算力语义库包括所述目标异构资源集群中不同底层异构算力资源的原语算力组合对应的语义向量及相应的计算操作;所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述复合算力模型包括以下步骤:
4.根据权利要求1所述的自适应负载均衡方法,其特征在于,所述响应于预设的异构资源和服务计算需求,基于不同语义粒度进行分层建模,构建得到全局语义算力模型的步骤中,构建所述服务算力模型包括以下步骤:
5.根据权利要求1所述的自适应负载均衡...
【专利技术属性】
技术研发人员:苏善婷,
申请(专利权)人:天翼数字生活科技有限公司,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。