微服务负载均衡方法、装置、设备、系统及存储介质制造方法及图纸

技术编号:34486200 阅读:21 留言:0更新日期:2022-08-10 09:03
本申请提供的微服务负载均衡方法、装置、设备、系统及存储介质,通过微服务负载均衡模型处理终端发送的任务请求的特征信息和微服务集群中能处理任务请求的所有原始目标服务器对应的负载状态信息,获得各原始目标服务器处理任务请求的预估时间,并据此获得最短预估时间对应的目标服务器信息,以控制微服务集群根据目标服务器信息控制对应的目标服务器处理任务请求,实现了利用微服务负载均衡模型在同时考虑任务请求特征信息和服务器的负载状态信息下估计各服务器对该任务请求的响应时间,提高了参考信息的多样性,保障了确定处理任务请求的目标服务器的准确率,降低了微服务集群的运行时间,提高了运行效率。提高了运行效率。提高了运行效率。

【技术实现步骤摘要】
微服务负载均衡方法、装置、设备、系统及存储介质


[0001]本申请涉及云计算微服务领域,尤其涉及一种微服务负载均衡方法、装置、设备、系统及存储介质。

技术介绍

[0002]近年来,在大数据、云计算为代表的新一代信息技术引发的新一轮科技革命和产业变革浪潮中,具备独立部署能力的微服务技术得到了应用与发展。微服务技术可将单个应用程序分解为一组独立的微服务,通过每个微服务之间的相互协调,共同实现该应用程序的复杂功能。其中,每个微服务可以部署在单个服务器上,也可以部署在不同服务器组成的微服务集群上。
[0003]在微服务集群运行的过程中,随着时间的积累和任务量的增加,集群中各服务器间出现负载不均衡现象,使得集群将接收到的任务请求部署在负载较大的服务器上时,不能及时处理该任务请求,增加了集群对该任务请求的响应时间。为了提高集群处理任务的效率,可在部署案件的时候通过负载均衡算法在集群中确定负载较小的服务器,并将该任务分配给确定的服务器,以保持集群中服务器负载的相对均衡。现有的负载均衡算法按照固定的比例和次序、或者按照集群中各服务器的性能指标进行任务的分配,均无法根据具体的任务请求动态地从集群中选择处理效率最高的服务器,仍无法有效提高集群的处理效率。

技术实现思路

[0004]本申请提供一种微服务负载均衡方法、装置、设备、系统及存储介质,用以解决提高微服务集群处理效率的技术问题。
[0005]第一方面,本申请提供一种微服务负载均衡方法,方法应用于电子设备,方法包括:
[0006]获取终端发送的任务请求,任务请求包括特征信息;
[0007]根据特征信息,获得微服务集群中能处理任务请求的所有原始目标服务器对应的负载状态信息;
[0008]利用微服务负载均衡模型处理特征信息和各负载状态信息,获得各原始目标服务器处理任务请求的预估时间;
[0009]比较预估时间,获得最短预估时间对应的目标服务器信息,根据目标服务器信息和任务请求,生成任务执行指令,并将任务执行指令发送至微服务集群;任务执行指令用于控制微服务集群根据目标服务器信息控制对应的目标服务器处理任务请求。
[0010]在上述技术方案中,电子设备不仅考虑了服务器的负载状态信息对任务请求的响应时间的影响,还考虑了任务请求的特征信息对响应时间的影响,据此建立了表示任务请求的特征信息、能处理任务请求的服务器的负载状态信息和服务器对任务请求的响应时间之间关联关系的微服务负载均衡模型之后,在终端发送任务请求时,该模型能够根据特征
信息和各服务器的负载状态信息估计各服务器响应的时间,以获得响应时间最短的目标服务器,以防止将该任务请求错误分配给具有较好负载状态信息但处理该特征的任务的速度慢的服务器处理,从而提高了微服务集群整体的处理效率。
[0011]可选地,根据特征信息,获得微服务集群中能处理任务请求的所有原始目标服务器对应的负载状态信息,具体包括:
[0012]获得所有服务器的标识、各标识对应的负载状态信息和第一映射关系;
[0013]根据特征信息,获得微服务集群中能处理任务请求的所有原始目标服务器的标识;
[0014]根据原始目标服务器的标识和第一映射关系,获得原始目标服务器的标识对应的负载状态信息。
[0015]可选地,根据特征信息,获得微服务集群中能处理任务请求的所有原始目标服务器的标识,具体包括:
[0016]从特征信息中获取功能信息,并根据功能信息生成可用微服务实例查询指令;
[0017]将可用微服务实例查询指令发送至服务注册设备;可用微服务实例查询指令用于控制服务注册设备在储存于本地的微服务功能映射表中查询功能信息对应的所有原始目标服务器标识;
[0018]接收服务注册设备发送的微服务集群中能处理任务请求的所有原始目标服务器的标识。
[0019]可选地,获得所有服务器的标识、各标识对应的负载状态信息和第一映射关系,具体包括:
[0020]获取微服务集群发送的所有服务器的标识、各标识对应的性能数据和第二映射关系;性能数据包括已占用性能数据和未占用性能数据;
[0021]根据各标识对应的已占用性能数据和未占用性能数据,获得各标识对应的负载状态信息;
[0022]根据各标识对应的负载状态信息、服务器的标识和第二映射关系,建立服务器的标识和标识对应的负载状态信息间的第一映射关系。
[0023]可选地,利用微服务负载均衡模型处理特征信息和各负载状态信息,获得各原始目标服务器处理任务请求的预估时间,具体包括:
[0024]从特征信息中获得任务类型信息;
[0025]根据任务类型信息和任务参数映射表,获得处理器利用率需求参数;任务参数映射表表示任务类型信息和处理器利用率需求参数间的映射关系;
[0026]利用微服务负载均衡模型处理处理器利用率需求参数和各负载状态信息,获得各原始目标服务器处理任务请求的预估时间。
[0027]可选地,利用微服务负载均衡模型处理处理器利用率需求参数和各负载状态信息,获得各原始目标服务器处理任务请求的预估时间,具体包括:
[0028]根据各负载状态信息和处理器利用率需求参数,获得各原始目标服务器对应的模型输入参数;模型输入参数包括处理器利用率需求参数和原始目标服务器对应的负载状态信息;
[0029]利用微服务负载均衡模型处理模型输入参数,获得各原始目标服务器处理任务请
求的预估时间。
[0030]可选地,方法还包括:
[0031]获得微服务集群发送的原始响应信息;原始响应信息为目标服务器处理完任务请求后生成的信息;
[0032]利用数据类型映射表转换原始响应信息的数据类型,获得目标类型的中间响应信息;数据类型映射表表示原始响应信息和中间响应信息间的映射关系;
[0033]从中间响应信息中筛选出有效信息,并将有效信息发送至终端。
[0034]在上述技术方案中,电子设备通过服务注册设备中储存的信息和微服务集群发送的信息,获得能处理任务请求的服务器的负载状态信息,节省了微服务负载均衡模型对无效服务器的估计时间,其次,电子设备对任务请求的任务类型信息进行数据化,获得处理器利用率需求参数,有助于微服务负载均衡模型对任务类型信息的处理,从而保证了模型利用处理器利用率需求参数和负载状态信息估计响应时间,以实现在多方面因素考虑下目标服务器的获取,提高了微服务集群中响应时间最短的服务器的选取准确率,从而提高了微服务集群的处理效率。
[0035]第二方面,本申请提供一种微服务负载均衡装置,包括:
[0036]获取模块,用于获取终端发送的任务请求,任务请求包括特征信息;
[0037]处理模块,用于根据特征信息,获得微服务集群中能处理任务请求的所有原始目标服务器对应的负载状态信息;
[0038]处理模块还用于利用微服务负载均衡模型处理特征信息和各负载状态信息,获得各原始目标服务器处理任务请求的预估时间;
[00本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种微服务负载均衡方法,其特征在于,所述方法应用于电子设备,所述方法包括:获取终端发送的任务请求,所述任务请求包括特征信息;根据所述特征信息,获得微服务集群中能处理所述任务请求的所有原始目标服务器对应的负载状态信息;利用微服务负载均衡模型处理所述特征信息和各所述负载状态信息,获得各原始目标服务器处理所述任务请求的预估时间;比较所述预估时间,获得最短预估时间对应的目标服务器信息,根据所述目标服务器信息和所述任务请求,生成任务执行指令,并将所述任务执行指令发送至所述微服务集群;所述任务执行指令用于控制所述微服务集群根据所述目标服务器信息控制对应的目标服务器处理所述任务请求。2.根据权利要求1所述的方法,其特征在于,根据所述特征信息,获得微服务集群中能处理所述任务请求的所有原始目标服务器对应的负载状态信息,具体包括:获得所有服务器的标识、各标识对应的负载状态信息和第一映射关系;根据所述特征信息,获得微服务集群中能处理所述任务请求的所有原始目标服务器的标识;根据所述原始目标服务器的标识和所述第一映射关系,获得所述原始目标服务器的标识对应的负载状态信息。3.根据权利要求2所述的方法,其特征在于,根据所述特征信息,获得微服务集群中能处理所述任务请求的所有原始目标服务器的标识,具体包括:从所述特征信息中获取功能信息,并根据所述功能信息生成可用微服务实例查询指令;将所述可用微服务实例查询指令发送至服务注册设备;所述可用微服务实例查询指令用于控制所述服务注册设备在储存于本地的微服务功能映射表中查询所述功能信息对应的所有原始目标服务器标识;接收所述服务注册设备发送的微服务集群中能处理所述任务请求的所有原始目标服务器的标识。4.根据权利要求2所述的方法,其特征在于,获得所有服务器的标识、各标识对应的负载状态信息和第一映射关系,具体包括:获取所述微服务集群发送的所有服务器的标识、各标识对应的性能数据和第二映射关系;所述性能数据包括已占用性能数据和未占用性能数据;根据各标识对应的所述已占用性能数据和所述未占用性能数据,获得各标识对应的负载状态信息;根据所述各标识对应的负载状态信息、所述服务器的标识和所述第二映射关系,建立所述服务器的标识和所述标识对应的负载状态信息间的第一映射关系。5.根据权利要求1所述的方法,其特征在于,利用微服务负载均衡模型处理所述特征信息和各所述负载状态信息,获得各原始目标服务器处理所述任务请求的预估时间,具体包括:从所述特征信息中获得任务类型信息;根据所述任务类型信息和任务参数映射表,获得处理器利用率需求参数;所述任务参
数映射表表示所述任...

【专利技术属性】
技术研发人员:陈海锋闵爱佳饶玉柱杨丽江凌云杨乾龙
申请(专利权)人:联通数字科技有限公司联通物联网有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1