服务请求的处理方法、装置、设备、存储介质及程序产品制造方法及图纸

本申请实施例公开了一种服务请求的处理方法、装置、设备、存储介质及程序产品，属于互联网技术领域。所述方法包括：接收各个服务实例上报的实时负载参数；基于实时负载参数，确定各个服务实例的服务实例负载以及各个集群的集群负载；在接收到目标服务请求的情况下，基于集群负载从各个集群中筛选得到目标集群；基于候选服务实例的服务实例负载，从候选服务实例中筛选得到目标服务实例，候选服务实例是指目标集群内的服务实例，目标服务实例用于处理目标服务请求。本申请实施例提供的方法，可避免将目标服务请求分配至负载较高的集群以及负载较高的服务实例中，有助于提高对目标服务请求的处理性能，确保提供服务的服务质量。确保提供服务的服务质量。确保提供服务的服务质量。

【技术实现步骤摘要】
服务请求的处理方法、装置、设备、存储介质及程序产品


[0001]本申请实施例涉及互联网
，特别涉及一种服务请求的处理方法、装置、设备、存储介质及程序产品。

技术介绍

[0002]随着互联网技术的发展，单服务器集群模式已无法满足服务需求。目前，多通过多集群方式提供服务，在通过多集群方式提供服务的情况下，需考虑负载均衡，即将服务均衡分配在集群的服务器上。
[0003]现有技术中，首先确定处理服务请求的集群，之后，在集群内通过负载均衡方法确定提供服务的服务器。
[0004]然而，在分配服务请求过程中，存在集群整体负载较高，资源较为紧张的情况，采用相关技术中方案，可能存在将服务请求分配至负载较高的集群中，对服务质量产生影响。

技术实现思路

[0005]本申请实施例提供了一种服务请求的处理方法、装置、设备、存储介质及程序产品。所述技术方案如下：
[0006]一方面，本申请实施例提供了一种服务请求的处理方法，所述方法用于负载均衡服务器，所述负载均衡服务器与至少一个集群相连，各个所述集群中设置有多个服务器，且各个所述服务器中包含多个服务实例；
[0007]所述方法包括：
[0008]接收各个所述服务实例上报的实时负载参数；
[0009]基于所述实时负载参数，确定各个所述服务实例的服务实例负载以及各个所述集群的集群负载；
[0010]在接收到目标服务请求的情况下，基于所述集群负载从各个所述集群中筛选得到目标集群；
[0011]基于候选服务实例的服务实例负载，从所述候选服务实例中筛选得到目标服务实例，所述候选服务实例是指所述目标集群内的服务实例，所述目标服务实例用于处理所述目标服务请求。
[0012]另一方面，本申请实施例提供了一种服务请求的处理装置，所述装置用于负载均衡服务器，所述负载均衡服务器与至少一个集群相连，各个所述集群中设置有多个服务器，且各个所述服务器中包含多个服务实例；
[0013]所述装置包括：
[0014]参数接收模块，用于接收各个所述服务实例上报的实时负载参数；
[0015]负载确定模块，用于基于所述实时负载参数，确定各个所述服务实例的服务实例负载以及各个所述集群的集群负载；
[0016]集群筛选模块，用于在接收到目标服务请求的情况下，基于所述集群负载从各个
所述集群中筛选得到目标集群；
[0017]服务实例筛选模块，用于基于候选服务实例的服务实例负载，从所述候选服务实例中筛选得到目标服务实例，所述候选服务实例是指所述目标集群内的服务实例，所述目标服务实例用于处理所述目标服务请求。
[0018]另一方面，本申请实施例提供了一种服务器，所述服务器包括处理器和存储器，所述存储器中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现如上述方面所述的服务请求的处理方法。
[0019]另一方面，提供了一种计算机可读存储介质，所述可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现如上述方面所述的服务请求的处理方法。
[0020]另一方面，本申请实施例提供了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上述方面提供的服务请求的处理方法。
[0021]本申请实施例提供的技术方案带来的有益效果至少包括：
[0022]本申请实施例中，在多集群场景下，各个集群中的各个服务实例会上报实时负载参数至负载均衡服务器中，负载均衡服务器会根据实时负载参数确定各个服务实例的服务实例负载以及各个集群的集群负载，在接收到目标服务请求时，首先根据集群负载选取得到目标集群，避免将目标服务请求分配至负载较高的集群中，影响服务质量，且还可利用目标集群中服务实例的服务实例负载选取得到目标服务实例，从而通过目标服务实例处理目标服务请求，避免将目标服务实例分配至负载较高的服务实例中，有助于提高对目标服务请求的处理性能，确保提供服务的服务质量。
附图说明
[0023]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0024]图1示出了本申请一个示例性实施例提供的实施环境的示意图；
[0025]图2示出了本申请一个示例性实施例提供的服务请求的处理方法的流程图；
[0026]图3示出了本申请一个示例性实施例集群与负载均衡服务器之间的交互示意图；
[0027]图4示出了本申请另一个示例性实施例提供的服务请求的处理方法的流程图；
[0028]图5示出了本申请另一个示例性实施例提供的服务请求的处理方法的流程图；
[0029]图6示出了本申请一个实施例提供的服务请求的处理装置的结构框图。
具体实施方式
[0030]为使本申请的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
[0031]请参考图1，其示出了本申请一个示例性实施例提供的实施环境的示意图。该实施环境中可以包括：集群101和负载均衡服务器102。
[0032]集群101是指共享相同网络条件的多个服务器组成的服务器集群。本申请实施例提供的方法应用于多集群场景下，即包含有多个集群。且每个集群中设置有多个服务器，每个服务器中包含多个服务实例。其中，服务实例用于处理服务请求，一个服务实例可处理一个或多个服务请求。
[0033]负载均衡服务器102是独立的物理服务器，或者是多个物理服务器构成的服务器集群或者分布式系统，或者是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、分发网络以及大数据和人工智能平台等基础云计算服务的云服务器。本申请实施例中，负载均衡服务器102与至少一个集群101相连。
[0034]其中，负载均衡服务器102与至少一个集群101之间能够通过有线或无线通信方式进行直接或间接地连接，本申请在此不做限制。
[0035]在一种可能的应用场景下，负载均衡服务器102可接收集群101中服务实例上报的实时负载参数，从而根据实时负载参数确定相连集群101的集群负载以及各个集群中各个服务实例的服务实例负载，从而在接收到服务请求时，可根据集群负载以及服务实例负载进行筛选，最终将服务请求分配至负载较低的服务实例上。
[0036]请参考图2，其示出了本申请一个示例性实施例提供的服务请求的处理方法的流程图。本实施例以该方法用于图1所示的负载均衡服务器为例进行本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种服务请求的处理方法，其特征在于，所述方法用于负载均衡服务器，所述负载均衡服务器与至少一个集群相连，各个所述集群中设置有多个服务器，且各个所述服务器中包含多个服务实例；所述方法包括：接收各个所述服务实例上报的实时负载参数；基于所述实时负载参数，确定各个所述服务实例的服务实例负载以及各个所述集群的集群负载；在接收到目标服务请求的情况下，基于所述集群负载从各个所述集群中筛选得到目标集群；基于候选服务实例的服务实例负载，从所述候选服务实例中筛选得到目标服务实例，所述候选服务实例是指所述目标集群内的服务实例，所述目标服务实例用于处理所述目标服务请求。2.根据权利要求1所述的方法，其特征在于，所述实时负载参数包括服务实例负载参数以及服务器负载参数，所述服务实例负载参数用于指示所述服务实例的负载状态，所述服务器负载参数用于指示所述服务实例所属服务器的负载状态，所述服务实例负载参数与所述服务器负载参数中分别包含不同维度的负载参数；所述基于所述实时负载参数，确定各个所述服务实例的服务实例负载以及各个所述集群的集群负载，包括：基于同一服务实例上报的所述服务实例负载参数与所述服务器负载参数，确定所述服务实例的所述服务实例负载；基于同一集群内服务实例上报的所述服务实例负载参数与所述服务器负载参数，确定所述集群的所述集群负载。3.根据权利要求2所述的方法，其特征在于，所述基于同一服务实例上报的所述服务实例负载参数与所述服务器负载参数，确定所述服务实例的所述服务实例负载，包括：对所述服务实例负载参数与所述服务器负载参数中各个维度的所述负载参数进行归一化处理，得到各个维度的所述负载参数对应的归一化负载参数；将各个维度的所述归一化负载参数中的最大参数确定为所述服务实例负载。4.根据权利要求3所述的方法，其特征在于，所述对所述服务实例负载参数与所述服务器负载参数中各个维度的负载参数进行归一化处理，得到各个维度的所述负载参数对应的归一化负载参数，包括：确定各个维度的所述负载参数对应的参数阈值，其中，所述参数阈值根据所述服务实例所属集群的配置确定，不同集群对应的参数阈值不同；基于所述参数阈值对所述负载参数进行归一化处理，得到所述归一化负载参数。5.根据权利要求2所述的方法，其特征在于，所述基于同一集群内服务实例上报的所述服务实例负载参数与所述服务器负载参数，确定所述集群的所述集群负载，包括：分别在同一集群内服务实例上报的相同维度的所述负载参数中选取集群负载参数，得到各个维度的所述集群负载参数；对各个所述集群负载参数进行归一化处理，得到各个所述集群负载参数对应的归一化集群负载参数；
将各个所述归一化集群负载参数中的最大参数确定为所述集群负载。6.根据权利要求5所述的方法，其特征在于，所述分别在同一集群内服务实例上报的相同维度的所述负载参数中选取集群负载参数，得到各个维度的所述集群负载参数，包括：对属于相同维度的所述负载参数进行排序，得到负载参数序列；将所述负载参数序列中目标百分位值的所述负载参数确定为所述集群负载参数。7.根据权利要求1至6任一所述的方法，其特征在于，所述基于所述集群负载从各个所述集群中筛选得到目标集群，包括：过滤各个所述集群中的满载集群，得到第一候选集群，所述满载集群是集群负载大于负载阈值的集群；基于所述第一候选集群的集群负载与集群服务参数，从所述第一候选集群中筛选得到所述目标集群，所述集群负载参数用于指示集群对所述目标服务请求的服务能力。8.根据权利要求7所述的方法，其特征在于，所述基于所述第一候选集群的集群负载与集群服务参数，从所述第一候选集群中筛选得到所述目标集群，包括：基于所述第一候选集群的所述集群服务参数，从所述...

【专利技术属性】
技术研发人员：姜焰，王光，
申请(专利权)人：百果园技术新加坡有限公司，
类型：发明
国别省市：