一种服务资源的分配方法、装置、电子设备及存储介质制造方法及图纸

技术编号:35897799 阅读:16 留言:0更新日期:2022-12-10 10:32
本申请公开了一种服务资源的分配方法、装置、电子设备及存储介质。该方法包括:接收客户端发送的服务处理请求,服务处理请求包括至少一个待处理服务;获取待处理服务对应的目标优先级,并按照目标优先级将待处理服务依次插入主队列;在目标优先级满足预设处理条件的情况下,查询服务器中各个工作进程对应的工作状态,并将工作状态为空闲状态的工作进程确定为目标工作进程;基于目标工作进程调用相应的服务资源处理待处理服务,并将得到的处理结果反馈至客户端,服务资源为图形处理器对应的资源。本申请充分利用了服务器中的服务资源,基于工作进程能够实现对多个待处理服务进行并发处理,解决了无法并行执行多任务的问题,且提高了服务处理效率。提高了服务处理效率。提高了服务处理效率。

【技术实现步骤摘要】
一种服务资源的分配方法、装置、电子设备及存储介质


[0001]本申请涉及通信
,尤其涉及一种服务资源的分配方法、装置、电子设备及存储介质。

技术介绍

[0002]随着云计算及虚拟化技术的长期发展,各GPU厂商都有相对成熟的GPU虚拟化技术,例如NVIDIA GRID vGPU与Intel的GVT

g以及SRIOV,GPU passthrough等可以从分片的角度实现一虚多,为云环境中的虚拟机以设备的形式提供GPU资源。
[0003]安卓操作系统受限于接口类型,无法直接调用服务器使用的GPU,为此云手机方案中会使用一个软件实现层提供GPU资源。一般会采用标准的X窗口系统实现(原用于为图形用户程序提供统一接口层),但这种方案无法满足云手机场景中GPU资源的服务质量保障。并且现有的X协议实现无法并行执行多任务,不能充分利用服务器资源。

技术实现思路

[0004]为了解决上述技术问题或者至少部分地解决上述技术问题,本申请提供了一种服务资源的分配方法、装置、电子设备及存储介质。
[0005]根据本申请实施例的一个方面,提供了一种服务资源的分配方法,应用于服务器,所述方法包括:
[0006]接收客户端发送的服务处理请求,其中,所述服务处理请求包括至少一个待处理服务;
[0007]获取所述待处理服务对应的目标优先级,并按照所述目标优先级将所述待处理服务依次插入主队列;
[0008]在根据所述目标优先级确定所述待处理服务满足预设处理条件的情况下,查询所述服务器中各个工作进程对应的工作状态,并将所述工作状态为空闲状态的工作进程确定为所述目标工作进程;
[0009]基于所述目标工作进程调用相应的服务资源处理所述待处理服务,并将得到的处理结果反馈至所述客户端,其中,所述服务资源为图形处理器对应的资源。
[0010]进一步的,所述获取待处理服务对应的目标优先级,包括:
[0011]获取所述待处理服务的原始优先级以及服务类型;
[0012]查询当前各个图形处理器对应的负载指标;
[0013]基于所述服务类型、原始优先级以及所述负载指标计算所述待处理服务的目标优先级。
[0014]进一步的,在按照所述目标优先级将所述待处理服务依次插入主队列之后,所述方法还包括:
[0015]检测所述主队列中已插入的至少一个历史服务,并查询各个历史服务对应的等待时长;
[0016]基于所述等待时长确定所述主队列中是否存在超时服务,其中,所述超时服务为所述等待时长超过预设时长的服务;
[0017]在所述主队列中不存在超时服务的情况下,按照所述主队列中各个服务对应的优先级执行服务资源分配操作。
[0018]进一步的,在所述主队列中存在超时服务的情况下,所述方法还包括:
[0019]将所述超时服务插入超时队列,其中,所述超时队列对应的优先级高于所述主队列;
[0020]按照所述超时队列中各个超时服务对应的优先级执行服务资源分配操作。
[0021]进一步的,所述将所述超时服务插入超时队列,包括:
[0022]获取所述超时服务对应的服务信息;
[0023]在所述服务信息中携带所述超时服务对应指纹的情况下,将所述超时服务插入超时队列。
[0024]进一步的,所述按照所述主队列中各个服务对应的优先级执行服务资源分配操作,包括:
[0025]对比所述待处理服务对应的目标优先级以及所述历史服务对应的优先级,得到对比结果;
[0026]在所述对比结果用于指示目标优先级高于所述优先级的情况下,确定所述目标优先级满足预设处理条件,并对所述待处理服务执行服务资源分配操作。
[0027]进一步的,所述方法还包括:
[0028]在所述对比结果用于指示目标优先级低于所述优先级的情况下,确定所述目标优先级不满足预设处理条件,并对所述主队列中优先级最高的服务执行服务资源分配操作。
[0029]根据本申请实施例的再一个方面,还提供了一种一种服务资源的分配装置,包括:
[0030]接收模块,用于接收客户端发送的服务处理请求,其中,所述服务处理请求包括至少一个待处理服务;
[0031]获取模块,用于获取所述待处理服务对应的目标优先级,并按照所述目标优先级将所述待处理服务依次插入主队列;
[0032]查询模块,用于在根据所述目标优先级确定所述待处理服务满足预设处理条件的情况下,查询所述服务器中各个工作进程对应的工作状态,并将所述工作状态为空闲状态的工作进程确定为所述目标工作进程;
[0033]处理模块,用于基于所述目标工作进程调用相应的服务资源处理所述待处理服务,并将得到的处理结果反馈至所述客户端,其中,所述服务资源为图形处理器对应的资源。
[0034]根据本申请实施例的另一方面,还提供了一种存储介质,该存储介质包括存储的程序,程序运行时执行上述的步骤。
[0035]根据本申请实施例的另一方面,还提供了一种电子装置,包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;其中:存储器,用于存放计算机程序;处理器,用于通过运行存储器上所存放的程序来执行上述方法中的步骤。
[0036]本申请实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行
时,使得计算机执行上述方法中的步骤。
[0037]本申请实施例提供的上述技术方案与现有技术相比具有如下优点:本申请实施例提供的方法,在服务器接收到至少一个待处理服务后,会确定待处理服务对应的目标优先级,然后通过目标优先级确定待处理服务示范满足处理条件。如果待处理服务满足处理条件,则为待处理服务分配空闲状态的工作进程,通过工作进程调用相应的图形处理器对待处理服务进行处理。以此充分利用了服务器中的服务资源,实现多个待处理服务进行并发处理,且提高了服务处理效率。
附图说明
[0038]此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
[0039]为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
[0040]图1为本申请实施例提供的一种服务资源的分配方法的流程图;
[0041]图2为本申请实施例提供的一种服务资源的分配装置的框图;
[0042]图3为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
[0043]为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请的一部分实施例,而不是全部的实施例,本申请的示意性实施例及其说明用于解释本申请,本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种服务资源的分配方法,应用于服务器,其特征在于,所述方法包括:接收客户端发送的服务处理请求,其中,所述服务处理请求包括至少一个待处理服务;获取所述待处理服务对应的目标优先级,并按照所述目标优先级将所述待处理服务依次插入主队列;在根据所述目标优先级确定所述待处理服务满足预设处理条件的情况下,查询所述服务器中各个工作进程对应的工作状态,并将所述工作状态为空闲状态的工作进程确定为所述目标工作进程;基于所述目标工作进程调用相应的服务资源处理所述待处理服务,并将得到的处理结果反馈至所述客户端,其中,所述服务资源为图形处理器对应的资源。2.根据权利要求1所述的方法,其特征在于,所述获取待处理服务对应的目标优先级,包括:获取所述待处理服务的原始优先级以及服务类型;查询当前各个图形处理器对应的负载指标;基于所述服务类型、原始优先级以及所述负载指标计算所述待处理服务的目标优先级。3.根据权利要求1所述的方法,其特征在于,在按照所述目标优先级将所述待处理服务依次插入主队列之后,所述方法还包括:检测所述主队列中已插入的至少一个历史服务,并查询各个历史服务对应的等待时长;基于所述等待时长确定所述主队列中是否存在超时服务,其中,所述超时服务为所述等待时长超过预设时长的服务;在所述主队列中不存在超时服务的情况下,按照所述主队列中各个服务对应的优先级执行服务资源分配操作。4.根据权利要求3所述的方法,其特征在于,在所述主队列中存在超时服务的情况下,所述方法还包括:将所述超时服务插入超时队列,其中,所述超时队列对应的优先级高于所述主队列;按照所述超时队列中各个超时服务对应的优先级执行服务资源分配操作。5.根据权利要求4所述的方法,其特征在于,所述将所述超时服务插入超时队列,包括:获取所述超时服务对应的服务信息;在所述服务信息中携带所述超时服务...

【专利技术属性】
技术研发人员:王正浩夏勇刘宽段江南黄景平
申请(专利权)人:天翼云科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1