任务处理方法及装置、电子设备、存储介质和服务系统制造方法及图纸

技术编号:39409777 阅读:7 留言:0更新日期:2023-11-19 16:01
本公开提供了一种任务处理方法及装置、电子设备、存储介质和服务系统,涉及计算机技术领域,尤其涉及云计算、分布式计算等技术领域。实现方案为:获取第一服务器的资源利用率;响应于资源利用率小于第一阈值,从任务队列中获取待执行的第一任务,其中,第一任务由第二服务器响应于第一任务的创建请求而被添加至任务队列,第二服务器为服务系统所包括的多个服务器中的任一服务器;以及执行第一任务。以及执行第一任务。以及执行第一任务。

【技术实现步骤摘要】
任务处理方法及装置、电子设备、存储介质和服务系统


[0001]本公开涉及计算机
,尤其涉及云计算、分布式计算等
,具体涉及一种任务处理方法及装置、电子设备、计算机可读存储介质、计算机程序产品和服务系统。

技术介绍

[0002]云计算(cloud computing),指的是通过网络接入弹性可扩展的共享物理或虚拟资源池,资源可以包括服务器、操作系统、网络、软件、应用和存储设备等,并可以以按需、自服务的方式对资源进行部署和管理的技术体系。通过云计算技术,可以为人工智能、区块链等技术应用、模型训练提供高效强大的数据处理能力。
[0003]在云计算中,多个服务器可以组成服务系统,以接收并执行用户提交的计算任务。
[0004]在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。

技术实现思路

[0005]本公开提供了一种任务处理方法及装置、电子设备、计算机可读存储介质、计算机程序产品和服务系统。
[0006]根据本公开的一方面,提供了一种任务处理方法,由第一服务器执行,所述第一服务器为服务系统所包括的多个服务器中的任一服务器,所述方法包括:获取所述第一服务器的资源利用率;响应于所述资源利用率小于第一阈值,从任务队列中获取待执行的第一任务,其中,所述第一任务由第二服务器响应于所述第一任务的创建请求而被添加至所述任务队列,所述第二服务器为所述多个服务器中的任一服务器;以及执行所述第一任务。
[0007]根据本公开的一方面,提供了一种任务处理装置,应用于第一服务器,所述第一服务器为服务系统所包括的多个服务器中的任一服务器,所述装置包括:第一获取模块,被配置为获取所述第一服务器的资源利用率;第二获取模块,被配置为响应于所述资源利用率小于第一阈值,从任务队列中获取待执行的第一任务,其中,所述第一任务由第二服务器响应于所述第一任务的创建请求而被添加至所述任务队列,所述第二服务器为所述多个服务器中的任一服务器;以及执行模块,被配置为执行所述第一任务。
[0008]根据本公开的一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述方法。
[0009]根据本公开的一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行上述方法。
[0010]根据本公开的一方面,提供了一种计算机程序产品,包括计算机程序指令,所述计算机程序指令在被处理器执行时实现上述方法。
[0011]根据本公开的一方面,提供了一种服务系统,包括多个服务器,所述多个服务器中的任一服务器被配置为执行上述方法。
[0012]根据本公开的一个或多个实施例,能够提高任务处理效率。
[0013]应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0014]附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
[0015]图1示出了根据本公开实施例的可以在其中实施本文描述的各种方法的示例性系统的示意图;
[0016]图2示出了根据本公开实施例的任务处理方法的流程图;
[0017]图3示出了根据本公开实施例的任务处理装置的结构框图;以及
[0018]图4示出了能够用于实现本公开实施例的示例性电子设备的结构框图。
具体实施方式
[0019]以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
[0020]在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个要素与另一要素区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
[0021]在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。“多个”指的是两个或两个以上。
[0022]本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,且不违背公序良俗。
[0023]多个服务器可以组成服务系统,以接收并执行用户提交的计算任务。
[0024]相关技术中,服务系统通常包括多个用于执行计算任务的服务器(即计算节点)和用于管理计算节点的服务器(即管理节点)。管理节点定期轮询各计算节点的工作状态(例如内存占用率、CPU使用率等),将接收到的计算任务发送至空闲的计算节点执行。
[0025]在上述方案中,由于管理节点需要定期轮询各计算节点的工作状态,因此节点之间的通信开销大,计算节点的状态更新不及时,难以对各计算节点的计算资源进行充分的、均衡的利用,导致服务系统的任务处理效率低。此外,由于管理节点和计算节点在功能上强耦合,因此需要在管理节点和计算节点中部署不同的服务程序,需要进行大量的配置操作,
导致服务系统的部署和运维成本高,灵活性、可用性和可扩展性差。
[0026]针对上述问题,本公开实施例提供了一种服务系统和任务处理方法。本公开实施例的服务系统包括多个服务器,其中的每个服务器均被配置为执行本公开实施例的任务处理方法。当某个服务器空闲时,能够主动从任务队列中获取计算任务并执行。服务系统中的各服务器能够根据自身的资源利用率自动地消费计算任务,大大提升了系统机器资源的利用率和任务的吞吐量,从而提高了任务处理效率。
[0027]在本公开的实施例中,服务系统中的每个服务器均被配置为执行相同的任务处理方法,即,服务系统以“去中心化”的方式部署,服务系统中的各服务器功能相同、地位平等。每个服务器中均部署相同的服务程序,因此仅需要维护一套服务程序,大大降低了服务系统的部署和运维成本,提高了服务系统的灵活性、可用性和可扩展性。
[0028]以下详细介绍本公开的实施例。
[0029]图1示出了根据本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种任务处理方法,由第一服务器执行,所述第一服务器为服务系统所包括的多个服务器中的任一服务器,所述方法包括:获取所述第一服务器的资源利用率;响应于所述资源利用率小于第一阈值,从任务队列中获取待执行的第一任务,其中,所述第一任务由第二服务器响应于所述第一任务的创建请求而被添加至所述任务队列,所述第二服务器为所述多个服务器中的任一服务器;以及执行所述第一任务。2.根据权利要求1所述的方法,其中,所述执行所述第一任务包括:调用所述第一任务对应的计算引擎以执行所述第一任务,其中,所述计算引擎被配置为每隔第一时间输出所述第一任务的状态信息;响应于当前时间距离所述计算引擎上一次输出所述第一任务的状态信息的时间大于第二阈值,结束所述第一任务;以及将所述第一任务添加至所述任务队列。3.根据权利要求2所述的方法,其中,所述执行所述第一任务还包括:将所述第一任务的状态信息写入数据库,以便第三服务器通过访问所述数据库以查询所述第一任务的状态,其中,所述第三服务器为所述多个服务器中的任一服务器。4.根据权利要求1

3中任一项所述的方法,其中,所述执行所述第一任务包括:每隔第二时间从数据库中获取所述第一任务的目标状态信息,其中,所述目标状态信息指示所述第一任务的目标状态,所述目标状态信息由第四服务器响应于所述第一任务的状态变更请求而写入所述数据库,所述第四服务器为所述多个服务器中的不同于所述第一服务器的任一服务器;以及对所述第一任务进行处理,以使所述第一任务达到所述目标状态。5.根据权利要求1

4中任一项所述的方法,还包括:接收第二任务的创建请求;以及响应于所述资源利用率小于第三阈值,将所述第二任务添加至所述任务队列,其中,所述第三阈值大于所述第一阈值。6.根据权利要求5所述的方法,还包括:响应于所述资源利用率大于或等于所述第三阈值,将所述第二任务的创建请求转发至其他服务器。7.根据权利要求2

6中任一项所述的方法,其中,所述第一任务包括多个子任务,所述计算引擎通过对与所述多个子任务分别对应的多个子计算引擎进行融合而得到。8.一种任务处理装置,应用于第一服务器,所述第一服务器为服务系统所包括的多个服务器中的任一服务器,所述装置包括:第一获取模块,被配置为获取所述第一服务器的资源利用率;第二获取模块,被配置为响应于所述资源利用率小于第一阈值,从任务队列中获取待执行的第一任务,其中,所述第一任务由第二服务器响应于所述第一任务的创建请求而被添加至所述任务队列,所述第二服务器为所述多个服务器中的任一服务器;以及执行模块,被配置为执行所述第一任务。9.根据权利要求8所述的装置,其中,所述执行模块包括:

【专利技术属性】
技术研发人员:廖覃思
申请(专利权)人:北京百度网讯科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1