任务调度电路、方法、电子设备及计算机可读存储介质技术

本公开实施例公开了一种任务调度电路、方法、电子设备和计算机可读存储介质。其中该任务调度电路包括：核资源存储电路、任务包调度电路以及控制电路；其中所述核资源存储电路，用于存储每个所述处理核的状态信息和算力等级；所述任务包调度电路，用于获取待执行的第一任务包；确定需要与所述第一任务包配合执行的所有其他任务包；根据任务包之间的配合信息确认空闲处理核；将所有所述任务包分别发送至对应的所述空闲处理核；控制电路，用于接收所述空闲处理核的状态信息，并更新所述核资源存储电路中的状态信息。上述任务调度电路通过处理核的状态信息和任务包之间的配合信息调度任务包,解决了现有技术中的调度效率低的技术问题。问题。问题。

【技术实现步骤摘要】
任务调度电路、方法、电子设备及计算机可读存储介质


[0001]本公开涉及处理器领域，尤其涉及一种任务调度电路、方法、电子设备及计算机可读存储介质。

技术介绍

[0002]随着科学技术的发展，人类社会正在快速进入智能时代。智能时代的重要特点，就是人们获得数据的种类越来越多，获得数据的量越来越大，而对处理数据的速度要求越来越高。芯片是任务调度的基石，它从根本上决定了人们处理数据的能力。从应用领域来看，芯片主要有两条路线：一条是通用芯片路线，例如CPU(Central Processing Unit)等，它们能提供极大的灵活性，但是在处理特定领域算法时有效算力比较低；另一条是专用芯片路线，例如TPU(Tensor Processing Unit)等，它们在某些特定领域，能发挥较高的有效算力，但是面对灵活多变的比较通用的领域，它们处理能力比较差甚至无法处理。由于智能时代的数据种类繁多且数量巨大，所以要求芯片既具有极高的灵活性，能处理不同领域且日新月异的算法，又具有极强的处理能力，能快速处理极大的且急剧增长的数据量。
[0003]在神经网络计算中，经常会用到多核或者众核的芯片。此处多(众)核架构中的核，都有一定独立处理能力，并且带有比较大的核内存储空间，用于存储自身的程序、数据和权重。
[0004]如何让众多的核能够高效率的发挥算力，是决定整个芯片性能的关键。各核的算力发挥，取决于多种因素，例如任务的调度与分配、芯片的架构、核的结构、核的电路等。其中任务的调度与分配是一个非常关键的因素，如果任务的调度与分配合理，则能充分发挥各核的有效算力高，否则各核的有效算力就会变低。
[0005]现有技术中一般使用以下方案来进行处理核任务的调度：
[0006]如图1所示为使用调度器进行任务调度的方案。在该方案中，调度器接收到来自于指令源的指令，然后将指令按一定的策略，如顺序，传输给各处理核，各处理核对不同的数据执行相同的指令。各处理核可以是比较简单的结构，例如共用控制电路和寄存器的SIMD(Single Instruction Multiple Data，单指令多数据结构)，也可以是比较复杂有一定的自主性的结构，例如有独立的控制电路和寄存器等的SIMT(Single Instruction Multiple Threads，单指令多线程)。但是上述方案一般用于指令级调度，每次只能调度一条或少数几条指令，当需要完成比较大的任务时，需要频繁的调度，降低了调度效率；另外，该方案一般适用于单任务场景，当执行多任务时，各个核需要复用调度器，也降低了调度效率。

技术实现思路

[0007]提供该
技术实现思路
部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该
技术实现思路
部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
[0008]为了解决现有技术中处理核的任务调度不灵活、控制复杂的技术问题，本公开实
施例提出如下技术方案:
[0009]第一方面，本公开实施例提供一种任务调度电路，包括：
[0010]核资源存储电路、任务包调度电路以及控制电路；其中，
[0011]所述核资源存储电路，用于存储每个所述处理核的状态信息和算力等级；
[0012]所述任务包调度电路，用于获取待执行的第一任务包，所述任务包中包括同一任务的至少一条任务指令、任务包之间的配合信息以及所述任务包的算力需求；根据所述任务包之间的配合信息确定需要与所述第一任务包配合执行的所有其他任务包；根据所有所述任务包的所述配合信息、所有所述任务包的所述算力需求从所述核资源存储电路中确认待参与计算的所有空闲处理核，所述空闲处理核的算力等级分别与所述任务包的算力需求一一对应；将所有所述任务包分别发送至对应的所述空闲处理核；
[0013]控制电路，用于接收所述空闲处理核的状态信息，并根据所述状态信息更新所述核资源存储电路中的所述空闲处理核的状态信息。
[0014]进一步的，所述核资源存储电路，用于存储每个所述处理核的状态信息和算力等级，包括：
[0015]所述核资源存储电路，用于存储核资源表，所述核资源表包括处理核标识、与所述处理核标识对应的处理核状态位以及与所述处理核标识对应的处理核的算力等级；其中所述处理核状态位用于表示闲状态或忙状态。
[0016]进一步的，所述需要配合执行表示多个所述任务包的执行时间之间需要满足预设的关系。
[0017]进一步的，所述任务包调度电路，根据所述任务包之间的配合信息以及所有所述任务包的算力需求和所述算力等级从所述核资源存储电路中确认空闲处理核，包括：
[0018]当所述任务包之间的配合信息表示所述任务包不需要与其他任务包配合，根据所述任务包的算力需求从所述核资源存储电路中确认一个具有与所述算力需求对应算力等级的空闲处理核；
[0019]当所述任务包之间的配合信息表示所述任务包需要与其他任务包配合，根据需要配合的多个任务包的算力需求从所述核资源存储电路中确认多个分别具有与所述算力需求对应的算力等级的空闲处理核。
[0020]进一步的，所述根据需要配合的多个任务包的算力需求从所述核资源存储电路中确认多个空闲处理核，包括：
[0021]计算所述多个任务包的算力需求之间的比例关系；
[0022]从所述核资源存储电路中查找算力等级符合所述比例关系的多个空闲处理核。
[0023]进一步的，所述任务包调度电路，还用于：
[0024]修改所述核资源存储电路中所述空闲处理核的状态信息为忙状态。
[0025]进一步的，所述控制电路，用于接收所述空闲处理核的状态信息，并根据所述状态信息更新所述核资源存储电路中的所述空闲处理核的状态信息，包括：
[0026]所述控制电路，用于从所述空闲处理核接收任务包执行完毕的信息；根据所述任务包执行完毕的信息修改所述核资源存储电路中所述空闲处理核的状态信息为闲状态。
[0027]进一步的，所述任务调度电路，还包括：
[0028]任务指令缓存电路，所述任务指令缓存电路包括与所述处理核一一对应的任务指
令缓存队列，所述任务包缓存队列中的每一个成员用于缓存对应处理核的所述任务包中的任务指令。
[0029]第二方面，本公开实施例提供一种任务调度方法，用于包括至少两个处理核的系统中，所述方法包括：
[0030]获取待执行的第一任务包，所述任务包中包括同一任务的至少一条任务指令、任务包之间的配合信息以及所述任务包的算力需求；
[0031]根据所述任务包之间的配合信息确定需要与所述第一任务包配合执行的所有其他任务包；
[0032]根据所有所述任务包的所述配合信息、所有所述任务包的所述算力需求从所述核资源存储电路中确认待参与计算的所有空闲处理核，所述空闲处理核的算力等级分别与所述任务包的算力需求一一对应；
[0033]将所有所述任务包分别发送至对应的所述空闲处理核；...

【技术保护点】

【技术特征摘要】
1.一种任务调度电路，用于包括至少两个处理核的系统中，其特征在于，包括：核资源存储电路、任务包调度电路以及控制电路；其中，所述核资源存储电路，用于存储每个所述处理核的状态信息和算力等级；所述任务包调度电路，用于获取待执行的第一任务包，所述任务包中包括同一任务的至少一条任务指令、任务包之间的配合信息以及所述任务包的算力需求；根据所述任务包之间的配合信息确定需要与所述第一任务包配合执行的所有其他任务包；根据所有所述任务包的所述配合信息、所有所述任务包的所述算力需求从所述核资源存储电路中确认待参与计算的所有空闲处理核，所述空闲处理核的算力等级分别与所述任务包的算力需求一一对应；将所有所述任务包分别发送至对应的所述空闲处理核；控制电路，用于接收所述空闲处理核的状态信息，并根据所述状态信息更新所述核资源存储电路中的所述空闲处理核的状态信息。2.如权利要求1所述的任务调度电路，其特征在于，所述核资源存储电路，用于存储每个所述处理核的状态信息和算力等级，包括：所述核资源存储电路，用于存储核资源表，所述核资源表包括处理核标识、与所述处理核标识对应的处理核状态位以及与所述处理核标识对应的处理核的算力等级；其中所述处理核状态位用于表示闲状态或忙状态。3.如权利要求1-2中任一项所述的任务调度电路，其特征在于：所述需要配合执行表示多个所述任务包的执行时间之间需要满足预设的关系。4.如权利要求1-3中任一项所述的任务调度电路，其特征在于，所述任务包调度电路，根据所述任务包之间的配合信息以及所有所述任务包的算力需求和所述算力等级从所述核资源存储电路中确认空闲处理核，包括：当所述任务包之间的配合信息表示所述任务包不需要与其他任务包配合，根据所述任务包的算力需求从所述核资源存储电路中确认一个具有与所述算力需求对应算力等级的空闲处理核；当所述任务包之间的配合信息表示所述任务包需要与其他任务包配合，根据需要配合的多个任务包的算力需求从所述核资源存储电路中确认多个分别具有与所...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：北京希姆计算科技有限公司，
类型：发明
国别省市：