命令处理装置、方法、电子设备以及计算机可读存储介质制造方法及图纸

本公开提供了一种命令处理装置、方法、电子设备以及计算机可读存储介质，其中，该装置包括：微控制器、及运算单元；所述微控制器，用于当前时间片到达后获取待执行命令；所述待执行命令中携带有用于指示与所述待执行命令对应的多个处理块中该当前时间片需要处理的处理块对应的第一处理块标识；所述运算单元，用于获取所述待执行命令，并基于所述第一处理块标识，执行所述待执行命令对应的处理任务。利用这种命令处理装置，可以提高命令处理的效率。率。率。

Command processing apparatus, method, electronic device, and computer readable storage medium

【技术实现步骤摘要】
命令处理装置、方法、电子设备以及计算机可读存储介质


[0001]本公开涉及计算机科学
，具体而言，涉及一种命令处理装置、方法、电子设备以及计算机可读存储介质。

技术介绍

[0002]在计算机科学领域中，通过虚拟化的方法，可以将物理资源转变为逻辑上可管理的资源，以提高服务器的物理资源利用率。当前，在通过部署图像处理器(Graphics Processing Unit，GPU)或者人工智能(Artificial Intelligence，AI)芯片实现虚拟化时，通常在多进程间采用时分复用的方法实现多进程中命令的同步执行。当前的命令处理方式存在处理效率低的问题。

技术实现思路

[0003]本公开实施例至少提供一种命令处理装置、方法、电子设备以及计算机可读存储介质。
[0004]第一方面，本公开实施例提供了一种命令处理装置，包括：微控制器、及运算单元；其中，所述微控制器，用于当前时间片到达后获取待执行命令；所述待执行命令中携带有用于指示与所述待执行命令对应的多个处理块中该当前时间片需要处理的处理块对应的第一处理块标识；所述运算单元，用于获取所述待执行命令，并基于所述第一处理块标识，执行所述待执行命令对应的处理任务。
[0005]这样，通过将命令对应的多个处理操作划分为多个处理块，可以在任一待执行命令对应的时间片内，基于该待执行命令在上一个对应的时间片内的处理结果确定的第一处理块标识，确定当前时间片内要执行的起始处理块，并基于起始处理块执行待执行命令的处理任务。由于多个处理操作被划分为较细粒度的多个处理块，因此利用时分复用的方式进行上下文切换时，可以减少由于待执行命令未处理完毕导致的等待时间，从而可以提升对命令处理的效率。
[0006]一种可选的实施方式中，所述处理装置还包括命令分发器；所述微控制器，用于当前时间片到达后获取待执行命令，并将所述待执行命令存储至命令队列中；所述命令分发器，用于从所述命令队列中获取所述待执行命令，并向所述运算单元分发所述待执行命令；所述运算单元，用于获取所述待执行命令，并在接收到所述命令分发器分发的待执行命令后，基于所述第一处理块标识，执行所述待执行命令对应的处理任务。
[0007]一种可选的实施方式中，所述运算单元用于：基于所述第一处理块标识，从所述多个处理块中确定在所述当前时间片要执行的起始处理块，并基于所述起始处理块，执行所述待执行命令对应的处理任务。
[0008]这样，由于第一处理块标识可以指示待执行命令中包括的多个处理块中还未被处理的第一个处理块，因此利用第一处理块标识，运算单元可以直接关注需要进行处理的第一个处理块，而不需要再此对待执行命令中的多个处理块进行检索以确定需要处理的处理
块，从而可以有效的提升命令处理的效率。
[0009]一种可选的实施方式中，所述微控制器用于：从与当前时间片对应的目标缓存中，读取所述待执行命令；或者，从主机获取所述待执行命令。
[0010]这样，微控制器可以灵活的依据不同的时间片、以及不同待执行命令的执行情况，从目标缓存或者主机获取待执行命令。
[0011]一种可选的实施方式中，所述微控制器用于：确定所述命令队列是否空闲；在所述命令队列空闲的情况下，监听缓冲器；所述缓冲器用于所述主机存储所述待执行命令；在监听到所述缓冲器中存在所述待执行命令的情况下，从所述缓冲器中读取所述待执行命令。
[0012]这样，通过微控制器确定命令队列是否空闲、以及在命令队列空闲时缓冲器中是否存在待执行命令，可以在缓冲器不断接收到待执行命令的情况下，将待执行命令不间断的下发至命令队列中，以使得命令处理装置能够保持高效率地对不断对新下发的待执行命令进行处理。
[0013]一种可选的实施方式中，所述缓冲器包括环形缓冲器；所述环形缓冲器有多个入口；不同入口用于所述主机存储不同命令流的待执行命令；所述微控制器用于：基于当前时间片对应的命令流，从所述缓冲器中确定目标入口；基于确定的所述目标入口，监听所述缓冲器中是否存储有所述待执行命令。
[0014]这样，利用与命令流对应的目标入口，在环形缓冲器上存储不同命令流对应的命令，从而可以使得微控制器同步监听环形缓冲器的多个入口，能够在一个处理周期内将不同命令流中的命令下拉下来，提升命令获取的效率。同时，环形缓冲器可以向通信程序提供对缓冲区的互斥访问，有利于在使用时规避存储队列在频繁的命令分配时增加的系统开销。
[0015]一种可选的实施方式中，所述微控制器用于：确定与当前时间片对应的目标缓存中是否存在待执行命令；在所述当前时间片对应的目标缓存中未存在待执行命令的情况下，从所述主机获取待执行命令。
[0016]这样，在将目标缓存中的待执行命令执行完毕后，可以从主机中获取新的待执行命令，以使命令处理装置保持动态的工作，可以更流畅地不断的对新下发待执行命令进行处理，从而使得命令处理装置在对命令进行处理时的效率更高。
[0017]一种可选的实施方式中，所述微控制器，还用于：在所述当前时间片对应的目标缓存中存在所述待执行命令的情况下，从所述目标缓存中读取所述待执行命令。
[0018]这样，由于目标缓存中存储了未执行完毕的待执行命令，因此微控制器在检测到当前时间片对应的目标缓存中存在待执行命令的情况下，可以从目标缓存中将待执行命令读取出，从而继续完成对此待执行命令的处理，以使得命令处理装置可以根据待处理命令的先后顺序进行有序的处理，并且可以避免同一用户对应的未执行完毕的待执行命令的积压造成目标缓存的过载。
[0019]一种可选的实施方式中，所述运算单元，还用于在当前时间片结束后，向所述微控制器上报最近执行完的处理块对应的第二处理块标识；所述微控制器，还用于在接收到所述运算单元上报的所述第二处理块标识后，基于所述第二处理块标识，对所述命令队列中的待执行命令进行更新。
[0020]一种可选的实施方式中，所述运算单元，用于：将当前正在执行的处理块对应的处
理任务执行完毕后，将所述当前正在执行的处理块作为所述最近执行完的处理块，并向所述微控制器上报所述最近执行完的处理块对应的第二处理块标识。
[0021]这样，由于运算单元在当前时间片中对待执行命令进行处理后，可以较为迅速的确定最近执行完的处理块对应的第二处理块标识，因此由运算单元向微控制器上报第二处理块标识更便捷。同时，微控制器在接收到运算单元上报的第二处理块标识后对命令队列中的待执行命令进行更新，可以使得此更新后的待执行命令在下一个对应的时间片内进行处理时，可以直接根据更新后的待执行命令进行处理。
[0022]一种可选的实施方式中，所述运算单元用于：将所述第二处理块标识发送给所述命令分发器；所述命令分发器还用于向所述微控制器发送所述第二处理块标识。
[0023]这样，利用运算单元和命令分发器之间的通信通道、以及命令分发器以及微控制器之间的通信通道，运算单元可以完成向微控制器发送第二处理块标识，从而可以不建立运算单元以及微控制器之间的通信通道，减少对微控本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种命令处理装置，其特征在于，包括：微控制器、及运算单元；其中，所述微控制器，用于当前时间片到达后获取待执行命令；所述待执行命令中携带有用于指示与所述待执行命令对应的多个处理块中该当前时间片需要处理的处理块对应的第一处理块标识；所述运算单元，用于获取所述待执行命令，并基于所述第一处理块标识，执行所述待执行命令对应的处理任务。2.根据权利要求1所述的命令处理装置，其特征在于，所述处理装置还包括命令分发器；所述微控制器，用于当前时间片到达后获取待执行命令，并将所述待执行命令存储至命令队列中；所述命令分发器，用于从所述命令队列中获取所述待执行命令，并向所述运算单元分发所述待执行命令；所述运算单元，用于获取所述待执行命令，并在接收到所述命令分发器分发的待执行命令后，基于所述第一处理块标识，执行所述待执行命令对应的处理任务。3.根据权利要求1或2所述的命令处理装置，其特征在于，所述运算单元用于：基于所述第一处理块标识，从所述多个处理块中确定在所述当前时间片要执行的起始处理块，并基于所述起始处理块，执行所述待执行命令对应的处理任务。4.根据权利要求1
‑
3任一项所述的命令处理装置，其特征在于，所述微控制器用于：从与当前时间片对应的目标缓存中，读取所述待执行命令；或者，从主机获取所述待执行命令。5.根据权利要求4所述的命令处理装置，其特征在于，所述微控制器用于：确定所述命令队列是否空闲；在所述命令队列空闲的情况下，监听缓冲器；所述缓冲器用于所述主机存储所述待执行命令；在监听到所述缓冲器中存在所述待执行命令的情况下，从所述缓冲器中读取所述待执行命令。6.根据权利要求5所述的命令处理装置，其特征在于，所述缓冲器包括环形缓冲器；所述环形缓冲器有多个入口；不同入口用于所述主机存储不同命令流的待执行命令；所述微控制器用于：基于当前时间片对应的命令流，从所述缓冲器中确定目标入口；基于确定的所述目标入口，监听所述缓冲器中是否存储有所述待执行命令。7.根据权利要求1
‑
6任一项所述的命令处理装置，其特征在于，所述微控制器用于：确定与当前时间片对应的目标缓存中是否存在待执行命令；在所述当前时间片对应的目标缓存中未存在待执行命令的情况下，从所述主机获取待执行命令。8.根据权利要求7所述的命令处理装置，其特征在于，所述微控制器，还用于：在所述当前时间片对应的目标缓存中存在所述待执行命令的情况下，从所述目标缓存中读取所述待执行命令。9.根据权利要求1
‑
8任一项所述的命令处理装置，其特征在于，所述运算单元，还用于
在当前时间片结束后，向所述微控制器上报最近执行完的处理块对应的第二处理块标识；所述微控制器，还用于在接收到所述运算单元上报的所述第二处理块标识后，基于所述第二处理块标识，对所述命令队列中的待执行命令进行更新。10.根据权利要求9所述的命令处理装置，其特征在于，所述运算单元用于：将当前正在执行的处理块对应的处理任务执行完毕后，将所述当前正在执行的处理块作为所述最近执行完的处理块，并向所述微控制器上报所述最近执行完的处理块对应的第二处理块标识。11.根据权利要求9或10所述的命令处理装置，其特征在于，所述运算单元用于：将所述第二处理块标识发送给命令分发器；所述命令分发器还用于向所述微控制器发送所述第二处理块标识。12.根据权利要求9
‑
11任一项所述的命令处理装置，其特征在于，所述微控制器用于：在所述第二处理块标识为所述多个处理块中最后一个处理块的处理块标识的情况下，将所述待执行命令从所述命令队列中删除；在所述第二处理块标识并非所述多个处理块中最后一个命令块对应的处理块标识的情况下，基于所述第二处理块标识，确定目标处理块标识，并将待执行命令中的第一处理块标识替换为所述目标处理块标识，生成新的待执行命令；其中，所述目标处理块标识为所述最近执行完的处理块的下一处理块对应的处理块标识。13.根据权利要求12所述的命令处理装置，其特征在于，所述微控制器，还用于在生成所述新的待执行命令后，将所述新的待执行命令存储至与所述待执行命令对应的目标缓存中。14.一种命令处理装置，其特征在于，包括：微控制器、及运算单元；所述运算单元，用于响应于当前时间片结束，向所述微控制器上报在该当前时间片执行的目标命令的当前处理块的第一处理块标识；其中，所述当前处理块为所述目标命令中至少一个处理块中任一处理块；所述微控制器，用于接收到所述运算单元上报的第一处理块标识后，利用所述第一处理块标识更新所述目标命令。15.一种命令处理方法，其特征在于，应用于命令处理装置，所述命令处理装置包括：微控制器、及运算单元；所述命令处理方法包括：所述微控制器在当前时间片到达后获取待执行命令；所述待执行命令中携带有用于指示与所述待执行命令对应的多个处理块中该当前时间片需要处理的处理块对应的第一处理块标识；所述运算单元获取所述待执行命令，并基于所述第一处理块标识，执行所述待执行命令对应的处理任务。16.根据权利要求15所述的命令处理方法，其特征在于，所述命令处理装置还包括命令分发器；所述微控制器在当前时间片到达后获取待执行命令，包括：所述微控制器在当前时间片到达后获取待执行命令，并将所述待执行命令存储至命令...

【专利技术属性】
技术研发人员：冷祥纶，胡延隆，张国栋，徐宁仪，
申请(专利权)人：上海阵量智能科技有限公司，
类型：发明
国别省市：