指令处理装置、指令处理方法和板卡制造方法及图纸

本披露公开了一种指令处理装置、指令处理方法和板卡。该指令处理装置可以包括在组合处理装置中，该组合处理装置还可以包括通用互联接口和其他处理装置。该指令处理装置与其他处理装置进行交互，共同完成用户指定的计算操作。组合处理装置还可以包括存储装置，该存储装置分别与指令处理装置和其他处理装置连接，用于存储该指令处理装置和其他处理装置的数据。本披露的指令处理方案通过将处理时间较长的指令与处理时间较短的指令分开处理，可以提高处理效率。高处理效率。高处理效率。

【技术实现步骤摘要】
指令处理装置、指令处理方法和板卡


[0001]本披露涉及处理器领域，特别是涉及一种指令处理装置、指令处理方法和板卡。

技术介绍

[0002]传统的处理器设计中，一般会使用指令乱序处理的设计方法，即相互之间不存在依赖关系的指令是可以进行乱序处理的。为了实现乱序处理，传统的处理器一般都会使用一个重排序缓冲器(ROB，ReOrder Buffer)，用来记录所有指令的真实顺序，然后在指令执行完毕后将指令顺序释放。
[0003]对于高效的人工智能(AI)处理器而言，由于指令集中的指令更多地满足人工智能算法的需求，因此一条指令可能计算的数据量、实现的功能和/或所需要的计算时间远远大于传统处理器的指令。如果仍然使用传统的ROB来实现指令乱序处理，则可能会产生问题。由于ROB的处理原则是，当存储在ROB中的指令执行完毕时，对指令进行顺序释放。所以，当前一条指令未执行完毕时，是无法释放后一条指令的。当前一条指令所需要的处理时间特别长的时候，该指令就迟迟无法释放，导致之后的指令也无法释放，从而堵塞ROB，进一步地堵塞指令取指和解码。

技术实现思路

[0004]为了至少解决如上所提到的技术问题，本披露在多个方面中提出了利用加锁电路来对处理时间较长的指令进行加锁处理的方案。通过本披露的指令处理方案，可以将处理时间较长的指令与处理时间较短的指令分开处理，从而处理时间较长的指令不会堵塞ROB，也不会堵塞之后解码的新指令，由此处理效率得以提高。
[0005]在第一方面中，本披露提供一种指令处理装置，包括：指令发送电路，重排序缓冲电路和加锁电路，其中指令发送电路配置成：基于待处理的指令的类型，将该指令发送至重排序缓冲电路和/或加锁电路；并且加锁电路配置成：从指令发送电路接收指令；以及对与接收的指令关联的通用寄存器进行加锁处理。
[0006]在第二方面中，本披露提供一种指令处理方法。该方法包括：基于待处理的指令的类型，将指令发送至重排序缓冲电路和/或加锁电路；以及在加锁电路处：接收指令；以及对与接收的指令关联的通用寄存器进行加锁处理。
[0007]在第三方面中，本披露提供一种处理器，包括前述第一方面的指令处理装置。
[0008]在第四方面中，本披露提供一种板卡，包括前述第三方面的处理器或前述第一方面的指令处理装置。
[0009]在第五方面中，本披露提供一种计算装置，包括前述第四方面的板卡。
[0010]通过如上所提供的指令处理装置、指令处理方法、处理器、板卡和计算装置，本披露的方案利用加锁电路来对处理时间较长的指令进行加锁处理，从而在包括例如神经网络运算等的人工智能应用场景或其他通用场景中，可以将处理时间较长的指令与处理时间较短的指令分开处理，使得处理时间较长的指令不会堵塞ROB，也不会堵塞之后解码的新指
令，由此处理效率得以提高。进一步地，在本披露的一些实施例中，对于某些指令，例如只读通用寄存器(GPR，General Purpose Register)指令，可以完全不进入ROB，由此进一步节省ROB的空间。
附图说明
[0011]通过参考附图阅读下文的详细描述，本披露示例性实施方式的上述以及其他目的、特征和优点将变得易于理解。在附图中，以示例性而非限制性的方式示出了本披露的若干实施方式，并且相同或对应的标号表示相同或对应的部分其中：
[0012]图1是示出包括ROB的传统指令处理系统的简化框图；
[0013]图2是示出根据本披露实施例的指令处理装置的简化框图；
[0014]图3是示出根据本披露实施例的指令处理方法的流程图；
[0015]图4示出了根据本披露一个实施例的指令发送方法的示例流程；
[0016]图5示出了根据本披露另一实施例的指令发送方法的示例流程；
[0017]图6是示出根据本披露实施例的一种组合处理装置的结构图；以及
[0018]图7是示出根据本披露实施例的一种板卡的结构示意图。
具体实施方式
[0019]下面将结合本披露实施例中的附图，对本披露实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本披露一部分实施例，而不是全部的实施例。基于本披露中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本披露保护的范围。
[0020]应当理解，本披露的权利要求、说明书及附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。本披露的说明书和权利要求书中使用的术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
[0021]还应当理解，在此本披露说明书中所使用的术语仅仅是出于描述特定实施例的目的，而并不意在限定本披露。如在本披露说明书和权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。还应当进一步理解，在本披露说明书和权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
[0022]如在本说明书和权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0023]如
技术介绍
部分所提到的，对于高效的人工智能(AI)处理器而言，如果仍然使用传统的ROB来实现指令乱序处理，则可能会产生问题。因为传统的ROB的处理原则是，当存储在ROB中的指令执行完毕时，对指令进行顺序释放。所以，当前一条指令未执行完毕时，是无法释放后一条指令的。
[0024]为了更好地理解本披露所涉及的技术，图1示出了包括ROB的传统指令处理系统的
简化结构框图。如图1所示，指令处理系统100包括指令队列110、重排序缓冲器(ROB)120、寄存器130、保留站140、运算部件150、访存部件160和结果总线170。
[0025]指令队列110接收来自指令单元(未示出)的译码后的指令。在指令发射阶段，如果保留站140有空而且ROB 120中有空插槽，则指令队列110将发射一条指令到保留站140，并在ROB 120中指定一项作为临时保存该指令结果之用。基于不同的操作类型，可以有对应的保留站，例如加法保留站和乘法保留站。指令队列110可以将指令发送到对应的保留站。此处为了简便起见，在图1中未详细示出。
[0026]在指令发射过程中，读取寄存器130的值和结果状态域。结果状态域指示该寄存器是否可用。例如，空表示寄存器的值可用，否则表示产生寄存器结果的ROB号。如果结果状态域指示寄存器可用，则读出寄存器的值。如果结果状态域中记录的是写本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种指令处理装置，包括：指令发送电路，重排序缓冲电路和加锁电路，其中：所述指令发送电路配置成：基于待处理的指令的类型，将所述指令发送至所述重排序缓冲电路和/或所述加锁电路；并且所述加锁电路配置成：从所述指令发送电路接收指令；以及对与接收的指令关联的通用寄存器进行加锁处理。2.根据权利要求1所述的指令处理装置，其中所述指令发送电路进一步配置成：确定所述待处理的指令的类型；响应于确定所述待处理的指令为第一类型，将第一类型的所述指令发送到所述重排序缓冲电路；以及响应于确定所述待处理的指令为第二类型，将第二类型的所述指令发送到所述加锁电路。3.根据权利要求2所述的指令处理装置，其中所述指令发送电路进一步配置成：确定所述第二类型的指令是否涉及对通用寄存器的写操作；以及响应于确定所述第二类型的指令涉及对通用寄存器的写操作，还将所述第二类型的指令发送到所述重排序缓冲电路，并向所述重排序缓冲电路指示所述第二类型的指令的执行状态为执行完毕。4.根据权利要求3所述的指令处理装置，其中所述指令发送电路进一步配置成：响应于确定所述第二类型的指令不涉及对通用寄存器的写操作，不将所述第二类型的指令发送到所述重排序缓冲电路。5.根据权利要求2所述的指令处理装置，其中所述指令发送电路进一步配置成：响应于确定所述待处理的指令为第二类型，还将所述第二类型的指令发送到所述重排序缓冲电路；以及向所述重排序缓冲电路指示所述第二类型的指令的执行状态为执行完毕。6.根据权利要求2-5任一所述的指令处理装置，其中所述第一类型的指令为执行时间不超过预定阈值的指令，所述第二类型的指令为执行时间超过预定阈值的指令。7.根据权利要求1-6任一所述的指令处理装置，其中所述加锁电路进一步配置成：响应于接收到指示所述指令执行完毕的信号，对与所述指令关联的通用寄存器进行解锁处理。8.根据权利要求1-7任一所述的指令处理装置，其中所述重排序缓冲电路配置成：从所述指令发送电路按顺序接收指令；以及基于所述指令的执行状态，按所述顺序释放所述指令。9.一种指令处理方法，包括：基于待处理的指令的类型，将所述指令发送至重排序缓冲电路和/或加锁电路；以及在所述...

【专利技术属性】
技术研发人员：ꢀ七四专利代理机构，
申请(专利权)人：上海寒武纪信息科技有限公司，
类型：发明
国别省市：