一种推理模型的优化方法、装置、电子设备及存储介质制造方法及图纸

本发明专利技术公开了一种推理模型的优化方法、装置、电子设备及存储介质。所述方法包括：从模型对应的计算输入图中获取当前算子和下一层算子；确定所述当前算子需要拆分时，将所述当前算子拆分为多个子算子以及融合算子；基于所述多个子算子以及联合融合算子生成第一计算输出图，所述联合融合算子基于所述融合算子与所述下一层算子生成；从所述计算输入图中重新获取当前算子，按照上述过程在所述第一计算输出图的基础上确定出第二计算输出图，直到所述计算输入图中的所有算子遍历完成，得到目标计算输出图，以实现推理模型的优化。该方法通过将算子拆分为更小规模的子算子，能够减少单个子算子执行时所需要的缓存资源，从而可以降低整个模型在硬件中计算时需要的资源。个模型在硬件中计算时需要的资源。个模型在硬件中计算时需要的资源。

【技术实现步骤摘要】
一种推理模型的优化方法、装置、电子设备及存储介质


[0001]本专利技术涉及计算机
，尤其涉及一种推理模型的优化方法、装置、电子设备及存储介质。

技术介绍

[0002]5G和人工智能(Artificial Intelligence，AI)技术促进各行各业的发展，使得各行业更加智能化高效化。这些转变的背后涉及AI模型推理，AI模型在部署前通常进行优化工作，以降低模型推理占用的硬件资源。
[0003]现有技术提出在算子硬件资源利用率短缺时，输入更多的权重到算子中使输出数据量翻倍，以提升硬件资源利用率。但是，该方案中算子的硬件资源需要按照资源消耗最大的计算层进行配置，这样配置会存在硬件资源无法满足某一层算子所需的缓存资源的情况，从而导致模型推理无法实现。

技术实现思路

[0004]本专利技术提供了一种推理模型的优化方法、装置、电子设备及存储介质，以解决现有技术存在硬件资源无法满足某一层算子所需的缓存资源，从而导致模型推理无法实现的问题。
[0005]根据本专利技术的一方面，提供了一种推理模型的优化方法，包括：
[0006]从模型对应的计算输入图中获取当前算子和下一层算子；
[0007]确定所述当前算子需要拆分时，将所述当前算子拆分为多个子算子以及融合算子；
[0008]基于所述多个子算子以及联合融合算子生成第一计算输出图，所述联合融合算子基于所述融合算子与所述下一层算子生成；
[0009]从所述计算输入图中重新获取当前算子，按照上述过程在所述第一计算输出图的基础上确定出第二计算输出图，直到所述计算输入图中的所有算子遍历完成，得到目标计算输出图，实现推理模型的优化。
[0010]根据本专利技术的另一方面，提供了一种推理模型的优化装置，包括：
[0011]获取模块，用于从模型对应的计算输入图中获取当前算子和下一层算子；
[0012]第一确定模块，用于确定所述当前算子需要拆分时，将所述当前算子拆分为多个子算子以及融合算子；
[0013]生成模块，用于基于所述多个子算子以及联合融合算子生成第一计算输出图，所述联合融合算子基于所述融合算子与所述下一层算子生成；
[0014]第二确定模块，用于从所述计算输入图中重新获取当前算子，按照上述过程在所述第一计算输出图的基础上确定出第二计算输出图，直到所述计算输入图中的所有算子遍历完成，得到目标计算输出图，以实现推理模型的优化。
[0015]根据本专利技术的另一方面，提供了一种电子设备，所述电子设备包括：
[0016]至少一个处理器；以及
[0017]与所述至少一个处理器通信连接的存储器；其中，
[0018]所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本专利技术任一实施例所述的推理模型的优化方法。
[0019]根据本专利技术的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本专利技术任一实施例所述的推理模型的优化方法。
[0020]本专利技术实施例的技术方案，从模型对应的计算输入图中获取当前算子和下一层算子；确定所述当前算子需要拆分时，将所述当前算子拆分为多个子算子以及融合算子；基于所述多个子算子以及联合融合算子生成第一计算输出图，所述联合融合算子基于所述融合算子与所述下一层算子生成；从所述计算输入图中重新获取当前算子，按照上述过程在所述第一计算输出图的基础上确定出第二计算输出图，直到所述计算输入图中的所有算子遍历完成，得到目标计算输出图，以实现推理模型的优化，解决了现有技术存在硬件资源无法满足某一层算子所需的缓存资源，从而导致模型推理无法实现的问题，取到了降低整个模型在硬件中推理时需要的缓存资源的有益效果。
[0021]应当理解，本部分所描述的内容并非旨在标识本专利技术的实施例的关键或重要特征，也不用于限制本专利技术的范围。本专利技术的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0022]为了更清楚地说明本专利技术实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
[0023]图1为本专利技术实施例一提供的一种推理模型的优化方法的流程示意图；
[0024]图2为本专利技术实施例一提供的一种算子输入图的示意图；
[0025]图3为本专利技术实施例一提供的第一计算输出图的示意图；
[0026]图4为本专利技术一实施例提供的输出通道权重数据存放示例图；
[0027]图5为本专利技术实施例二提供的一种推理模型的优化方法的流程示意图；
[0028]图6为本专利技术实施例二提供的第三计算输出图的示意图；
[0029]图7为本专利技术示例实施例提供的一种推理模型的优化方法的流程示意图；
[0030]图8为本专利技术示例实施例提供的实现模型推理的硬件框图；
[0031]图9为本专利技术示例实施例提供的权重和特征图数据区选择标识的示意图；
[0032]图10为本专利技术示例实施例提供的一种特征图旋转标识示意图；
[0033]图11为本专利技术实施例三提供的一种推理模型的优化装置的结构示意图；
[0034]图12为本专利技术实施例的推理模型的优化方法的电子设备的结构示意图。
具体实施方式
[0035]为了使本
的人员更好地理解本专利技术方案，下面将结合本专利技术实施例中的
附图，对本专利技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本专利技术一部分的实施例，而不是全部的实施例。基于本专利技术中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本专利技术保护的范围。应当理解，本专利技术的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本专利技术的范围在此方面不受限制。
[0036]本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
[0037]需要说明的是，本专利技术的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本专利技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种推理模型的优化方法，其特征在于，所述方法包括：从模型对应的计算输入图中获取当前算子和下一层算子；确定所述当前算子需要拆分时，将所述当前算子拆分为多个子算子以及融合算子；基于所述多个子算子以及联合融合算子生成第一计算输出图，所述联合融合算子基于所述融合算子与所述下一层算子生成；从所述计算输入图中重新获取当前算子，按照上述过程在所述第一计算输出图的基础上确定出第二计算输出图，直到所述计算输入图中的所有算子遍历完成，得到目标计算输出图，以实现推理模型的优化。2.根据权利要求1所述的方法，其特征在于，根据当前算子输入通道所需要的计算资源是否大于模型推理硬件所提供的资源，以及当前算子占用的存储资源是否大于模型推理硬件所提供的资源，确定当前算子是否需要拆分。3.根据权利要求1所述的方法，其特征在于，还包括：确定当前算子不需要拆分时，生成当前算子对应的控制数据，并将当前算子和所述当前算子对应的控制数据插入到计算输出图中得到当前算子对应的计算输出图。4.根据权利要求1所述的方法，其特征在于，所述基于所述多个子算子、以及联合融合算子生成第一计算输出图，包括：生成多个子算子对应的控制数据，并将所述多个子算子以及所述多个子算子对应的控制数据插入计算输出图中生成第三计算输出图；生成联合融合算子对应的控制数据，并将联合融合算子以及所述联合融合算子对应的控制数据插入所述第三计算输出图中得到所述第一计算输出图。5.根据权利要求4所述的方法，其特征在于，还包括：所述融合算子与所述下一层算子不能融合时，生成融合算子对应的控制数据，并将所述融合算子和所述融合算子对应的控制数据插入所述第三计算输出图中得到当前算子对应的计算输出图。6.根据权利要求1所述的方法，其特征在于，当前算子拆分为多个算子时，按照当前算子的输入通道的顺序进行拆分，将当前算子的输入通道拆分后作为子算子的输入通道。7.根据权利要...

【专利技术属性】
技术研发人员：陈国海，马海波，黄永明，尤肖虎，
申请(专利权)人：网络通信与安全紫金山实验室，
类型：发明
国别省市：