一种性能指标调试方法、终端设备以及计算机存储介质技术

本申请提出一种性能指标调试方法、终端设备以及计算机存储介质。该性能指标调试方法应用于第二设备，性能指标调试方法包括：获取第一设备的模型调试文件和推理模型文件，其中，模型调试文件包括第一设备推理原始模型的测试数据和基准输出；从推理模型文件获取目标推理模型，其中，目标推理模型由第一设备基于原始模型编译得到；将测试数据输入目标推理模型，获取目标输出；比较基准输出和目标输出，得到目标推理模型对于原始模型的性能指标，利用性能指标对目标推理模型进行调试。通过上述性能指标调试方法，第二设备完成模型推理和模型调试，无需依赖第一设备，以解决模型部署过程中模型调试步骤繁琐复杂的问题，提高模型调试的效率。的效率。的效率。

【技术实现步骤摘要】
一种性能指标调试方法、终端设备以及计算机存储介质


[0001]本申请涉及神经网络模型推理
，特别是涉及一种性能指标调试方法、终端设备以及计算机存储介质。

技术介绍

[0002]随着人工智能领域的不断发展，涌现出了众多的神经网络推理框架，一般每种框架都有其对应的模型结构。模型的性能和精度是评估模型的两个关键指标。然而，在模型调试领域，如模型精度问题定位，模型性能调试；并没有一套统一的，简单的方案。
[0003]现有技术的方案通过转换得到目标模型，执行目标模型，使用第一推理框架的定位装置完成模型精度定位，由于精度定位需依赖于第一推理框架的定位装置，导致模型部署过程中模型调试复杂，效率低下。

技术实现思路

[0004]为解决上述技术问题，本申请提出了一种性能指标调试方法、终端设备以及计算机存储介质。
[0005]为解决上述技术问题，本申请提出了一种性能指标调试方法，所述性能指标调试方法应用于第二设备，所述性能指标调试方法包括：获取第一设备的模型调试文件和推理模型文件，其中，所述模型调试文件包括所述第一设备推理原始模型的测试数据和基准输出；从所述推理模型文件获取目标推理模型，其中，所述目标推理模型由所述第一设备基于所述原始模型编译得到；将所述测试数据输入所述目标推理模型，获取目标输出；比较所述基准输出和所述目标输出，得到所述目标推理模型对于所述原始模型的性能指标，利用所述性能指标对所述目标推理模型进行调试。
[0006]其中，所述获取第一设备的模型调试文件和推理模型文件，包括：获取所述第一设备的总推理模型文件；对所述总推理模型文件进行模型解析，获取所述模型调试文件和所述推理模型文件。
[0007]其中，所述对所述总推理模型文件进行模型解析，获取所述模型调试文件和所述推理模型文件，包括：对所述总推理模型文件进行模型解析，判断当前执行模式是否为模型调试模式；若是，从所述总推理模型文件解析出所述模型调试文件和所述推理模型文件；若否，从所述总推理模型文件解析出所述推理模型文件。
[0008]其中，所述模型调试文件，和/或所述推理模型文件的文件格式包括头区域、索引区域和至少一个数据区域，其中，所述头区域用于描述文件的基础信息，所述索引区域用于记录各个数据区域的数据情况，所述数据区域用于记录模型数据，每个数据区域具有不同
的数据格式和数据内容。
[0009]其中，所述总推理模型文件由所述模型调试文件和所述推理模型文件组合生成，其中，所述总推理模型文件的头区域由所述模型调试文件的头区域和所述推理模型文件的头区域融合生成，所述总推理模型文件的索引区域由所述模型调试文件的索引区域和所述推理模型文件的索引区域融合生成，所述总推理模型文件的数据区域由所述模型调试文件的数据区域和所述推理模型文件的数据区域叠加生成。
[0010]其中，所述性能指标为精度调试指标，和/或性能调试指标。
[0011]为解决上述技术问题，本申请还提出另一种性能指标调试方法，所述性能指标调试方法应用于一种性能指标调试系统，所述性能指标调试系统包括第一设备和第二设备；所述性能指标调试方法包括：所述第一设备将模型调试文件和推理模型文件发送给所述第二设备，其中，所述模型调试文件包括所述第一设备推理原始模型的测试数据和基准输出；所述第二设备从所述推理模型文件获取目标推理模型，其中，所述目标推理模型由所述第一设备基于所述原始模型编译得到；所述第二设备将所述测试数据输入所述目标推理模型，获取目标输出；所述第二设备比较所述基准输出和所述目标输出，得到所述目标推理模型对于所述原始模型的性能指标，利用所述性能指标对所述目标推理模型进行调试。
[0012]其中，所述第一设备将模型调试文件和推理模型文件发送给所述第二设备，包括：所述第一设备将所述模型调试文件和所述推理模型文件组合为总推理模型文件，并将所述总推理模型文件发送给所述第二设备。
[0013]为解决上述技术问题，本申请还提出一种终端设备，所述终端设备包括存储器以及与所述存储器耦接的处理器；其中，所述存储器用于存储程序数据，所述处理器用于执行所述程序数据以实现如上述的性能指标调试方法。
[0014]为解决上述技术问题，本申请还提出一种计算机存储介质，所述计算机存储介质用于存储程序数据，所述程序数据在被计算机执行时，用以实现上述的性能指标调试方法。
[0015]与现有技术相比，本申请的有益效果是：第二设备获取第一设备的模型调试文件和推理模型文件，其中，所述模型调试文件包括所述第一设备推理原始模型的测试数据和基准输出；从所述推理模型文件获取目标推理模型，其中，所述目标推理模型由所述第一设备基于所述原始模型编译得到；将所述测试数据输入所述目标推理模型，获取目标输出；比较所述基准输出和所述目标输出，得到所述目标推理模型对于所述原始模型的性能指标，利用所述性能指标对所述目标推理模型进行调试。通过上述性能指标调试方法，第二设备完成模型推理和模型调试，无需依赖第一设备，以解决模型部署过程中模型调试步骤繁琐复杂的问题，提高模型调试的效率。
附图说明
[0016]为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。其中：
图1是本申请提供的性能指标调试方法一实施例的流程示意图；图2是本申请提供的性能指标调试方法的整体流程示意图；图3是本申请提供的第一设备的推理模型编译流程示意图；图4是本申请提供的模型文件的格式示意图；图5是本申请提供的模型文件的详细布局结构示意图；图6是本申请提供的文件打包的格式变化示意图；图7是本申请提供的第二设备的模型调试流程示意图；图8是本申请提供的性能指标调试方法另一实施例的流程示意图；图9是本申请提供的终端设备的一实施例的结构示意图；图10是本申请提供的计算机存储介质一实施例的结构示意图。
具体实施方式
[0017]下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请的一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
[0018]本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等（如果存在）是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本申请的实施例，例如能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。...

【技术保护点】

【技术特征摘要】
1.一种性能指标调试方法，其特征在于，所述性能指标调试方法应用于第二设备，所述性能指标调试方法包括：获取第一设备的模型调试文件和推理模型文件，其中，所述模型调试文件包括所述第一设备推理原始模型的测试数据和基准输出；从所述推理模型文件获取目标推理模型，其中，所述目标推理模型由所述第一设备基于所述原始模型编译得到；将所述测试数据输入所述目标推理模型，获取目标输出；比较所述基准输出和所述目标输出，得到所述目标推理模型对于所述原始模型的性能指标，利用所述性能指标对所述目标推理模型进行调试。2.根据权利要求1所述的性能指标调试方法，其特征在于，所述获取第一设备的模型调试文件和推理模型文件，包括：获取所述第一设备的总推理模型文件；对所述总推理模型文件进行模型解析，获取所述模型调试文件和所述推理模型文件。3.根据权利要求2所述的性能指标调试方法，其特征在于，所述对所述总推理模型文件进行模型解析，获取所述模型调试文件和所述推理模型文件，包括：对所述总推理模型文件进行模型解析，判断当前执行模式是否为模型调试模式；若是，从所述总推理模型文件解析出所述模型调试文件和所述推理模型文件；若否，从所述总推理模型文件解析出所述推理模型文件。4.根据权利要求2所述的性能指标调试方法，其特征在于，所述模型调试文件，和/或所述推理模型文件的文件格式包括头区域、索引区域和至少一个数据区域，其中，所述头区域用于描述文件的基础信息，所述索引区域用于记录各个数据区域的数据情况，所述数据区域用于记录模型数据，每个数据区域具有不同的数据格式和数据内容。5.根据权利要求4所述的性能指标调试方法，其特征在于，所述总推理模型文件由所述模型调试文件和所述推理模型文件组合生成，其中，所述总推理模型文件的头区域由所述模型调试文件的头区域和所述推理模型文件...

【专利技术属性】
技术研发人员：殷俊，刘德龙，王康，耿嘉诚，
申请(专利权)人：浙江大华技术股份有限公司，
类型：发明
国别省市：