深度学习模型的性能分析方法、装置、设备和存储介质制造方法及图纸

本公开涉及一种深度学习模型的性能分析方法、装置、设备和存储介质。所述方法包括：在深度学习模型的脚本中导入性能分析工具；确定性能分析的目标层级；运行所述深度学习模型的脚本，并通过所述性能分析工具输出所述目标层级的性能分析结果。级的性能分析结果。级的性能分析结果。

【技术实现步骤摘要】
深度学习模型的性能分析方法、装置、设备和存储介质


[0001]本公开涉及计算机
，尤其涉及一种深度学习模型的性能分析方法、深度学习模型的性能分析装置、电子设备和存储介质。

技术介绍

[0002]通过对深度学习模型进行性能分析，能够有助于找到深度学习模型的运行瓶颈，优化深度学习模型的性能。因此，对深度学习模型进行性能分析具有重要意义。

技术实现思路

[0003]本公开提供了一种深度学习模型的性能分析技术方案。
[0004]根据本公开的一方面，提供了一种深度学习模型的性能分析方法，包括：
[0005]在深度学习模型的脚本中导入性能分析工具；
[0006]确定性能分析的目标层级；
[0007]运行所述深度学习模型的脚本，并通过所述性能分析工具输出所述目标层级的性能分析结果。
[0008]在一种可能的实现方式中，所述确定性能分析的目标层级，包括：
[0009]响应于层级设置指令，设置所述性能分析工具的层级参数；
[0010]根据所述性能分析工具的层级参数，确定性能分析的目标层级。
[0011]在一种可能的实现方式中，
[0012]在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：将所述性能分析工具的启动参数设置为启动；其中，在所述性能分析工具的启动参数为启动的情况下，所述性能分析工具处于启动状态；
[0013]所述通过所述性能分析工具输出所述目标层级的性能分析结果，包括：响应于所述性能分析工具的启动参数为启动，通过所述性能分析工具输出所述目标层级的性能分析结果。
[0014]在一种可能的实现方式中，所述将所述性能分析工具的启动参数设置为启动，包括：
[0015]响应于启动指令，将所述性能分析工具的启动参数设置为启动。
[0016]在一种可能的实现方式中，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：
[0017]响应于关闭指令，将所述性能分析工具的启动参数设置为关闭；
[0018]其中，在所述性能分析工具的启动参数为关闭的情况下，所述性能分析工具处于关闭状态。
[0019]在一种可能的实现方式中，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：
[0020]响应于后端设置指令，将所述性能分析工具的后端参数设置为所述后端设置指令
指定的后端。
[0021]在一种可能的实现方式中，所述目标层级包括以下至少之一：模型层、模块层、算子层。
[0022]在一种可能的实现方式中，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：
[0023]响应于自定义分析指标设置指令，在所述性能分析工具中增加所述自定义分析指标设置指令指定的自定义分析指标。
[0024]在一种可能的实现方式中，所述响应于自定义分析指标设置指令，在所述性能分析工具中增加所述自定义分析指标设置指令指定的自定义分析指标，包括：
[0025]响应于自定义分析指标设置指令，获取自定义分析指标对应的计算函数、输入参数的名称和输出参数的名称；
[0026]将所述自定义分析指标对应的计算函数、输入参数的名称和输出参数的名称传入所述性能分析工具。
[0027]在一种可能的实现方式中，在所述通过所述性能分析工具输出所述目标层级的性能分析结果，所述方法还包括：
[0028]通过所述性能分析工具对所述目标层级的性能分析结果进行统计，得到所述目标层级对应的统计数据。
[0029]根据本公开的一方面，提供了一种深度学习模型的性能分析装置，包括：
[0030]导入模块，用于在深度学习模型的脚本中导入性能分析工具；
[0031]确定模块，用于确定性能分析的目标层级；
[0032]运行模块，用于运行所述深度学习模型的脚本，并通过所述性能分析工具输出所述目标层级的性能分析结果。
[0033]在一种可能的实现方式中，所述确定模块用于：
[0034]响应于层级设置指令，设置所述性能分析工具的层级参数；
[0035]根据所述性能分析工具的层级参数，确定性能分析的目标层级。
[0036]在一种可能的实现方式中，
[0037]所述装置还包括：启动模块，用于将所述性能分析工具的启动参数设置为启动；其中，在所述性能分析工具的启动参数为启动的情况下，所述性能分析工具处于启动状态；
[0038]所述运行模块用于：响应于所述性能分析工具的启动参数为启动，通过所述性能分析工具输出所述目标层级的性能分析结果。
[0039]在一种可能的实现方式中，所述启动模块用于：
[0040]响应于启动指令，将所述性能分析工具的启动参数设置为启动。
[0041]在一种可能的实现方式中，所述装置还包括：
[0042]关闭模块，用于响应于关闭指令，将所述性能分析工具的启动参数设置为关闭；
[0043]其中，在所述性能分析工具的启动参数为关闭的情况下，所述性能分析工具处于关闭状态。
[0044]在一种可能的实现方式中，所述装置还包括：
[0045]后端设置模块，用于响应于后端设置指令，将所述性能分析工具的后端参数设置为所述后端设置指令指定的后端。
[0046]在一种可能的实现方式中，所述目标层级包括以下至少之一：模型层、模块层、算子层。
[0047]在一种可能的实现方式中，所述装置还包括：
[0048]设置模块，用于响应于自定义分析指标设置指令，在所述性能分析工具中增加所述自定义分析指标设置指令指定的自定义分析指标。
[0049]在一种可能的实现方式中，所述设置模块用于：
[0050]响应于自定义分析指标设置指令，获取自定义分析指标对应的计算函数、输入参数的名称和输出参数的名称；
[0051]将所述自定义分析指标对应的计算函数、输入参数的名称和输出参数的名称传入所述性能分析工具。
[0052]在一种可能的实现方式中，所述装置还包括：
[0053]统计模块，用于通过所述性能分析工具对所述目标层级的性能分析结果进行统计，得到所述目标层级对应的统计数据。
[0054]根据本公开的一方面，提供了一种电子设备，包括：一个或多个处理器；用于存储可执行指令的存储器；其中，所述一个或多个处理器被配置为调用所述存储器存储的可执行指令，以执行上述方法。
[0055]根据本公开的一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。
[0056]根据本公开的一方面，提供了一种计算机程序产品，包括计算机可读代码，或者承载有计算机可读代码的非易失性计算机可读存储介质，当所述计算机可读代码在电子设备中运行时，所述电子设备中的处理器执行上述方法。
[0057]在本公开实施例中，通过在深度学习模型的脚本中导入性能分析工具，确定性能分析本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种深度学习模型的性能分析方法，其特征在于，包括：在深度学习模型的脚本中导入性能分析工具；确定性能分析的目标层级；运行所述深度学习模型的脚本，并通过所述性能分析工具输出所述目标层级的性能分析结果。2.根据权利要求1所述的方法，其特征在于，所述确定性能分析的目标层级，包括：响应于层级设置指令，设置所述性能分析工具的层级参数；根据所述性能分析工具的层级参数，确定性能分析的目标层级。3.根据权利要求1或2所述的方法，其特征在于，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：将所述性能分析工具的启动参数设置为启动；其中，在所述性能分析工具的启动参数为启动的情况下，所述性能分析工具处于启动状态；所述通过所述性能分析工具输出所述目标层级的性能分析结果，包括：响应于所述性能分析工具的启动参数为启动，通过所述性能分析工具输出所述目标层级的性能分析结果。4.根据权利要求3所述的方法，其特征在于，所述将所述性能分析工具的启动参数设置为启动，包括：响应于启动指令，将所述性能分析工具的启动参数设置为启动。5.根据权利要求3所述的方法，其特征在于，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：响应于关闭指令，将所述性能分析工具的启动参数设置为关闭；其中，在所述性能分析工具的启动参数为关闭的情况下，所述性能分析工具处于关闭状态。6.根据权利要求1或2所述的方法，其特征在于，在所述在深度学习模型的脚本中导入性能分析工具之后，所述方法还包括：响应于后端设置指令，将所述性能分析工具的后端参数设置为所述后端设置指令指定的后端。7.根据权利要求1或2所述的方法，其特征在于，所述目标层级...

【专利技术属性】
技术研发人员：请求不公布姓名，
申请(专利权)人：摩尔线程智能科技北京有限责任公司，
类型：发明
国别省市：