测量执行制造技术

本申请实施例提供的一种测量执行

【技术实现步骤摘要】
测量执行AI任务耗时和能耗效率的方法、装置


[0001]本申请涉及监测
，尤其涉及一种测量执行
AI
任务耗时和能耗效率的方法
、
装置
。

技术介绍

[0002]随着
AI
技术的发展，以图像识别
、
语音识别为代表的多种
AI
任务和应用纷纷出现在人们生活的各个角落，出现了支持
AI
功能的智能终端，包括手机
、
摄像头
、
音箱等
。
这些智能终端通常都采用内置
AI
加速处理功能的
SoC
芯片，从而实现
AI
任务的本地处理
。
[0003]为此，为了区分智能终端的
AI
任务处理性能的差异，一般需要记录两类指标
。
其中，第一类指标是智能终端对
AI
任务的处理结果的正确率指标，该正确率指标可以通过计算机程序分析
AI
任务处理的输出结果即可获得
。
第二类指标是智能终端处理
AI
任务的速率指标，该速率指标依赖智能终端进行
AI
任务处理所花费的时间计算
。
[0004]一个完整的性能测试程需包括加载数据
、
数据预处理
、AI
模型推断
、
结果输出等步骤，而智能终端
SoC
芯片中集成了多种处理核心，通常包括中央处理器
CPU、
图形处理器
GPU、
数字信号处理器
DSP、
神经网络处理器
NPU
，以及各种内存和
I/O
接口模块
。
其中只有
AI
任务是在
NPU
模块中加速处理，其它的步骤需要使用
CPU
和
I/O
等模块
。
另外，不同类型的终端
SoC
其
CPU
和
I/O
性能可能存在较大的差距，而测试的目的是要求对其
AI
性能这一单项能力进行评估
。
为此，如果简单地计算从
AI
任务启动到结束的时间来作为速率指标是不准确的
。
[0005]为了准确地测量智能终端在进行
AI
任务处理的耗时，传统方法是在测试时智能终端所执行的程序中加入时间打点代码，据此计算出各个处理步骤所花费的时间，包括加载数据时间
、
数据预处理时间
、AI
模型推断时间
、
结果输出时间，最后计算出总花费时间
。
[0006]由此，传统方法存在以下问题：
[0007]首先，需要在终端程序中加入打点代码，这通常需要受测试方的技术人员完成，因此开放性不足
。
[0008]其次，不同智能终端的程序开发环境及其
API
具有较大的差别，因此通用性不足
。
[0009]最后，
AI
任务的处理耗时由被测试设备自行记录并上报，而测试机构缺乏检验此测量数据的技术手段，存在作弊的可能
。

技术实现思路

[0010]本申请的目的在于提出一种测量执行
AI
任务耗时和能耗效率的方法
、
装置，用于解决或者缓解现有技术中存在的技术问题
。
[0011]第一方面，本申请实施例提供了一种测量执行
AI
任务耗时和能耗效率的方法，其包括：
[0012]采集被测终端在执行
AI
任务时所述被测终端的供电回路的电流信号，并将所述电流信号转换为电压信号；
[0013]对所述电压信号进行滤波处理，并捕捉滤波处理后的电压信号的显著上升段和相
邻发生的显著下降段；
[0014]基于所述电压信号的显著上升段和显著下降段，确定所述被测终端执行所述
AI
任务的耗时
。
[0015]可选地，基于串联在所述供电回路上的电流信号采集单元采集被测终端在执行
AI
任务时，所述被测终端的供电回路的电流信号
。
[0016]可选地，基于与所述电流信号采集单元的输出端连接的信号特征捕获单元对所述电压信号进行滤波处理，并通过与设定的参考信号进行比对，以捕捉滤波处理后的电压信号的显著上升段和显著下降段
。
[0017]可选地，所述参考信号通过对所述被测终端历次执行
AI
任务的耗时统计值来确定
。
[0018]可选地，所述基于所述电压信号的显著上升段和显著下降段，确定所述被测终端执行所述
AI
任务的耗时，包括：
[0019]根据所述电压信号中的显著上升段和显著下降段，生成脉冲信号；
[0020]基于所述脉冲信号，确定所述被测终端执行所述
AI
任务的耗时
。
[0021]可选地，所述根据所述电压信号中的显著上升段和显著下降段，生成脉冲信号，包括：
[0022]根据所述电压信号的显著上升段，生成所述脉冲信号中的上升沿；
[0023]所述显著上升段到所述显著下降段之间的过渡，生成所述脉冲信号中的信号保持段；
[0024]根据所述电压信号的显著下降段，生成所述脉冲信号中的下降沿
。
[0025]可选地，所述的方法，还包括：
[0026]对显著上升段和显著下降段对应的电压信号进行模数转换，得到执行
AI
任务时所述电流信号的变化；
[0027]根据执行
AI
任务时所述电流信号的变化，计算所述被测终端执行
AI
任务时的能耗效率
。
[0028]第二方面，本申请实施例提供一种测量执行
AI
任务耗时和能耗效率的装置，其包括：
[0029]电流信号采集单元，用于采集被测终端在执行
AI
任务时所述被测终端的供电回路的电流信号，并将所述电流信号转换为电压信号；
[0030]信号特征捕获单元，用于对所述电压信号进行滤波处理，并捕捉滤波处理后的电压信号的显著上升段和相邻发生的显著下降段；
[0031]耗时和能耗计算单元，用于基于所述电压信号的显著上升段和显著下降段，确定所述被测终端执行所述
AI
任务的耗时
。
[0032]可选地，所述的装置还包括：模数转换单元，用于对显著上升段和显著下降段对应的电压信号进行模数转换，得到执行
AI
任务时所述电流信号的变化
。
[0033]可选地，所述耗时和能耗计算单元还用于根据执行
A本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.
一种测量执行
AI
任务耗时和能耗效率的方法，其特征在于，包括：采集被测终端在执行
AI
任务时所述被测终端的供电回路的电流信号，并将所述电流信号转换为电压信号；对所述电压信号进行滤波处理，并捕捉滤波处理后的电压信号的显著上升段和相邻发生的显著下降段；基于所述电压信号的显著上升段和显著下降段，确定所述被测终端执行所述
AI
任务的耗时
。2.
根据权利要求1所述的方法，其特征在于，基于串联在所述供电回路上的电流信号采集单元采集被测终端在执行
AI
任务时，所述被测终端的供电回路的电流信号
。3.
根据权利要求2所述的方法，其特征在于，基于与所述电流信号采集单元的输出端连接的信号特征捕获单元对所述电压信号进行滤波处理，并通过与设定的参考信号进行比对，以捕捉滤波处理后的电压信号的显著上升段和显著下降段
。4.
根据权利要求3所述的方法，其特征在于，所述参考信号通过对所述被测终端历次执行
AI
任务的耗时统计值来确定
。5.
根据权利要求1所述的方法，其特征在于，所述基于所述电压信号的显著上升段和显著下降段，确定所述被测终端执行所述
AI
任务的耗时，包括：根据所述电压信号中的显著上升段和显著下降段，生成脉冲信号；基于所述脉冲信号，确定所述被测终端执行所述
AI
任务的耗时
。6.
根据权利要求5所述的方法，其特征在于，所述根据所述电压信号中的显著上升段和显著下降段，生成脉冲信号，包括：根据所述电压信号的显著上...

【专利技术属性】
技术研发人员：肖晓军，卢宇，肖鹏，
申请(专利权)人：广州优亿信息科技有限公司，
类型：发明
国别省市：