模型优化方法、数据处理方法、装置、存储介质及芯片制造方法及图纸

技术编号:38614199 阅读:15 留言:0更新日期:2023-08-26 23:41
本申请提出了一种模型优化方法、数据处理方法、装置、存储介质及芯片,涉及模型处理技术领域,其中,模型优化方法,包括:在确定第一处理模型的情况下,获取第一处理模型的模型参数;基于模型参数,将第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型;其中,第二处理模型的输入数据尺寸小于第一处理模型的输入数据尺寸;根据模型参数,配置第二处理模型对应的数据选取信息。通过本申请提供的技术方案可以提高模型在边端设备中的数据处理效率。的数据处理效率。的数据处理效率。

【技术实现步骤摘要】
模型优化方法、数据处理方法、装置、存储介质及芯片


[0001]本申请涉及模型处理
,具体而言,涉及一种模型优化方法、数据处理方法、装置、存储介质及芯片。

技术介绍

[0002]数据处理模型通常采用TCN(Temporal Convolutional Network,时序卷积网络)体系结构,TCN结构中通常使用扩张卷积算子,即在标准卷积算子中注入空洞,从而提高模型的感受野。
[0003]相关技术中,由于部分设备的算力较差,导致扩张卷积算子的执行效率低、推理速度慢。

技术实现思路

[0004]本申请旨在解决现有技术或相关技术中存在的技术问题之一。
[0005]为此,本申请的第一方面提出了一种模型优化方法。
[0006]本申请的第二方面提出了一种数据处理方法。
[0007]本申请的第三方面提出了一种模型优化装置。
[0008]本申请的第四方面提出了一种数据处理装置。
[0009]本申请的第五方面提出了一种可读存储介质。
[0010]本申请的第六方面提出了一种计算机程序产品。
[0011]本申请的第七方面提出了一种芯片。
[0012]有鉴于此,根据本申请的第一方面提出一种模型优化方法,包括:在确定第一处理模型的情况下,获取第一处理模型的模型参数;基于模型参数,将第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型;其中,第二处理模型的输入数据尺寸小于第一处理模型的输入数据尺寸;根据模型参数,配置第二处理模型对应的数据选取信息。
[0013]在该技术方案中,通过将第一处理模型中第一卷积算子替换为第二卷积算子,并且第二处理模型配置相应的数据选取信息,能够得到输入数据尺寸较小的第二处理模型。在将第二处理模型部署到算力较低的边端设备时,能够提高第二处理模型在边端设备中的数据处理速度。
[0014]在该技术方案中,第一卷积算子为第一处理模型中的卷积算子,该卷积算子可以为空洞卷积算子,第二卷积算子为非空洞卷积算子,通过将第一卷积算子替换为第二卷积算子,并调整第一处理模型的输入数据尺寸得到第二处理模型,完成对第一处理模型的优化。
[0015]在该技术方案中,第一处理模型为优化前的神经网络模型,第一处理模型的输入数据尺寸较大,且第一处理模型具有将接收到的数据集进行选取的功能。第二处理模型为对第一处理模型进行优化得到的神经网络模型,第二处理模型中输入数据尺寸小于第一处理模型的输入数据尺寸,且第二处理模型不具备对数据集进行选取的功能。基于第一处理
模型确定对特征数据集进行选取的数据选取信息,在将特征数据输入至第二处理模型之前,基于数据选取信息对特征数据集进行数据选取。再将提前选取得到的特征子集输入至第二处理模型进行处理,由于第二处理模型的输入数据尺寸小于第一处理模型的输入数据尺寸,在算力较小的家居设备中,第二处理模型的推理速度快于第一处理模型的推理速度。
[0016]在该技术方案中,第一处理模型的输入数据尺寸大于第二处理模型的输入数据尺寸,且第一处理模型中卷积算子的输入数据尺寸与第二处理模型中卷积算子的输入数据尺寸相同,在提高模型推理速度的同时,保证了第一处理模型与第二处理模型的计算结果等效。
[0017]在该技术方案中,通过将第一处理模型优化为第二处理模型,降低了输入至处理模型的输入数据尺寸,并将选取特征数据集中的特征子集的步骤在模型推理步骤之前执行,能够提高第二处理模型的推理效率。
[0018]在一些技术方案中,可选地,模型参数包括第一卷积算子的扩张因子和卷积核尺寸;基于模型参数,将第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型之前,包括:根据扩张因子和卷积核尺寸,生成第二卷积算子。
[0019]在该技术方案中,根据第一卷积算子的扩张因子和卷积核尺寸,构建第二卷积算子,保证第二卷积算子的参数与第一卷积算子的扩张因子和卷积核尺寸相匹配,保证了通过第二卷积算子替换第一卷积算子得到的第二处理模型的处理结果与第一处理模型的处理结果相匹配,提高了第二处理模型的处理速度的同时,还保证了第二处理模型与第一处理模型处理结果的匹配性。
[0020]在该技术方案中,第一卷积算子和第二卷积算子对数据的处理结果相匹配,通过获取第一卷积算子的扩张因子和卷积核尺寸,并根据第一卷积算子的扩张因子和卷积核尺寸对第二卷积算子进行构建,从而保证第一卷积算子与构建得到的第二卷积算子对相同数据的处理结果相同。
[0021]在该技术方案中,通过将第一处理模型中的第一卷积算子替换为第二卷积算子,生成第二处理模型,从而减小了处理模型的输入数据尺寸,提高模型的整体推理效率。
[0022]在该技术方案中,通过获取第一处理模型中的第一卷积算子的卷积核尺寸和扩张因子,并据此构建与第一卷积算子运算结果和运算量相同的第二卷积算子,以及生成能够在模型外进行数据选取的数据选取信息。通过将第一处理模型中的第一卷积算子替换为第二卷积算子,能够得到第二处理模型,保证运算结果和运算量不变的情况下,加速算子推理速度,提高第二处理模型的处理效率。
[0023]在一些技术方案中,可选地,基于模型参数,将第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型之后,还包括:确定第二处理模型中的叠加算子,叠加算子的第一输出通道通过串联算子与第二卷积算子的输入通道相连接,其中,串联算子的第一输入通道与叠加算子的第一输出通道相连接,串联算子的输出通道与第二卷积算子相连接;将第二卷积算子的输出通道通过全连接算子连接至叠加算子的输入通道;将叠加算子的第二输出通道确定为第二处理模型的输出通道;以及将串联算子的第二输入通道确定为第二处理模型的输入通道。
[0024]在该技术方案中,在通过第二卷积算子对第一处理模型中的第一卷积算子进行替
换得到优化后的第二处理模型之后,对第二处理模型中的各个算子之间的连接关系进行进一步优化。
[0025]在该技术方案中,通过算子识别的方式,查找到第二处理模型中的叠加算子,将叠加算子的第一输出通道与串联算子的第一输入通道相连接,将串联算子的第二输入通道作为第二处理模型的输入通道,即第一特征数据集通过串联算子的第二输入通道输入至第二处理模型中。将串联算子的输出通道与第二卷积算子的输入通道相连接,第二卷积算子的输出通道连接至全连接算子的输入通道,全连接算子的输出通道与叠加算子的输入通道相连接,叠加算子的输出通道作为第二处理模型的输出通道,即第二处理模型将输出的第二特征子集通过叠加算子的输出通道进行输出。
[0026]在该技术方案中,在将第一处理模型中的第一卷积算子替换为第二卷积算子,从而生成第二处理模型之后,对第二处理模型中各个算子之间的连接关系进行设置,保证第二处理模型的推理效率优于原第一处理模型的推理效率的同时,还能够提高第一处理模型与第二处理模型输出结果的匹配程度。
[0027]在一些技术方案中,可选地,模型参数包括第一卷积算子的扩张因子和卷积核尺寸;根据模型参本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种模型优化方法,其特征在于,包括:在确定第一处理模型的情况下,获取所述第一处理模型的模型参数;基于所述模型参数,将所述第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型,其中,所述第二处理模型的输入数据尺寸小于所述第一处理模型的输入数据尺寸;根据所述模型参数,配置所述第二处理模型对应的数据选取信息。2.根据权利要求1所述的模型优化方法,其特征在于,所述模型参数包括所述第一卷积算子的扩张因子和卷积核尺寸;所述基于所述模型参数,将所述第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型之前,包括:根据所述扩张因子和所述卷积核尺寸,生成第二卷积算子。3.根据权利要求2所述的模型优化方法,其特征在于,所述基于所述模型参数,将所述第一处理模型中的第一卷积算子替换为第二卷积算子,以得到第二处理模型之后,还包括:确定所述第二处理模型中的叠加算子,所述叠加算子的第一输出通道通过串联算子与所述第二卷积算子的输入通道相连接,其中,所述串联算子的第一输入通道与所述叠加算子的第一输出通道相连接,所述串联算子的输出通道与所述第二卷积算子相连接;将所述第二卷积算子的输出通道通过全连接算子连接至所述叠加算子的输入通道;将所述叠加算子的第二输出通道确定为所述第二处理模型的输出通道;以及将所述串联算子的第二输入通道确定为所述第二处理模型的输入通道。4.根据权利要求1所述的模型优化方法,其特征在于,所述模型参数包括所述第一卷积算子的扩张因子和卷积核尺寸;所述根据所述模型参数,配置所述第二处理模型对应的数据选取信息,包括:根据所述扩张因子,确定选取间隔;以及根据所述卷积核尺寸,确定选取数量;根据所述选取间隔和所述选取数量,生成所述数据选取信息。5.根据权利要求1至4中任一项所述的模型优化方法,其特征在于,所述第一卷积算子包括以下任一项:空洞卷积算子、深度可分离卷积算子、转置卷积算子。6.一种数据处理方法,其特征在于,包括:在接收到特征数据集的情况下,按照数据选取信息,提取所述特征数据集中的第一特征子集,其中,所述数据选取信息为权利要求1至5中任一项所述的模型优化方法确定的所述数据选取信息;将所述第一特征子集输入至数据处理模型中,以得到数据处理结果,其中,所述数据处理模型为权利要求1至5中任一项所述的模型优化方法确定的所述第二处理模型。7.根据权利要求6所述的数据处理方法,其特征在于,所述数据选取信息包括:选取间隔和选取数量;所述在接收到特征数据集的情况下,按照数据选取信息,提取所述特征数据集中的第一特征子集,包括:按照所述选取间隔,在...

【专利技术属性】
技术研发人员:唐剑夏立超丁维浩赵东宇张法朝牟小峰
申请(专利权)人:美智纵横科技有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1