System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 模型量化方法、装置、电子设备和存储介质制造方法及图纸_技高网

模型量化方法、装置、电子设备和存储介质制造方法及图纸

技术编号:40771081 阅读:9 留言:0更新日期:2024-03-25 20:19
本申请提出一种模型量化方法、装置、电子设备和存储介质。方法包括:基于训练样本集对初始模型进行训练,得到第一目标模型;基于目标量化样本集,确定第一目标模型的原始数据区间;基于原始数据区间映射到S个设定整数区间的映射参数,得到第一目标模型的量化参数,其中,S为大于1的正整数;基于量化参数,对第一目标模型进行量化,得到第二目标模型。由此,可考虑到原始数据区间映射到多个设定整数区间的映射参数,得到量化参数,以对模型进行量化,相较于相关技术中仅采用一个整数区间进行映射,若原始数据区间存在异常数据时,没有原始数据映射到整数区间内的子区间的问题,可避免整数区间浪费,提高了模型量化精度,且计算量较小。

【技术实现步骤摘要】

本申请涉及计算机应用,尤其涉及一种模型量化方法、装置、电子设备和存储介质


技术介绍

1、目前,随着人工智能技术的不断发展,模型在图像、语言、语音等领域得到了广泛应用,具有自动化程度高、人工成本低等优点。为了便于模型部署在移动终端等设备上,往往需要对模型进行量化。然而,相关技术中的模型量化方法,存在模型量化精度低的问题。


技术实现思路

1、本申请旨在至少在一定程度上解决相关技术中的模型量化方法,存在模型量化精度低的问题。

2、为此,本申请第一方面实施例提出一种模型量化方法,可考虑到原始数据区间映射到多个设定整数区间的映射参数,得到量化参数,以对模型进行量化,相较于相关技术中仅采用一个整数区间进行映射,若原始数据区间存在异常数据时,没有原始数据映射到整数区间内的子区间的问题,可避免整数区间浪费,提高了模型量化精度,且计算量较小。

3、本申请第二方面实施例提出一种人脸检测方法。

4、本申请第三方面实施例提出一种人群密度估计方法。

5、本申请第四方面实施例提出一种模型量化装置。

6、本申请第五方面实施例提出一种人脸检测装置。

7、本申请第六方面实施例提出一种人群密度估计装置。

8、本申请第七方面实施例提出一种电子设备。

9、本申请第八方面实施例提出一种计算机可读存储介质。

10、本申请第一方面实施例提出了一种模型量化方法,包括:基于训练样本集对初始模型进行训练,得到第一目标模型;基于目标量化样本集,确定所述第一目标模型的原始数据区间;基于所述原始数据区间映射到s个设定整数区间的映射参数,得到所述第一目标模型的量化参数,其中,s为大于1的正整数;基于所述量化参数,对所述第一目标模型进行量化,得到第二目标模型。

11、根据本申请实施例的模型量化方法,可考虑到原始数据区间映射到多个设定整数区间的映射参数,得到量化参数,以对模型进行量化,相较于相关技术中仅采用一个整数区间进行映射,若原始数据区间存在异常数据时,没有原始数据映射到整数区间内的子区间的问题,可避免整数区间浪费,提高了模型量化精度,且计算量较小。

12、另外,根据本申请上述实施例的模型量化方法还可以具有如下附加的技术特征:

13、在本申请的一个实施例中,所述s个设定整数区间为第一整数区间和第二整数区间,所述方法还包括:基于所述原始数据区间和所述第一整数区间,得到所述原始数据区间映射到所述第一整数区间的第一映射参数;基于所述原始数据区间和所述第二整数区间,得到所述原始数据区间映射到所述第二整数区间的第二映射参数;所述基于所述原始数据区间映射到s个设定整数区间的映射参数,得到所述第一目标模型的量化参数,包括:基于所述第一映射参数和所述第二映射参数,得到所述量化参数。

14、在本申请的一个实施例中,所述方法还包括:基于所述原始数据区间中的原始数据,以及第i个设定整数区间对应的映射参数,确定所述原始数据映射到所述第i个设定整数区间内的目标整数,其中,i为不大于s的正整数;对所述原始数据映射到s个设定整数区间内的目标整数进行关联,得到所述原始数据的映射结果。

15、在本申请的一个实施例中,所述方法还包括:基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集。

16、在本申请的一个实施例中,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:基于所述推理任务,确定所述第一目标模型的目标量化样本包含的目标对象;从所述初始量化样本集中筛选出包含所述目标对象的初始量化样本,以生成所述目标量化样本集。

17、在本申请的一个实施例中,所述方法还包括:若所述推理任务为人脸检测,确定所述目标对象为人脸;从所述初始量化样本集中筛选出包含人脸的初始量化样本,以生成所述目标量化样本集。

18、在本申请的一个实施例中,所述方法还包括:若所述推理任务为人群密度估计,确定所述目标对象为人体;从所述初始量化样本集中筛选出包含人体的初始量化样本,以生成所述目标量化样本集。

19、在本申请的一个实施例中,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:基于所述推理任务,确定所述第一目标模型的目标量化样本的目标指标;基于所述目标指标,从所述初始量化样本集中筛选出所述目标量化样本集。

20、在本申请的一个实施例中,所述方法还包括:若所述推理任务为人脸检测,确定所述目标指标为人脸面积;从所述初始量化样本集中筛选出人脸面积大于或者等于第一设定阈值的初始量化样本,以生成所述目标量化样本集;或者,对所述初始量化样本集中的多个初始量化样本,按照人脸面积从大到小进行排序;从所述初始量化样本集中筛选出排序前n个的初始量化样本,以生成所述目标量化样本集,其中,n为正整数。

21、在本申请的一个实施例中,所述方法还包括:若所述推理任务为人群密度估计,确定所述目标指标为人群密度;从所述初始量化样本集中筛选出人群密度大于或者等于第二设定阈值的初始量化样本,以生成所述目标量化样本集;或者,对所述初始量化样本集中的多个初始量化样本,按照人群密度从大到小进行排序;从所述初始量化样本集中筛选出排序前m个的初始量化样本,以生成所述目标量化样本集,其中,m为正整数。

22、在本申请的一个实施例中,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:基于所述推理任务,确定所述第一目标模型的参考训练样本;从所述初始量化样本集中筛选出与所述参考训练样本相似的初始量化样本,以生成所述目标量化样本集。

23、本申请第二方面实施例提出了一种人脸检测方法,包括:获取待处理图像;将所述待处理图像输入至第一目标人脸检测模型量化后的第二目标人脸检测模型,由所述第二目标人脸检测模型输出所述待处理图像的人脸检测结果,其中,所述第二目标人脸检测模型采用本申请第一方面所述的模型量化方法得到。

24、根据本申请实施例的人脸检测方法,将待处理图像输入至第一目标人脸检测模型量化后的第二目标人脸检测模型,由第二目标人脸检测模型输出待处理图像的人脸检测结果,其中,第二目标人脸检测模型采用模型量化方法得到,有助于提升人脸检测性能。

25、本申请第三方面实施例提出了一种人群密度估计方法,包括:获取待处理图像;将所述待处理图像输入至第一目标人群密度估计模型量化后的第二目标人群密度估计模型,由所述第二目标人群密度估计模型输出所述待处理图像的人群密度估计结果,其中,所述第二目标人群密度估计模型采用本申请第一方面所述的模型量化方法得到。

26、根据本申请实施例的人群密度估计方法,将待处理图像输入至第一目标人群密度估计模型量化后的第二目标人群密度估计模型,由第二目标人群密度估计模型输出待处理图像的人群密度估计结果,其中,第二目标人群密度估计模型采用模型量化方法得到,有助于提本文档来自技高网...

【技术保护点】

1.一种模型量化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述S个设定整数区间为第一整数区间和第二整数区间,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求5所述的方法,其特征在于,所述方法还包括:

8.根据权利要求4所述的方法,其特征在于,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:

9.根据权利要求8所述的方法,其特征在于,所述方法还包括:

10.根据权利要求8所述的方法,其特征在于,所述方法还包括:

11.根据权利要求4所述的方法,其特征在于,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:

12.一种人脸检测方法,其特征在于,包括:

13.一种人群密度估计方法,其特征在于,包括:

14.一种模型量化装置,其特征在于,包括:

15.一种人脸检测装置,其特征在于,包括:

16.一种人群密度估计装置,其特征在于,包括:

17.一种电子设备,其特征在于,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如权利要求1-13中任一项所述的方法。

18.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-13中任一项所述的方法。

...

【技术特征摘要】

1.一种模型量化方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述s个设定整数区间为第一整数区间和第二整数区间,所述方法还包括:

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:

4.根据权利要求1-3中任一项所述的方法,其特征在于,所述方法还包括:

5.根据权利要求4所述的方法,其特征在于,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:

6.根据权利要求5所述的方法,其特征在于,所述方法还包括:

7.根据权利要求5所述的方法,其特征在于,所述方法还包括:

8.根据权利要求4所述的方法,其特征在于,所述基于所述第一目标模型的推理任务,从初始量化样本集中筛选出所述目标量化样本集,包括:

9.根据权利要求8所述的方法,其特征在于,所述方法还包括:

【专利技术属性】
技术研发人员:宋礼张钧波柯嵩宇陈俊郑宇
申请(专利权)人:京东科技信息技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1