【技术实现步骤摘要】
本专利技术涉及一种基于剪枝cnn的视觉图像分类方法及系统，属于计算机视觉。
技术介绍
1、近年来，卷积神经网络(cnn)在计算机视觉领域得到了广泛应用，特别是在图像分类、目标检测、语义分割等任务中表现出了卓越的性能。cnn通过局部感知机制和权重共享的方式有效减少了参数量，同时捕捉图像中的局部特征，这使得cnn在大规模数据集上的训练变得可行。
2、卷积层是cnn的核心，它通过卷积核对输入图像进行特征提取，并且随着网络的深度增加，cnn能够提取出越来越高级的特征。然而，随着网络深度和宽度的增加，cnn模型的计算复杂度和参数量也显著增长，导致在计算量和存储需求上的开销越来越大。尤其在移动设备和嵌入式系统等资源有限的设备上，传统的大型cnn模型难以部署，且在实际应用中常面临如下挑战：
3、高计算复杂度：深度卷积神经网络通常需要大量的浮点运算，这对实时推理速度提出了严苛的要求，尤其在移动端和嵌入式设备中，由于硬件资源有限，无法承受高计算量的负担。
4、模型参数量大：cnn模型的深度和宽度不断增加，导致其参数量也不断增长。这不仅增加了模型存储的压力，还会导致模型过拟合，难以在小样本数据集上进行有效训练。
5、能耗高：对于大规模cnn模型，推理过程需要大量的计算资源，这直接导致了高能耗问题。在一些资源敏感的场景(如无人机、物联网设备等)，高能耗成为了部署模型的关键瓶颈。
技术实现思路
1、为了解决上述现有技术中存在的问题，本专利技术提出了一种基于剪
2、本专利技术的技术方案如下：
3、一方面，本专利技术提供了一种基于剪枝cnn的视觉图像分类方法，包括以下步骤：
4、构建目标分类图像数据集，并对目标分类图像数据集进行预处理；
5、构建基于cnn的视觉图像分类模型，并通过预处理后的目标分类图像数据集对视觉图像分类模型进行训练，得到初始视觉图像分类模型；
6、对初始视觉图像分类模型的所有卷积核进行敏感性评估，并得到所有卷积核的敏感性评估结果；
7、根据敏感性评估结果对卷积核进行剪枝，得到剪枝视觉图像分类模型，再对剪枝视觉图像分类模型进行重新训练后进行评估，若评估通过，则得到最终剪枝视觉图像分类模型，否则，重新进行剪枝；
8、通过最终视觉图像分类模型进行图像分类任务。
9、作为本专利技术的优选实施方式，所述敏感性评估具体步骤为：
10、对于任一卷积层中的每个卷积核，分别进行权重重要性评估以及梯度重要性评估，并通过加权结合计算得到当前卷积核的敏感性，具体如下式所示：
11、ik＝α·ik，weight+(1-α)·ik，grad
12、其中：ik表示当前卷积层中第k个卷积核的敏感性；α为超参数；ik，weight表示当前卷积层中第k个卷积核的权重重要性评估结果；ik，grad表示当前卷积层中第k个卷积核的梯度重要性评估结果。
13、作为本专利技术的优选实施方式，所述权重重要性评估具体步骤为：
14、根据初始视觉图像分类模型的卷积层数量选择l1范数或l2范数对卷积层的卷积核进行权重重要性评估：
15、当卷积核数量大于预设阈值时，通过l1范数进行卷积核权重重要性评估，则对于任一卷积层的任一卷积核有：
16、
17、其中：||wk||1表示当前卷积层第k个卷积核的权重重要性评估结果；i表示卷积核的高度索引；j表示卷积核的宽度索引；l表示卷积核的输入通道索引；wk，i，j，l表示当前卷积层第k个卷积核在输入通道l，位置(i，j)的权重值。
18、作为本专利技术的优选实施方式，当卷积核数量小于预设阈值时，通过l2范数进行卷积核权重重要性评估，则对于任一卷积层的任一卷积核有：
19、
20、其中：||wk||2表示当前卷积层第k个卷积核的权重重要性评估结果。
21、作为本专利技术的优选实施方式，所述梯度重要性评估计算公式如下式所示：
22、
23、其中：l表示初始视觉图像分类模型的损失函数。
24、作为本专利技术的优选实施方式，所述剪枝的具体步骤为：预设剪枝率p，剪除每层卷积层中权重值最小的p％卷积核。
25、作为本专利技术的优选实施方式，所述剪枝视觉图像分类模型的评估步骤为：
26、计算剪枝视觉图像分类模型的推理时间flop，具体如下式所示：
27、
28、其中：pv表示第v层卷积层的剪枝率；flopv表示第v层卷积层的浮点运算次数；
29、计算剪枝视觉图像分类模型的模型大小size，具体如下式所示：
30、
31、其中：sizev表示第v层卷积层的参数量；
32、通过剪枝视觉图像分类模型的推理时间以及模型大小是否达到预设阈值判断剪枝视觉图像分类模型是否通过评估。
33、另一方面，本专利技术还提供了一种基于剪枝cnn的视觉图像分类系统，包括以下数据采集模块、初始分类模型构建模块、分类模型评估模块、分类模型剪枝模块以及图像分类模块：
34、所述数据采集模块用于构建目标分类图像数据集，并对目标分类图像数据集进行预处理；
35、所述初始分类模型构建模块用于构建基于cnn的视觉图像分类模型，并通过预处理后的目标分类图像数据集对视觉图像分类模型进行训练，得到初始视觉图像分类模型；
36、所述分类模型评估模块用于对初始视觉图像分类模型的所有卷积核进行敏感性评估，并得到所有卷积核的敏感性评估结果；
37、所述分类模型剪枝模块用于根据敏感性评估结果对卷积核进行剪枝，得到剪枝视觉图像分类模型，再对剪枝视觉图像分类模型进行重新训练后进行评估，若评估通过，则得到最终剪枝视觉图像分类模型，否则，重新进行剪枝；
38、所述图像分类模块用于通过最终视觉图像分类模型进行图像分类任务。
39、再一方面，本专利技术还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如本专利技术任一实施例所述的方法。
40、再一方面，本专利技术还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本专利技术任一实施例所述的方法。
41、本专利技术具有如下有益效果：
42、1、本专利技术通过剪枝不重要的权重和卷积核，显著降低模型的计算复杂度，这使得模型在推理时更加高效，能够在实时应用中更好地满足性能需求，尤其适用于资源受限的环境。
43、2、本专利技术在剪枝过程有效减少了模型的参数量，降低了模型的存储需求；这使得模型在存储有限的设备上能够部署，并减少了传输和加载时间，提高了模型的实用性。
本文档来自技高网...【技术保护点】
1.一种基于剪枝CNN的视觉图像分类方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，所述敏感性评估具体步骤为：
3.根据权利要求2所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，所述权重重要性评估具体步骤为：
4.根据权利要求3所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，当卷积核数量小于预设阈值时，通过L2范数进行卷积核权重重要性评估，则对于任一卷积层的任一卷积核有：
5.根据权利要求3所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，所述梯度重要性评估计算公式如下式所示：
6.根据权利要求3所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，所述剪枝的具体步骤为：预设剪枝率P，剪除每层卷积层中权重值最小的P％卷积核。
7.根据权利要求6所述的一种基于剪枝CNN的视觉图像分类方法，其特征在于，所述剪枝视觉图像分类模型的评估步骤为：
8.一种基于剪枝CNN的视觉图像分类系统，其特征在于，包括以下数据采集模块、初
9.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1至7任一项所述的方法。
...【技术特征摘要】
1.一种基于剪枝cnn的视觉图像分类方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的一种基于剪枝cnn的视觉图像分类方法，其特征在于，所述敏感性评估具体步骤为：
3.根据权利要求2所述的一种基于剪枝cnn的视觉图像分类方法，其特征在于，所述权重重要性评估具体步骤为：
4.根据权利要求3所述的一种基于剪枝cnn的视觉图像分类方法，其特征在于，当卷积核数量小于预设阈值时，通过l2范数进行卷积核权重重要性评估，则对于任一卷积层的任一卷积核有：
5.根据权利要求3所述的一种基于剪枝cnn的视觉图像分类方法，其特征在于，所述梯度重要性评估计算公式如下式所示：
6.根据权利要求3所述的一种基于剪枝cnn的视觉图像分类方法，...
【专利技术属性】
技术研发人员：周平，白珊，敬昕，李习靖，刘飞龙，雷炎，田航，
申请(专利权)人：四川中电启明星信息技术有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。