一种基于轻量化深度迁移网络的电子元器件识别方法技术

本发明专利技术提供一种基于轻量化深度迁移网络的电子元器件识别方法，该方法首先以轻量化神经网络模型MobileNet为基础，通过引入通道注意力机制和新的激活函数，构建基于MobileNetV3的主干网络，其中通道注意力机制进一步对图片的关键特征进行加权，提升模型的分类能力。其次，采用迁移学习算法，通过预训练模型实现模型参数迁移，并进行微调，进一步降低算法的参数量，并且避免了由于数据集小引起的过拟合现象，提升了算法的泛化能力。最后将此训练模型部署在树莓派系统中，实验表明，本发明专利技术提供的基于轻量化深度迁移网络的电子元器件识别方法能够准确识别出12种常见的元器件，并能很好满足边缘端计算和运行的需要。并能很好满足边缘端计算和运行的需要。并能很好满足边缘端计算和运行的需要。

【技术实现步骤摘要】
一种基于轻量化深度迁移网络的电子元器件识别方法


[0001]本专利技术属于电子元器件识别
，具体涉及一种基于轻量化深度迁移网络的电子元器件识别方法。

技术介绍

[0002]电子元器件是现代电子产品生产的基础，在电子产品的焊接、组装、检测、返修等生产工序中首要进行元器件的识别。所谓电子元器件识别就是根据不同元器件的外形特性来判断其所属的元器件类别，准确快速的元器件识别对于提高电子产品的生产效率具有重要的意义。
[0003]电子元器件识别依据图像处理和模式识别的原理和方法，传统的识别方法是通过提取不同元器件的特征，在根据这些特征匹配进行类别判定，这种分类的算法对于有引脚的元器件的检测分类取得很好的结果。但是随着微电子技术发展，贴片元器件特别无引脚或短引脚元器件的大量使用，这种算法的弊端日益凸显。
[0004]近年来，随着深度学习在机器学习领域不断的成功，人们提出了基于深度神经网络的元器件识别算法，如基于AlexNet的电子元器件分类方法，以及利用目标检测算法对极性电子元器件类别与方向识别方法，相对于传统的分类算法，深度学习算法能够自动学习的不同元器件特征，不需要再针对不同元器件选取不同的特征，降低了算法的复杂度。另一方面，深度学习算法在效果上大大提升了识别率，但同时也存在模型训练的计算量大、内存需求量大，对硬件设备要求高等缺点，由此导致模型移植到移动设备或嵌入式设备困难，无法满足实时运行需要等问题。

技术实现思路

[0005]为解决上述问题，本专利技术的目的在于提供一种基于轻量化深度迁移网络的电子元器件识别方法。
[0006]为达到上述目的，本专利技术采用的技术方案为：
[0007]本专利技术提供一种基于轻量化深度迁移网络的电子元器件识别方法，包括以下步骤：
[0008]1)以轻量化神经网络模型MobileNet为基础，引入通道注意力机制和激活函数，构建基于MobileNetV3的主干网络；
[0009]2)采用迁移学习算法，将预训练模型的参数迁移到构建的MobileNetV3主干网络中，得到MobileNetV3训练模型；
[0010]3)利用MobileNetV3训练模型对电子元器件进行识别。
[0011]所述通道注意力机制是在特征通道维度上动态调制各通道的权重，加大对网络性能好的特征通道权重，减小对网络特性不好的特征通道权重，实现对通道权重的重新分配；所述通道注意力机制主要包含压缩操作和激励操作，通道注意力机制的输出为激励操作输出产生的权重与特征图进行相乘，从而实现特征的加权，如公式(3)所示：
[0012][0013]其中为通道注意力机制的输出，u
C
为输入特征，S
C
为激励操作结果。
[0014]所述压缩操作如公式(1)所示：
[0015][0016]其中Z
C
为压缩操作结果，u
C
为输入特征，H,W分别为输入特征的高度和宽度。
[0017]所述激励操作如公式(2)所示：
[0018]s
c
＝F
ex
(z
c
，W)＝σ(g(z
c
，W))＝σ(W2δ(W1z
c
))
ꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀꢀ
(2)
[0019]其中S
C
为激励操作结果，σ和δ分别表示激活函数Sigmoid和ReLU，为激励操作结果，σ和δ分别表示激活函数Sigmoid和ReLU，
[0020]所述通道注意力机制中，首先对输入特征矩阵的每一个通道进行全局平均池化操作，然后通过两个全连接层得到输出的向量，其中第一个全连接层其节点个数为特征矩阵通道数的四分之一，第二个全连接层的节点个数等于特征矩阵的通道数；最后，第二个全连接层输出结果是对特征矩阵的每一个通道赋予不同的权重，对于重要通道赋予较大的权重，反之较小，从而更加突出特征的区别性。
[0021]所述激活函数为
[0022]所述迁移学习算法是将在ImageNet数据集上训练得到的预训练模型迁移到MobileNetV3主干网络中，首先把预训练模型迁移到MobileNetV3主干网络中进行初始化，然后在对电子元器件图像训练的过程中，对模型参数进行微调，冻结所有层，只训练全连接层中的卷积层，得到MobileNetV3训练模型，并将网络的输出类别数改为电子元器件分类任务的12类。
[0023]所述步骤3)中将MobileNetV3训练模型部署在树莓派系统中对电子元器件进行识别。
[0024]相对于现有技术，本专利技术的有益效果为：
[0025]本专利技术针对现代电子产品生产中电子元器件种类多，差异小的特点，提出了基于轻量化深度迁移网络MobileNetV3的电子元器件识别方法。在传统的MobileNet系列模型的基础上，通过迁移学习，将预训练模型的参数迁移到电子元器件图片的训练模型MobileNetV3中，在进一步提升模型识别率的同时，解决了传统模型所需训练样本多、训练参数大以及部署应用端困难等问题，实验结果表明，本专利技术的基于轻量化深度迁移网络的电子元器件识别方法提高了电子元器件的识别效果，并在树莓派系统中表现了很好的实时性。
附图说明
[0026]图1为本专利技术中基于深度迁移神经网络MobileNetV3的电子元器件识别方法示意图；
[0027]图2为标准卷积的结构示意图；
[0028]图3为深度可分离卷积的结构示意图；
[0029]图4为神经网络MobileNetV2中Bottleneck结构示意图；
[0030]图5为深度迁移神经网络MobileNetV3中SE模块结构示意图；
[0031]图6为本专利技术中迁移学习算法的流程图；
[0032]图7为轻量化网络迁移学习识别结果的混淆矩阵，其中(1)为MobileNetV1，(2)为MobileNetV2，(3)为本专利技术的算法。
具体实施方式
[0033]下面结合附图进一步阐述本专利技术，以下实例仅用于描述本专利技术而不用于限制本专利技术的使用范围，各领域工程技术人员对本专利技术的各种等价变换均包含在本专利技术所要求的权力范围内。
[0034]本专利技术提出一种基于轻量化深度迁移网络的元器件识别方法，该方法首先以轻量化神经网络模型MobileNet为基础，通过引入通道注意力机制和新的激活函数，构建基于MobileNetV3的主干网络。其中通道注意力机制进一步对图片的关键特征进行加权，提升模型的分类能力。其次，采用迁移学习算法，通过预训练模型实现模型参数迁移，并进行微调，进一步降低算法的参数量，并且避免了由于数据集小引起的过拟合现象，提升了算法的泛化能力。最后将此训练模型部署在树莓派系统中，具体模型结构如图1所示。实验表明，本专利技术的基于轻量化深度迁移网络的元器件识别方法利用上述算法，能够准确识别出12种常见的元器件，并能很好满足边缘端计算和运行的需要。
[0035]下面本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于轻量化深度迁移网络的电子元器件识别方法，其特征在于，包括以下步骤：1)以轻量化神经网络模型MobileNet为基础，引入通道注意力机制和激活函数，构建基于MobileNetV3的主干网络；2)采用迁移学习算法，将预训练模型的参数迁移到构建的MobileNetV3主干网络中，得到MobileNetV3训练模型；3)利用MobileNetV3训练模型对电子元器件进行识别。2.根据权利要求1所述的基于轻量化深度迁移网络的电子元器件识别方法，其特征在于：所述通道注意力机制是在特征通道维度上动态调制各通道的权重，加大对网络性能好的特征通道权重，减小对网络特性不好的特征通道权重，实现对通道权重的重新分配；所述通道注意力机制主要包含压缩操作和激励操作，通道注意力机制的输出为激励操作输出产生的权重与特征图进行相乘，从而实现特征的加权，如公式(3)所示：其中为通道注意力机制的输出，u
C
为输入特征，S
C
为激励操作结果。3.根据权利要求2所述的基于轻量化深度迁移网络的电子元器件识别方法，其特征在于：所述压缩操作如公式(1)所示：其中Z
C
为压缩操作结果，u
C
为输入特征，H,W分别为输入特征的高度和宽度。4.根据权利要求2所述的基于轻量化深度迁移网络的电子元器件识别方法，其特征在于：所述激励操作如公式(2)所示：s
c
＝F
ex
(z
c
，W)＝σ(g(z
c
，W))...

【专利技术属性】
技术研发人员：夏玉果，
申请(专利权)人：江苏信息职业技术学院，
类型：发明
国别省市：