一种基于自适应归一化的细粒度鱼类疫病识别融合算法制造技术

本发明专利技术公开了一种基于自适应归一化的细粒度鱼类疫病识别融合算法，包括开展数据采集工作，形成细粒度鱼类疫病识别数据集；将数据集中二维图像输入到CNN网络中，利用CNN网络对鱼类图像进行特征提取，得到二维数据特征图；将二维数据特征图输入到Vision Transformer网络，通过嵌入层得到带有位置编码信息的特征数据一维向量信息；将带有位置编码信息的特征数据一维向量信息输入到Transformer编码层中，进行编码模块操作，将数据通过全连接输出带有类别特征的数字向量。本发明专利技术模型的泛化能力高，鲁棒性好，有效解决鱼类疫病识别准确率低，人工识别效率低的问题。人工识别效率低的问题。人工识别效率低的问题。

【技术实现步骤摘要】
一种基于自适应归一化的细粒度鱼类疫病识别融合算法


[0001]本专利技术涉及鱼类疫病识别分析领域，尤其是一种基于自适应归一化的细粒度鱼类疫病识别融合算法。

技术介绍

[0002]渔业活动为人类提供丰富的生活必需品的同时面临着各种疫病威胁。由于鱼类疫病细粒度特性表现为类间差距较小和类内差距较大，从元类别中识别出子类别实现对细粒度的相似特征进行识别较为困难。目前，鱼类健康监测仍需人类肉眼可视化识别方式准确性低、耗时长、容易产生各种各样误报。
[0003]因此，在养殖经验和鱼类健康专业知识外，需要准确可靠的鱼类疫病识别工具。计算机视觉方法在不影响输出精度的情况下自动提取特征，在鱼类疫病识别中发挥重要作用。由于Transformer缺乏卷积神经网络(CNN)的归纳偏差，需要大量的数据进行训练；CNN对全局特征提取不足，泛化性能较差等问题限制模型的分类精度，现有归一化方法具有局限性，不能根据图像数据与识别模型自适应选择归一化方法，限制了模型精度。

技术实现思路

[0004]为了克服现有技术中存在的上述问题，本专利技术提出一种基于自适应归一化的细粒度鱼类疫病识别融合算法。
[0005]本专利技术解决其技术问题所采用的技术方案是：一种基于自适应归一化的细粒度鱼类疫病识别融合算法，包括如下步骤：步骤1，开展数据采集工作，形成细粒度鱼类疫病识别数据集；步骤2，将步骤1所得的数据集中二维图像输入到CNN网络中，利用CNN网络对鱼类图像进行特征提取，得到二维数据特征图；步骤3，将步骤2所得的二维数据特征图输入到Vision Transformer网络，通过嵌入层得到带有位置编码信息的特征数据一维向量信息；步骤4，将步骤3所得的带有位置编码信息的特征数据一维向量信息输入到Transformer编码层中，进行编码模块操作，通过自适应组归一化操作，将不同变化范围的数据计算为固定范围，采用全局交互算法对不同数字特征提供不同注意力，通过分配不同的权重，最后对特征图进行叠加生成能分辨不同疫病类别的特征图；步骤5，将步骤4所得的数据通过全连接输出带有类别特征的数字向量，即输出特定类别的健康鱼或感染鱼。
[0006]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述步骤1具体包括：步骤1.1，对鱼类的皮肤、鳃、眼睛或鳞片上的可见痕迹进行图像处理；步骤1.2，对所有分类不一致的图像进行分析，剔除不能得到代表性的图像，将数据集按4:1随机分为训练集和测试集。
[0007]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述步骤3具体包括：步骤3.1，嵌入层将二维数据特征图分为若干个相同大小的块，通过线性映射生成一维特征向量；步骤3.2，添加类别向量，与步骤2所得的二维数据特征图叠加，添加一个块作为分类的额外块；步骤3.3，添加位置嵌入，对步骤3.1中每一个块进行位置编码确定不同块的位置信息，具体公式如下：其中，PE
pos,2i
、PE
pos,2i+1
表示位置矩阵，pos表示向量的某一具体位置，d
model
表示维度，表示具体某一个维度。
[0008]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述步骤4中编码模块包括自适应组归一化层、多头注意力机制、全连接输出、丢弃模块。
[0009]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述自适应组归一化层通过控制参数来控制批归一化层与组归一化层分配比例，具体公式如下：其中，x表示模型的输入，R为Relu激活函数，为组归一化方式计算的输入变量x的均值，为组归一化方式计算的输入变量x的方差，表示组归一化计算的输出；表示批归一化方式计算的输入变量x的均值，表示批归一化方式计算的输入变量x的方差，表示批归一化计算的输出；表示比例参数，表示移动参数，表示模型的输出。
[0010]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，当批数据量较小时采用组归一化方式训练结果更好，根据公式提出的归一层会自动增加比重，只使用组归一化输出；批数据量较大时采用批归一化方式训练结果更好，根据公式提出的归一化层
会自动减少比重，通过调整比例参数和移动参数在提出的归一化层中进行恒等变换。
[0011]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述多头注意力机制基于特征图对所有像素的全局交互建立算法模型，对不同序列进行注意力运算。
[0012]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述多头注意力机制具体运算过程包括：加强多个头部相互作用的学习，头部能够共享学习，将归一化后的特征输入到多头注意力机制中，具体公式如下：特征输入到多头注意力机制中，具体公式如下：其中，q
m
，k
m
，v
m
分别是输入序列x
m
与q的权重矩阵W
q
、k的权重矩阵W
k
、v的权重矩阵W
v
相乘所得的变换矩阵，q表示匹配其他，k表示待匹配，v表示待提取信息，变换矩阵q
m
与变换矩阵k
m
做一定的点积运算得到v
m
的权重矩阵，然后将权重矩阵与v
m
相乘并引入比例因子通过softmax()函数，最终将所得的结果叠加得到注意力b
m
。
[0013]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述全连接输出带由线性连接、GELU激活函数与丢弃结构的组成，线性连接将输入的节点数量相比较原节点数量扩充了四倍。
[0014]上述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，所述丢弃模块防止在训练数据集样本较小，模型参数过多时，模型容易产生过拟合现象，以某种概率忽略一定数量的神经元用于防止模型过拟合。
[0015]本专利技术的有益效果是，在不同水域、不同季节、不同天气下进行数据采集工作，并形成细粒度鱼类疫病识别数据集，通过图像处理技术提高模型在复杂多变环境下的抗干扰能力，提高模型的泛化能力；聚焦提高细粒度鱼类疫病识别精度，在CNN部建模识别关键特征结构之后连接Transformer结构，使CNN结构更多的提取有用特征，采用自适应归一化方法合理分配归一化控制参数提高模型的鲁棒性，得到最终预测的重要特征，由此提高细粒度图像分类精度，在公开数据集上的识别结果明显领先于MobilenetV3、Vit
‑
small与Efficientnet
‑
b2等经典模型，有效解决鱼类疫病识别准确率低，人工识别效率低等问题。
附图说明
[0016]下面结合附图和实施例对本专利技术进一步说明。
[0017]图1为本专利技术的基于自适应归一化的细粒度鱼类疫病识别融合算法流程图；图2为本专利技术的融合算法的模型结构图；图3为模型分类可视化示意图；图4为本专利技术实施例验证结构示意图。
具体实施方式
[0018]为使本领域技术人员本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种基于自适应归一化的细粒度鱼类疫病识别融合算法，其特征在于：包括如下步骤：步骤1，开展数据采集工作，形成细粒度鱼类疫病识别数据集；步骤2，将步骤1所得的数据集中二维图像输入到CNN网络中，利用CNN网络对鱼类图像进行特征提取，得到二维数据特征图；步骤3，将步骤2所得的二维数据特征图输入到Vision Transformer网络，通过嵌入层得到带有位置编码信息的特征数据一维向量信息；步骤4，将步骤3所得的带有位置编码信息的特征数据一维向量信息输入到Transformer编码层中，进行编码模块操作，通过自适应组归一化操作，将不同变化范围的数据计算为固定范围，采用全局交互算法对不同数字特征提供不同注意力，通过分配不同的权重，最后对特征图进行叠加生成能分辨不同疫病类别的特征图；步骤5，将步骤4所得的数据通过全连接输出带有类别特征的数字向量，即输出特定类别的健康鱼或感染鱼。2.根据权利要求1所述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，其特征在于，所述步骤1具体包括：步骤1.1，对鱼类的皮肤、鳃、眼睛或鳞片上的可见痕迹进行图像处理；步骤1.2，对所有分类不一致的图像进行分析，剔除不能得到代表性的图像，将数据集按4:1随机分为训练集和测试集。3.根据权利要求1所述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，其特征在于，所述步骤3具体包括：步骤3.1，嵌入层将二维数据特征图分为若干个相同大小的块，通过线性映射生成一维特征向量；步骤3.2，添加类别向量，与步骤2所得的二维数据特征图叠加，添加一个块作为分类的额外块；步骤3.3，添加位置嵌入，对步骤3.1中每一个块进行位置编码确定不同块的位置信息，具体公式如下：其中，PE
pos,2i
、PE
pos,2i+1
表示位置矩阵，pos表示向量的某一具体位置，d
model
表示维度，具体某一个维度。4.根据权利要求1所述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，其特征在于，所述步骤4中编码模块包括自适应组归一化层、多头注意力机制、全连接输出、丢弃模块。5.根据权利要求4所述的一种基于自适应归一化的细粒度鱼类疫病识别融合算法，其特征在于，所述自适应组归一化层通过控制参数来控制批归一化层与组归一化层分配比例，具体公式如下：
其中，x表示模型的输入，R为Relu激活函数，为组归一化方式计算的输入变量x的均值，为组归一化...

【专利技术属性】
技术研发人员：贺保卫，魏立明，张忠岩，崔海朋，刘鲁西，马志宇，沈炜皓，徐东阳，姜英昌，田贺，
申请(专利权)人：青岛杰瑞工控技术有限公司，
类型：发明
国别省市：