基于Lush多层特征融合偏置网络的地物识别方法技术

基于Lush多层特征融合偏置网络的地物识别方法，本发明专利技术涉及地物识别方法。本发明专利技术的目的是为了解决现有方法在地物分类任务中，过深的网络结构往往会导致过拟合现象，而传统的激活函数无法有效解决这个问题；以及随着网络模型的加深，还可能会出现梯度爆炸或梯度消失，这不利于网络模型参数中偏置的更新的问题；以及没有考虑不同特征层次之间的强互补关系，以及如何将深层特征和浅层特征进行有效融合，导致地物分类准确率低的问题。过程为：一、获得训练好的基于Lush多层特征融合偏置网络；二、将待测高光谱图像输入训练好的基于Lush多层特征融合偏置网络，完成对待测高光谱图像的分类。本发明专利技术用于地物识别领域。本发明专利技术用于地物识别领域。本发明专利技术用于地物识别领域。

【技术实现步骤摘要】
基于Lush多层特征融合偏置网络的地物识别方法


[0001]本专利技术涉及地物识别方法。

技术介绍

[0002]高光谱图像(Hyperspectral images,HSIs)是通过搭载在不同空间平台上的高光谱传感器获取得到，蕴含着土地覆盖表面的丰富光谱信息和空间信息[1]。随着高光谱成像技术的快速发展，所获取的光谱与空间信息越来越丰富，这使得准确识别和区分地物覆盖类别成为可能。目前，高光谱图像分类(Hyperspectral image classification，HSIC)是遥感领域的一个主要研究方向。高光谱分类技术广泛应用在军事侦察[2]、地质灾害[3]、植被和生态监测[4]以及其他领域[5]。
[0003]在HSI分类任务的早期研究中，对于HSI的光谱特征的提取方法被相继提出，例如，卷积神经网络(Convolutional neural networks，CNNs)[6]、支持向量机(Support vector machine，SVM)[7]等。虽然这些方法充分利用了HSI的光谱信息，但是由于没有考虑到空间信息，所得到的结果并不理想。为了提高对高光谱图像分类的能力，一些研究利用多种形态运算来构建高光谱图像的光谱空间特征[8]。基于光谱和空间特征提取的经典方法包括，复合核[9]、形态核[10]等多核学习方法。此外，为了改善分类性能，在[11],稀疏表示作为一种强大的信号处理工具，可用于分析HSI中相邻的空间信息。根据纹理的相似性[12]，将HSI分割成多个超像素来探索空间的一致性。上述传统算法大多基于传统机器学习。其中，传统机器学习主要包括特征提取和分类器两个步骤[13]，在HSIC任务中很难取得较好的分类效果。
[0004]在高光谱图像分类方法研究中，基于深度学习的分类方法得到广泛的应用。其中，用于提取HSI的空间信息的自动堆叠编码器(SAE)[14]和递归自解码器(RAEs)[15]被提出，能很好地解决手工特征的问题。Hu等人[16]，通过堆叠一维神经网络(One
‑
dimensional convolutional neural network，1
‑
D CNN)来提取高光谱图像的光谱特征。SAE、RAEs以及1
‑
D CNN只能用来提取一维向量，这就导致HSIs的空间信息被破坏。一些基于光谱和空间的二维神经网络的方法相继被提出，并得到令人满意的分类性能。例如，二维自动堆叠编码器(Two
‑
dimensional stacked autoencoder,2
‑
D SAE)[17]、二维卷积神经网络(Two
‑
dimensional convolutional neural network,2
‑
D CNN)[18]等等。Chen等人[19]提出了监督三维卷积神经网络(3D
‑
CNN)，来弥补2D
‑
CNN的缺点。Song等人[20]，通过考虑不同层之间的强互补关系，提出了一种深度特征融合网络(DFFN)来缓解深度卷积网络存在的过拟合和梯度消失问题。Roy等人[21]提出将2D
‑
CNN与3D
‑
CNN结合以降低3D
‑
CNN的复杂度(Hybrid
‑
SN)。在[22]中，Shi等人提出一种反馈膨胀卷积网络(FECNet)，该网络采用膨胀卷积在不增加额外参数的情况下，扩大了卷积感受野,并且获得更具有判别能力的特征。
[0005]近年来，注意力机制在高光谱图像分类任务中得到广泛的应用。注意力机制可以看作人类视觉的模仿，倾向于强调更重要的信息，而忽视其他信息。Ma等人[23]，提出了一种双分支多注意机制网络(Double
‑
branch multiattention,DBMA)来提取空间和光谱信
息。Li等人[24]在DBMA的基础上提出了一种双注意力机制网络(DBDA)。DBDA通过空间和光谱两个分支分别提取特征，并且在两个分支中加入了空间注意力机制和通道注意力机制，获得了较好的分类性能。而在[25]，Shi等人提出一种基于3D协同网络注意力机制的3D
‑
CAMNet，该网络通过获取HSIs空间中垂直方向和水平方向的长距离依赖关系以及不同光谱波段之间的重要性差异，最终提高了分类性能。
[0006]一个合适的激活函数对于神经网络模型的训练起着至关重要的作用。上述方法中SVM、SSRN、DFFN等方法都使用了ReLU[26]作为激活函数。特别地，DBDA使用了一种自正则化非单调激活函数：Mish[27]。其中ReLU是一个分段函数，当输入为负时，输出为0。当输入为正时，输入等于输出。相比Sigmod和Tanh，ReLU虽然能克服梯度消失的问题，加快训练速度，但是不适合较大的梯度输入，且在参数更新以后，ReLU的神经元不会再被激活。为了解决ReLU在输入为负时神经元无法激活的局限性，在ReLU的基础上，He等人[28]提出一种参数校正线性单元(PReLU)。在负数区域内，PReLU能保持一个很小的斜率，这样能避免神经元无法激活的问题。此外，由ReLU改进的渗漏型整流线性单元激活函数(LReLU)[29]、扩展型指数线性单元激活函数(SELU)[30]等一系列激活函数也被相继提出。Google Brain在Sigmod的基础上提出了Swish[31]，该激活函数具有不饱和性、光滑非单调的特点，且能在较深的网络中表现出良好的性能。同样地，Mish也具有光滑、非单调、不饱和性，但Swish和Mish都存在计算量过大、无法缓解网络网络模型过拟合等问题。在本文中，我们提出一种新的激活函数，并命名为Lush。
[0007]在CNN模型的训练中，偏置是一个非常重要的参数。通常，使用梯度下降算法(随机梯度下降算法)对每个偏置进行更新。然而，随机梯度下降算法容易出现梯度爆炸和梯度消失的问题，这不利于偏置的更新。为更好的让神经网络学习更新到最佳偏置，我们提出了一种新的偏置更新方式。
[0008]在高光谱图像分类任务中，虽然有很多优秀的分类方法，但在分类性能的提升上还有一定局限性。以往的研究中，没有考虑到不同特征层次之间的强互补关系，且如何将深层特征和浅层特征更加有效的融合也是一个难点。

技术实现思路

[0009]本专利技术的目的是为了解决现有方法在地物分类任务中，过深的网络结构往往会导致过拟合现象，而传统的激活函数无法有效解决这个问题；以及随着网络模型的加深，还可能会出现梯度爆炸或梯度消失，这不利于网络模型参数中偏置的更新的问题；以及没有考虑不同特征层次之间的强互补关系，以及如何将深层特征和浅层特征进行有效融合，导致地物分类准确率低的问题，而提出基于Lush多层特征融合偏置网络的地物识别方法。
[0010]基于Lush多层特征融合偏置网络的地物识别方法具体过程为：
[0011]一、建立基于Lush多层特征融合偏置网络L本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于Lush多层特征融合偏置网络的地物识别方法，其特征在于：所述方法具体过程为：一、建立基于Lush多层特征融合偏置网络LMFFBNet，基于训练集获得训练好的基于Lush多层特征融合偏置网络LMFFBNet；所述训练集为采集的高光谱图像；二、将待测高光谱图像输入训练好的基于Lush多层特征融合偏置网络LMFFBNet，完成对待测高光谱图像的分类；所述基于Lush多层特征融合偏置网络LMFFBNet包括输入层、前端子网络、后端子网络、SFB模块、MFFB模块、第一卷积模块、第二卷积模块、CAM模块、BN层、第一平均池化层、FC层、分类层；所述基于Lush多层特征融合偏置网络LMFFBNet连接关系为：图像输入前端子网络，前端子网络输出结果分别输入后端子网络和MFFB模块；后端子网络输出结果输入MFFB模块；将MFFB模块输出结果和后端子网络输出结果进行融合，得到融合后特征；融合后特征输入第一卷积模块，第一卷积模块输出输入第二卷积模块；第二卷积模块输出输入CAM模块，将CAM模块输出结果和第二卷积模块输出结果进行点乘；点乘结果依次经过BN层、第一平均池化层、FC层、分类层，得到最终分类结果。2.根据权利要求1所述的基于Lush多层特征融合偏置网络的地物识别方法，其特征在于：所述前端子网络依次包括第一卷积层、第二卷积层、Lush激活函数；所述后端子网络依次包括第三卷积层、第四卷积层、第五卷积层、第六卷积层、Lush激活函数；所述第一卷积模块依次包括第七卷积层、Lush激活函数；所述第二卷积模块依次包括第八卷积层、Lush激活函数。所述第一层卷积核大小为1*1*7，步长为2；所述第二层卷积核大小为1*1*1，步长为1；所述第三层卷积核大小为1*1*3，步长为1；所述第四层卷积核大小为1*1*5，步长为1；所述第五层卷积核大小为1*1*7，步长为1；所述第六层卷积核大小为1*1*1，步长为1。3.根据权利要求2所述的基于Lush多层特征融合偏置网络的地物识别方法，其特征在于：所述MFFB模块包括第三卷积模块、第四卷积模块、第五卷积模块、第六卷积模块；所述MFFB模块连接关系为：将前端子网络输出特征A均分为特征A1、特征A2、特征A3、特征A4；将后端子网络输出特征B均分为特征B1、特征B2、特征B3、特征B4；将特征A1和特征B1进行融合得到特征C1，将特征C1输入第三卷积模块输出特征C2；将特征C2、特征A2和特征B2进行融合得到特征F1，将特征F1输入第四卷积模块输出特征C3；将特征C3、特征A3和特征B3进行融合得到特征F2，将特征F2输入第五卷积模块输出特
征C4；将特征C4、特征A4和特征B4进行融合得到特征F3，将特征F3输入第六卷积模块输出特征F；将特征F与后端子网络输出特征B进行融合得到MFFB模块输出结果；所述第三卷积模块依次包括第九卷积层、第十卷积层、第十一卷积层、第十二卷积层、Lush激活函数；所述第四卷积模块依次包括第十三卷积层、第十四卷积层、第十五卷积层、第十六卷积层、Lush激活函数；所述第五卷积模块依次包括第十七卷积层、第十八卷积层、第十九卷积层、第二十卷积层、Lush激活函数；所述第六卷积模块依次包括第二十一卷积层、第二十二卷积层、第二十三卷积层、第二十四卷积层、Lush激活函数。4.根据权利要求3所述的基于Lush多层特征融合偏置网络的地物识别方法，其特征在于：所述第九卷积层、第十三卷积层、第十七卷积层、第二十一卷积层的卷积核大小为3
×3×
1；所述第十卷积层、第十四卷积层、第十八卷积层、第二十二卷积层的卷积核大小为1
×1×
1；所述第十一卷积层、第十五卷积层、第十九卷积层、第二十三卷积层的卷积核大小为1
×1×
3；所述第十二卷积层、第十六卷积层、第二十卷积层、第二十四卷积层的卷积核大小为1
×1×
5；所述第九卷积层、第十卷积层、第十一卷积层、第十二卷积层、第十三卷积层、第十四卷积层、第十五卷积层、第十六卷积层、第十七卷积层、第十八卷积层、第十九卷积层、第二十卷积层、第二十一卷积层、第二十二卷积层、第二十三卷积层、第二十四卷积层的步长为1。5.根据权利要求4所述的基于Lush多层特征融合偏置网络的地物识别方法，其特征在于：所述SFB模块包括输入层、第二平均池化层、最大池化层、第三平均池化层、Lush激活函数；所述SFB模块...

【专利技术属性】
技术研发人员：石翠萍，陈家祥，王丽婧，王天毅，
申请(专利权)人：齐齐哈尔大学，
类型：发明
国别省市：