基于胶囊网络的高光谱图像协同主动学习分类方法技术

本申请公开了基于胶囊网络的高光谱图像协同主动学习分类方法，使用初始训练集训练CapsViT和CapsGLOM；使用CapsViT计算候选样本的BvSB值；使用CapsGLOM预测候选样本的标签；将候选样本按BvSB值进行排序；将排序后的候选样本按照CapsGLOM估计的类别标签放入到对应的收集器中；标注信息量样本；更新初始训练集和候选样本集并重新训练CapsViT和CapsGLOM；经过迭代后，基于CapsViT和CapsGLOM获得分类结果。本申请所设计的用于高光谱图像分类的基于改进的胶囊网络的协同主动学习方法能够充分考虑到主动选择的样本的多样性以及专家标注的成本并获得高性能的分类结果。注的成本并获得高性能的分类结果。注的成本并获得高性能的分类结果。

【技术实现步骤摘要】
基于胶囊网络的高光谱图像协同主动学习分类方法


[0001]本申请属于高光谱遥感图像分类
，具体涉及基于胶囊网络的高光谱图像协同主动学习分类方法。

技术介绍

[0002]高光谱遥感图像在许多狭窄而连续的光谱波段中编码了丰富的光谱和空间信息，可以更好地描述地物的分布和类型，因此被广泛应用于城市化分析、绿化检测、农业管理和矿物探测等领域。高光谱图像分类作为高光谱遥感数据分析、处理的一项基本内容，已经成为了一个最热的研究主题。同时，高光谱图像分类也是其他后续处理的基础，所以获取准确的分类结果是十分必要的。
[0003]传统的分类方法主要包括基于稀疏表示的分类方法、基于支持向量机的分类方法和基于形态学的分类方法。尽管传统分类方法有效且经典，但对于光谱
‑
空间联合特征的提取与表示能力有限。随着人工神经网络在计算机视觉、自然语言处理等领域的迅速崛起，基于深度学习的高光谱图像分类方法取得了显著的成果。
[0004]当只有少量的有标签样本时，虽然可以使用交叉验证来训练一个相对最优的模型，但各种深度模型难以充分发挥其潜力。尽管主动学习分类方法依赖于先验的专家知识或需要一定的人工标注成本，但它是基于深度模型的高光谱图像分类方法中最实用、最高效和最有效的方法。近年来，国内外学者对应用于高光谱图像分类领域的主动学习方法进行了大量的研究并提出了基于不确定性、基于代表性、基于性能和基于损失预测的主动学习方法。不同的主动学习方法使用不同的查询策略，这些查询策略的共同目标是搜索信息量最大的样本。当主动学习遇到深度模型时，基于不确定性的查询策略仍是首选，因为基于不确定性的方法可以在几次迭代后显著提高分类器的性能。然而，目前大多数用于高光谱图像分类的基于不确定性的主动学习方法在选择最有信息量的样本时只考虑了不确定性，而没有考虑到主动选择的样本的多样性以及专家标注的成本。
[0005]在此背景下，本申请设计一个协同主动学习方法，该方法包含两个基于改进的胶囊网络的基分类器和一个既考虑主动选择样本的不确定性和多样性同时也兼顾专家标注成本的协同主动学习方法。

技术实现思路

[0006]本申请提出了基于胶囊网络的高光谱图像协同主动学习分类方法，该方法包含两个新颖而优秀的基分类器和一个同时考虑了主动选择样本的不确定性和多样性以及专家标注成本的协同主动学习方法。
[0007]为实现上述目的，本申请提供了一个基于改进的胶囊网络(CapsNet,Capsule Network)的协同主动学习方法，至少包括两个新颖而优秀的基分类器CapsViT和CapsGLOM和一个同时考虑了主动选择样本的不确定性和多样性以及专家标注成本的协同主动学习方法，方法包括以下内容：
[0008]S1、使用初始训练集训练基分类器CapsViT和CapsGLOM，所述CapsViT和CapsGLOM为用于高光谱遥感图像分类的两个基分类器，所述CapsViT用于学习局部和非局部快通道光谱依赖关系，所述CapsGLOM用于学习局部和非局部跨通道光谱依赖关系；
[0009]S2、使用CapsViT计算候选样本的BvSB值，所述候选样本所选取的是以候选光谱样本为中心像素的样本块；
[0010]S3、使用CapsGLOM预测候选样本的标签；
[0011]S4、将候选样本按BvSB值进行排序；
[0012]S5、将排序后的候选样本按照CapsGLOM估计的类别标签放入到对应的收集器中；
[0013]S6、在每个收集器请求专家标注第一个预设信息量的样本，如果专家难以标注第一个样本，则请求专家标注第二个样本；
[0014]S7、基于标注的样本更新并训练CapsViT和CapsGLOM；
[0015]S8、基于训练所得的CapsViT和CapsGLOM获得高光谱遥感图像分类结果。
[0016]可选的，所述使用初始训练集训练CapsViT的过程包括：
[0017]使用一个卷积层和一个卷积循环门控单元模块来学习局部和非局部跨通道光谱依赖关系，公式为：
[0018]f0＝ReLU(BN(W0*X
batch
+b0))；
[0019]其中，所述使用初始训练集训练CapsViT的过程包括：
[0020]使用一个卷积层和一个卷积循环门控单元模块来学习局部和非局部跨通道光谱依赖关系，公式为：
[0021]f0＝ReLU(BN(W0*X
batch
+b0))；
[0022]其中，*表示2
‑
D卷积运算，W0和b0分别是权重和偏置，BN表示批量归一化，X
batch
表示训练样本；
[0023]将第一个卷积层的输出沿特征通道维度平均分成8等份用作ConvGRU模块在每个时间步长的输入；
[0024]ConvGRU在各时间步长的输出表示为：
[0025]z
t
＝σ(W
xz
*x
t
+W
hz
*h
t
‑1)
[0026]r
t
＝σ(W
xr
*x
t
+W
hr
*h
t
‑1)
[0027][0028][0029]其中，W
xz
，W
xr
和W
xg
是每个门控制器对于输入x
t
的卷积核，W
hz
，W
hr
和W
hg
是状态h
t
的卷积核，表示逐元素乘积，σ表示sigmoid激活函数，tanh表示双曲正切激活函数，h
t
‑1表示上一个时间步长的状态；第一层的ConvGRU在每个时间步长的输出y1，y2，
…
，y8∈R
batch
×
12
×9×9被用作第二层的ConvGRU的输入。
[0030]可选的，所述使用初始训练集训练CapsGLOM的过程包括：
[0031]使用两层的ConvGRU模块学习局部和非局部跨通道光谱依赖关系并进行分组归一化；
[0032]对所述分组归一化的输出特征进行特征提取。
[0033]将提取的特征输入GOLM系统的多级别嵌入学习模块来学习每个级别中的岛获得
综合特征；
[0034]使用交叉熵作为损失函数对CapsGLOM模型进行训练。
[0035]可选的，所述使用CapsViT计算候选样本的BvSB值的计算过程包括：
[0036]令X
L
表示有标签样本集，X
C
为候选样本集；
[0037]用X
L
训练CapsViT；
[0038]将X
C
发送给CapsViT来计算每个候选样本的BvSB。
[0039]可选的，所述Bv本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.基于胶囊网络的高光谱图像协同主动学习分类方法，其特征在于，方法包括如下步骤：S1、使用初始训练集训练基分类器CapsViT和CapsGLOM，所述CapsViT和CapsGLOM为用于高光谱遥感图像分类的两个基分类器，所述CapsViT用于学习局部和非局部快通道光谱依赖关系，所述CapsGLOM用于学习局部和非局部跨通道光谱依赖关系；S2、使用CapsViT计算候选样本的BvSB值，所述候选样本所选取的是以候选光谱样本为中心像素的样本块；S3、使用CapsGLOM预测候选样本的标签；S4、将候选样本按BvSB值进行排序；S5、将排序后的候选样本按照CapsGLOM估计的类别标签放入到对应的收集器中；S6、在每个收集器请求专家标注第一个预设信息量的样本，如果专家难以标注第一个样本，则请求专家标注第二个样本；S7、基于标注的样本更新并训练CapsViT和CapsGLOM；S8、基于训练所得的CapsViT和CapsGLOM获得高光谱遥感图像分类结果。2.根据权利要求1所述的基于胶囊网络的高光谱图像协同主动学习分类方法，其特征在于，所述使用初始训练集训练CapsViT的过程包括：使用一个卷积层和一个卷积循环门控单元模块来学习局部和非局部跨通道光谱依赖关系，公式为：f0＝ReLU(BN(W0*X
batch
+b0))；其中，*表示2
‑
D卷积运算，W0和b0分别是权重和偏置，BN表示批量归一化，X
batch
表示训练样本；将第一个卷积层的输出沿特征通道维度平均分成8等份用作ConvGRU模块在每个时间步长的输入；ConvGRU在各时间步长的输出表示为：z
t
＝σ(W
xz
*x
t
+W
hz
*h
t
‑1)r
t
＝σ(W
xr
*x
t
+W
hr
*h
t
‑1))其中，W
xz
，W
xr
和W
xg
是每个门控制器对于输入x
t
的卷积核，W
hz
，Whr和W
hg
是状态ht的卷积核，表示逐元素乘积，σ表示sigmoid激活函数，tanh表示双曲正切激活函数，h
t
‑1表示上一个时间步长的状态；第一层的ConvGRU在每个时间步长的输出y1，y2，
…
，y8∈R
batch
×
12
×9×9被用作第二层的Conv...

【专利技术属性】
技术研发人员：王立国，王恒，刘丹凤，肖瑛，刘海涛，
申请(专利权)人：大连民族大学，
类型：发明
国别省市：