【技术实现步骤摘要】
本专利技术涉及高光谱图像分类，具体的是一种基于二次训练的高光谱图像分类方法及系统。
技术介绍
1、高光谱遥感是目前遥感最常用的技术之一，在军事勘探、地表地貌监测、防灾等领域起着至关重要的作用。高光谱图像可以利用各种地物特有的光谱曲线特征信息来识别许多光谱图像无法辨识的相似地物类别，从而，使得高光谱图像分类成为当今的研究热点。高光谱图像分类存在以下难点：1、高光谱图像的光谱维度高且存在严重的数据冗余，使得分类任务计算复杂度增加；2、数据分布复杂，高光谱图像中每个像素的光谱信息和对应地物之间存在非线性关系和复杂模式，使得传统方法无法进行准确的分类；3、样本不足，专家需要实地勘探考察，进行样本标记耗费人力、物力。
2、近年来，随着深度学习的发展，深度学习模型已经被逐渐应用于高光谱图像分类，并表现出了很好的分类效果。已经有学者将卷积神经网络、对抗生成网络应用于高光谱图像分类。然而，这些模型的训练过程中往往依赖大量的标记数据，若利用少量标签数据导致高光谱图像分类精度低。
技术实现思路
1、为解决上述
技术介绍
中提到的不足，本专利技术的目的在于提供一种基于二次训练的高光谱图像分类方法及系统，能够解决目前有监督模型无法充分利用少量标签数据导致的分类精度低的问题。
2、第一方面，本专利技术的目的可以通过以下技术方案实现：一种基于二次训练的高光谱图像分类方法，方法包括以下步骤：
3、对待处理图像提取周边像素块，将周边像素块输入至预先建立的transformer分类模
4、将周边像素块中挑选部分像素与中心像素，将部分像素与中心像素输入至预先建立的二次训练模型内，输出得到二次分类向量；
5、计算高阶分类向量与二次分类向量的差异作为第一损失，利用第一损失对二次训练模型参数进行调整，得到训练后的二次训练模型；
6、将高阶分类向量与二次分类向量进行连接，并输入至预先建立的线性分类模型内，输出得到像素的分类概率，根据像素的分类概率与待处理图像的像素标签计算第二损失，根据第二损失对线性分类模型的参数进行调整，得到训练后的线性分类模型；
7、将待分类像素依次输入transformer分类模型、训练后的二次训练模型和训练后的线性分类模型内，得到待分类像素的分类概率，对待分类像素的分类概率取最大概率对应类别作为像素标签，从而实现高光谱图像分类。
8、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述将周边像素块输入至预先建立的transformer分类模型前，加入位置编码与分类向量，在transformer编码完成后，通过线性层将分类向量投影为分类概率，利用分类概率与待处理图像的像素标签之间的交叉熵作为损失对transformer分类模型进行优化，最终输出得到高阶分类向量。
9、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述预先建立的transformer分类模型包括：像素特征映射模块和多个编码模块，像素特征映射模块由线性层与归一化层组成，编码模块由归一化层、注意力机制层、dropout层和线性层组成；
10、所述预先建立的二次训练模型结构与transformer分类模型结构相同。
11、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述计算高阶分类向量与二次分类向量的差异作为第一损失的方法：
12、通过高阶分类向量与二次分类向量之间的l1范数与光谱角之和作为第一损失。
13、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述将高阶分类向量与二次分类向量进行连接的方法：
14、将高阶分类与二次分类向量连接，得到特征维数更高的分类向量，标记为最终分类向量，然后将最终分类向量输入预先建立的线性分类模型内。
15、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述预先建立的线性分类模型：
16、将每个样本的的分类向量输入线性层，映射得到的分类概率，其中和分别表示连接后向量的维数与高光谱图像的总类别数，过程表示为：
17、
18、其中，表示的参数矩阵，表示的偏置参数，将分类向量映射为分类概率，将结果输入softmax函数，计算公式如下：
19、
20、其中，表示样本的最终分类概率；
21、线性分类模型包括线性层与softmax层，线性层的输入维数为输入特征的维数，输出维数为高光谱图像的地物类别数。
22、结合第一方面，在第一方面的某些实现方式中，该方法还包括：所述通过高阶分类向量与二次分类向量之间的l1范数与光谱角之和作为第一损失的计算公式如下：
23、计算高阶分类向量与二次分类向量之间的光谱角距离：
24、
25、其中，表示光谱角计算函数；
26、计算高阶分类向量与二次分类向量之间的l1范数距离：
27、
28、其中，表示计算两个向量的l1范数；
29、高阶分类向量与二次分类向量之间的差异可表示为光谱角距离与l1范数之和：
30、。
31、优选地，所述将高阶分类与二次分类向量连接的计算公式如下：
32、将高阶分类向量与二次分类向量连接得到最终分类向量；
33、将最终分类向量输入线性分类模型，表示如下：
34、
35、其中，表示像素的分类概率。
36、第二方面，为了达到上述目的，本专利技术公开了一种基于二次训练的高光谱图像分类系统，包括：
37、一次输入模块，用于对待处理图像提取周边像素块，将周边像素块输入至预先建立的transformer分类模型内，输出得到高阶分类向量，其中，所述待处理图像的像素带有标签；
38、二次输入模块，用于将周边像素块中挑选部分像素与中心像素，将部分像素与中心像素输入至预先建立的二次训练模型内，输出得到二次分类向量；
39、一次训练模块，用于计算高阶分类向量与二次分类向量的差异作为第一损失，利用第一损失对二次训练模型参数进行调整，得到训练后的二次训练模型；
40、二次训练模块，用于将高阶分类向量与二次分类向量进行连接，并输入至预先建立的线性分类模型内，输出得到像素的分类概率，根据像素的分类概率与待处理图像的像素标签计算第二损失，根据第二损失对线性分类模型的参数进行调整，得到训练后的线性分类模型；
41、图像分类模块，用于将待分类像素依次输入transformer分类模型、训练后的二次训练模型和训练后的线性分类模型内，得到待分类像素的分类概率，对待分类像素的分类概率取最大概率对应类别作为像素标签，从而实现高光谱图像分类。
42、结合第二方面，在第二方面的某些实现方式中，该系统还包括：所述一次输入模块将周边像素块输入至预先建立的trans本文档来自技高网...
【技术保护点】
1.一种基于二次训练的高光谱图像分类方法，其特征在于，方法包括以下步骤：
2.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述将周边像素块输入至预先建立的Transformer分类模型前，加入位置编码与分类向量，在Transformer编码完成后，通过线性层将分类向量投影为分类概率，利用分类概率与像素标签之间的交叉熵作为损失对Transformer分类模型进行优化，最终输出得到高阶分类向量。
3.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述预先建立的Transformer分类模型包括：像素特征映射模块和多个编码模块，像素特征映射模块由线性层与归一化层组成，编码模块由归一化层、注意力机制层、dropout层和线性层组成；
4.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述计算高阶分类向量与二次分类向量的差异作为第一损失的方法：
5.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述将高阶分类向量与二次分类向量进行连接的方法：p>
6.根据权利要求5所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述预先建立的线性分类模型：
7.根据权利要求4所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述通过高阶分类向量与二次分类向量之间的L1范数与光谱角之和作为第一损失的计算公式如下：
8.根据权利要求5所述的一种基于二次训练的高光谱图像分类方法，其特征在于，将高阶分类与二次分类向量连接的计算公式如下：
9.一种基于二次训练的高光谱图像分类系统，其特征在于，包括：
10.根据权利要求9所述的一种基于二次训练的高光谱图像分类系统，其特征在于，所述一次输入模块将周边像素块输入至预先建立的Transformer分类模型前，加入位置编码与分类向量，在Transformer编码完成后，通过线性层将分类向量投影为分类概率，利用分类概率与待处理图像的像素标签之间的交叉熵作为损失对Transformer分类模型进行优化，最终输出得到高阶分类向量；
...【技术特征摘要】
1.一种基于二次训练的高光谱图像分类方法，其特征在于，方法包括以下步骤：
2.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述将周边像素块输入至预先建立的transformer分类模型前，加入位置编码与分类向量，在transformer编码完成后，通过线性层将分类向量投影为分类概率，利用分类概率与像素标签之间的交叉熵作为损失对transformer分类模型进行优化，最终输出得到高阶分类向量。
3.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述预先建立的transformer分类模型包括：像素特征映射模块和多个编码模块，像素特征映射模块由线性层与归一化层组成，编码模块由归一化层、注意力机制层、dropout层和线性层组成；
4.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在于，所述计算高阶分类向量与二次分类向量的差异作为第一损失的方法：
5.根据权利要求1所述的一种基于二次训练的高光谱图像分类方法，其特征在...
【专利技术属性】
技术研发人员：涂兵，陈云云，曹兆楼，叶井飞，匡文剑，王琳，
申请(专利权)人：南京信息工程大学，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。