System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本专利技术属于目标识别领域,具体地说是一种基于有监督对比学习的小样本sar目标识别方法。
技术介绍
1、由于具备不受天时和气候影响的传感器信息获取能力,合成孔径雷达在农业、地质勘探、灾害防治、国防安全等领域有着举足轻重的作用。sar图像分类旨在将样本自动标注为一个语义类别,是sar图像自动目标识别领域的一项基本任务。随着深度学习在计算机视觉领域取得巨大成功,深度神经网络(dnn)已经被引入sar目标识别领域,主要包括舰船识别、飞行器识别等。目前已经开发出多种用于sar目标识别的深度学习方法,尤其是基于cnn的深度网络已经产生了卓越的分类精度。
2、然而由于dnn的方法一般都是数据驱动的,需要大量的标注样本用来训练网络,这在很多实际应用中无法满足,因此探索用有限标注样本学习知识的新方法具有重要意义。近年来,小样本学习受到了越来越多的关注,目的是训练一个能用少量标注数据识别新类别的模型,fsl方法主要包括度量学习、元学习和迁移学习。其中基于迁移学习的sar小样本识别有着天然的优势,原因是越来越多的研究表明,在大量光学图像上进行预训练可以在sar图像测试阶段实现快速适应性。这些方法都采用了一个极其简单的迁移学习基线,即首先使用标准交叉熵(ce)损失对模型进行预训练,然后冻结参数,在元测试集上训练线性分类器。在预训练阶段使用ce损失虽然很有前途,但却会影响所学表征的质量,因为模型在训练时只能获得必要的知识来解决所见类别的分类任务,而无法学习到更多的可迁移特征。
3、为此,本领域技术人员提出了一种基于有监督对比学习
技术实现思路
1、为了解决上述技术问题,本专利技术提供一种基于有监督对比学习的小样本sar目标识别方法,以解决
技术介绍
中所提到的问题。
2、一种基于有监督对比学习的小样本sar目标识别方法,包括针对sar图像分类的全局-局部有监督对比学习损失,其中局部对比损失与注意力模块相结合,构建全局-局部的对比学习预训练框架,捕捉元训练集之外可用的判别特征,并利用标签信息构建正样本和负样本,同时将局部尺度的对比学习损失作为另一辅助目标,利用空间特征zs计算给定样本对之间的相似性,并采用注意力机制计算空间注意力权重,使特征和对齐,反之亦然,再测量一对一的空间相似性,最后计算sc损失。
3、优选的,在形式上,让fφ作为嵌入模型,将输入x映射到空间特征zs∈rhw×d,然后进行平均池化操作,得到全局特征zg∈rd,再用投影头p将其映射到低维空间,即f=p(zg)∈rd′,使全局相似度函数simg表示为一对投影全局特征fi和fj之间的余弦相似度,即l2归一化特征之间的点积。
4、优选的,通过从合并的元训练集dnew中抽取n对图像和标签,并对批次中的每个样本进行增强,得到2n个数据点,则基于全局尺度的对比损失计算方式为:
5、
6、其中,1cond∈{0,1}是一个指示函数,如果cond满足,则其值为1;nyi是具有相同标签yi的图像总数;τ是一个标量温度参数。
7、优选的,让hv、hq和hk分别表示值、查询和键投影头,将空间特征zs作为输入,输出d′维特征的值v、查询q和键k,即v,q,k∈rhw×d′,给定一对空间特征和i相对于j的对齐值表示为vi|j,具体计算方式为:
8、
9、并且,使用密钥kj和查询qi计算vj|i,将j的值与i对齐。
10、优选的,给定一对值vi和vj,连同上述注意力机制组合的两个对齐版本vi|j和vj|i,并用表示空间位置r∈[1,hw]的特征向量,对每个空间位置r上的值执行l2归一化步骤,再计算一对空间特征之间的总空间相似度为:
11、
12、空间对比学习利用公式(3)中定义的空间相似性函数sims,并与公式(4)中的全局对比损失类似,局部对比损失计算为:
13、
14、根据公式(1)和公式(4)中的对比目标,预训练目标采取不同形式,使预训练目标lt是ce和sc损失之和,其中λce和λsc作为缩放权重,用于控制每个项
15、的贡献:lt=λcelce+λsclsc+λgclgc(5)
16、通过使用公式(4)中的gc损失作为ce损失的额外预训练目标,推动嵌入模型fφ学习同一类别样本之间的视觉相似性,获得嵌入结果。
17、与现有技术相比,本专利技术具有如下有益效果:
18、1、本专利技术利用对比表征学习作为预训练阶段的辅助目标,在此过程中,不仅要将输入映射到固定目标,还要优化特征,将嵌入空间中语义相似的样本拉到一起,同时将不相似的样本推开,从而可以在保持视觉相似性不变的情况下,在不同的样本之间产生辨别表征,使得学习到的表征更容易迁移到sar图像中。
19、2、本专利技术通过将对比学习作为sar小样本目标识别的辅助预训练目标,以学习更多可迁移特征。
20、3、本专利技术提出了一种新颖的有监督对比损失函数,在经典的ce损失基础上,包含了全局-局部的对比损失,其中局部对比损失采用基于注意力的对齐机制,可对特征进行空间比较,从而进一步促进与类别无关的判别模式,并且通过在sar图像的标准数据集mstar上进行了实验,证明所提方法的有效性,并取得了最先进的性能。
本文档来自技高网...【技术保护点】
1.一种基于有监督对比学习的小样本SAR目标识别方法,其特征在于:包括针对SAR图像分类的全局-局部有监督对比学习损失,其中局部对比损失与注意力模块相结合,构建全局-局部的对比学习预训练框架,捕捉元训练集之外可用的判别特征,并利用标签信息构建正样本和负样本,同时将局部尺度的对比学习损失作为另一辅助目标,利用空间特征zs计算给定样本对之间的相似性,并采用注意力机制计算空间注意力权重,使特征和对齐,反之亦然,再测量一对一的空间相似性,最后计算SC损失。
2.如权利要求1所述一种基于有监督对比学习的小样本SAR目标识别方法,其特征在于:在形式上,让fφ作为嵌入模型,将输入x映射到空间特征zs∈RHW×d,然后进行平均池化操作,得到全局特征zg∈Rd,再用投影头p将其映射到低维空间,即f=p(zg)∈Rd′,使全局相似度函数simg表示为一对投影全局特征fi和fj之间的余弦相似度,即l2归一化特征之间的点积。
3.如权利要求2所述一种基于有监督对比学习的小样本SAR目标识别方法,其特征在于:通过从合并的元训练集Dnew中抽取N对图像和标签,并对批次中的每个样本进行
4.如权利要求3所述一种基于有监督对比学习的小样本SAR目标识别方法,其特征在于:让hv、hq和hk分别表示值、查询和键投影头,将空间特征zs作为输入,输出d′维特征的值v、查询q和键k,即v,q,k∈RHW×d′,给定一对空间特征和i相对于j的对齐值表示为vi|j,具体计算方式为:
5.如权利要求4所述一种基于有监督对比学习的小样本SAR目标识别方法,其特征在于:给定一对值vi和vj,连同上述注意力机制组合的两个对齐版本vi|j和vj|i,并用表示空间位置r∈[1,HW]的特征向量,对每个空间位置r上的值执行l2归一化步骤,再计算一对空间特征之间的总空间相似度为:
...【技术特征摘要】
1.一种基于有监督对比学习的小样本sar目标识别方法,其特征在于:包括针对sar图像分类的全局-局部有监督对比学习损失,其中局部对比损失与注意力模块相结合,构建全局-局部的对比学习预训练框架,捕捉元训练集之外可用的判别特征,并利用标签信息构建正样本和负样本,同时将局部尺度的对比学习损失作为另一辅助目标,利用空间特征zs计算给定样本对之间的相似性,并采用注意力机制计算空间注意力权重,使特征和对齐,反之亦然,再测量一对一的空间相似性,最后计算sc损失。
2.如权利要求1所述一种基于有监督对比学习的小样本sar目标识别方法,其特征在于:在形式上,让fφ作为嵌入模型,将输入x映射到空间特征zs∈rhw×d,然后进行平均池化操作,得到全局特征zg∈rd,再用投影头p将其映射到低维空间,即f=p(zg)∈rd′,使全局相似度函数simg表示为一对投影全局特征fi和fj之间的余弦相似度,即l2归一化特征之间的点积。<...
【专利技术属性】
技术研发人员:史松昊,王晓丹,宋亚飞,李乐民,王科,李思聪,郭新鹏,周峰,
申请(专利权)人:中国人民解放军空军工程大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。