System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于跨层级特征蒸馏的航拍图像目标检测方法技术_技高网

一种基于跨层级特征蒸馏的航拍图像目标检测方法技术

技术编号:42861361 阅读:10 留言:0更新日期:2024-09-27 17:25
本发明专利技术公开了一种基于跨层级特征蒸馏的航拍图像目标检测方法,包括:提取预训练教师网络掩码图和学生网络掩码图,基于预训练教师网络掩码图和学生网络掩码图构建查询模块,基于查询模块对不同尺度的目标进行跨层级特征蒸馏,利用预训练教师网络的多层特征信息来指导学生网络的单层特征信息,增强预训练教师网络和学生网络间的语义信息匹配度。本发明专利技术提出基于查询模块的跨层级特征蒸馏的策略,通过查询模块在对应尺度上做损失,可以让学生网络更好地学习到来自预训练教师网络的知识,同时在不增加网络参数量的前提下,能够提高学生网络的检测性能,在星载平台的部署上具有一定优势。

【技术实现步骤摘要】

本专利技术涉及航拍图像应用,具体而言,涉及一种基于跨层级特征蒸馏的航拍图像目标检测方法


技术介绍

1、在航拍图像检测领域,若想取得高精度的检测效果,一般需要一个较大的深度神经网络模型,需要耗费较多计算资源和存储空间,这些大模型在速度要求高的星载平台上是难以部署的。

2、为了解决上述问题,一些轻量化的深度学习算法不断涌现,如知识蒸馏、网络剪枝、量化、权值共享、轻量化等,其中不乏一些方法达到了实时性的要求,但检测精度仍无法满足任务的需求。目前,在目标检测领域,已开始逐渐使用知识蒸馏的方法来提升深度神经网络的性能,权衡检测速度和检测精度。知识蒸馏指将大模型学习到的特征提取规则转移到小模型上,提升小模型的准确率,再将小模型用于实际场景,达到模型压缩的目的。

3、知识蒸馏最初应用于图像分类领域,可以将网络的输出、特征图和信息流等关键知识进行迁移。然而,在目标检测任务中,存在着严重的类别不平衡问题,且检测任务难于分类任务,直接应用图像分类中的蒸馏方法效果不佳。因此在不增加计算量的同时,然后选择合适的蒸馏方法是本领域研究人员的重要课题。


技术实现思路

1、本专利技术的目的是使用知识蒸馏方法解决现有航拍图像检测算法难以部署在星载平台上的问题。传统的知识蒸馏方法采用单一教师层特征蒸馏单一学生层特征,易因语义不匹配导致检测效果不佳。为更有效解决问题,本专利技术提供了一种基于跨层级特征蒸馏的航拍图像目标检测方法,本专利技术首先根据预训练教师网络和学生网络构建蒸馏基础模型,再根据蒸馏基础模型构建师生学习网络框架,基于查询模块选择合适的区域进行跨层级特征蒸馏,通过预训练教师网络的多层特征信息来指导学生网络的单层特征信息,增强了模型的泛化能力和鲁棒性。

2、实现本专利技术目的的技术解决方案为:一种基于跨层级特征蒸馏的航拍图像目标检测方法,包括以下步骤:

3、步骤s1、获取航拍图像检测数据集,随机划分为训练数据集和测试数据集,将上述两个数据集中的图像逐张切割为m×n大小的块图,m和n分别代表图像的宽和高,m和n的尺寸均在800~1024之间,训练数据集用来训练教师网络和学生网络,测试数据集用来对蒸馏后的学生网络进行验证,转入步骤s2。

4、步骤s2、训练数据集输入教师网络进行预训练,获取预训练教师网络,转入步骤s3。

5、步骤s3、根据预训练的教师网络和学生网络构建蒸馏基础模型,根据蒸馏基础模型构建基于跨层级特征蒸馏的师生学习网络框架,转入步骤s4。

6、步骤s4、将训练数据集输入师生学习网络框架,提取预训练教师网络各层特征和查询分支的教师热力图,并提取学生网络各层特征和查询分支的学生热力图,设置阈值来抑制教师热力图和学生热力图中的背景像素和置信度低的像素,对应得到预训练教师网络掩码图和学生网络掩码图,构建学生网络掩码图与目标真值掩码图的查询损失函数;基于预训练教师网络掩码图和学生网络掩码图构建查询模块,基于查询模块对不同尺度目标进行跨层级特征蒸馏,利用预训练教师网络的多层特征信息来指导学生网络的单层特征信息;固定预训练教师网络中的参数,通过构建学生网络的损失函数不断更新学生网络的训练参数,最后获得训练好的学生网络,转入步骤s5。

7、步骤s5、利用训练好的学生网络对测试数据集上所有的块图进行检测,将块图上的检测结果进行合并,最终输出测试数据集所有目标在航拍图像中的类别和回归位置,最后获得训练好的学生网络的准确率。

8、本专利技术与现有技术方案相比,本专利技术的优点在于:

9、1)相比现有的航拍图像检测方法,本专利技术提出了使用知识蒸馏方法来进行航拍图像检测,降低了网络参数量和内存,提高了学生网络检测的准确率和鲁棒性。

10、2)本专利技术提出了基于跨层级特征蒸馏的航拍图像目标检测方法,首先通过查询模块在对应目标尺度上做损失,可以让学生网络更好地学习到来自预训练教师网络的知识。其次对不同尺度目标进行跨层级特征蒸馏,利用预训练教师网络的多层特征信息来指导学生网络的单层特征信息,使得预训练教师网络和学生网络间的语义信息匹配度更高,能有效提升航拍图像检测的效果,同时也减少了参数量和计算量,降低了网络复杂度。该方法新颖,在星载平台的部署上具有一定的应用前景。

本文档来自技高网...

【技术保护点】

1.一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,步骤S3中,根据蒸馏基础模型构建基于跨层级特征蒸馏的师生学习网络框架,具体如下:

3.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,预训练教师网络掩码图和学生网络掩码图的获取,具体如下:

4.根据权利要求3所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,学生网络掩码图与目标真值掩码图的查询损失函数构建如下:

5.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,基于预训练教师网络掩码图和学生网络掩码图构建的查询模块,具体如下:

6.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,基于查询模块对不同尺度目标进行跨层级特征蒸馏,具体如下:

7.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,学生网络的总损失函数构建如下:</p>...

【技术特征摘要】

1.一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,步骤s3中,根据蒸馏基础模型构建基于跨层级特征蒸馏的师生学习网络框架,具体如下:

3.根据权利要求1所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于,预训练教师网络掩码图和学生网络掩码图的获取,具体如下:

4.根据权利要求3所述的一种基于跨层级特征蒸馏的航拍图像目标检测方法,其特征在于...

【专利技术属性】
技术研发人员:李玉莲冉伊阳李亚萌李富强王军杨志勇
申请(专利权)人:中国矿业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1