System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 基于知识蒸馏的目标检测方法和系统技术方案_技高网

基于知识蒸馏的目标检测方法和系统技术方案

技术编号:40069774 阅读:9 留言:0更新日期:2024-01-16 23:59
本发明专利技术提供基于知识蒸馏的目标检测方法和系统,对第一卷积神经网络模型完成训练后,将其存储在云端平台并进行识别标定,确定模型属性特征信息;再基于每个第一卷积神经网络模型的工作日志,得到其通道工作特征信息,以此对每个第一卷积神经网络模型进行剪枝处理,得到第二卷积神经网络模型,实现对卷积神经网络模型的有效优化压缩,再利用第一卷积神经网络模型对其对应的第二卷积神经网络模型进行知识蒸馏学习,使第二卷积神经网络模型更加紧凑,补偿剪枝后模型的精度损失,实现深度卷积神经网络模型的有效体积压缩和精确目标检测的同时兼顾,再利用第二卷积神经网络模型对图像数据进行目标检测处理,提高目标检测的准确性和可靠性。

【技术实现步骤摘要】

本专利技术神经网络的领域,尤其涉及基于知识蒸馏的目标检测方法和系统


技术介绍

1、现有的目标检测算法通常是基于深度卷积神经网络模型来实现,为了保证目标检测的准确性,利用具有较大体量的深度卷积神经网络模型来运行目标检测算法,使得深度卷积神经网络模型在进行目标检测过程中需要进行大量计算,深度卷积神经网络模型内部的大量参数会占用内存空间,导致卷积神经网络模型无法进行内部不同层的布局,降低卷积神经网络模型的运行效率和稳定性。目前可以利用剪枝技术对深度卷积神经网络模型进行剪枝,实现对深度卷积神经网络模型的模型体积压缩,但是对深度卷积神经网络模型进行剪枝会不可避免发生模型目标检测精度损失,无法保证深度卷积神经网络模型能够进行精确可靠的目标检测,不能实现深度卷积神经网络模型的有效体积压缩和精确目标检测的同时兼顾。


技术实现思路

1、本专利技术的目的在于提供基于知识蒸馏的目标检测方法和系统,其对第一卷积神经网络模型完成训练后,将其存储在云端平台并进行识别标定,确定模型属性特征信息;再基于每个第一卷积神经网络模型的工作日志,得到其通道工作特征信息,以此对每个第一卷积神经网络模型进行剪枝处理,得到第二卷积神经网络模型,实现对卷积神经网络模型的有效优化压缩,再利用第一卷积神经网络模型对其对应的第二卷积神经网络模型进行知识蒸馏学习,使第二卷积神经网络模型更加紧凑,补偿剪枝后模型的精度损失,实现深度卷积神经网络模型的有效体积压缩和精确目标检测的同时兼顾,再利用第二卷积神经网络模型对图像数据进行目标检测处理,提高目标检测的准确性和可靠性。

2、本专利技术是通过以下技术方案实现:

3、基于知识蒸馏的目标检测方法,包括:

4、对第一卷积神经网络模型进行训练,将完成训练的第一卷积神经网络模型上传至云端平台进行存储;对所述云端平台存储的所有第一卷积神经网络模型进行识别标定,生成关于所有第一卷积神经网络模型的模型属性特征信息;

5、获取所述云端平台存储的每个第一卷积神经网络模型的工作日志,并从所述工作日志提取每个第一卷积神经网络模型的通道工作特征信息,再基于所述通道工作特征信息,对每个第一卷积神经网络模型进行剪枝处理,得到相应的第二卷积神经网络模型;将所有第二卷积神经网络模型上传至所述云端平台进行存储,并生成所述第一卷积神经网络模型与其对应的第二卷积神经网络模型的关联映射信息;

6、利用所述第一卷积神经网络模型对与其对应的第二卷积神经网络模型进行知识蒸馏学习;再基于所述模型属性特征信息,选择匹配的完成知识蒸馏学习的第二卷积神经网络模型对图像数据进行目标检测处理,得到相应的目标检测结果。

7、可选地,对第一卷积神经网络模型进行训练,将完成训练的第一卷积神经网络模型上传至云端平台进行存储;对所述云端平台存储的所有第一卷积神经网络模型进行识别标定,生成关于所有第一卷积神经网络模型的模型属性特征信息,包括:

8、对不同目标场景对应的图像数据集合进行图像数据筛选,得到相应的图像数据训练集;利用所述图像数据训练集,对第一卷积神经网络模型进行训练,将完成训练的第一卷积神经网络模型上传至云端平台的第一存储区间进行存储;

9、对所述云端平台存储的所有第一卷积神经网络模型进行模型准确度识别标定处理,生成关于所有第一卷积神经网络模型各自的模型准确度特征信息。

10、可选地,获取所述云端平台存储的每个第一卷积神经网络模型的工作日志,并从所述工作日志提取每个第一卷积神经网络模型的通道工作特征信息,再基于所述通道工作特征信息,对每个第一卷积神经网络模型进行剪枝处理,得到相应的第二卷积神经网络模型;将所有第二卷积神经网络模型上传至所述云端平台进行存储,并生成所述第一卷积神经网络模型与其对应的第二卷积神经网络模型的关联映射信息,包括:

11、获取所述云端平台存储的每个第一卷积神经网络模型对同一基准图像数据集进行分析处理对应的工作日志,并从所述工作日志提取每个第一卷积神经网络模型下属所有通道的工作总持续时间,以此作为所述通道工作特征信息;

12、基于所述工作总持续时间,确定每个第一卷积神经网络模型中允许被移除的通道信息;再基于所述允许被移除的通道信息,对每个第一卷积神经网络模型进行剪枝处理,得到相应的第二卷积神经网络模型;

13、将所有第二卷积神经网络模型上传至所述云端平台的第二存储区间进行存储,并基于所述第一卷积神经网络模型和所述第二卷积神经网络模型在所述云端平台的存储地址信息,生成所述第一卷积神经网络模型与其对应的第二卷积神经网络模型的关联映射信息。

14、可选地,利用所述第一卷积神经网络模型对与其对应的第二卷积神经网络模型进行知识蒸馏学习;再基于所述模型属性特征信息,选择匹配的完成知识蒸馏学习的第二卷积神经网络模型对图像数据进行目标检测处理,得到相应的目标检测结果,包括:

15、利用所述第一卷积神经网络模型对与其对应的第二卷积神经网络模型进行知识蒸馏学习,得到所述第二卷积神经网络模型的网络冗余度;若所述网络冗余度大于预设冗余度阈值,则继续利用所述第一卷积神经网络模型对所述第二卷积神经网络模型继续进行知识蒸馏学习;若所述网络冗余度小于或等于预设冗余度阈值,则停止对所述第二卷积神经网络模型进行知识蒸馏学习;

16、基于所述模型属性特征信息包含模型准确度特征信息与当前需要进行目标检测处理的图像数据的图像清晰度,选择匹配的完成知识蒸馏学习的第二卷积神经网络模型对所述图像数据进行目标检测处理,得到相应的目标检测结果,并将所述目标检测结果上传至所述云端平台的第三存储区间进行存储。

17、基于知识蒸馏的目标检测系统,包括:

18、神经网络模型训练与处理模块,用于对第一卷积神经网络模型进行训练,将完成训练的第一卷积神经网络模型上传至云端平台进行存储;对所述云端平台存储的所有第一卷积神经网络模型进行识别标定,生成关于所有第一卷积神经网络模型的模型属性特征信息;

19、神经网络模型剪枝模块,用于获取所述云端平台存储的每个第一卷积神经网络模型的工作日志,并从所述工作日志提取每个第一卷积神经网络模型的通道工作特征信息,再基于所述通道工作特征信息,对每个第一卷积神经网络模型进行剪枝处理,得到相应的第二卷积神经网络模型;

20、神经网络模型关联映射模块,用于将所有第二卷积神经网络模型上传至所述云端平台进行存储,并生成所述第一卷积神经网络模型与其对应的第二卷积神经网络模型的关联映射信息;

21、知识蒸馏处理模块,用于利用所述第一卷积神经网络模型对与其对应的第二卷积神经网络模型进行知识蒸馏学习;

22、目标检测处理模块,用于基于所述模型属性特征信息,选择匹配的完成知识蒸馏学习的第二卷积神经网络模型对图像数据进行目标检测处理,得到相应的目标检测结果。

23、可选地,所述神经网络模型训练与处理模块用于对第一卷积神经网络模型进行训练,将完成训练的第一卷积神经网络本文档来自技高网...

【技术保护点】

1.基于知识蒸馏的目标检测方法,其特征在于,包括:

2.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

3.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

4.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

5.基于知识蒸馏的目标检测系统,其特征在于,包括:

6.如权利要求5所述的基于知识蒸馏的目标检测系统,其特征在于:

7.如权利要求5所述的基于知识蒸馏的目标检测系统,其特征在于:

8.如权利要求5所述的基于知识蒸馏的目标检测系统,其特征在于:

【技术特征摘要】

1.基于知识蒸馏的目标检测方法,其特征在于,包括:

2.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

3.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

4.如权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于:

...

【专利技术属性】
技术研发人员:余丹兰雨晴于艺春王丹星邢智涣
申请(专利权)人:慧之安信息技术股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1