System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种基于回溯式的神经网络识别方法及系统技术方案_技高网

一种基于回溯式的神经网络识别方法及系统技术方案

技术编号:41458494 阅读:20 留言:0更新日期:2024-05-28 20:44
本发明专利技术公开了一种基于回溯式的神经网络识别方法及系统,其中,该方法包括:将待识别的图像输入到识别基线模型中,将待识别的图像在识别基线模型中进行前向传播;将识别基线模型中网络深层输出的特征张量保存于回溯信息保存模块;从回溯信息保存模块中提取特征张量,将特征张量输入给回溯信息再利用模块;利用回溯信息再利用模块将特征张量进行尺寸的变换映射得到映射后的回溯信息,将映射后的回溯信息输入到识别基线模型中网络浅层。本发明专利技术提升了识别网络训练效果及识别精度。

【技术实现步骤摘要】

本专利技术属于深度学习识别算法,尤其涉及一种基于回溯式的神经网络识别方法及系统


技术介绍

1、基于深度学习的识别,即判定出给定图像中的物体类别,而不用给出物体的在图像中的坐标。在大数据的背景下,各行业的智能化发展成为了时代下的必经之路,而图像识别则是各行业进行深入智能化改革的基础任务,为了给后续智能化改革中奠定良好的数据基础,学界提出了多种经典的图像识别算法。

2、卷积神经网络作为基于神经网络的图像识别的有效架构,与传统的神经网络非常相似,其计算流程包括阈值、前向传播、计算残差、反向传播,直到损失函数值收敛且满足精度需求。卷积神经网络基本结构包括卷积层、池化层和全连接层,其中卷积层和池化层主要起到提取图像深层信息的作用,而全连接层主要起到分类器的作用。由于卷积神经网在提取高层次的语义信息的同时,考虑到邻域信息,所以其精度比一般的多层感知机要高很多。但是现有的基于卷积神经网络的图像识别方法只通过全连接层的输出来进行权重约束,或类似残差网络将浅层特征输入到深层来提升网络的性能,但是没有将深层特征回溯到浅层以更正错误的特征提取走向,或者强化正确的特征提取走向的算法,这就导致了网络在训练时的收敛速度。


技术实现思路

1、本专利技术解决的技术问题是:克服现有技术的不足,提供了一种基于回溯式的神经网络识别方法及系统,提升了识别网络训练效果及识别精度。

2、本专利技术目的通过以下技术方案予以实现:一种基于回溯式的神经网络识别方法,包括:将待识别的图像输入到识别基线模型中,将待识别的图像在识别基线模型中进行前向传播;将识别基线模型中网络深层输出的特征张量保存于回溯信息保存模块;从回溯信息保存模块中提取特征张量,将特征张量输入给回溯信息再利用模块;利用回溯信息再利用模块将特征张量进行尺寸的变换映射得到映射后的回溯信息,将映射后的回溯信息输入到识别基线模型中网络浅层。

3、上述基于回溯式的神经网络识别方法中,当网络深层输出的特征张量有利于网络识别精度的提升时,则强化网络浅层的输出,当网络深层输出的特征张量不利于网络识别精度的提升时,则弱化网络浅层的输出。

4、上述基于回溯式的神经网络识别方法中,判断网络深层输出的特征张量是否有利于网络识别精度的提升包括:当a-b>thre时,判定网络深层输出的特征张量有利于网络识别精度的提升;当a-b<thre时,判定网络深层输出的特征张量不利于网络识别精度的提升;其中,a为上一轮训练图像时的网络损失值,b为本轮训练图像时的网络损失值,thre为预先设定的阈值。

5、上述基于回溯式的神经网络识别方法中,将映射后的回溯信息输入到识别基线模型中网络浅层包括:当c>thre时,将尺寸变换映射后的深层特征张量即映射后的回溯信息以第一比例叠加到原来的浅层特征张量中得到新的浅层特征张量;当c<thre时,将尺寸变换映射后的深层特征张量即映射后的回溯信息以第二比例叠加到原来的浅层特征张量中得到新的浅层特征张量;其中,c为网络损失差值,thre为预先设定的阈值。

6、上述基于回溯式的神经网络识别方法中,第一比例为:(c-thre)/thre;第二比例为:(thre-c)/c;其中,c为网络损失差值,thre为预先设定的阈值。

7、一种基于回溯式的神经网络识别系统,包括:第一模块,用于将待识别的图像输入到识别基线模型中,将待识别的图像在识别基线模型中进行前向传播;第二模块,用于将识别基线模型中网络深层输出的特征张量保存于回溯信息保存模块;第三模块,用于从回溯信息保存模块中提取特征张量,将特征张量输入给回溯信息再利用模块;第四模块,用于利用回溯信息再利用模块将特征张量进行尺寸的变换映射得到映射后的回溯信息,将映射后的回溯信息输入到识别基线模型中网络浅层。

8、上述基于回溯式的神经网络识别系统中,当网络深层输出的特征张量有利于网络识别精度的提升时,则强化网络浅层的输出,当网络深层输出的特征张量不利于网络识别精度的提升时,则弱化网络浅层的输出。

9、上述基于回溯式的神经网络识别系统中,判断网络深层输出的特征张量是否有利于网络识别精度的提升包括:当a-b>thre时,判定网络深层输出的特征张量有利于网络识别精度的提升;当a-b<thre时,判定网络深层输出的特征张量不利于网络识别精度的提升;其中,a为上一轮训练图像时的网络损失值,b为本轮训练图像时的网络损失值,thre为预先设定的阈值。

10、上述基于回溯式的神经网络识别系统中,将映射后的回溯信息输入到识别基线模型中网络浅层包括:当c>thre时,将尺寸变换映射后的深层特征张量即映射后的回溯信息以第一比例叠加到原来的浅层特征张量中得到新的浅层特征张量;当c<thre时,将尺寸变换映射后的深层特征张量即映射后的回溯信息以第二比例叠加到原来的浅层特征张量中得到新的浅层特征张量;其中,c为网络损失差值,thre为预先设定的阈值。

11、上述基于回溯式的神经网络识别系统中,第一比例为:(c-thre)/thre;第二比例为:(thre-c)/c;其中,c为网络损失差值,thre为预先设定的阈值。

12、本专利技术与现有技术相比具有如下有益效果:

13、本专利技术实现了对各浅层网络参数更新的监督,提升了识别网络训练效果及识别精度。

本文档来自技高网...

【技术保护点】

1.一种基于回溯式的神经网络识别方法,其特征在于包括:

2.根据权利要求1所述的基于回溯式的神经网络识别方法,其特征在于:当网络深层输出的特征张量有利于网络识别精度的提升时,则强化网络浅层的输出,当网络深层输出的特征张量不利于网络识别精度的提升时,则弱化网络浅层的输出。

3.根据权利要求2所述的基于回溯式的神经网络识别方法,其特征在于:判断网络深层输出的特征张量是否有利于网络识别精度的提升包括:

4.根据权利要求1所述的基于回溯式的神经网络识别方法,其特征在于:将映射后的回溯信息输入到识别基线模型中网络浅层包括:

5.根据权利要求4所述的基于回溯式的神经网络识别方法,其特征在于:第一比例为:(C-thre)/thre;第二比例为:(thre-C)/C;其中,C为网络损失差值,thre为预先设定的阈值。

6.一种基于回溯式的神经网络识别系统,其特征在于包括:

7.根据权利要求6所述的基于回溯式的神经网络识别系统,其特征在于:当网络深层输出的特征张量有利于网络识别精度的提升时,则强化网络浅层的输出,当网络深层输出的特征张量不利于网络识别精度的提升时,则弱化网络浅层的输出。

8.根据权利要求7所述的基于回溯式的神经网络识别系统,其特征在于:判断网络深层输出的特征张量是否有利于网络识别精度的提升包括:

9.根据权利要求6所述的基于回溯式的神经网络识别系统,其特征在于:将映射后的回溯信息输入到识别基线模型中网络浅层包括:

10.根据权利要求9所述的基于回溯式的神经网络识别系统,其特征在于:第一比例为:(C-thre)/thre;第二比例为:(thre-C)/C;其中,C为网络损失差值,thre为预先设定的阈值。

...

【技术特征摘要】

1.一种基于回溯式的神经网络识别方法,其特征在于包括:

2.根据权利要求1所述的基于回溯式的神经网络识别方法,其特征在于:当网络深层输出的特征张量有利于网络识别精度的提升时,则强化网络浅层的输出,当网络深层输出的特征张量不利于网络识别精度的提升时,则弱化网络浅层的输出。

3.根据权利要求2所述的基于回溯式的神经网络识别方法,其特征在于:判断网络深层输出的特征张量是否有利于网络识别精度的提升包括:

4.根据权利要求1所述的基于回溯式的神经网络识别方法,其特征在于:将映射后的回溯信息输入到识别基线模型中网络浅层包括:

5.根据权利要求4所述的基于回溯式的神经网络识别方法,其特征在于:第一比例为:(c-thre)/thre;第二比例为:(thre-c)/c;其中,c为网络损失差值,thre为预先设定的阈值。

...

【专利技术属性】
技术研发人员:马弢曲徽张赢
申请(专利权)人:中国航天空气动力技术研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1