一种数据样本的神经网络模型构建方法及装置制造方法及图纸

技术编号:33438687 阅读:17 留言:0更新日期:2022-05-19 00:26
本发明专利技术公开了一种数据样本的神经网络模型构建方法及装置,包括:获取预设神经网络模型,预设神经网络模型包括输入层、投射网络和学习网络,输入层用于获取输入样本信号,并将输入样本信号映射为神经元输出,投射网络用于对输入层输出的高维信息进行降维,学习网络用于学习投射网络降维后的信息,并输出学习结果;基于与输入样本信号对应的目标任务,确定与预设神经网络模型每一层的连接权值;根据预设神经网络模型每一层的连接权值对预设神经网络模型进行训练得到目标神经网络模型。本发明专利技术通过构建投射网络可以便于对数据样本的投射学习,实现信息在网络内部的快速传递,进而实现对样本的高效学习。实现对样本的高效学习。实现对样本的高效学习。

【技术实现步骤摘要】
一种数据样本的神经网络模型构建方法及装置


[0001]本专利技术涉及数据处理
,特别是涉及一种数据样本的神经网络模型构建方法及装置。

技术介绍

[0002]人工神经网络是人工智能领域的重要研究方向,它是从信息处理角度对人脑神经网络的一种模拟。人工神经网络可以任意逼近任何非线性函数,进而实现对信号不同模式的区分。人工神经网络在信号处理、模式识别、自动控制、人工智能等众多领域得到了大量应用。人工神经网络目前已有许多模型,比如BP模型、Hopfield模型、超限学习机、深度学习模型等。这些模型通常由输入层、隐藏层和输出层组成。信息在层之间进行处理和传输。在每一层中,神经元通过激活函数对输入信号进行非线性处理,进而实现特征提取。每层由多个神经元节点组成。相邻层神经元节点之间相互连接,但同层和跨层的神经元节点之间通常不连接。神经元之间的连接都有权值,学习过程就是不断修改神经元之间连接权值的过程。BP神经网络通过信息的前向传输和误差的反向传输来调整权值。
[0003]在BP神经网络的基础上,深度学习重新激活了神经网络的研究,它将人工神经网络从浅层推向了深层,开启了深度神经网络(DNN)的新时代。深度神经网络具有更多的隐含层,第一个隐含层从原始数据中提取基本特征,后面的隐含层将基本特征组合成一个更高阶的抽象特征。深度学习能自动提取分类需要的特征,不需要人的参与,在语音识别,图像处理、模式识别等领域取得了巨大成功。
[0004]但是,深度学习和以前的神经网络一样,需要消耗大量的时间来完成网络的训练。虽然是大数据时代,但专家知识样本很稀缺。另一方面,实际应用中计算能力往往受限,有限的计算资源制约着DNN性能的发挥,同时计算资源的节省可节约能源、带来效益。因此,需要研究泛化能力强且学习速度快的人工神经网络。

技术实现思路

[0005]针对于上述问题,本专利技术提供一种数据样本的神经网络模型构建方法及装置,实现了信息在网络内部的快速传递,提升了对样本数据的学习效率。
[0006]为了实现上述目的,本专利技术提供了如下技术方案:
[0007]一种数据样本的神经网络模型构建方法,包括:
[0008]获取预设神经网络模型,所述预设神经网络模型包括输入层、投射网络和学习网络,所述输入层用于获取输入样本信号,并将输入样本信号映射为神经元输出,所述投射网络用于对输入层输出的高维信息进行降维,所述学习网络用于学习投射网络降维后的信息,并输出学习结果;
[0009]基于与所述输入样本信号对应的目标任务,确定与所述预设神经网络模型每一层的连接权值;
[0010]根据所述预设神经网络模型每一层的连接权值对所述预设神经网络模型进行训
练得到目标神经网络模型。
[0011]可选地,还包括:
[0012]获取目标训练样本;
[0013]基于所述目标训练样本的长度,确定所述预设神经网络模型每一层的神经元数量。
[0014]可选地,所述预设神经网络模型的输入层由单层神经网络组成;所述投射网络由若干层神经网络组成,所述投射网络的若干层神经网络具有特定的连接权值,且每一层神经网络都由若干神经元组成,投射网络神经元仅与前一层的有限个神经元相连接;所述学习网络由一个浅层神经网络组成,所述神经网络的第一层神经网络与所述投射网络的第一层神经网络进行连接,所述浅层神经网络是一个全连接网络,且所述浅层神经网络不同层之间的神经元通过权值连接。
[0015]可选地,所述基于与所述输入样本信号对应的目标任务,确定与所述预设神经网络模型每一层的连接权值,包括:
[0016]获取与所述输入样本信号对应的目标训练样本;
[0017]将所述目标训练样本输入至所述输入层,并获得所述输入层神经元的输出;
[0018]将所述输入层神经元的输出输入至所述投射网络,获得所述投射网络的输出信号;
[0019]将所述投射网络的输出信号输入至所述学习网络,并获得所述学习网络的学习结果;
[0020]基于所述目标任务与所述学习结果的比较值,对神经元的连接权值进行调整,得到与所述预设神经网络模型每一层的连接权值。
[0021]可选地,所述方法还包括:
[0022]在确定所述预设神经网络模型的每一层的输出信息时,确定所述神经网络模型的每一层的激活函数,以及对每一层输入的信号进行归一化处理;
[0023]根据归一化处理后的输入信号以及对应的激活函数,确定每一层的输出信号。
[0024]一种数据样本的神经网络模型构建装置,包括:
[0025]获取单元,用于获取预设神经网络模型,所述预设神经网络模型包括输入层、投射网络和学习网络,所述输入层用于获取输入样本信号,并将输入样本信号映射为神经元输出,所述投射网络用于对输入层输出的高维信息进行降维,所述学习网络用于学习投射网络降维后的信息,并输出学习结果;
[0026]确定单元,用于基于与所述输入样本信号对应的目标任务,确定与所述预设神经网络模型每一层的连接权值;
[0027]训练单元,用于根据所述预设神经网络模型每一层的连接权值对所述预设神经网络模型进行训练得到目标神经网络模型。
[0028]可选地,还包括:
[0029]神经元数量确定单元,用于获取目标训练样本;
[0030]基于所述目标训练样本的长度,确定所述预设神经网络模型每一层的神经元数量。
[0031]可选地,所述预设神经网络模型的输入层由单层神经网络组成;所述投射网络由
若干层神经网络组成,所述投射网络的若干层神经网络具有特定的连接权值,且每一层神经网络都由若干神经元组成,投射网络神经元仅与前一层的有限个神经元相连接;所述学习网络由一个浅层神经网络组成,所述神经网络的第一层神经网络与所述投射网络的第一层神经网络进行连接,所述浅层神经网络是一个全连接网络,且所述浅层神经网络不同层之间的神经元通过权值连接。
[0032]可选地,所述确定单元具体用于:
[0033]获取与所述输入样本信号对应的目标训练样本;
[0034]将所述目标训练样本输入至所述输入层,并获得所述输入层神经元的输出;
[0035]将所述输入层神经元的输出输入至所述投射网络,获得所述投射网络的输出信号;
[0036]将所述投射网络的输出信号输入至所述学习网络,并获得所述学习网络的学习结果;
[0037]基于所述目标任务与所述学习结果的比较值,对神经元的连接权值进行调整,得到与所述预设神经网络模型每一层的连接权值。
[0038]可选地,所述装置还包括:
[0039]输出信号确定单元,用于在确定所述预设神经网络模型的每一层的输出信息时,确定所述神经网络模型的每一层的激活函数,以及对每一层输入的信号进行归一化处理;
[0040]根据归一化处理后的输入信号以及对应的激活函数,确定每一层的输出信号。
[0041]相较于现有技术,本专利技术提供了一种数据样本的神经网络模型构建方法及本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种数据样本的神经网络模型构建方法,其特征在于,包括:获取预设神经网络模型,所述预设神经网络模型包括输入层、投射网络和学习网络,所述输入层用于获取输入样本信号,并将输入样本信号映射为神经元输出,所述投射网络用于对输入层输出的高维信息进行降维,所述学习网络用于学习投射网络降维后的信息,并输出学习结果;基于与所述输入样本信号对应的目标任务,确定与所述预设神经网络模型每一层的连接权值;根据所述预设神经网络模型每一层的连接权值对所述预设神经网络模型进行训练得到目标神经网络模型。2.根据权利要求1所述的方法,其特征在于,还包括:获取目标训练样本;基于所述目标训练样本的长度,确定所述预设神经网络模型每一层的神经元数量。3.根据权利要求1所述的方法,其特征在于,所述预设神经网络模型的输入层由单层神经网络组成;所述投射网络由若干层神经网络组成,所述投射网络的若干层神经网络具有特定的连接权值,且每一层神经网络都由若干神经元组成,投射网络神经元仅与前一层的有限个神经元相连接;所述学习网络由一个浅层神经网络组成,所述神经网络的第一层神经网络与所述投射网络的第一层神经网络进行连接,所述浅层神经网络是一个全连接网络,且所述浅层神经网络不同层之间的神经元通过权值连接。4.根据权利要求3所述的方法,其特征在于,所述基于与所述输入样本信号对应的目标任务,确定与所述预设神经网络模型每一层的连接权值,包括:获取与所述输入样本信号对应的目标训练样本;将所述目标训练样本输入至所述输入层,并获得所述输入层神经元的输出;将所述输入层神经元的输出输入至所述投射网络,获得所述投射网络的输出信号;将所述投射网络的输出信号输入至所述学习网络,并获得所述学习网络的学习结果;基于所述目标任务与所述学习结果的比较值,对神经元的连接权值进行调整,得到与所述预设神经网络模型每一层的连接权值。5.根据权利要求4所述的方法,其特征在于,所述方法还包括:在确定所述预设神经网络模型的每一层的输出信息时,确定所述神经网络模型的每一层的激活函数,以及对每一层输入的信号进行归一化处理;根据归一化处理后的输入信号以及对应的激活函数,确定每一层的输出信号。6.一种数据样本的神经网...

【专利技术属性】
技术研发人员:杨彦利
申请(专利权)人:天津工业大学
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1