神经网络的缩简装置制造方法及图纸

本发明专利技术缩短神经网络的处理时间而且以可有效利用多个运算器的方式减少神经网络的运算次数。本发明专利技术为一种神经网络的缩简装置(100)，其通过缩简神经网络来减少由具备多个运算器的运算装置(140)进行的神经网络的运算次数，其设为如下构成，即，具备：运算器分配部(102)，其设定针对神经网络的运算处理的运算器的分配数；运算次数设定部(103)，其根据运算器的分配数来设定缩简后的神经网络的运算次数；以及神经网络缩简部(104)，其以使运算装置(140)进行的神经网络的运算次数与运算次数设定部(103)设定的运算次数相等的方式缩简神经网络。

【技术实现步骤摘要】
【国外来华专利技术】神经网络的缩简装置
本专利技术涉及神经网络的缩简装置。
技术介绍
近年来，将使用机器学习的物体识别或行动预测运用于车辆的自动驾驶的技术在不断发展。神经网络作为用于物体识别等的机器学习方法为人所知。神经网络中会实施运算次数较多的卷积运算等，成为车辆上搭载的运算装置实时进行处理时的问题。针对上述问题，业界揭示有一种缩简方法(压缩方法)，即，削减神经网络的各节点的权重系数在阈值以下的分枝(层间耦合)，由此，在抑制对识别性能的影响的情况下减轻神经网络的运算负荷(参考非专利文献1)。现有技术文献非专利文献非专利文献1：SongHan、JeffPool、JohnTran、WilliamJ.Dally，“LearningbothWeightsandConnectionsforEfficientNeuralNetworks”，[online]，2015年10月30日，[2018年12月24日检索]，网址＜URL:https://arxiv.org/pdf/1506.02626.pdf＞
技术实现思路
专利技术要解决的问题非专利文献1中展示了通过削减神经网络的一部分分枝来减少神经网络的运算次数的方法，但即便减少运算次数也未必会缩短运算处理的处理时间。此外，对于神经网络的运算处理，运算器中设置的多个运算器有时得不到有效利用。这样的问题不仅车载用运算装置中可能发生，利用神经网络的其他运算装置中也可能发生。本专利技术要解决所述问题，其目的在于提供一种能够缩短神经网络的处理时间而且以可有效利用多个运算器的方式减少神经网络的运算次数的神经网络的缩简装置。解决问题的技术手段本专利技术的一形态的神经网络的缩简装置是一种通过缩简神经网络来减少由具备多个运算器的运算装置进行的神经网络的运算次数的神经网络的缩简装置，其特征在于，具备：运算器分配部，其设定针对神经网络的运算处理的所述运算器的分配数；运算次数设定部，其根据所述运算器的分配数来设定缩简后的神经网络的运算次数；以及神经网络缩简部，其以使所述运算装置进行的神经网络的运算次数与所述运算次数设定部设定的运算次数相等的方式缩简神经网络。专利技术的效果根据本专利技术，能够缩短神经网络的处理时间而且以可有效利用多个运算器的方式减少神经网络的运算次数。根据本说明书的记述、附图，将明确本专利技术相关的更多特征。此外，上述以外的课题、构成及效果将通过以下实施方式的说明来加以明确。附图说明图1为第1实施方式的自动驾驶系统的框图。图2为表示第1实施方式的神经网络的一例的图。图3为表示第1实施方式的第1中间层的节点处理的一例的图。图4为表示第1实施方式的第1中间层的节点处理的另一例的图。图5为表示第1实施方式的第2中间层的节点处理的一例的图。图6为表示第1实施方式的输出层的节点处理的一例的图。图7为表示第1实施方式的缩简处理的一例的图。图8为表示第1实施方式的运算装置的一部分的框图。图9为表示神经网络的运算处理的时间图的一例的图。图10为表示神经网络的运算处理的时间图的一例的图。图11为表示神经网络的运算处理的时间图的一例的图。图12为表示神经网络的运算处理的时间图的一例的图。图13为第2实施方式的自动驾驶系统的框图。图14为第3实施方式的自动驾驶系统的框图。图15为第4实施方式的自动驾驶系统的框图。具体实施方式[第1实施方式]下面，参考附图，对运用了神经网络的缩简装置的自动驾驶系统进行说明。图1为第1实施方式的自动驾驶系统的框图。再者，在以下的说明中，是对将神经网络的缩简装置运用于自动驾驶系统的一例进行说明，但神经网络的缩简装置可以运用于监视摄像机系统、医疗用图像诊断系统、语音识别系统等其他系统。如图1所示，自动驾驶系统通过无线通信来连接使用神经网络进行自动驾驶的车辆10与定期向车辆10通知神经网络的参数的服务器20。车辆10上设置有拍摄车辆周边的摄像机120、控制车辆10的自动驾驶的车辆控制部110以及用于加速、制动、操舵等各种操作的执行器130。服务器20中安装有通过缩简技术来减少神经网络的运算次数的神经网络的缩简装置100。车辆控制部110中设置有将从摄像机120输入的图像转换为规定形式的图像输入部111、使用神经网络来识别图像的图像识别部112、以及将与识别结果相应的控制信号输出至执行器130的信号输出部113。从神经网络的缩简装置100将缩简后的神经网络的参数通知给图像识别部112。所谓神经网络的参数，是在图像识别部112中构建缩简后的神经网络用的参数，例如神经网络中使用的权重系数等。图像识别部112根据从神经网络的缩简装置100通知的参数来构建缩简后的神经网络，使用神经网络来识别从图像输入部111输入的图像。信号输出部113根据图像的识别结果将包含自身车辆的行驶方向及行驶速度等自动驾驶所需的车辆控制信息的控制信号输出至执行器130。执行器130包括加速用的驱动执行器、制动用的制动执行器、转向用的操舵执行器等。执行器130根据来自信号输出部113的控制信号来控制车辆10。车辆控制部110由具备多个运算器的运算装置140实现。对车辆控制部110的各种处理分配运算装置140的运算器。通过由运算装置140的多个运算器执行车辆控制部110的各种处理，得以实施使用神经网络的图像识别，并根据识别结果来实施车辆10的自动驾驶控制。再者，车辆控制部110的各种处理当中，图像识别处理的运算负荷较大，因此对图像识别处理分配比车辆控制部110的其他处理多的运算器。神经网络的缩简装置100中设置有神经网络保持部101、运算器分配部102、运算次数设定部103以及神经网络缩简部104。神经网络保持部101中保持有在PC、服务器等当中学习后的已学习的神经网络也就是用于推论处理的神经网络。在由图像识别部112使用神经网络进行图像识别时，运算器分配部102设定针对神经网络的运算处理的运算装置140的运算器的分配数。在该情况下，运算器分配部102对缩简装置100设定由用户经由输入设备等输入的运算器的分配数。运算次数设定部103算出神经网络保持部101中保持的神经网络的运算处理所需的运算次数，根据运算器的分配数来设定缩简后的神经网络的运算次数。神经网络缩简部104以使运算装置140进行的神经网络的运算次数与运算次数设定部103设定的运算次数相等的方式缩简神经网络保持部101中保持的神经网络。此外，神经网络缩简部104将缩简后的神经网络的参数通知给车辆10的图像识别部112，减少用于图像识别部112的图像识别处理的神经网络的运算次数。再者，神经网络的缩简装置100的各部可使用处理器而由软件来实现，也可由集成电路等当中形成的逻辑电路(硬件)来实现。在使用处理器的情况下，通过由处理器读出并执行存储器中存放的程序来实施各种处理。作为处理器，例如使用CPU(CentralProcessingUnit)本文档来自技高网...

【技术保护点】
1.一种神经网络的缩简装置，其通过缩简神经网络来减少由具备多个运算器的运算装置进行的神经网络的运算次数，其特征在于，具备：/n运算器分配部，其设定针对神经网络的运算处理的所述运算器的分配数；/n运算次数设定部，其根据所述运算器的分配数来设定缩简后的神经网络的运算次数；以及/n神经网络缩简部，其以使所述运算装置进行的神经网络的运算次数与所述运算次数设定部设定的运算次数相等的方式缩简神经网络。/n

【技术特征摘要】
【国外来华专利技术】20190118 JP 2019-0066601.一种神经网络的缩简装置，其通过缩简神经网络来减少由具备多个运算器的运算装置进行的神经网络的运算次数，其特征在于，具备：
运算器分配部，其设定针对神经网络的运算处理的所述运算器的分配数；
运算次数设定部，其根据所述运算器的分配数来设定缩简后的神经网络的运算次数；以及
神经网络缩简部，其以使所述运算装置进行的神经网络的运算次数与所述运算次数设定部设定的运算次数相等的方式缩简神经网络。


2.根据权利要求1所述的神经网络的缩简装置，其特征在于，
所述运算次数设定部将缩简后的神经网络的运算次数设定为比缩简前的神经网络的运算次数小而且是所述运算器分配部设定的所述运算器的分配数的整数倍。


3.根据权利要求1所述的神经网络的缩简装置，其特征在于，
所述运算次数设定部以缩简前的神经网络的运算次数除以所述运算器分配部设定的所述运算器的分配数得到的余数为该运算器的分配数的一半以上的方式设定缩简后的神经网络的运算次数。


4.根据权利要求1所述的神经网络的缩简装置，其特征在于，
神经网络具有多个层，
所述运算器分配部针对神经网络的每一层来设定所述运算器的分配数，
所述运算次数设定部针对神经网络的每一层来设定缩简后的神经网络的运算次数。


5.根据权利要求1所述的神经网...

【专利技术属性】
技术研发人员：伊藤浩朗，小野豪一，平井理宇，
申请(专利权)人：日立安斯泰莫株式会社，
类型：发明
国别省市：日本;JP