一种前向耗时的确定方法、装置及设备制造方法及图纸

本申请提供一种前向耗时的确定方法、装置及设备，该方法包括：将待测神经网络划分为多个子网络；从多个子网络中选取至少一个子网络作为目标子网络；针对每个目标子网络，确定与所述目标子网络对应的子网络集合；子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为多个子网络中除所述目标子网络之外的子网络；根据子网络集合的信息获取所述目标子网络的耗时；根据每个目标子网络的耗时确定待测神经网络的前向耗时。通过本申请的技术方案，能够有效预测待测神经网络的前向耗时。

【技术实现步骤摘要】
一种前向耗时的确定方法、装置及设备
本申请涉及机器学习领域，尤其是一种前向耗时的确定方法、装置及设备。
技术介绍
机器学习是实现人工智能的一种途径，是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习用于研究计算机如何模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习更加注重算法设计，使计算机能够自动地从数据中学习规律，并利用规律对未知数据进行预测。机器学习已经有了十分广泛的应用，如深度学习、数据挖掘、计算机视觉、自然语言处理、生物特征识别、搜索引擎、医学诊断、检测信用卡欺诈、证券市场分析、DNA序列测序、语音和手写识别、战略游戏和机器人运用等等。神经网络是以人脑为模型的机器学习，是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法模型，神经网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。神经网络的前向耗时，是网络结构搜索任务和网络裁剪任务的重要依据，因此，需要有效预测神经网络的前向耗时。但是，应该如何有效预测神经网络的前向耗时，在相关技术中并没有给出合理的解决方案。
技术实现思路
有鉴于此，本申请提供一种前向耗时的确定方法，所述方法包括：将待测神经网络划分为多个子网络；从所述多个子网络中选取至少一个子网络作为目标子网络；针对每个目标子网络，确定与所述目标子网络对应的子网络集合；其中，所述子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为所述多个子网络中除所述目标子网络之外的子网络；根据所述子网络集合的信息获取所述目标子网络的耗时；根据每个目标子网络的耗时确定所述待测神经网络的前向耗时。本申请提供一种前向耗时的确定装置，所述装置包括：子网络集合获取模块，用于将待测神经网络划分为多个子网络；从所述多个子网络中选取至少一个子网络作为目标子网络；针对每个目标子网络，确定与所述目标子网络对应的子网络集合；其中，所述子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为所述多个子网络中除所述目标子网络之外的子网络；子网络耗时获取模块，用于根据所述子网络集合的信息获取所述目标子网络的耗时；耗时输出模块，用于根据每个目标子网络的耗时确定所述待测神经网络的前向耗时。本申请提供一种前向耗时的确定设备，包括：处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令；所述处理器用于执行机器可执行指令，以实现如下步骤：将待测神经网络划分为多个子网络；从所述多个子网络中选取至少一个子网络作为目标子网络；针对每个目标子网络，确定与所述目标子网络对应的子网络集合；其中，所述子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为所述多个子网络中除所述目标子网络之外的子网络；根据所述子网络集合的信息获取所述目标子网络的耗时；根据每个目标子网络的耗时确定所述待测神经网络的前向耗时。由以上技术方案可见，本申请实施例中，可以根据子网络集合的信息获取目标子网络的耗时，而子网络集合包括目标子网络和关联子网络，即，基于目标子网络和关联子网络的信息获取目标子网络的耗时，而不是采用目标子网络的信息获取目标子网络的耗时，从而能够提高目标子网络的耗时的准确性。然后，可以根据每个目标子网络的耗时确定待测神经网络的前向耗时，由于目标子网络的耗时估计的比较准确，因此，能够有效预测待测神经网络的前向耗时。附图说明为了更加清楚地说明本申请实施例或者现有技术中的技术方案，下面将对本申请实施例或者现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据本申请实施例的这些附图获得其他的附图。图1是本申请一种实施方式中的前向耗时的确定方法的流程图；图2A-图2I是本申请一种实施方式中的子网络集合划分示意图；图3A-图3C是本申请一种实施方式中的耗时预测示意图；图4是本申请另一种实施方式中的前向耗时的确定方法的流程图；图5是本申请另一种实施方式中的前向耗时的确定方法的流程图；图6是本申请一种实施方式中的前向耗时的确定装置的结构图；图7是本申请一种实施方式中的前向耗时的确定设备的结构图。具体实施方式在本申请实施例使用的术语仅仅是出于描述特定实施例的目的，而非限制本申请。本申请和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其它含义。还应当理解，本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。应当理解，尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本申请范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，此外，所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。机器学习是实现人工智能的一种途径，用于研究计算机如何模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。进一步的，神经网络是以人脑为模型的机器学习，是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法模型。示例性的，神经网络可以包括但不限于：卷积神经网络(简称CNN)、循环神经网络(简称RNN)、全连接网络等。神经网络的结构单元可以包括但不限于：卷积层(Conv)、池化层(Pool)、激励层、全连接层(FC)等，对此不做限制。在卷积层中，通过使用卷积核对数据进行卷积运算，使数据特征增强，卷积层在空间范围内使用卷积核进行卷积运算，该卷积核可以是m*n大小的矩阵，卷积层的输入与卷积核进行卷积，可以得到卷积层的输出。卷积运算实际是一个滤波过程，在卷积运算中，是将数据上点(x，y)的值f(x，y)与卷积核w(x，y)进行卷积。例如，提供4*4的卷积核，该4*4的卷积核包含16个数值，这16个数值的大小可以根据需要配置。按照4*4的大小在数据上依次滑动，得到多个4*4的滑动窗口，将该4*4的卷积核与每个滑动窗口进行卷积，得到多个卷积特征，这些卷积特征就是卷积层的输出，且被提供给下一层。在池化层中，实际上就是一个降采样的过程，通过对多个特征(如卷积层输出的特征)进行取最大值、取最小值、取平均值等操作，从而可以减少计算量，并保持特征不变性。在池化层中，可以利用数据局部相关性的原理，对数据进行子抽样，从而可以减少数据处理量，并保留数据中的有用信息。在激励层中，可以使用激活函数(如非线性函数)对特征(如池化层输出的特征)进行映射，从而引入非线性因素，使得神经网络通过非线本文档来自技高网...

【技术保护点】
1.一种前向耗时的确定方法，其特征在于，所述方法包括：/n将待测神经网络划分为多个子网络；/n从所述多个子网络中选取至少一个子网络作为目标子网络；/n针对每个目标子网络，确定与所述目标子网络对应的子网络集合；其中，所述子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为所述多个子网络中除所述目标子网络之外的子网络；/n根据所述子网络集合的信息获取所述目标子网络的耗时；/n根据每个目标子网络的耗时确定所述待测神经网络的前向耗时。/n

【技术特征摘要】
1.一种前向耗时的确定方法，其特征在于，所述方法包括：
将待测神经网络划分为多个子网络；
从所述多个子网络中选取至少一个子网络作为目标子网络；
针对每个目标子网络，确定与所述目标子网络对应的子网络集合；其中，所述子网络集合包括所述目标子网络和所述目标子网络的关联子网络，所述关联子网络为所述多个子网络中除所述目标子网络之外的子网络；
根据所述子网络集合的信息获取所述目标子网络的耗时；
根据每个目标子网络的耗时确定所述待测神经网络的前向耗时。


2.根据权利要求1所述的方法，其特征在于，
基于所述多个子网络的顺序关系，所述关联子网络为：
所述目标子网络相邻的前M1个子网络；或者，
所述目标子网络相邻的后M2个子网络；或者，
所述目标子网络相邻的前M3个子网络和相邻的后M4个子网络；
其中，M1，M2，M3和M4均为正整数。


3.根据权利要求1或2所述的方法，其特征在于，
所述子网络集合还包括所述目标子网络与所述关联子网络组成的整体网络。


4.根据权利要求1或2所述的方法，其特征在于，
所述子网络集合的信息为所述子网络集合的网络标识，所述根据所述子网络集合的信息获取所述目标子网络的耗时，包括：
通过所述子网络集合的网络标识查询映射关系表，得到与所述网络标识对应的所述目标子网络的耗时；其中，所述映射关系表包括子网络集合的网络标识与该子网络集合对应的目标子网络的耗时之间的对应关系。


5.根据权利要求4所述的方法，其特征在于，
所述映射关系表的获取方式包括：
获取子网络集合，所述子网络集合包括目标子网络和关联子网络；
将测试数据输入到所述子网络集合，由所述子网络集合中的目标子网络和关联子网络对所述测试数据进行处理；
根据所述测试数据的处理结果确定所述目标子网络的耗时；
将所述子网络集合的网络标识与所述目标子网络的耗时记录到映射关系表。


6.根据权利要求1或2所述的方法，其特征在于，
所述子网络集合的信息为所述子网络集合的网络特征，所述根据所述子网络集合的信息获取所述目标子网络的耗时，包括：
基于函数映射模型，确定所述子网络集合的每个网络特征的耗时；其中，所述函数映射模型包括网络特征与该网络特征的耗时之间的对应关系；
根据所述子网络集合的每个网络特征的耗时，获取所述目标子网络的耗时；或者，从所述子网络集合的所有网络特征中选取所述目标子网...

【专利技术属性】
技术研发人员：张如意，李哲暘，杨子伟，谭文明，
申请(专利权)人：杭州海康威视数字技术股份有限公司，
类型：发明
国别省市：浙江;33