缓存单元的查找方法及相关设备技术

本申请公开了缓存单元的查找方法及相关设备，涉及计算机技术领域中的人工智能技术。具体实现方案为：在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元，从而可以提升电子设备查找上述缓存单元的效率，进而提升电子设备在缓存单元的查找过程中的响应速度。

Search method and related equipment of cache unit

【技术实现步骤摘要】
缓存单元的查找方法及相关设备
本申请涉及计算机
中的人工智能技术，尤其涉及一种缓存单元的查找方法及相关设备。
技术介绍
现有技术中，在定长输入下，若深度神经网络有M个缓存单元，则M个缓存单元的整体查找时间复杂度为O(MlogM)。而在变长输入下，由于网络形状的不断变化导致每层的输入形状也在不断变化，变长输入下的缓存单元个数是定长输入下的N倍(N是不同输入形状的数量)，即MN个。那么这MN个缓存单元的整体查找时间复杂度为O(MNlog(MN))，故变长输入下的缓存单元查找时间复杂度至少是定长输入下的N倍，且不同输入形状的数量越多即N越大，在变长输入下查找缓存单元的时间复杂度增大越多，进而导致查找效率较低。可见，目前在变长输入下查找缓存单元存在查找效率较低的问题。
技术实现思路
本申请实施例提供一种缓存单元的查找方法及相关设备，以解决目前在变长输入下查找缓存单元存在查找效率较低的问题。为解决上述技术问题，本申请是这样实现的：本申请第一方面提供一种缓存单元的查找方法，包括：在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元。可选的，所述第一层字典包括至少两个第一键值对，且所述第一键值对的键用于指示网络形状的名字，所述第一键值对的值用于指示一个第二层字典；所述在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典，包括：生成所述输入数据的网络形状的第一名字；在所述至少两个第一键值对中，查找是否存在目标第一键值对，其中，所述目标第一键值对的键所指示的名字与所述第一名字匹配；若确定存在所述目标第一键值对，则确定存在与所述输入数据的网络形状关联的目标第二层字典，其中，所述目标第二层字典为所述目标第一键值对的值所指示的第二层字典；若确定不存在所述目标第一键值对，则确定不存在所述目标第二层字典。可选的，所述目标第二层字典包括至少一个第二键值对，且所述第二键值对的键用于指示深度神经网络的层的名字，所述第二键值对的值用于指示一个缓存单元；所述基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，包括：在所述至少一个第二键值对中查找目标第二键值对，其中，所述目标第二键值对的键所指示的名字与所述目标层的第二名字匹配；确定所述目标第二键值对的值所指示的缓存单元为目标缓存单元。可选的，所述方法还包括：在所述第一层字典所指示的第二层字典中不存在所述目标第二层字典的情况下，生成与所述输入数据的网络形状关联的初始化第二层字典，并将所述初始化第二层字典添加至所述至少两个第二层字典中；获取所述深度神经网络的每一层的缓存单元，并将所有层的缓存单元作为所述初始化第二层字典所指示的缓存单元。本申请第二方面提供一种缓存单元的查找装置，包括：第一查找模块，用于在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；第二查找模块，在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元。可选的，所述第一层字典包括至少两个第一键值对，且所述第一键值对的键用于指示网络形状的名字，所述第一键值对的值用于指示一个第二层字典；所述在第一查找模块，包括：第一名字生成单元，用于生成所述输入数据的网络形状的第一名字；第一查找单元，用于在所述至少两个第一键值对中，查找是否存在目标第一键值对，其中，所述目标第一键值对的键所指示的名字与所述第一名字匹配；第一确定单元，用于若确定存在所述目标第一键值对，则确定存在与所述输入数据的网络形状关联的目标第二层字典，其中，所述目标第二层字典为所述目标第一键值对的值所指示的第二层字典；第二确定单元，用于若确定不存在所述目标第一键值对，则确定不存在所述目标第二层字典。可选的，所述目标第二层字典包括至少一个第二键值对，且所述第二键值对的键用于指示深度神经网络的层的名字，所述第二键值对的值用于指示一个缓存单元；所述第二查找模块，包括：第二查找单元，用于在所述至少一个第二键值对中查找目标第二键值对，其中，所述目标第二键值对的键所指示的名字与所述目标层的第二名字匹配；第三确定单元，用于确定所述目标第二键值对的值所指示的缓存单元为目标缓存单元。可选的，所述装置还包括：初始化模块，用于在所述第一层字典所指示的第二层字典中不存在所述目标第二层字典的情况下，生成与所述输入数据的网络形状关联的初始化第二层字典，并将所述初始化第二层字典添加至所述至少两个第二层字典中；缓存单元获取模块，用于获取所述深度神经网络的每一层的缓存单元，并将所有层的缓存单元作为所述初始化第二层字典所指示的缓存单元。本申请第三方面提供一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的方法。本申请第四方面提供一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述第一方面所述的方法。上述申请中的一个实施例具有如下优点或有益效果：在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元。因为采用两层字典结构(即第一层字典和第二层字典)查找缓存单元的技术手段，所以克服了在变长输入下查找缓存单元存在查找效率较低的技术问题，进而达到有效降低变长输入下查找缓存单元的时间复杂度，提升查找效率的技术效果。另外，第一层字典通过键值对的方式分别指示第二层字典以及与第二层字典对应的网络形状的名字，从而可以提升电子设备查找上述目标第二层字典的效率，进而提升电子设备在缓存单元的查找过程中的响应速度。第二层字典通过键值对的方式分别指示网络的层的名字以及与网络的层的名字对应的缓存单元，从而可以提升电子设备查找上述缓存单元的效率，进而提升电子设备在缓存单元的查找过程中的响应速度。<本文档来自技高网...

【技术保护点】
1.一种缓存单元的查找方法，其特征在于，包括：/n在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；/n在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元。/n

【技术特征摘要】
1.一种缓存单元的查找方法，其特征在于，包括：
在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；
在进入所述深度神经网络的目标层，且确定存在所述目标第二层字典的情况下，基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，其中，所述目标第二层字典用于指示包括所述目标缓存单元的至少一个缓存单元。


2.根据权利要求1所述的方法，其特征在于，所述第一层字典包括至少两个第一键值对，且所述第一键值对的键用于指示网络形状的名字，所述第一键值对的值用于指示一个第二层字典；
所述在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典，包括：
生成所述输入数据的网络形状的第一名字；
在所述至少两个第一键值对中，查找是否存在目标第一键值对，其中，所述目标第一键值对的键所指示的名字与所述第一名字匹配；
若确定存在所述目标第一键值对，则确定存在与所述输入数据的网络形状关联的目标第二层字典，其中，所述目标第二层字典为所述目标第一键值对的值所指示的第二层字典；
若确定不存在所述目标第一键值对，则确定不存在所述目标第二层字典。


3.根据权利要求1所述的方法，其特征在于，所述目标第二层字典包括至少一个第二键值对，且所述第二键值对的键用于指示深度神经网络的层的名字，所述第二键值对的值用于指示一个缓存单元；
所述基于所述目标第二层字典，查找与所述目标层关联的目标缓存单元，包括：
在所述至少一个第二键值对中查找目标第二键值对，其中，所述目标第二键值对的键所指示的名字与所述目标层的第二名字匹配；
确定所述目标第二键值对的值所指示的缓存单元为目标缓存单元。


4.根据权利要求1至3中任一项所述的方法，其特征在于，所述查找是否存在与所述输入数据的网络形状关联的目标第二层字典之后，还包括：
在所述第一层字典所指示的第二层字典中不存在所述目标第二层字典的情况下，生成与所述输入数据的网络形状关联的初始化第二层字典，并将所述初始化第二层字典添加至所述至少两个第二层字典中；
获取所述深度神经网络的每一层的缓存单元，并将所有层的缓存单元作为所述初始化第二层字典所指示的缓存单元。


5.一种缓存单元的查找装置，其特征在于，包括：
第一查找模块，用于在获取到深度神经网络的输入数据的情况下，在第一层字典所指示的至少两个第二层字典中，查找是否存在与所述输入数据的网络形状关联的目标第二层字典；...

【专利技术属性】
技术研发人员：骆涛，高铁柱，赵亮，刘建航，王加森，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：北京;11