对图像数据进行处理的人工智能加速器和集成电路系统技术方案

本公开实施例公开了一种对图像数据进行处理的人工智能加速器和集成电路系统，其中，人工智能加速器包括：依次连接的输入单元、缓存单元和输出单元，还包括与缓存单元连接的比较单元；输入单元，用于基于预设神经网络计算得出的预测概率值集合中的每个预测概率值，并将预测概率值输入缓存单元；其中，所述预测概率值集合中包括通过预设神经网络对图像数据进行预测得到的多个预测概率值；比较单元，用于对输入到缓存单元中的预测概率值进行比较处理；缓存单元，用于缓存经过比较器比较处理后的多个预测概率值；输出单元，用于通过缓存单元输出目标数量的预测概率值，基于所述目标数量的预测概率值，确定所述预设神经网络的预测结果。测结果。测结果。

【技术实现步骤摘要】
对图像数据进行处理的人工智能加速器和集成电路系统


[0001]本公开涉及数据处理
，尤其是一种对图像数据进行处理的人工智能加速器和集成电路系统。

技术介绍

[0002]Top
‑
k算子是神经元网络后处理常见操作，例如，目标检测任务等计算机视觉任务的后处理；用于对结果按照预测的分值得到分值较大的k个预测结果，显著减少数据量；需要通过完全排序操作，将所有预测结果进行排序，从中选出排在前k的元素即为所求，来确定Top
‑
k个预测结果。

技术实现思路

[0003]为了解决上述技术问题，提出了本公开。本公开的实施例提供了一种对图像数据进行处理的人工智能加速器和集成电路系统。
[0004]根据本公开实施例的一个方面，提供了一种对图像数据进行处理的人工智能加速器，包括：
[0005]所述输入单元，用于接收预设神经网络输出的预测概率值集合中的每个预测概率值，并将所述预测概率值输入所述缓存单元；其中，所述预测概率值集合中包括所述预设神经网络预测得到的多个预测概率值；
[0006]所述比较单元，用于对输入到所述缓存单元中的预测概率值进行比较处理；
[0007]所述缓存单元，用于缓存经过所述比较器比较处理后的多个所述预测概率值；
[0008]所述输出单元，用于通过所述缓存单元输出目标数量的预测概率值，基于所述目标数量的预测概率值，确定所述预设神经网络的预测结果。
[0009]根据本公开实施例的另一方面，提供了一种对图像数据进行处理的集成电路系统，包括：多个并列分布的第一人工智能加速器，以及与多个所述第一人工智能加速器分别连接的第二人工智能加速器；其中，所述第一人工智能加速器和所述第二人工智能加速器为上述任一实施例所述的对图像数据进行处理的人工智能加速器；
[0010]所述第一人工智能加速器，用于接收预设神经网络输出的预测概率值集合中的部分预测概率值，并输出所述部分预测概率值中取值最大的目标数量的预测概率值；其中，所述预测概率值集合中包括所述预设神经网络预测得到的多个预测概率值；
[0011]所述第二人工智能加速器，用于接收所述多个第一人工智能加速器输出的所有所述预测概率值，并输出所有所述预测概率值中取值最大的目标数量的预测概率值，基于所述目标数量的预测概率值，确定所述预设神经网络的预测结果。
[0012]根据本公开实施例的又一方面，提供了一种电子设备，所述电子设备包括：上述实施例所述的对图像数据进行处理的人工智能加速器或上述实施例所述的对图像数据进行处理的集成电路系统。
[0013]基于本公开上述实施例提供的一种对图像数据进行处理的人工智能加速器和集
成电路系统，通过比较单元对输入到缓存单元中的预测概率值进行比较处理，实现通过硬件从数据集中获取目标数量的预测概率值，无需对数据集中的所有数据进行排序，减少了处理的数据量；降低了时间复杂度。
[0014]下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。
附图说明
[0015]通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
[0016]图1是本公开一示例性实施例提供的对图像数据进行处理的人工智能加速器的结构示意图；
[0017]图2是本公开一示例性实施例提供的对图像数据进行处理的人工智能加速器中缓存单元的结构示意图；
[0018]图3a是本公开另一示例性实施例提供的对图像数据进行处理的人工智能加速器的结构示意图；
[0019]图3b是本公开一示例性实施例中一个比较器执行比较的过程示意图；
[0020]图3c是本公开一示例性实施例中对缓存单元初始化的过程示意图；
[0021]图3d是对图3c所示实施例初始化后的缓存单元继续接收预测概率值的过程示意图；
[0022]图3e是图3d所示实施例完成数据比较后的缓存单元的结构示意图；
[0023]图3f是本公开另一示例性实施例中缓存单元出队前的结构示意图；
[0024]图3g是对图3f所示的缓存单元执行出队一个数据后的结构示意图；
[0025]图4是本公开一示例性实施例提供的对图像数据进行处理的集成电路系统的结构示意图。
具体实施方式
[0026]为了解释本公开，下面将参考附图详细地描述本公开的示例实施例，显然，所描述的实施例仅是本公开的一部分实施例，而不是全部实施例，应理解，本公开不受示例性实施例的限制。
[0027]应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
[0028]申请概述
[0029]在实现本公开的过程中，专利技术人发现，现有技术中通常采用数据池的思路，例如，若需要对N个待排序数据进行排序，则需要从N中按照大小顺序选择其中前k个数作为数据池，后面的N
‑
k个数与这k个数进行比较，若小于其中的任何一个数，则进行替换。这种算法至少存在以下问题：时间复杂度较高，为O(k)；其中，算法的时间复杂度是一个用于度量一个算法的运算时间的一个描述；时间复杂度本质是一个函数，指明某个算法的耗时间/耗空间与数据增长量之间的关系，根据这个函数能在不用具体的测试数据来测试的情况下，粗
略地估计算法的执行效率，即时间复杂度表示的只是代码执行时间随数据规模增长的变化趋势。其中，时间复杂度O(N*k)表示，N为样本数量，k为每次进行比较的样本数量。O(N)指的是算法的运行时间与输入规模成正比，即，若输入规模为T，花费时间为N，则输入规模2T时，花费时间为2N；O(N*k)指的是算法的运行时间与输入规模成正比以及比较数量成正比，即，若输入规模为T，花费时间为N*k，则输入规模2T时，花费时间为2N*k。
[0030]示例性加速器
[0031]图1是本公开一示例性实施例提供的对图像数据进行处理的人工智能加速器的结构示意图。如图1所示，本实施例提供的人工智能加速器包括：依次连接的输入单元11、缓存单元12和输出单元13，还包括与缓存单元12连接的比较单元14；
[0032]输入单元11，用于基于预设神经网络计算得出的预测概率值集合中的每个预测概率值，并将预测概率值输入缓存单元。
[0033]其中，预测概率值集合中包括通过预设神经网络对图像数据进行预测得到的多个预测概率值。
[0034]可选地，本实施例中的预设神经网络可以为任意预测深度神经网络，例如，分类网络、识别网络等，当预设神经网络为分类网络时，输入数据可以为图像、文本、语音、视频等形式的数据，通过分类网络对输入数据进行处理得到预测概率值集合，预测概率值集合表示分类网络输出的对应多个类别的概率值；需要对这些预测概率值进本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种对图像数据进行处理的人工智能加速器，包括：依次连接的输入单元、缓存单元和输出单元，还包括与所述缓存单元连接的比较单元；所述输入单元，用于基于预设神经网络计算得出的预测概率值集合中的每个预测概率值，并将所述预测概率值输入所述缓存单元；其中，所述预测概率值集合中包括通过所述预设神经网络对图像数据进行预测得到的多个预测概率值；所述比较单元，用于对输入到所述缓存单元中的预测概率值进行比较处理；所述缓存单元，用于缓存经过所述比较器比较处理后的多个所述预测概率值；所述输出单元，用于通过所述缓存单元输出目标数量的预测概率值，基于所述目标数量的预测概率值，确定所述预设神经网络的预测结果。2.根据权利要求1所述的人工智能加速器，其中，所述缓存单元包括依次连接的第一数量的缓存子单元；每个所述缓存子单元，用于存储最小堆结构中同一层中所有节点中的数据。3.根据权利要求2所述的人工智能加速器，其中，所述比较单元包括第二数量的比较器，在所述缓存单元的每两个相邻的所述缓存子单元之间设置所述比较器；每个所述比较器，用于对所述比较器对应的两个所述缓存子单元中已缓存的预测概率值和新接收的预测概率值进行比较；其中，两个所述缓存子单元包括第一缓存子单元和第二缓存子单元，所述第一缓存子单元用于缓存最小堆结构中至少一个父节点中的预测概率值，所述第二缓存子单元用于缓存所述第一缓存子单元对应的至少一个父节点对应的多个子节点中的预测概率值。4.根据权利要求3所述的人工智能加速器，其中，所述比较器，用于对所述输入单元首先传入的目标数量的预测概率值在至少一个所述缓存子单元中进行比较，实现将所述目标数量的预测概率值分别缓存入所述第一数量的缓存子单元中，完成所述缓存单元的初始化。5.根据权利要求4所述的人工智能加速器，其中，所述比较器，还用于在所述缓存单元初始化之后，将每个输入到所述第一缓存子单元中的预测概率值与所述第一缓存子单元中预存的初始化值中的较大值缓存到所述第一缓存子单元中，作为所述第一缓存子单元中的存储值；并将所述第一缓存子单元的存储值与所述第二缓存子单元中的初始化值进行比较，使所述存储值与所述初始化值中的较大值存入所述第二缓存子单元中，作为所述第二缓存子单元中的存...

【专利技术属性】
技术研发人员：赵卓然，
申请(专利权)人：北京地平线信息技术有限公司，
类型：发明
国别省市：