一种神经网络的全局池化方法及众核系统技术方案

本公开提供了一种神经网络的全局池化方法及众核系统，该方法包括：接收前一网络层依次输入的待处理数据的点数据；在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成。基于本公开提供的方案可以在众核系统行流水操作下运用点操作代替图操作，即每接收到一个点数据之后，均会对其处理一次得到一个中间池化结果，直到最后得到待处理数据的最终池化结果，从而减少计算延时。从而减少计算延时。从而减少计算延时。

【技术实现步骤摘要】
一种神经网络的全局池化方法及众核系统


[0001]本公开涉及神经网络
，特别是涉及一种神经网络的全局池化方法及众核系统。

技术介绍

[0002]随着人工智能技术的不断发展，深度学习的应用也越来越广泛。卷积神经网络(Convolutional Neural Networks,CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks)，是深度学习(deep learning)的代表算法之一。传统的CNN最后一层都是全连接层，参数个数非常之多，容易引起过拟合(如Alexnet)，一个CNN模型，大部分的参数都被全连接层给占用了，影响处理速度，增加处理时间。因此，提出采用了全局均值池化替代全连接层的方案。然而，相关技术中，全局池化的计算延迟较长。

技术实现思路

[0003]鉴于上述问题，本公开提供了一种克服上述问题或至少部分地解决了上述问题的一种神经网络的全局池化方法及众核系统。
[0004]根据本公开的一个方面，提供了一种神经网络的全局池化方法，应用于众核系统，所述方法包括：
[0005]接收前一网络层依次输入的待处理数据的点数据；
[0006]在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成。
[0007]可选地，所述在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成，包括：
[0008]接收所述前一网络层输入的第一个点数据，基于所述第一个点数据进行预设池化操作，得到第一池化结果；
[0009]继续接收所述待处理数据的点数据，并在每接收到一个点数据后均执行所述预设池化操作，直至所述待处理数据所有点数据池化完成，得到最终池化结果。
[0010]可选地，所述继续接收所述待处理数据的点数据，并在每接收到一个点数据后均执行所述预设池化操作，直至所述待处理数据所有点数据池化完成，得到最终池化结果，包括：
[0011]接收所述待处理数据的第n个点数据，基于第n-1个点数据的池化结果对所述第n个点数据进行预设池化操作，得到第n池化结果；
[0012]接收待处理数据的第N个点数据，基于第N-1个点数据的池化结果对所述第N个点数据进行预设池化操作，得到第N池化结果；
[0013]其中，所述第N池化结果为所述待处理数据的最终池化结果；
[0014]所述N表示所述待处理数据的点个数，1＜n＜N。
[0015]可选地，所述预设池化操作包括：平均池化或最大值池化。
[0016]可选地，所述众核系统的存储空间包括第一存储空间和第二存储空间，
[0017]当所述预设池化操作为平均池化操作时，所述在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成，包括：
[0018]接收第一个点数据并存入所述第一存储空间,作为数据A1；将所述第二存储空间的数据初始化为0，并在所述第二存储空间中存放数据B1＝A1*(1/N)；
[0019]接收第n个点数据并存入所述第一存储空间，作为数据A
n
；将A
n
通过乘加器输出到所述第二存储空间，得到B
n
＝B
n-1
+A
n
*(1/N)；
[0020]接收第N个点数据并存入所述第一存储空间，作为数据A
N
；将A
N
通过乘加器输出到所述第二存储空间，得到B
N
＝B
N-1
+A
N
*(1/N)，
[0021]其中，所述N表示所述待处理数据的点个数，1＜n＜N。
[0022]可选地，所述众核系统的存储空间包括第一存储空间和第二存储空间，
[0023]当所述预设池化操作为最大值池化时，所述在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成，包括：
[0024]接收第一个点数据并存入所述第一存储空间,作为数据A1；将所述第二存储空间的数据B0初始化为负无穷，并在所述第二存储空间中存放最大值，B1＝Max(A1,B0)；
[0025]接收第n个点数据并存入所述第一存储空间，作为数据A
n
；在所述第二存储空间中存放最大值，B
n
＝Max(A
n
,B
n-1
)；
[0026]接收第N个点数据并存入第一存储空间，作为数据A
N
；在所述第二存储空间中存放最大值，B
N
＝Max(A
N
,B
N-1
)，
[0027]其中，所述N表示所述待处理数据的点个数，1＜n＜N。
[0028]根据本公开的再一个方面，还提供了一种众核系统，其特征在于，所述众核系统包括：
[0029]多个处理核，所述多个处理核中的至少一个处理核执行如下操作：
[0030]接收前一网络层依次输入的待处理数据的点数据；
[0031]在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成。
[0032]可选地，所述处理核包括：
[0033]控制器，被配置为控制接收并存储上一网络层输入的点数据；
[0034]存储器，被配置为存储所述点数据；
[0035]运算器，被配置为在所述控制器的控制下基于所述点数据执行预设池化操作。
[0036]可选地，存储器包括第一存储器和第二存储器。
[0037]可选地，运算器还被配置为：
[0038]接收待处理数据的第n个点数据，基于第n-1个点数据的池化结果对第n个点数据进行预设池化操作，得到第n池化结果；
[0039]接收待处理数据的第N个点数据，基于第N-1个点数据的池化结果对第N个点数据进行预设池化操作，得到第N池化结果；
[0040]其中，第N池化结果为待处理数据的最终池化结果；N表示待处理数据的点个数，1
＜n＜N。
[0041]可选地，运算器还被配置为：
[0042]对存储器中的点数据执行平均池化操作，具体配置为：
[0043]接收第一个点数据并存入第一存储器,作为数据A1；将第二存储器中的数据B初始化为0，并在第二存储器中存放数据B1＝A1*(1/N)；
[0044]接收第n个点数据并存入第一存储器，作为数据A
n
；
[0045]将A
n
通过乘加器输出到第二存储器，得到B
n
＝B
n-1
+A
n
*(1/N)；
[0046]接收第N个点数据并存入第一存储器，作为数据A
N...

【技术保护点】

【技术特征摘要】
1.一种神经网络的全局池化方法，应用于众核系统，所述方法包括：接收前一网络层依次输入的待处理数据的点数据；在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成。2.根据权利要求1所述的方法，其特征在于，所述在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成，包括：接收所述前一网络层输入的第一个点数据，基于所述第一个点数据进行预设池化操作，得到第一池化结果；继续接收所述待处理数据的点数据，并在每接收到一个点数据后均执行所述预设池化操作，直至所述待处理数据所有点数据池化完成，得到最终池化结果。3.根据权利要求2所述的方法，其特征在于，所述继续接收所述待处理数据的点数据，并在每接收到一个点数据后均执行所述预设池化操作，直至所述待处理数据所有点数据池化完成，得到最终池化结果，包括：接收所述待处理数据的第n个点数据，基于第n-1个点数据的池化结果对所述第n个点数据进行预设池化操作，得到第n池化结果；接收待处理数据的第N个点数据，基于第N-1个点数据的池化结果对所述第N个点数据进行预设池化操作，得到第N池化结果；其中，所述第N池化结果为所述待处理数据的最终池化结果；所述N表示所述待处理数据的点个数，1＜n＜N。4.根据权利要求1-3中任意一项所述的方法，其特征在于，所述预设池化操作包括：平均池化或最大值池化。5.根据权利要求4所述的方法，其特征在于，所述众核系统的存储空间包括第一存储空间和第二存储空间，当所述预设池化操作为平均池化操作时，所述在每接收到一个点数据后，均基于当前接收到的所述点数据执行预设池化操作，直至所述待处理数据所有点数据池化完成，包括：接收第一个点数据并存入所述第一存储空间,作为数据A1；将所述第二存储空间的数据初始化为0，并在所述第二存储空间中存放数据B1＝A1*(1/N)；接收第n个点数据并存入所述第一存储空间，作为数据A
n
；将A
n
通过乘加器输出到所述第二存储空间，得到B
n
＝B
n-1
+A
n
*(1/N)；接收第N个点数据并存入所述第一存储空间，作为数据A
N<...

【专利技术属性】
技术研发人员：戚海涛，李涵，
申请(专利权)人：北京灵汐科技有限公司，
类型：发明
国别省市：