【技术实现步骤摘要】
【国外来华专利技术】
本专利技术涉及一种在计算装置中执行池化的方法以及应用该方法的硬件加速器。
技术介绍
1、cnn执行包括池化运算的多个运算步骤。美国授权专利us10713816中提出了以深层cnn池化层为特征而利用的物体检测方法。
2、图1示出根据一实施例的cnn的运算结构。以下，参照图1进行说明。
3、首先，可以通过对存储于内部存储器的输入图像数据(51)执行利用多个内核的卷积运算以生成卷积层(52)。生成卷积层(52)的步骤可以包括对执行所述卷积运算而获得的多个特征图执行非线性运算(例如：relu、sigmoid或tanh)的步骤。
4、然后，可以对卷积层(52)执行池化以生成池化层(53)。每个卷积层(52)可以包括能以m*n矩阵形态表示的数据。此时，为了执行池化，可以定义具有小于所述卷积层(52)的维度的窗的池化(pulling)窗。池化窗相对于行方向及列方向分别可以具有mp及np的大小。池化窗的大小可以小于卷积层的大小(m>＝mp且n>np或m>mp且n>＝np)。所述池化是从所示卷积层上重叠所述池化窗二选择的mp*np个数据生成较少数量的数据，例如1个数据的运算。例如，max池化为在所述mp*np个数据中选择1个最大值以输出的运算。例如，average池化为输出所述mp*np个数据的平均值的运算。此外，可以定义遵守其他规则的池化。在所述卷积层中能重叠所述池化窗的情况有多种。根据实施例，可以限制在所述卷积层上移动所述池化窗的规则。例如，将所述池化窗限制为沿所述卷积层的行方向跨越
5、然后，可以对池化层(53)执行平局(flattening)以生成要输入到神经网络(54)的阵列。
6、然后，可以将所述阵列输入到所述神经网络(54)以从所述神经网络(54)生成输出。
7、虽然图1示出cnn的一实施例，但是还有其他实现cnn的实施例。此外，虽然在图1中池化运算用于实现cnn，但是池化运算也可以用于除了cnn之外的其他计算
8、池化运算的运算量随着池化窗的大小增加而增加，随着stride的大小减小而增加。此外，stride的大小越小，在执行池化运算的过程中，重复相同运算的趋势增加。
技术实现思路
1、技术课题
2、本专利技术旨在提供一种用于减少池化运算的运算量的池化方法。
3、技术方案
4、根据本专利技术的一个观点，可以提供一种硬件加速器，所述硬件加速器执行将能以矩阵表现的输入数据(100)池化为行方向和列方向的大小分别为rp和cp大小的池化窗(10)的池化方法。所述池化方法包括：计算装置利用cp大小的第一池化窗(20)将所述输入数据(100)池化以生成临时数据(110)的步骤；及所述计算装置利用rp大小的第二池化窗(30)将所述临时数据(110)池化以生成池化数据(200)的步骤。
5、此时，所述第一池化窗(20)可以为行方向和列方向的大小分别为1和cp的窗，所述第二池化窗(30、31)可以为行方向和列方向的大小分别为rp和1的窗。
6、此时，所述生成池化数据(200)的步骤可以包括：所述计算装置转置所述临时数据(110)以生成转置数据(120)的步骤；所述计算装置利用所述第二池化窗(30、32)将所述转置数据(120)池化以生成第二临时数据(130)的步骤；及所述计算装置转置所述第二临时数据(130)以生成所述池化数据(200)的步骤。
7、此时，所述第一池化窗(20)可以为行方向和列方向的大小分别为1和cp的窗，所述第二池化窗(30、32)可以为行方向和列方向的大小分别为1和rp的窗。
8、或者，所述输入数据(100)可以沿行方向和列方向分别具有r和c的大小，所述临时数据(110)可以沿行方向和列方向分别具有c-cp+1和r的大小，所述池化数据(200)可以沿行方向和列方分别具有r-rp+1和c-cp+1的大小，将对所述输入数据(100)的元素对{(i、j)、(i、j+1)、...(i、j+cp-1)}和所述第一池化窗(20)进行重叠并池化的数据可以存储于所述临时数据(110)的元素(j、i)，其中i为行索引，j为列索引，将对所述临时数据(110)的元素对{(i、j)、(i、j+1)、...、(i、j+rp-1)}和所述第二池化窗(30、32)进行重叠并池化的数据可以存储于池化数据(200)的元素(j、i)，其中，i为行索引，j为列索引。
9、此时，所述第一池化窗(20)可以为行方向和列方向的大小分别为1和cp的窗，所述第二池化窗(30、32)可以为行方向和列方向的大小分别为1和rp的窗。
10、此时，所述第一池化窗的行方向步幅和列方向步幅分别可以为1和1。
11、此时，所述第二池化窗的行方向步幅和列方向步幅分别可以为1和1。
12、此时，所述既定的池化可以为max池化、min池化、及average池化中任一种。本专利技术不限于所述池化的具体输入输出特性。
13、此时，所述第一池化窗的行方向步幅可以为rp/2以下，所述第一池化窗的列方向步幅可以为cp/2以下，所述第二池化窗的行方向步幅可以为rp/2以下，且所述第三池化窗的列方向步幅可以为cp/2以下。
14、所述池化方法可以由所述计算装置通过包括指令码的软件来执行。此时，所述输入数据、所述临时数据、所述池化数据、所述转置数据及所述第二临时数据可以通过所述指令码被记录于所述计算装置的易失性存储器中定义的存储器空间中。如果需要，其中的一些可以存储于所述计算装置的非易失性存储器中。
15、根据本专利技术的另一个观点，可以提供一种硬件加速器，所述硬件加速器执行将能以矩阵表现的输入数据(100)池化为行方向和列方向的大小分别为rp和cp大小的池化窗(10)的池化方法。所述硬件加速器包括：控制部(40)；内部存储器(30)；及数据运算部(610)。此时，所述控制部可以配置成：使所述数据运算部在第一时段执行利用cp大小的第一池化窗(20)将所述输入数据(100)池化以生成临时数据(110)的步骤，且使所述数据运算部在所述第一时段之后的第二时段执行利用rp大小的第二池化窗(30)将所述临时数据(110)池化以生成池化数据(200)的步骤。
16、此时，所述输入数据(100)可以沿行方向和列方向分别具有r和c的大小，所述临时数据(110)可以沿行方向和列方向分别具有c-cp+1和r的大小，所述池化数据(200)可以沿行方向和列方分别具有r-rp+1和c-cp+1的大小本文档来自技高网...
【技术保护点】
1.一种池化方法，所述池化方法将能以矩阵表现的输入数据(100)池化为行方向和列方向的大小分别为Rp和Cp大小的池化窗(10)，包括：
2.根据权利要求1所述的池化方法，其中，
3.根据权利要求1所述的池化方法，其中，
4.根据权利要求3所述的池化方法，其中，
5.根据权利要求1所述的池化方法，其中，
6.根据权利要求5所述的池化方法，其中，
7.根据权利要求1所述的池化方法，其中，所述第一池化窗的行方向步幅和列方向步幅分别为1和1。
8.根据权利要求1所述的池化方法，其中，所述第二池化窗的行方向步幅和列方向步幅分别为1和1。
9.根据权利要求1所述的池化方法，其中，所述既定的池化为MAX池化、MIN池化、及Average池化中任一种。
10.根据权利要求1所述的池化方法，其中，
11.一种硬件加速器，所述硬件加速器执行将能以矩阵表现的输入数据(100)池化为行方向和列方向的大小分别为Rp和Cp大小的池化窗(10)的池化方法，包括：
12.根据权利要
13.根据权利要求12所述的硬件加速器，其中，
14.一种计算装置，包括：
...【技术特征摘要】
【国外来华专利技术】
1.一种池化方法，所述池化方法将能以矩阵表现的输入数据(100)池化为行方向和列方向的大小分别为rp和cp大小的池化窗(10)，包括：
2.根据权利要求1所述的池化方法，其中，
3.根据权利要求1所述的池化方法，其中，
4.根据权利要求3所述的池化方法，其中，
5.根据权利要求1所述的池化方法，其中，
6.根据权利要求5所述的池化方法，其中，
7.根据权利要求1所述的池化方法，其中，所述第一池化窗的行方向步幅和列方向步幅分别为1和1。
8.根据权利要求1所述的池化方法，其中...
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。