用于执行一个或多个向量矩阵运算的方法、用于执行该方法的计算单元和计算模块技术

本发明专利技术涉及一种用于借助于矩阵运算电路(60)来执行一个或多个向量矩阵运算的方法，所述矩阵运算电路具有多条行线路(661，662，...66M)和多条列线路(681，682，...68N)，其中所述列线路分别具有电流输出端(721，722，...72N)并且所述矩阵运算电路被设立为在所述电流输出端处产生输出电流，所述输出电流的电流强度(I1，I2，...IN)是附在所述多条列线路上的多个行电压的函数，所述方法包括：接收具有多个输入值的输入向量；在所述行线路上施加和提高所述行电压，其中所述行电压从零开始被线性提高，其中对于所述行电压中的每个行电压来说，相应的提高速率都与所述输入值之一成比例；检测在所述电流输出端处产生的输出电流；将所检测到的输出电流的电流强度与预定的极限电流强度进行比较；如果在所述比较中查明所述输出电流中的至少一个输出电流所具有的电流强度大于所述极限电流强度，则结束对所述行电压的提高；而且基于所检测到的电流来确定具有多个输出值的一个或多个输出向量。本发明专利技术还涉及一种用于执行该方法的计算单元和一种包括计算单元的计算模块。括计算单元的计算模块。括计算单元的计算模块。

【技术实现步骤摘要】
【国外来华专利技术】用于执行一个或多个向量矩阵运算的方法、用于执行该方法的计算单元和计算模块


[0001]本专利技术涉及一种用于执行一个或多个向量矩阵运算的方法以及一种用于执行该方法的计算单元和一种用于执行该方法的计算模块。

技术介绍

[0002]在很多计算密集型任务中、尤其是在人工智能应用中或者在机器学习应用中，需要借助于矩阵运算来处理向量。例如，必须执行向量矩阵乘法。为了快速且高效地执行这种矩阵运算，可以使用以专门为此所提供的电子电路为形式的向量矩阵乘法器。
[0003]在这些也称为“点积引擎(Dot
‑
Product
‑
Engines)”的向量矩阵乘法器中，借助于忆阻器的矩阵形排列来将输入电压的向量转换成输出电压的向量，这些忆阻器布置在彼此正交走向的线路的交叉点处并且这些忆阻器使交叉的线路成对连接，其中这些输出电压分别正比于这些输入电压的向量与布置成一列的忆阻器的电导率的点积(英文“dot product”)。在此，这些输入电压被施加给朝一个方向走向的行线路并且会导致经由这些忆阻器到与之正交走向的其电位为接地的列线路中的电流。这些电流可以借助于跨阻放大器被转换成输出电压，这些输出电压通过模拟
‑
数字转换器被转换成相对应的数字值。这种电路可以达到分别几百个行和列的大小。

技术实现思路

[0004]按照本专利技术，提出了具有专利独立权利要求的特征的一种用于执行一个或多个向量矩阵运算的方法以及一种用于执行该方法的计算单元和一种用于执行该方法的计算模块。有利的设计方案是从属权利要求以及随后的描述的主题。
[0005]按照本专利技术，以与形成输入向量的输入值成比例的方式提高矩阵运算电路的行电压，并且在列的电流输出端处检测相关的输出电流，其中该提高只是一直被执行直至矩阵运算电路的输出电流中的至少一个输出电流达到极限电流强度为止。形成输出向量的输出值基于所检测到的输出电流来被确定。由此，一方面可以通过列线路来限制电流，并且另一方面，通过选择适合的极限电流强度，可以通过较高的极限电流强度来改善信噪比，或者可以通过较低的极限电流强度来降低能耗。
[0006]基于所检测到的输出电流强度，可以确定一个或多个输出向量，其中可以执行各种优选的确定方法和/或可以执行该方法的多个轮次，以便(为一个输入向量)确定多个输出向量。借助于矩阵运算电路将输入向量映射到输出向量是一种向量矩阵运算。
[0007]优选地，输出向量的输出值被确定为在结束时的输出电流的电流强度。该实施方案易于执行，原因在于该实施方案不需要进一步的计算。该实施方案会得出非归一化的(即没有归一化的)输出向量并且在只对输出向量的条目的相对大小感兴趣时特别适宜。
[0008]优选地，输出向量的输出值被确定为在该结束时的输出电流的电流强度与极限电流强度之商。通过将电流强度除以极限电流强度，执行归一化，使得获得归一化的输出向
量，这些归一化的输出向量可以与在该方法的其它轮次中(利用其它极限电流强度和/或其它输入值)所获得的其它归一化的输出向量进行比较。这在矩阵运算电路实现线性矩阵映射时特别适宜。
[0009]优选地，该方法包括：在提高行电压直至该结束为止的时间段内对所检测到的电流进行积分，以便获得积分电流强度，其中输出向量的输出值被确定为这些积分电流强度。同样优选地，该方法包括：在提高行电压直至该结束为止的时间段内对所检测到的电流进行积分，以便获得积分电流强度，其中输出向量的输出值被确定为积分电流强度与极限电流强度之商。通过对电流或电流强度的积分，可以实现更好的信噪比。如果积分电流强度附加地被除以极限电流强度，则再次获得归一化的输出向量，这些归一化的输出向量能够实现该方法的不同轮次的比较。这里，也可能的是：不仅基于非积分电流强度来确定输出向量而且基于积分电流强度来确定输出向量(分别以归一化方式或者以非归一化方式)；这样确定的两个输出向量(或输出向量的条目的散布)的比较能够得出关于矩阵运算电路在所选择的极限电流强度下的信噪比的结论。
[0010]优选地，该方法还包括：在从施加行电压直至结束对行电压的提高为止的方法步骤期间，测量矩阵运算电路的能耗；如果该能耗高于能耗的预定目标范围，则降低极限电流强度；或者如果该能耗低于能耗的预定目标范围，则提高极限电流强度；而且重复这些方法步骤。
[0011]极限电流强度的降低或提高可以为降低或提高极限电流强度的一定百分比，例如降低或提高20％、10％或5％，或者可以取决于预定目标能耗与所测量到的能耗之比。优选地，极限电流强度按照公式来被改变，其中I
G，neu
是新的、改变后的极限电流强度，I
G，alt
是旧的、未经改变的极限电流强度，W
Z
是在能耗的目标范围内的能耗值(例如该目标范围的上限与下限的平均值)，并且W
M
是所测量到的能耗。由于在特定神经网络应用内重复矩阵运算计算时总是一再出现相似的输入值以及矩阵元素的权重，所以这些不同的矩阵运算计算的能耗会处在一定范围内，使得通过该方法的这种设计方案可以使能耗并且借此使矩阵运算电路的热功率输出保持在所希望的目标范围内，以便例如避免过热。
[0012]优选地，除了接收输入值之外的这些方法步骤在多个轮次中多次被执行，其中在这些轮次之间分别改变极限电流强度，而且其中确定多组输出值，即在每个轮次中确定至少一组输出值。这样，可以增大动态范围。当输出电流的带宽大于用于测量输出电流的模拟
‑
数字转换器的测量范围时，或者当这些输出电流中的一些输出电流相比于其它、较小的输出电流而言非常大以至于这些较小的输出电流之间的区别未被识别出时，这一点是有帮助的。
[0013]按照本专利技术的计算单元被设立为：执行按照本专利技术的方法的所有方法步骤。按照本专利技术的计算模块包括按照本专利技术的计算单元和向量矩阵乘法器，该向量矩阵乘法器具有以矩阵形排列成行和列的存储单元。
[0014]本专利技术的其它优点和设计方案从说明书以及随附的附图中得出。
[0015]本专利技术依据实施例在附图中示意性示出并且在下文参考附图予以描述。
附图说明
[0016]图1A和1B示出了向量矩阵乘法器；
[0017]图2示出了矩阵运算电路并且图解说明了按照本专利技术被施加给该矩阵运算电路的行电压和所测量到的输出电流；
[0018]图3示出了按照本专利技术的按照一个优选实施方式的方法；
[0019]图4示出了按照本专利技术的按照另一优选实施方式的方法；以及
[0020]图5示出了按照本专利技术的一个优选实施方式的计算模块。
具体实施方式
[0021]图1A和1B示出了可用于按照本专利技术的方法的向量矩阵乘法器或矩阵运算电路，也称为“点积引擎(dot produkt engine)”。该向量矩阵乘法器包含以矩阵形排列成行和列的以忆阻器2为形式的存储单元。行数和列数分别是任意的，其中示范性示出了4
×
4排列。由于忆阻器的电阻通过施加编程电本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种用于借助于矩阵运算电路(60)来执行一个或多个向量矩阵运算的方法，所述矩阵运算电路具有多条行线路(661，662，...66
M
)和多条列线路(681，682，...68
N
)，其中所述列线路分别具有电流输出端(721，722，...72
N
)并且所述矩阵运算电路被设立为在所述电流输出端处产生输出电流，所述输出电流的电流强度(U1，I2，...I
N
)是附在所述多条列线路上的多个行电压的函数，所述方法包括：接收(102)具有多个输入值的输入向量；在所述行线路上施加(104)和提高(106)所述行电压(V1，V2，...V
M
)，其中所述行电压从零开始被线性提高，其中对于所述行电压中的每个行电压来说，相应的提高速率都按照比例常数与所述输入值之一成比例，其中所述比例常数对于所有行电压来说都是共同的；检测(108)在所述电流输出端处产生的输出电流；将所检测到的输出电流的电流强度与预定的极限电流强度(I
G
)进行比较(110)；如果在所述比较中查明所述输出电流中的至少一个输出电流所具有的电流强度大于所述极限电流强度(I
G
)，则结束(114)对所述行电压的提高；而且基于所检测到的电流来确定(116)分别具有多个输出值的一个输出向量或多个输出向量。2.根据权利要求1所述的方法，其中所述一个输出向量或者所述多个输出向量中的一个输出向量的输出值被确定为在所述结束时的所述输出电流的电流强度。3.根据上述权利要求中...

【专利技术属性】
技术研发人员：T，
申请(专利权)人：罗伯特，
类型：发明
国别省市：