System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
【国外来华专利技术】
本公开涉及使用了半导体存储元件的神经网络运算电路。
技术介绍
1、随着信息通信技术的发展,所有物体与因特网连接的iot(internet of things:物联网)技术的到来备受关注。在iot技术中,各种电子设备与因特网连接,由此期待设备的高性能化,但作为实现更高性能化的技术,近年来正在积极地进行电子设备自身进行学习和判断的人工智能(ai:artificial intelligence)技术的研究开发。
2、在人工智能技术中,使用在工程学上模仿人的脑型信息处理的神经网络技术,正在积极地进行高速且低功耗地执行神经网络运算的半导体集成电路的研究开发。
3、在专利文献1中公开了现有的神经网络运算电路。使用能够设定模拟电阻值(换言之,电导)的电阻变化型非易失性存储器(以下,也简称为“电阻变化元件”)来构成神经网络运算电路,在非易失性存储元件中存储相当于结合权重系数(以下,也简称为“权重系数”)的模拟电阻值,将相当于输入(以下,也称为“输入数据”)的模拟电压值施加于非易失性存储元件,此时利用流过非易失性存储元件的模拟电流值。神经元所进行的乘积累加运算动作如下进行:将多个结合权重系数作为模拟电阻值存储在多个非易失性存储元件中,将相当于多个输入的多个模拟电压值施加到多个非易失性存储元件,将流过多个非易失性存储元件的电流值相加而得到的模拟电流值作为乘积累加运算结果取得。使用了非易失性存储元件的神经网络运算电路与由数字电路构成的神经网络运算电路相比能够实现低耗电化,近年来正在积极地进行能够设定模拟电阻值的电阻变化型非易失
4、图8是表示对现有的神经网络运算电路的动作原理进行表示的计算的图、以及表示运算单元的动作的图。
5、图8的(a)是表示对神经网络运算电路的动作原理进行表示的计算的图。如图8的(a)的式(1)所示,神经元10进行的运算是对输入xi与结合权重系数wi的乘积累加运算结果进行了激活函数f的运算处理的运算。如图8的(a)的式(2)所示,将结合权重系数wi置换为流过电阻变化元件(换言之,存储单元)的电流值ii,进行输入xi与流过电阻变化元件的电流值ii的乘积累加运算。
6、在此,神经网络运算中的结合权重系数wi取正值(≥0)、负值(<0)双方,在乘积累加运算动作中输入xi与结合权重系数wi之积为正值的情况下进行加法运算,在负值的情况下进行减法运算。然而,由于流过电阻变化元件的电流值ii只能取正值,因此在输入xi与结合权重系数wi之积为正值的情况下的加法运算能够通过电流值ii的加法运算来实现,但在输入xi与结合权重系数wi之积为负值的情况下的减法运算需要研究使用正值的电流值ii来进行。
7、图8的(b)是表示作为现有的神经网络运算电路的运算单元pui的动作的图。在现有的神经网络运算电路中,将结合权重系数wi保存于2个电阻变化元件rp、rn,将对电阻变化元件rp设定的电阻值设为rpi,将对电阻变化元件rn设定的电阻值设为rni,将对位线bl0、bl1施加的电压设为vbl,将流过电阻变化元件rp、rn的电流值设为ipi、ini。然后,将正的乘积累加运算结果与流过位线bl0的电流相加,将负的乘积累加运算结果与流过位线bl1的电流相加,如上述那样以流过电流的方式设定电阻变化元件rp、rn的电阻值rpi、rni(换言之,电流值ipi、ini)。如图8的(a)所示,通过将该运算单元pui在位线bl0、bl1并联连接输入x0~xn(对应的结合权重系数w0~wn)的个数的量,能够将神经元10的正的乘积累加运算结果作为流过位线bl0的电流值取得,将负的乘积累加运算结果作为流过位线bl1的电流值取得。
8、图8的(a)的式(3)、式(4)、式(5)表示上述的动作的计算。即,通过对运算单元pui的电阻变化元件rp、rn适当地写入与结合权重系数wi相当的电阻值rpi、rni,能够在位线bl0、bl1分别得到与正的乘积累加运算结果、负的乘积累加运算结果对应的电流值,通过将该电流值作为输入来使激活函数f进行运算,能够进行神经网络运算。
9、现有技术文献
10、专利文献
11、专利文献1:国际公开第2019/049741号
技术实现思路
1、专利技术所要解决的问题
2、然而,上述现有的神经网络运算电路存在以下所示的问题。即存在以下问题,由于在保存结合权重系数的非易失性存储元件中能够设定的模拟电阻值的范围存在界限,因此无法保存神经网络运算的性能提高所需的大的结合权重系数。另外,由于将相当于多个输入的多个模拟电压值施加于多个非易失性存储元件,并将对流过多个非易失性存储元件的电流值进行合计而得到的模拟电流值作为乘积累加运算结果而取得,因此还存在如下问题,即,合计出的模拟电流受到寄生电阻、控制电路的影响而饱和,从而无法准确地执行乘积累加运算。进而,为了提高在非易失性存储器中设定的模拟电阻值的可靠性,在写入模拟电阻值时,使用与所设定的模拟电阻值相应的写入算法是有效的,但由于需要设定在相同的非易失性存储器区域内,因此还存在无法使用与所设定的模拟电阻值相应的写入算法的问题。此外,写入算法是指规定向作为写入对象的存储元件写入时施加的电压脉冲、电流脉冲的绝对值、它们的脉冲宽度、及确认写入了规定的电阻值的验证(verify)动作等以怎样的组合进行写入的算法。
3、特别是在电阻变化型非易失性存储器中,在检查工序中对各非易失性存储元件制作成为电流的通道的细丝。为了提高在非易失性存储器中设定的模拟电阻值的可靠性,需要使该细丝的尺寸成为与所设定的模拟电阻值的绝对值相应的大小,但所设定的模拟电阻值针对每个神经网络而不同,还存在以下问题,如果设想改写为其他神经网络的情况,则无法针对每个设定的模拟电阻值制作最佳的细丝尺寸。
4、本公开是鉴于上述课题而提出的,其目的在于提供实现神经网络运算的性能提高以及保存结合权重系数的半导体存储元件的可靠性提高中的至少一个的神经网络运算电路。
5、用于解决课题的手段
6、本公开的一个方式所涉及的神经网络运算电路保持与可选择性地取第一逻辑值及第二逻辑值的多个输入数据分别对应的多个结合权重系数,根据所述多个输入数据与对应的所述结合权重系数的乘积累加运算结果来输出第一逻辑值或第二逻辑值的输出数据,其中,所述神经网络运算电路针对所述多个结合权重系数的每一个,具有用于存储该结合权重系数的第一半导体存储元件和第二半导体存储元件的至少2位以上的半导体存储元件,所述多个结合权重系数分别与对流过所述第一半导体存储元件的电流的电流值和流过所述第二半导体存储元件的电流的电流值进行合计而得到的合计电流值对应。
7、专利技术的效果
8、根据本公开的神经网络运算电路,实现神经网络运算的性能提高和保存结合权重系数的半导体存储元件的可靠性提高。
本文档来自技高网...【技术保护点】
1.一种神经网络运算电路,保持与可选择性地取第一逻辑值及第二逻辑值的多个输入数据分别对应的多个结合权重系数,根据所述多个输入数据与对应的所述结合权重系数的乘积累加运算结果来输出第一逻辑值或第二逻辑值的输出数据,其中,
2.根据权利要求1所述的神经网络运算电路,其中,
3.根据权利要求1所述的神经网络运算电路,其中,
4.根据权利要求1所述的神经网络运算电路,其中,
5.一种神经网络运算电路,保持与可选择性地取第一逻辑值及第二逻辑值的多个输入数据分别对应的多个结合权重系数,根据所述多个输入数据与对应的所述结合权重系数的乘积累加运算结果来输出第一逻辑值或第二逻辑值的输出数据,所述神经网络运算电路具有:
6.根据权利要求5所述的神经网络运算电路,其中,
7.根据权利要求5或6所述的神经网络运算电路,其中,
8.根据权利要求6所述的神经网络运算电路,其中,
9.根据权利要求6所述的神经网络运算电路,其中,
10.一种神经网络运算电路,保持与可选择性地取第一逻辑值及第二逻辑值的多个输
11.根据权利要求10所述的神经网络运算电路,其中,
12.根据权利要求10或11所述的神经网络运算电路,其中,
13.根据权利要求11所述的神经网络运算电路,其中,
14.根据权利要求11所述的神经网络运算电路,其中,
15.根据权利要求1至14中任一项所述的神经网络运算电路,其中,
...【技术特征摘要】
【国外来华专利技术】
1.一种神经网络运算电路,保持与可选择性地取第一逻辑值及第二逻辑值的多个输入数据分别对应的多个结合权重系数,根据所述多个输入数据与对应的所述结合权重系数的乘积累加运算结果来输出第一逻辑值或第二逻辑值的输出数据,其中,
2.根据权利要求1所述的神经网络运算电路,其中,
3.根据权利要求1所述的神经网络运算电路,其中,
4.根据权利要求1所述的神经网络运算电路,其中,
5.一种神经网络运算电路,保持与可选择性地取第一逻辑值及第二逻辑值的多个输入数据分别对应的多个结合权重系数,根据所述多个输入数据与对应的所述结合权重系数的乘积累加运算结果来输出第一逻辑值或第二逻辑值的输出数据,所述神经网络运算电路具有:
6.根据权利要求5所述的神经网络运算电路,其中,
7.根据权利要求5或6所...
【专利技术属性】
技术研发人员:持田礼司,小野贵史,河野和幸,中山雅义,诹访仁史,加藤淳一,
申请(专利权)人:新唐科技日本株式会社,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。