存储器内处理制造技术

本申请涉及存储器内处理。提供了用于存储器内处理的设备和方法。实例设备包括主机和具存储器内处理PIM能力的装置，所述具PIM能力的装置经由包括旁带通道的接口耦合到所述主机。所述具PIM能力的装置包括耦合到感测电路的存储器单元阵列，且配置成对存储在所述阵列中的数据执行位向量运算，且所述主机包括PIM控制组件以在经由所述旁带通道提供数个对应位向量运算到所述具PIM能力的装置之前为PIM操作执行虚拟地址解析。

【技术实现步骤摘要】
存储器内处理本申请为专利技术名称为“存储器内处理”、申请号为201880055104.9、申请日为2018年8月21日的中国专利技术专利申请的分案申请。
本公开大体上涉及半导体存储器和方法，且更确切地说，涉及用于存储器内处理的设备和方法。
技术介绍
存储器装置通常被提供为计算机或其它计算系统中的内部半导体集成电路。存在许多不同类型的存储器，包含易失性和非易失性存储器。易失性存储器可能需要功率以维持其数据(例如主机数据、误差数据等)且包含随机存取存储器(randomaccessmemory，RAM)、动态随机存取存储器(dynamicrandomaccessmemory，DRAM)、静态随机存取存储器(staticrandomaccessmemory，SRAM)、同步动态随机存取存储器(synchronousdynamicrandomaccessmemory，SDRAM)和闸流体随机存取存储器(thyristorrandomaccessmemory，TRAM)等等。非易失性存储器可通过在未被供电时保持所存储数据来提供持久数据，并可包含NAND快闪存储器、NOR快闪存储器和电阻可变存储器，例如相变随机存取存储器(phasechangerandomaccessmemory，PCRAM)、电阻式随机存取存储器(resistiverandomaccessmemory，RRAM)和磁阻式随机存取存储器(magnetoresistiverandomaccessmemory，MRAM)，例如自旋力矩转移随机存取存储器(spintorquetransferrandomaccessmemory，STTRAM)等等。计算系统通常包含数个处理资源(例如一或多个处理器)，所述处理资源可检索并执行指令并将所执行指令的结果存储到合适的位置。处理资源(例如CPU)可包括数个功能单元，例如算术逻辑单元(arithmeticlogicunit，ALU)电路、浮点单元(floatingpointunit，FPU)电路和/或组合逻辑块，其例如可用以通过执行逻辑运算(例如AND、OR、NOT、NAND、NOR和XOR)来执行指令且求逆(例如逆转)对数据(例如一或多个操作数)进行的逻辑运算。举例来说，功能单元电路可用于经由数个逻辑运算对操作数执行算术运算，例如加法、减法、乘法和/或除法。计算系统中的数个组件可涉及向功能单元电路提供指令以供执行。所述指令可例如由例如控制器和/或主机处理器等处理资源执行。数据(例如将对其执行指令的操作数)可存储于可由功能单元电路存取的存储器阵列中。指令和/或数据可从存储器阵列检索，并且在功能单元电路开始对数据执行指令之前进行排序和/或缓冲。此外，由于可通过功能单元电路在一或多个时钟循环中执行不同类型的操作，因此指令和/或数据的中间结果也可进行排序和/或缓冲。在一或多个时钟循环中完成操作的序列可被称为操作循环。就计算装置和/或系统的处理和计算性能及功率消耗而言，完成操作循环所消耗的时间成本高。在许多情况下，处理资源(例如处理器和/或相关联功能单元电路)可在存储器阵列外部，且经由处理资源与存储器阵列之间的总线存取数据以执行一组指令。处理性能可在存储器内处理器(processor-in-memory，PIM)装置中得以改善，其中可在存储器内部和/或接近存储器实施处理器(例如在同一芯片上将处理器直接实施为存储器阵列)。附图说明图1为呈包含根据本公开的数个实施例的用于存储器内处理的存储器装置的计算系统形式的设备的框图。图2为说明根据本公开的数个实施例的存储器装置的一部分的示意图。图3为说明根据本公开的数个实施例的存储器装置的另一部分的示意图。图4为说明根据本公开的数个实施例的使用图3中展示的电路实施的逻辑运算结果的逻辑表。具体实施方式本公开包含与存储器内处理相关联的设备和方法。在一个实例实施例中，实例设备包括主机和具存储器内处理(PIM)能力的装置，所述具PIM能力的装置经由包括旁带通道的接口耦合到主机。具PIM能力的装置包括耦合到感测电路的存储器单元阵列，且配置成对存储在所述阵列中的数据执行位向量运算，且主机包括PIM控制组件以在经由旁带通道提供数个对应位向量运算到具PIM能力的装置之前为PIM操作执行虚拟地址解析。感测电路包含感测放大器和计算组件。在一些实施例中，设备可包含PIM控制装置(例如位向量运算电路)，所述PIM控制装置可包含定时电路和/或时序管理电路。PIM控制装置可配置成控制阵列的操作的时序，且接收逻辑运算命令以能够执行存储器操作。在一些实施例中，PIM控制装置可配置成响应于从主机接收命令而执行仲裁和/或控制布尔(Boolean)函数的执行的时序。如本文中所使用，具存储器内处理(PIM)能力的装置是指能够使用存储器装置内部的处理资源(例如无需转移数据到外部处理资源，例如主机处理器)对存储在存储器单元阵列中的数据执行逻辑运算的存储器装置。举例来说，具PIM能力的装置可包含耦合到感测电路的存储器阵列，所述感测电路包括可操作为1位处理元件(例如以在每列基础上执行并行处理)的感测组件。除了可称为“位向量运算”的“存储器内”执行的逻辑运算之外，具PIM能力的装置还可执行存储器操作。举例来说，具PIM能力的装置可包含利用存储器操作的动态随机存取存储器(DRAM)阵列，所述存储器操作包含存储器存取操作，例如读取(例如加载)和写入(例如存储)，以及并不涉及对数据进行操作(例如通过对数据执行布尔运算)的其它操作。举例来说，取决于(例如由主机)正执行的程序的类型，具PIM能力的装置可将DRAM阵列操作为“正常”DRAM阵列和/或操作为PIMDRAM阵列，其可包含存储器操作和位向量运算两者。举例来说，位向量运算可包含逻辑运算，例如布尔运算(例如AND、OR、XOR等)，及转移运算，例如移位阵列中的数据值及例如对数据值求逆。如本文中所使用，PIM操作可以指与利用具PIM能力的装置来执行存储器内处理相关联的各种操作。操作层级可用以定义PIM操作。举例来说，操作层级中的第一(例如最低)级可包含位向量运算(例如基本逻辑运算，其可称为“原始”运算)。层级中的下一(例如中间)级可包含复合运算，其包括多个位向量运算。举例来说，复合运算可包含例如加法、乘法等数学运算，所述数学运算可包括数个逻辑AND、OR、XOR、移位等。层级中的第三(例如最高)级可包含与执行程序相关联的控制流操作(例如循环、分支等)，程序的执行涉及使用具PIM能力的装置执行处理。如本文更详细地描述，PIM操作可由包括具PIM能力的装置的系统内的各个组件执行。举例来说，可定位于主机上的第一PIM控制组件(例如控制逻辑，其可称为“标量单元”)可执行控制流操作且提供复合运算到第二PIM控制组件(例如定序器)，所述第二PIM控制组件也可定位于所述主机上。在数个实施例中，第二控制组件可提供低级位向量运算到定位于具PIM能力的装置上的PIM控制组件(例如位向量定时电路)，其可随后在存储器内执行位向量运算并将本文档来自技高网...

【技术保护点】
1.一种用于存储器内处理的设备，其包括：/n主机计算装置(111)，其包括控制器(131)，其中所述控制器(131)经配置以：/n生成复合运算命令；及/n为存储器内处理PIM操作而执行用于所述复合运算命令的虚拟地址解析。/n

【技术特征摘要】
20170831 US 15/693,3781.一种用于存储器内处理的设备，其包括：
主机计算装置(111)，其包括控制器(131)，其中所述控制器(131)经配置以：
生成复合运算命令；及
为存储器内处理PIM操作而执行用于所述复合运算命令的虚拟地址解析。


2.根据权利要求1所述的设备，其中所述控制器(131)进一步经配置以生成对应于执行位向量运算的命令。


3.根据权利要求2所述的设备，其中所述控制器(131)经配置以在执行所述虚拟地址解析之后生成对应于执行所述位向量运算的所述命令。


4.根据权利要求1所述的设备，其进一步包括耦合到所述主机计算装置(111)的旁带通道(157)，其中所述控制器(131)经配置以经由所述旁带通道(157)将所述复合运算命令转移到具有PIM能力的装置(120)，所述具有PIM能力的装置(120)经由所述旁带通道(157)可耦合到所述主机计算装置(111)，且其中所述具有PIM能力的装置(120)将执行所述复合运算命令。


5.根据权利要求1所述的设备，其中所述控制器(131)进一步经配置以：
将指令解码成与执行PIM操作相关联的函数调用，作为生成所述复合运算命令的一部分；及
将所述函数调用转移到可耦合到所述主机计算装置(111)的具有PIM能力的装置(120)。


6.根据权利要求4和5中任一项所述的设备，其中所述控制器(131)进一步经配置以：
生成逻辑运算命令；及
为存储器内处理PIM操作而执行用于所述逻辑运算命令的虚拟地址解析。


7.根据权利要求4和5中任一项所述的设备，其中所述控制器(131)进一步经配置以生成控制存储器单元阵列(130)的操作的时序的指令，所述存储器单元阵列(130)可耦合到所述主机计算装置(111)。


8.一种用于存储器内处理的方法，其包括：
通过主机计算装置(111)生成复合运算命令；及
通过所述主机计算装置(111)为存储器内处理PIM操作而执行用于所述复合运算命令的虚拟地址解析。


9.根据权利要求8所述的方法，其进一步包括：
通过所述主机计算装置(111)生成逻辑运算命令；及
通过所述主机计算装置(111)为存储器内处理PIM操作而执行用于所述逻辑运算命令的虚拟地址解析。


10.根据权利要求8所述的方法，其进一步包括通过所述主机计算装置(111)生成对应于执行位向量运算的命令。


11.根据权利要求8-10中任一项所述的方法，其进一步包括通过所述主机计算装置(111)将所述复合运算命令转移到具有PIM能力的装置(120)，所述具有PIM能力的装置(120)经由旁带通道(157)可耦合到所述主机计算装置(111)，所述旁带通道(157)与双数据速率DDR通道154分离，所述DDR通道154用于控制所述具有PIM能力的装置...

【专利技术属性】
技术研发人员：P·V·莱亚，T·P·芬克拜纳，
申请(专利权)人：美光科技公司，
类型：发明
国别省市：美国;US