用于查找计算人工智能加速器的装置及多芯片模块制造方法及图纸

根据一个一般方面，提供一种用于查找计算人工智能加速器的装置及多芯片模块。所述装置可包括存储电路裸片，所述存储电路裸片被配置成存储查找表，所述查找表将第一数据转换成第二数据。所述装置还可包括逻辑电路裸片，所述逻辑电路裸片包括组合逻辑电路，所述组合逻辑电路被配置成接收第二数据。所述装置还可包括光学通孔，所述光学通孔耦合在所述存储电路裸片与所述逻辑电路裸片之间且被配置成在所述存储电路裸片与所述逻辑电路裸片之间传输第二数据。

Devices and Multichip Modules for Finding and Computing Artificial Intelligence Accelerators

【技术实现步骤摘要】
用于查找计算人工智能加速器的装置及多芯片模块
本说明内容涉及计算技术，且更具体来说，涉及用于查找计算人工智能(AI)加速器的高带宽存储器(HBM)硅光子硅穿孔(TSV)架构。
技术介绍
高带宽存储器(HighBandwidthMemory，HBM)是用于三维堆叠式动态随机存取存储器(dynamicrandomaccessmemory，DRAM)的高性能随机存取存储器(randomaccessmemory，RAM)接口。高带宽存储器可与高性能图形加速器及网络器件结合使用。高带宽存储器在2013年10月作为行业标准被联合电子器件工程协会(JointElectronDeviceEngineeringCouncil，JEDEC)采纳。第二代HBM2是在2016年1月被JEDEC接受。与传统的系统存储器或图形存储器相比，HBM以实质上较小的形状因数在使用较少的电力的同时实现较高的带宽。这是通过堆叠多达八个DRAM裸片来实现的，这八个DRAM裸片包括具有存储器控制器的可选的基础裸片且通过硅穿孔(through-siliconvia，TSV)及微凸块进行互连。HBM2能够达到每封装256GB/s的存储带宽。HBM可与神经网络或其他人工智能(artificialintelligence，AI)训练一起使用，此既是存储密集的也需要大量计算。这是由于训练数据集大小增大及模型参数增加以及处理的中间结果增加。[问题的解决方案]本公开的目的是提供一种装置及多芯片封装来实施用于查找计算人工智能(AI)加速器的高带宽存储器(HBM)硅光子硅穿孔(TSV)架构。
技术实现思路
根据一个一般方面，一种装置可包括存储电路裸片，所述存储电路裸片被配置成存储查找表，所述查找表将第一数据转换成第二数据。所述装置还可包括逻辑电路裸片，所述逻辑电路裸片包括组合逻辑电路，所述组合逻辑电路被配置成接收所述第二数据。所述装置还可包括光学通孔，所述光学通孔耦合在所述存储电路裸片与所述逻辑电路裸片之间且被配置成在所述存储电路裸片与所述逻辑电路裸片之间传输所述第二数据。根据另一个一般方面，一种装置可包括第一电路裸片，所述第一电路裸片被配置成存储能够重新配置的逻辑电路。所述装置可包括第二电路裸片，所述第二电路裸片包括固定的逻辑电路。所述装置还可包括光学链路，所述光学链路耦合在所述第一电路裸片与所述第二电路裸片之间，且被配置成在所述第一电路裸片与所述第二电路裸片之间传输数据。所述装置可被配置成首先由所述固定的逻辑电路处理数据，将经部分地处理的数据穿越所述光学链路传输到所述第一电路裸片，并由所述能够重新配置的逻辑电路继续处理所述数据。根据另一个一般方面，一种多芯片模块(multi-chipmodule，MCM)可包括光源，所述光源被配置成产生光学信号。所述多芯片模块可包括逻辑电路裸片，所述逻辑电路裸片包括固定的逻辑电路，且被配置成以光学方式将数据传送到存储电路裸片。所述多芯片模块可包括中间层，所述中间层被配置成将所述光源与所述逻辑电路裸片进行耦合。所述多芯片模块可包括所述存储电路裸片，所述存储电路裸片被配置成存储查找表，所述查找表接收所述数据。所述多芯片模块可包括光学通孔，所述光学通孔耦合在所述存储电路裸片与所述逻辑电路裸片之间，且被配置成在所述存储电路裸片与所述逻辑电路裸片之间传输所述数据。在附图及以下说明中阐述一种或多种实施方式的细节。通过阅读说明内容及附图以及阅读权利要求书，其他特征将显而易见。实质上在各图中的至少一个图中示出了和/或联系各图中的至少一个图阐述了用于计算技术的系统和/或方法，且更具体来说用于查找计算人工智能(AI)加速器的高带宽存储器(HBM)硅光子硅穿孔(TSV)架构，如在权利要求书中更完整地阐述。[本专利技术的有益效果]根据本公开，提供一种装置及多芯片封装来实施用于查找计算人工智能(AI)加速器的高带宽存储器(HBM)硅光子硅穿孔(TSV)架构。附图说明图1是根据所公开主题的系统的示例性实施例的方块图。图2是根据所公开主题的系统的示例性实施例的方块图。图3是根据所公开主题的系统的示例性实施例的方块图。图4a是根据所公开主题的系统的示例性实施例的方块图。图4b是根据所公开主题的系统的示例性实施例的方块图。图4c是根据所公开主题的系统的示例性实施例的方块图。图5是可包括根据所公开主题的原理形成的器件的信息处理系统的示意性方块图。各个附图中相同的参考符号表示相同的元件。[符号的说明]100、300、491、492、493：系统102：能够重新配置的存储逻辑104、510：处理器106：存储器108：其他组件112：元件/能够重新配置的查找表(RLUT)/子阵列/DRAMRLUT114：元件/子阵列/RAM子阵列/RAM116：配置接口118：输入/输出接口200：系统/多芯片系统202、302：逻辑裸片/裸片204：存储器裸片/裸片212、332、486、515：组合逻辑块(CLB)214、334：查找表216：存储阵列/存储单元/存储器222：输入224：输出226：通孔/光学通孔301：中间层304：存储器裸片/裸片/排程器电路322：调制器/光学调制器324：检测器/光学检测器326：放大器电路/放大器328：驱动器电路/驱动器336：中间结果缓冲器340：排程器352：通孔/链路/数据通孔/光学通孔/光学链路354：通孔/地址/命令通孔/链路/光学通孔356：光源链路/链路390：光源/裸片402：光学通孔/波导404：总线网络/微环调制器406：光源412：电性驱动器414：串行器电路416、476：缓冲器电路/缓冲器420：存储体432：垫/存储垫434：垫464：微环滤波器466：光检测器478：解串行器电路480：目的地处理块/处理块482：输入缓冲器484：调度器电路488：输出缓冲器490：存储垫/垫500：信息处理系统505：系统总线520：易失性存储器530：非易失性存储器540：网络接口550：用户接口单元560：硬件组件570：软件组件具体实施方式在下文中，将参照附图更充分地阐述各种示例性实施例，在所述附图中示出一些示例性实施例。然而，本专利技术所公开主题可被实施为许多不同形式，而不应被视为仅限于本文所述示例性实施例。确切来说，提供这些示例性实施例是为了使本公开将透彻及完整，并将向所属领域中的技术人员充分传达本专利技术所公开主题的范围。在附图中，为清晰起见，可夸大各个层及各个区的大小及相对大小。应理解，当称一元件或层位于另一元件或层“上(on)”、“连接到(connectedto)”或“耦合到(coupledto)”另一元件或层时，所述元件或层可直接位于所述另一元件或层上、直接连接到或直接耦合到所述另一元件或层，抑或可存在中间元件或层。相比之下，当称一元件“直接位于(directlyon)”另一元件或层上、“直接连接到(directlyconnectedto)”或“直接耦合到(directlycoupledto)”另一元件或层时，则不存在中间元件或层。相同的编号自始至终指代相同的元件。本文所用用语“和/或(and/or)”包括相关列出项中的一个或多个项的任意及所有组合。应理解，尽管在本文中可使用“第一(first)”、本文档来自技高网...

【技术保护点】
1.一种用于查找计算人工智能加速器的装置，包括：存储电路裸片，被配置成存储查找表，所述查找表将第一数据转换成第二数据；逻辑电路裸片，包括组合逻辑电路，所述组合逻辑电路被配置成接收所述第二数据；以及光学通孔，耦合在所述存储电路裸片与所述逻辑电路裸片之间且被配置成在所述存储电路裸片与所述逻辑电路裸片之间传输所述第二数据。

【技术特征摘要】
2018.01.09 US 62/615,295;2018.03.02 US 15/911,0631.一种用于查找计算人工智能加速器的装置，包括：存储电路裸片，被配置成存储查找表，所述查找表将第一数据转换成第二数据；逻辑电路裸片，包括组合逻辑电路，所述组合逻辑电路被配置成接收所述第二数据；以及光学通孔，耦合在所述存储电路裸片与所述逻辑电路裸片之间且被配置成在所述存储电路裸片与所述逻辑电路裸片之间传输所述第二数据。2.根据权利要求1所述的装置，其中所述存储电路裸片包括：驱动器电路，被配置成接收所述第二数据的电性型式；以及光学调制器，被配置成至少部分地根据所述第二数据的所述电性型式来改变光源，其中所述光学调制器与所述光学通孔的波导部分进行耦合。3.根据权利要求1所述的装置，其中所述存储电路裸片包括：光学检测器，被配置成检测穿越所述光学通孔的波导部分进行传送的光学数据，并将所述光学数据转换成电性数据；以及放大器电路，被配置成对所述电性数据提供电增益。4.根据权利要求1所述的装置，其中所述存储电路裸片包括多个存储垫，所述多个存储垫被集合成存储体，且其中所述光学通孔与所述存储体进行通信耦合，使得所述存储体作为整体能够被选择为穿越所述光学通孔进行传送的所述第二数据的来源/接收方。5.根据权利要求1所述的装置，其中所述存储电路裸片包括多个存储垫，且其中所述光学通孔与所述多个存储垫直接进行通信耦合，其中所述存储垫中的每一个存储垫与各自相应的调制形式相关联，使得采用所述相应的调制形式的数据传输只指向/来自相关联的所述存储垫。6.根据权利要求1所述的装置，其中所述逻辑电路裸片包括：排程器电路，被配置成对穿越所述光学通孔的裸片间数据业务量进行协调。7.根据权利要求1所述的装置，其中所述光学通孔包括光子硅穿孔，且其中所述存储电路裸片包括能够重新配置的查找表。8.根据权利要求1所述的装置，其中所述逻辑电路裸片包括：第一组组合逻辑电路，被配置成产生所述第一数据；光学传送器，被配置成将所述第一数据从电性第一数据转换成光学第一数据，并将所述光学第一数据传送到所述存储电路裸片；光学接收器，被配置成接收所述第二数据并将所述第二数据转换成电性形式；以及第二组组合逻辑电路，被配置成接收所述第二数据并处理所述第二数据，且其中所述存储电路裸片包括：所述查找表，包括能够动态地重新配置的逻辑运算，所述能够动态地重新配置的逻辑运算被配置成将所述第一数据转换成所述第二数据，以及电性/光学变换器，被配置成在电性形式与光学形式之间转换数据。9.一种用于查找计算人工智能加速器的装置，包括：第一电路裸片，被配置成存储能够重新配置的逻辑电路；第二电路裸片，包括固定的逻辑电路；以及光学链路，耦合在所述第一电路裸片与所述第二电路裸片之间，且被配置成在所述第一电路裸片与所述第二电路裸片之间传输数据，其中所述装置被配置成首先由所述固...

【专利技术属性】
技术研发人员：谷芃，克里希纳·马拉迪，郑宏忠，
申请(专利权)人：三星电子株式会社，
类型：发明
国别省市：韩国,KR