用于高效网络分析和计算卡的方法和装置制造方法及图纸

公开了用于高效网络分析和计算卡的方法和装置。在一个实现中，各自具有一个或更多个GPU+CPU的多个卡经由RapidIO互连。

Methods and devices for efficient network analysis and computing cards

The methods and devices for efficient network analysis and computing cards are disclosed. In one implementation, multiple cards with one or more GPU+CPU each are interconnected via the RapidIO.

【技术实现步骤摘要】
【国外来华专利技术】用于高效网络分析和计算卡的方法和装置相关申请本专利申请涉及由同一专利技术人于2015年3月30日提交的题为“MethodsandApparatusforIO,ProcessingandMemoryBandwidthOptimizationforAnalyticsSystems”的未决的美国专利申请号为14/673724的专利申请，其在此通过引用并入本文。专利
本专利技术涉及计算卡。更具体地，本专利技术涉及用于高效网络分析和计算卡的方法和装置。专利技术背景在当前的网络接口卡中，PCIe至以太网或PCIe至Infiniband或二者可用于接口技术。当前的网络接口卡可以包括RapidIO交换机和PCIe到RapidIONIC设备。这种方法允许网络扩展，但不提供任何计算能力，因此需要依赖于服务器计算能力。如果需要GPU计算，则具有PCIe接口的GPU卡可以与常规服务器一起使用。当前的GPU卡包含一个或两个GPU作为双GPU卡。这样的方法不允许可扩展计算基于GPU且同时由于GPU和主机CPU间通过PCIe的链路限制(诸如但不限于IO带宽)而在计算节点之间维持低延迟。图1在100处大体上示出了包含PCIe-以太网设备104的当前NIC卡102。图2在200处大体上示出了包含PCIe-RapidIO204设备和RapidIO交换机设备206的当前NIC卡202。这提出了需要使用技术手段的技术解决方案的技术问题。附图简述本专利技术通过示例而非限制的方式通过附图的图进行说明。图1示出了包含PCIe-以太网设备的当前NIC卡。图2示出了包含PCIe-RapidIO设备和RapidIO交换机设备的当前NIC卡。图3、图4和图5图示了本专利技术的各个实施例，其示出了具有被安装在网络分析和计算卡上的多个GPU+CPU微模块的PCIe卡。图6示出了本专利技术的一个实施例，其示出了具有SATA接口、PCIe主机接口、以太网接口和RapidIO接口的PCIe卡。图7示出了本专利技术的一个实施例，其示出了具有板载储存器、PCIe主机接口、以太网接口和RapidIO接口的PCIe卡。图8、图9、图10、图11和图12各自图示了示出网络分析和计算卡的本专利技术的实施例。详细描述在一个实施例中，本专利技术提供了基于具有集成CPU(中央处理器单元)的GPU(图形处理单元)的用于网络和数据分析的高密度模块化(经由微模块)的可扩展PCIe卡。在一个实施例中，本专利技术与任何标准服务器(例如，经由诸如但不限于PCIe的标准接口)一起工作。在本专利技术的一个实施例中，可以以低延迟(例如，经由诸如但不限于RapidIO的高速低延迟接口)扩展到大量节点。在本专利技术的一个实施例中，该架构直接可应用于数据分析和IoT(物联网)。在一个实施例中，本专利技术允许在用GPU带宽平衡成本、功率和IO带宽的同时用GPU卸载进行可扩展计算。在一个实施例中，本专利技术将GPU+CPU(计算单元)与储存器集成，并以模块化方式互连到可与具有PCIe插槽的任何服务器一起使用的PCIe卡。在本专利技术的一个实施例中，计算单元被设计为可插入到PCIe卡中的模块。在本专利技术的一个实施例中，为了增加密度，计算卡在卡之间保持足够间隔以用于冷却等的同时以一定角度进行连接。在一个实施例中，本专利技术采用了具有集成主机处理器的多个GPU。在本专利技术的一个实施例中，多个GPU经由RapidIO低延迟互连相连。在一个实施例中，本专利技术采用了PCIe-RapidIONIC(网络接口控制器)来使用GPU上的x4PCIe端口最大化每个GPU的带宽利用率。在本专利技术的一个实施例中，RapidIO结构实现了其他模块中的GPU之间的通信，从而得出可扩展的解决方案。在本专利技术的一个实施例中，RapidIO结构连同PCIe-RapidIONIC一起允许高度可扩展的多根解决方案。在一个实施例中，本专利技术提供了高密度可扩展的计算、分析和储存卡。在一个实施例中，本专利技术提供了容错和模块化的系统。在本专利技术的一个实施例中，易于替换和升级计算/GPU+CPU模块。在一个实施例中，本专利技术将一个或更多个微CPU+GPU模块与储存器和存储器相结合。在本专利技术的一个实施例中，微模块类似于DIMM(双列直插式存储器模块)模块。在本专利技术的一个实施例中，微模块可以利用成角度连接器连接在的PCIe全高全宽卡上。在本专利技术的一个实施例中，PCIe卡并入了低延迟交换和网络连接。图3在300处大体上图示了本专利技术的一个实施例，其示出了PCIe网络分析和计算卡302，其将GPU+CPU计算与存储器和储存器相结合。在304处是PCIe连接器。在306处是连接到以太网交换机308的两个连接器，例如，以太网连接器。在310处是连接到RapidIO交换机312的四个连接器，例如，RapidIO。这些连接器310可以允许到其他卡的连接。在320处示出了圆圈1①到圆圈8⑧的微模块，在该实施例中图示了8个微模块。每个微模块由322例示，其示出了更多的微模块细节。在324处是耦合到存储器326、耦合到以太网NIC328并耦合到RapidIONIC330的处理器(GPU+CPU)。在该实施例中，以太网NIC328和RapidIONIC330耦合到eMMC(嵌入式多媒体卡)332。在320处是示出了32mm的宽度的以圆圈1①标记的微模块之一的顶视图。在PCIe网络分析和计算卡302上方，在340处所示的是从PCIe网络分析和计算卡302左侧的前三个微模块的侧视图。如在340处所可以看见的，在32mm的宽度内，三个微模块成角度地安装至PCIe网络分析和计算卡302。通过这种方式，用所提供的间隔可在PCIe网络分析和计算卡302上实现更高的密度。图4在400处大体上图示了本专利技术的一个实施例，其示出了PCIe网络分析和计算卡402，其将GPU+CPU计算与存储器和储存器相结合。在404处是PCIe连接器。在406处是连接到以太网交换机408的两个连接器，例如，以太网连接器。在410处是连接到RapidIO交换机412的四个连接器，例如，RapidIO。这些连接器410可以允许到其他卡的连接。在420处示出了以圆圈1①开始并且在PCIe网络分析和计算卡402上在长度方向上水平布置的五个微模块。在442处是竖直布置的三个微模块。每个微模块由422例示，其示出了更多的微模块细节。在424处是耦合到存储器426、耦合到以太网NIC428并耦合到RapidIONIC430的处理器(GPU+CPU)。在该实施例中，以太网NIC428和RapidIONIC430耦合到eMMC(嵌入式多媒体卡)432。在420处是示出了32mm的宽度的以圆圈1①标记的微模块之一的顶视图。在PCIe网络分析和计算卡402上方，在440处所示的是从PCIe网络分析和计算卡402左侧所观看到的前三个微模块的侧视图。如在440所可以看见的，在32mm的宽度内，三个微模块成角度地安装至PCIe网络分析和计算卡402。通过这种方式，用所提供的间隔可在PCIe网络分析和计算卡402上实现更高的密度。在440处的相同间隔可以应用于在442处的三个竖直定向的微模块。图5在500处大体上图示了本专利技术的一个实施例，其示出了PCIe网络分析和计算卡502，其将GPU+CPU计算与存储器和储存器相本文档来自技高网...

【技术保护点】
一种用于提供网络分析和计算卡的方法，包括：在微模块上安装各自具有集成的CPU的一个或更多个GPU；在所述微模块上安装由所述一个或更多个GPU可访问的存储器和储存器；以及在PCIe卡上安装一个或更多个成角度的连接器，所述一个或更多个成角度的连接器能够将所述微模块连接到被安装在所述PCIe卡上的电路。

【技术特征摘要】
【国外来华专利技术】2015.03.30 US 14/673,8181.一种用于提供网络分析和计算卡的方法，包括：在微模块上安装各自具有集成的CPU的一个或更多个GPU；在所述微模块上安装由所述一个或更多个GPU可访问的存储器和储存器；以及在PCIe卡上安装一个或更多个成角度的连接器，所述一个或更多个成角度的连接器能够将所述微模块连接到被安装在所述PCIe卡上的电路。2.如权利要求1所述的方法，其中，所述成角度的连接器在相对于所述PCIe卡的表面平面测量时将所述微模块保持在介于10度和80度之间的角度处，其中，垂直于所述PCIe卡的所述表面平面被定义为90度，并且平行于所述PCIe卡的所述表面平面被定义为0度。3.如权利要求2所述的方法，还包括经由所述一个或更多个成角度的连接器中的两个或更多个成角度的连接器连接所述PCIe卡上的所述微模块中的两个或更多个微模块。4.如权利要求3所述的方法，其中，所述微模块与被安装在所述PCIe卡上的以太网交换机进行通信。5.如权利要求4所述的方法，其中，所述微模块与被安装在所述PCIe卡上的RapidIO交换机进行通信。6.如权利要求5所述的方法，其中，根据权利要求1所述的多个PCIe卡通过RapidIO经由所述多个PCIe卡中的每个PCIe卡上的连接器互连。7.一种网络分析和计算卡，包括：两个或更多个CPU+GPU模块，每个CPU+GPU模块连接到存储器和eMMC；并且所述两个或更多个CPU+GPU模块还各自经由PCIe-RapidIONIC连接到RapidIO交换机。8.如权利要求7所述的网络分析和计算卡，其中，所述RapidIO交换机连接到用于与在所述网络分析和计算卡之外的部件进行通信的两个或更多个RapidIO端口，以及用于与在所述网络分析和计算卡上的部件进行通信的两个或更多个RapidIO端口。9.如权利要求8所述的网络分析和计算卡，还包括：CPU块，所述CPU块具有包括多个以太网接口的CPU，所述CPU块具有一组RapidIO接口和一组PCIe接口；PCIe交换机，所述PCIe交换机具有第一组PCIe接口和第二组PCIe接口；以及其中，所述CPU块的一组RapidIO接口连接到所述RapidIO交换机的两个或更多个RapidIO端口，其中，所述CPU块的一组PCIe接口连接到所述PCIe交换机的第一组PCIe接口，其中，所述PCIe交换机的第二组PCIe接口用于与不位于所述网络分析和计算卡上的主机计算机进行通信。10.如权利要求9所述的网络分析和计算卡，还包括两个或更多个SATA端口，所述两个或更多个SATA端口中的每个SATA端口连接到所述两个或多个CPU+GPU模块中的单独每一个CPU+GPU模块，所述两个或更多个SATA端口连接到不位于所述网络分析和计算卡上的储存设备。11.如权利要求10所述的网络分析和计算卡，还包括：两个或更多个PCIe-以太网端口，所述两个或更多个PCIe-以太网端口中的每个PCIe-以太网端口连接到所述两个或更多个CPU+GPU模块中的一个或更多个CPU+GPU模块，所述两个或更多个PCIe以太网端口连接到以太网交换机，所述以太网交换机连接到一个或更多个以太网端口，以用于与不位于所述网络分析和计算卡之上的一个或更多个设备进行通信。12.如权利要求8...

【专利技术属性】
技术研发人员：穆罕默德·阿克特，
申请(专利权)人：艾迪悌科技有限公司，
类型：发明
国别省市：美国,US