用于主机设备接口的非对称数据通信制造技术

公开了用于在系统的主机

【技术实现步骤摘要】
【国外来华专利技术】用于主机设备接口的非对称数据通信
[0001]相关申请的交叉引用
[0002]本申请依据35USC
§
119(e)要求于2019年05月21日提交的美国专利申请序列号No.62/851,052的优先权。美国专利申请序列号No.62/851,052的全部内容通过引用全文结合于此。

技术介绍

[0003]本申请一般涉及用于系统的诸如主机设备接口的各种组件接口的非对称数据通信。
[0004]诸如机器学习加速器、存储组件、视频转码加速器或神经网络处理器之类的设备通常具有非对称带宽要求。在一些情况下，当这些设备连接至系统的诸如主机的组件时，该带宽的非对称性对应于在该系统的主机
‑
这边接口处以特定方向交换的数据量的不平衡。
[0005]例如，机器学习加速器的进入(ingress)数据带宽会比该加速器的外出(egress)数据带宽多十倍。机器学习加速器的进入数据带宽可以与主机向该加速器传送大量数据以便在该加速器处执行加速推导计算的时候相对应，而该加速器的外出数据带宽则可以与该加速器向该主机传送少量数据以指示该推导计算的结果的时候相对应。

技术实现思路

[0006]在系统处的数据带宽要求的非对称性经常并未在该系统互连插口、组件接口或者硬件连接的配置中有所反映。例如，诸如外围组件互连高速(PCI
‑
e)标准的当前互连标准为主机至设备通信分配相同数目的数据总线通道，就像其为设备至主机通信所做的那样。在主机
‑
设备接口处以任一方向传输的数据量之间存在非对称性时，组件接口处的对称总线通道分配导致低效现象。
[0007]因此，本文描述了用于实施在系统的相应互连位置动态配置非对称链路的软件控制回路的技术。该技术包括识别至少耦合至该系统的主机的相应硬件设备。该主机能够进行操作以生成识别相应设备的连接性的系统拓扑。与设备的连接性相关联的信息被用来确定该设备的硬件配置，包括该设备的非对称数据传输能力。该系统拓扑还识别该系统的总线通道以及每个设备的非对称链路。该软件回路参考每个设备的连接性和该系统拓扑以配置该系统处的双向数据传输的非对称性。
[0008]本说明书中所描述主题的一个方面可以以一种方法来体现，所述方法包括识别耦合至系统的主机的多个设备，并且生成识别该多个设备的连接性以及识别使得能够在该系统处进行数据传输的总线通道的系统拓扑。该方法还包括确定该主机和该多个设备中的第一设备之间的第一连接具有非对称带宽要求。该方法进一步包括基于该第一连接的非对称带宽要求配置连接该第一设备和该主机的第一数据总线的第一总线通道集合，以在该第一总线通道集合中为来自该主机的数据外出分配与去往该主机的数据进入不同数目的总线通道。可选地，该总线通道被配置为基于该第一连接的非对称带宽要求而分配数目不同的总线通道。
[0009]这些和其它实现方式均可以可选地包括以下的一个或多个特征。例如，在一些实现方式中，该方法进一步包括：确定该主机和该多个设备中的第二设备之间的第二连接具有非对称带宽要求；并且基于该第二连接的非对称带宽要求配置连接该第二设备和该主机的第二数据总线的第二总线通道集合，以在该第二总线通道集合中为来自该主机的数据外出分配与去往该主机的数据进入不同数目的总线通道。
[0010]该方法可以进一步包括：使用该系统拓扑确定该系统处的数据传输模式；基于该数据传输模式计算该第一连接的非对称带宽要求；并且基于该数据传输模式计算该第二连接的非对称带宽要求。
[0011]该方法可以进一步包括：向软件代理提供描述该系统处的数据业务的信息；使用该软件代理基于对该信息的统计分析或者对该信息的推导分析来确定该系统处的数据传输模式；使用该软件代理生成指示用于处理该系统处的一个或多个工作负载的数据业务的分布的预测；并且基于指示该第一连接处的非对称数据业务的预测计算该第一连接的非对称带宽要求。
[0012]该方法可以进一步包括基于指示该第二连接处的非对称数据业务的预测计算该第二连接的非对称带宽要求。
[0013]在一些实现方式中，该第一总线通道集合中的每个总线通道被动态配置为数据进入通道或数据外出通道；并且该第二总线通道集合中的每个总线通道被动态配置为数据进入通道或数据外出通道。
[0014]该方法可以进一步包括：使用该第一总线通道集合中被分配给来自该主机的数据外出的总线通道以及该第一总线通道集合中被分配给去往该主机的数据进入的总线通道在该主机和该第一设备之间交换数据。
[0015]在一些实现方式中，该第一连接的非对称带宽要求包括进入总线通道相对于外出总线通道的M:N比率；并且M具有大于N的整数值的整数值。
[0016]在一些实现方式中，该第二连接的非对称带宽要求包括外出总线通道相对于进入总线通道的N:M比率；并且N具有大于M的整数值的整数值。
[0017]在一些实现方式中，该系统包括处理器和加速器，并且该方法进一步包括：将该处理器配置为该主机；将该加速器识别为该第一设备；并且确定该加速器被配置为具有包括被配置用于经由该第一连接与该主机的双向数据传输的总线通道的连接性。
[0018]在一些实现方式中，该系统包括存储器，并且该方法进一步包括：将该存储器识别为该第二设备；并且确定该存储器被配置为具有包括被配置用于经由该第二连接与该主机的双向数据传输的总线通道的连接性。
[0019]此方面和其它方面的其它实现方式包括在非瞬态计算机可读存储设备上编码的被配置为执行该方法的动作的相对应的系统、装置以及计算机程序。可以通过安装在操作以使得系统执行动作的系统上的软件、固件、硬件或它们的组合来配置一个或多个计算机的系统。一个或多个计算机程序可以通过具有在由数据处理装置执行时使该装置执行动作的指令来如此配置
[0020]本说明书中所描述的主题可以以特定实施例来实施从而实现以下的一种或多种优势。本文中所描述的技术可以被用来在系统的设备之间的数据总线连接中实现总线通道的非对称配置。该非对称配置基于系统主机使用从对该系统的数据业务模式进行分析所学
习的推导或预测所生成的非对称带宽要求。该业务模式的预测分析可以产生准确反映该系统的组件接口处的业务流的非对称带宽要求。
[0021]通过使用这些技术，该软件控制回路可以基于在系统处观察到的业务流模式而更有效地分配给定总线通道集合的数据传输能力，从而反映实际的非对称使用。因此，由于该系统可以更加准确地确定往来业务的相对量级，所以该系统可以被设计为包括更少的用于提供非对称数据链路的总线通道。该系统还可以调节贯穿该系统的某些总线通道的非对称配置以实线更大的数据通信效率。
[0022]本说明书中所描述主题的一种或多种实现方式的细节在附图和以下的描述中给出。该主题的其它潜在的特征、方面和优势将由于该描述、附图和权利要求而变得显而易见。
附图说明
[0023]图1是用于执行非对称数据通信的示例系统的框图。
[0024]图2示出了用于使用图1的系统执行非对称数据通信的示例过本文档来自技高网...

【技术保护点】

【技术特征摘要】
【国外来华专利技术】1.一种方法，包括：识别耦合至系统的主机的多个设备；生成系统拓扑，所述系统拓扑识别所述多个设备的连接性以及识别使得能够在所述系统处进行数据传输的总线通道；确定所述主机和所述多个设备中的第一设备之间的第一连接具有非对称带宽要求；并且基于所述第一连接的非对称带宽要求配置连接所述第一设备和所述主机的第一数据总线的第一总线通道集合，以在所述第一总线通道集合中为来自所述主机的数据外出分配与去往所述主机的数据进入不同数目的总线通道。2.根据权利要求1所述的方法，进一步包括：确定所述主机和所述多个设备中的第二设备之间的第二连接具有非对称带宽要求；并且基于所述第二连接的非对称带宽要求配置连接所述第二设备和所述主机的第二数据总线的第二总线通道集合，以在所述第二总线通道集合中为来自所述主机的数据外出分配与去往所述主机的数据进入不同数目的总线通道。3.根据权利要求2所述的方法，进一步包括：使用所述系统拓扑确定所述系统处的数据传输模式；基于所述数据传输模式计算所述第一连接的非对称带宽要求；并且基于所述数据传输模式计算所述第二连接的非对称带宽要求。4.根据权利要求2所述的方法，进一步包括：向软件代理提供描述所述系统处的数据业务的信息；使用所述软件代理基于对所述信息的统计分析或者对所述信息的推导分析来确定所述系统处的数据传输模式；使用所述软件代理生成指示用于处理所述系统处的一个或多个工作负载的数据业务的分布的预测；并且基于指示所述第一连接处的非对称数据业务的预测计算所述第一连接的非对称带宽要求。5.根据权利要求4所述的方法，进一步包括：基于指示所述第二连接处的非对称数据业务的预测计算所述第二连接的非对称带宽要求。6.根据权利要求2所述的方法，其中：所述第一总线通道集合中的每个总线通道被动态配置为数据进入通道或数据外出通道；并且所述第二总线通道集合中的每个总线通道被动态配置为数据进入通道或数据外出通道。7.根据权利要求6所述的方法，进一步包括：使用所述第一总线通道集合中被分配给来自所述主机的数据外出的总线通道以及所述第一总线通道集合中被分配给去往所述主机的数据进入的总线通道在所述主机和所述第一设备之间交换数据。
8.根据权利要求1所述的方法，其中：所述第一连接的非对称带宽要求包括进入总线通道相对于外出总线通道的M:N比率；并且M具有大于N的整数值的整数值。9.根据权利要求2所述的方法，其中：所述第二连接的非对称带宽要求包括外出总线通道相对于进入总线通道的N:M比率；并且N具有大于M的整数值的整数值。10.根据权利要求2所述的方法，其中所述系统包括处理器和加速器，并且所述方法进一步包括：将所述处理器配置为所述主机；将所述加速器识别为所述第一设备；并且确定所述加速器被配置为具有包括被配置用于经由所述第一连接与所述主机的双向数据传输的总线通道的连接性。11.根据权利要求10所述的方法，其中所述系统包括存储器，并且所述方法进一步包括：将所述存储器识别为所述第二设备；并且确定所述存储器被配置为具有包括被配置用于经由所述第二连接与所述主机的双向数据传输的总线通道的连接性。12.一种系统，包括：一个或多个处理器；以及一个或多个存储指令的非瞬态机器可读存储介质，所述指令能够被所述一个或多个处理器执行以使得操作被执行，所述操作包括：识别耦合至所述系统的主机的多个设备；生成系统拓扑，所述系统拓扑识别所述多个设备的连接性以及识别使得能够在所述系统处进行数据传输的总线通道；确定所述主机和所述多个设备中的第一设备之间的第一连接具有非对称带宽要求；并且基于所述第一连接...

【专利技术属性】
技术研发人员：尼尚特，
申请(专利权)人：谷歌有限责任公司，
类型：发明
国别省市：