一种应用于混合三维片上网络的分布式流控系统及方法技术方案

本发明专利技术公开了一种应用于总线‑NoC混合三维片上网络的分布式流控系统及机制。结合混合三维片上网络的应用场景及架构特征，该流控机制将流控组件分布于路由节点与总线接口单元等资源竞争环节；基于汇聚流服务模型将通过路由节点与总线接口单元的个体流抽象为多个汇聚流，并对汇聚流的带宽需求进行动态学习；各路由仲裁器与总线控制器按照汇聚流的带宽需求与实际服务状态之间的差异实时确定数据包的服务优先等级并进行数据转发，实现通信带宽的按需分配。本发明专利技术在路由节点与总线接口单元引入流特征学习模块，流行为监测模块，二级优先权仲裁模块及分布式总线控制模块等四个硬件组件实现上述流控功能与特征。

A distributed flow control system and its mechanism for hybrid 3D network on chip

The invention discloses a NoC bus applied to hybrid distributed control system and mechanism of three-dimensional network on chip. Combined with the application scenarios and architecture characteristics of three-dimensional network on chip hybrid, the flow control mechanism will be distributed in the routing node and fluidic component bus interface unit and other resources competition; streaming service model through the routing node and the bus interface unit of the individual flow into a plurality of abstract convergence flow based on the bandwidth requirements and the convergence of dynamic flow learning; the routing arbiter and bus controller according to the difference between the aggregate flow and the actual bandwidth demand of service status determined in real time service data packet priority and data forwarding, realize communication bandwidth distribution according to need. The invention introduces the flow characteristics of the learning module in the routing node and the bus interface unit, popular monitoring module, realize the control function and the characteristics of two level priority arbitration module and distributed bus control module of four hardware components.

【技术实现步骤摘要】
一种应用于混合三维片上网络的分布式流控系统及机制
本专利技术涉及一种应用于混合三维片上网络的分布式流控系统及机制，特别涉及一种应用于总线-NoC混合三维片上网络的分布式流控系统及机制，属于集成电路、片上互连网络设计领域。
技术介绍
随着指令并行带来的性能收益趋于饱和，半导体工业逐渐向多核片上系统发展。片上集成核数的不断增加，使得互连通信带宽成为多核系统的性能瓶颈与设计挑战。片上网络(Network-on-Chip，NoC)互连架构可提高核间通信的并发性，是缓解多核系统互连带宽问题的有效解决方案。但NoC架构并不能减小全片互连线长度，随着多核片上系统出现千核级甚至更大规模的互连与通信，传统二维NoC在高度并行化和通信密集的应用下将产生惊人的通信功耗与通信延时。三维集成技术将单个芯片内的有源器件分布在不同物理层上，层间通过硅通孔(ThroughSiliconVisas,TSVs)实现互连，在垂直方向上为多核互连提供了新的维度。众多三维互连架构中，总线-NoC混合三维片上网络，保留各个二维平面内的NoC互连结构，而在垂直方向上采用总线互连以构造垂直一跳通信，能够有效发挥垂直TSV链路高速、低耗的通信优势，更加适用于大规模多核片上互连。已有的片上网络流控机制主要分为尽力而为型与保障型两类。混合三维片上网络中,平面内NoC互连网络与垂直互连总线是所有节点的共享通信资源，当数以千计的IP核并发众多通信流争用同一通信路径时会产生严重的带宽竞争。尽力而为型流控机制着眼于互连架构整体性能的提升，而忽略了个体流的通信需求，片上网络分布式的仲裁机制使得网络行为与运行在处理器核之上的应用程序的性能出现不可预测性，无法保障特定应用的带宽与延时需求。而已有的保障型流控机制多通过虚电路或时分复用技术，沿数据传输路径对路由缓冲或服务时隙进行预约，以形成分离网络对数据流进行性能隔离。其有助于为个体流提供通信保障，但可能需要为每个个体流单独分配服务队列或导致互连带宽整体利用率不足。为解决上述问题，有研究提出通过全局同步帧(Globally-Synchronized-Frame,GSF)机制将路由节点中的调度逻辑转移至源节点以减少路由节点的面积和功耗开销，但在网络规模较大时，GSF需要较长的帧长才能抵消全局同步带来的延时，从而导致信源缓冲区增大。另一种业界提出的性能较好的保障型流控机制为抢占虚拟时钟机制(PreemptiveVirtualClock,PVC),基于虚拟时钟算法为每个数据流分配优先级，当发生优先级反转时，采用丢弃与重传机制进行带宽保障，虽然避免了使用较大的源缓冲区，但保障强度与网络吞吐率之间存在设计矛盾。已有的流控机制多针对百核级以下的片上网络互连规模，为了实现单个数据流的通信保障，多采用每流控制机制。这将使得控制复杂度随着多核系统中通信流的增加而增大，从而导致可扩展性变差，在百核及千核级的大规模互连应用场景下可能带来较大的面积开销和性能损失。与此同时，混合三维片上网络中，除NoC互连带宽外，垂直总线带宽也是不同数据流的通信竞争资源。集中式的总线流控机制会引入大量额外的TSV数目，从而带来的较大的面积开销，并降低芯片良率。因此，有必要基于混合三维片上网络的架构特征及应用场景，研究开销节约、可扩展性强的分布式流控机制，保障单个个体流带宽需求。
技术实现思路
针对
技术介绍
所述流控机制在大规模多核互连应用背景下带来较大面积开销及性能损失等问题，本专利技术面向总线-NoC混合三维片上网络互连架构，提出了一种基于汇聚流控制的分布式流控系统及机制，在不降低整个互连网络性能的前提下，保障个体流的通信带宽需求。该机制基于汇聚流服务模型将通过路由节点与总线的个体流抽象为多个汇聚流；各路由仲裁器与总线控制器按照汇聚流的带宽需求与实际服务状态之间的差异实时确定数据包的服务优先等级并进行数据转发，实现通信带宽的按需分配。本专利技术在为互连网络中个体数据流提供带宽保障服务的同时，降低互连网络的额外性能与面积开销。本专利技术为解决上述技术问题采用以下技术方案：一方面，本专利技术提供一种应用于混合三维片上网络的分布式流控系统，包括流特征学习模块、流行为监测模块、二级优先权仲裁模块及分布式总线控制模块；流特征学习模块，用于路由节点与总线接口单元动态学习经其转发的数据流及其带宽需求，并通过分布式计算求解全局最拥塞链路带宽需求；进一步，依据汇聚流的带宽需求及最拥塞链路的带宽需求确定每个汇聚流在监控周期内期待被转发的微片数；流行为监测模块，用于监视路由节点及总线接口单元在监控周期内实际转发的汇聚流微片数，并计算其与汇聚流期待被转发微片数的差额，作为资源竞争环节带宽分配的依据；二级优先权仲裁模块，用于路由节点内部交叉开关资源分配时，仲裁多个对同一输入端口或输出端口发起的请求信号，实现路由输出链路的带宽分配；分布式总线控制模块，用于通过分布于各总线接口单元的仲裁模块，实现混合三维片上网络中垂直TSV总线带宽在各总线接口单元间的分配。作为本专利技术的进一步技术方案，所述流特征学习模块包括分布于所有路由节点和总线接口的若干流特征学习器，其中，位于路由节点的流特征学习器，将相同输入输出端口间的个体流抽象为一个汇聚流；位于总线接口单元的流特征学习器，将同一总线上相同发送节点与接收节点间的个体流抽象为一个汇聚流。作为本专利技术的进一步技术方案，所述流特征学习器的流特征学习方法如下：a)数据流发送带宽预约请求数据包，将其所产生的通信流带宽特征由源节点沿数据流传输路径传输至目标节点；b)接收到带宽预约请求数据包的路由节点与总线接口单元，依据其在本地所需使用的通信资源对相应的汇聚流带宽需求进行累加；c)数据流完成带宽预约请求数据包发送后，通知所有路由节点与总线接口单元；d)路由节点与总线接口单元通过分布式计算查找全局最拥塞链路及其相应的预约带宽；e)基于最拥塞链路的预约带宽，各路由节点及总线接口单元确定其本地汇聚流在监控周期内期待被转发的微片数。作为本专利技术的进一步技术方案，步骤d中全局最拥塞链路带宽需求的分布式计算求解过程如下：1)各路由节点首先求得东、南、西、北、本地五个方向上的局部通信链路的带宽需求，以及垂直总线链路的带宽需求，并取其最大值作为本地最拥塞链路带宽需求；2)本地最拥塞链路带宽需求沿着X向、Y向、Z向依次作分布式对比传输，即在混合三维片上网络各平面内，左侧路由节点首先与其右侧相邻路由节点的本地链路带宽需求相比较，取其大值沿X向传输，直至最右侧路由节点，获得X向最拥塞链路的带宽需求；最右侧路由节点再以相似的方法将X向最拥塞链路带宽需求沿Y向作分布式对比传输，获得平面最拥塞链路的带宽需求；平面最拥塞链路带宽需求在Z向通过TSV总线进行信息交换，并在其中一个总线接口单元内进行对比，获得整个网络内的全局最拥塞链路带宽需求；3)全局的最拥塞链路带宽需求沿Z向、Y向、X向广播至所有的路由节点与总线接口单元。作为本专利技术的进一步技术方案，所述流行为监测模块分布于所有路由节点和总线接口单元，用于实时监控汇聚流的带宽使用情况，并更新其的优先级；流行为监测模块为本地每个汇聚流配置一个服务状态寄存器，其值体现了汇聚流的预约带宽与实际获得带宽的差额；数据传输阶段，每隔监控周期，服务状态寄存器的值增加每个汇聚流本文档来自技高网...

【技术保护点】
一种应用于混合三维片上网络的分布式流控系统，其特征在于，包括流特征学习模块、流行为监测模块、二级优先权仲裁模块及分布式总线控制模块；流特征学习模块，用于路由节点与总线接口单元动态学习经其转发的数据流及其带宽需求，并通过分布式计算求解全局最拥塞链路带宽需求；进一步，依据汇聚流的带宽需求及最拥塞链路的带宽需求确定每个汇聚流在监控周期内期待被转发的微片数；流行为监测模块，用于监视路由节点及总线接口单元在监控周期内实际转发的汇聚流微片数，并计算其与汇聚流期待被转发微片数的差额，作为资源竞争环节带宽分配的依据；二级优先权仲裁模块，用于路由节点内部交叉开关资源分配时，仲裁多个对同一输入端口或输出端口发起的请求信号，实现路由输出链路的带宽分配；分布式总线控制模块，用于通过分布于各总线接口单元的仲裁模块，实现混合三维片上网络中垂直TSV总线带宽在各总线接口单元间的分配。

【技术特征摘要】
1.一种应用于混合三维片上网络的分布式流控系统，其特征在于，包括流特征学习模块、流行为监测模块、二级优先权仲裁模块及分布式总线控制模块；流特征学习模块，用于路由节点与总线接口单元动态学习经其转发的数据流及其带宽需求，并通过分布式计算求解全局最拥塞链路带宽需求；进一步，依据汇聚流的带宽需求及最拥塞链路的带宽需求确定每个汇聚流在监控周期内期待被转发的微片数；流行为监测模块，用于监视路由节点及总线接口单元在监控周期内实际转发的汇聚流微片数，并计算其与汇聚流期待被转发微片数的差额，作为资源竞争环节带宽分配的依据；二级优先权仲裁模块，用于路由节点内部交叉开关资源分配时，仲裁多个对同一输入端口或输出端口发起的请求信号，实现路由输出链路的带宽分配；分布式总线控制模块，用于通过分布于各总线接口单元的仲裁模块，实现混合三维片上网络中垂直TSV总线带宽在各总线接口单元间的分配。2.根据权利要求1所述的一种应用于混合三维片上网络的分布式流控系统，其特征在于，所述流特征学习模块包括分布于所有路由节点和总线接口的若干流特征学习器，其中，位于路由节点的流特征学习器，将相同输入输出端口间的个体流抽象为一个汇聚流；位于总线接口单元的流特征学习器，将同一总线上相同发送节点与接收节点间的个体流抽象为一个汇聚流。3.根据权利要求2所述的一种应用于混合三维片上网络的分布式流控系统，其特征在于，所述流特征学习器的流特征学习方法如下：a）数据流发送带宽预约请求数据包，将其所产生的通信流带宽特征由源节点沿数据流传输路径传输至目标节点；b)接收到带宽预约请求数据包的路由节点与总线接口单元，依据其在本地所需使用的通信资源对相应的汇聚流带宽需求进行累加；c)数据流完成带宽预约请求数据包发送后，通知所有路由节点与总线接口单元；d)路由节点与总线接口单元通过分布式计算查找全局最拥塞链路及其相应的预约带宽；e)基于最拥塞链路的预约带宽，各路由节点及总线接口单元确定其本地汇聚流在监控周期内期待被转发的微片数。4.根据权利要求3所述的一种应用于混合三维片上网络的分布式流控系统，其特征在于，步骤d中全局最拥塞链路带宽需求的分布式计算求解过程如下：1）各路由节点首先求得东、南、西、北、本地五个方向上的局部通信链路的带宽需求，以及垂直总线链路的带宽需求，并取其最大值作为本地最拥塞链路带宽需求；2）本地最拥塞链路带宽需求沿着X向、Y向、Z向依次作分布式对比传输，即在混合三维片上网络各平面内，左侧路由节点首先与其右侧相邻路由节点的本地链路带宽需求相比较，取其大值沿X向传输，直至最右侧路由节点，获得X向最拥塞链路的带宽需求；最右侧路由节点再以相似的方法将X向最拥塞链路带宽需求沿Y向作分布式对比传输，获得平面最拥塞链路的带宽需求；平面最拥塞链路带宽需求在Z向通过TSV总线进行信息交换，并在其中一个总线接口单元内进行对比，获得整个网络内的全局最拥塞链路带宽需求；3）全局的最拥塞链路带宽需求沿Z向、Y向、X向广播至所有的路由节点与总线接口单元。5.根据权利要求1所述的一种应用于混合三维片上网络的分布式流控系统，其特征在于，所述流行为监测模块分布于所有路由节点和总线接口单元，用于实时监控汇聚流的带宽使用情况，并更新其的优先级；流行为监测模块为本地每个汇聚流配置一个服务状态寄存器，其值体现了汇聚流的预约带宽与实际获得带宽的差额；数据传输阶段，每隔监控周期，服务状态寄存器的值增加每个汇聚流期望被转发的微片数；每次汇聚流在路由节点或总线接口单元中被转发一个微片，服务状态寄存器的值被减1；服务状态寄存器的实时值作为路由节点交叉开关分配...

【专利技术属性】
技术研发人员：闫改珍，吴宁，葛芬，周芳，岳新新，聂国明，
申请(专利权)人：南京航空航天大学，
类型：发明
国别省市：江苏,32