共享片上缓存划分装置制造方法及图纸

本发明专利技术公开了一种共享片上缓存划分装置，包括：片上缓存模块；多个可重构阵列；多个第一监测模块，用于跟踪多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，用于记录多个可重构阵列上执行算法的循环迭代次数；划分模块，用于根据缓存利用率信息和循环迭代次数确定分配至每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。本发明专利技术实施例的划分装置，通过平衡多个可重构阵列之间的缓存利用率，从而缩短多个可重构阵列组成的流水线的关键路径长度提高系统性能，并且结构简单，操作方便。

【技术实现步骤摘要】
共享片上缓存划分装置
本专利技术涉及动态可重构
，特别涉及一种共享片上缓存划分装置。
技术介绍
如图1所示，图中显示了多个可重构阵列共享片上缓存的一种通用的体系结构，该结构类似于片上多处理器(chipmultiprocessor)架构，其中，每个可重构阵列相当于一个处理器。其中，通过共享片上缓存获得高性能的关键之一是有效地管理共享缓存，从而减少对片外存储器的访问次数。片上缓存通常采用LRU(LeastRecentlyUsed，最近最少使用页面置换算法)替换方法，该方法并不区分不同处理器的访存请求。因此，共享缓存中一个处理器将要用到的数据可能被别的处理器的数据替换掉，导致降低共享缓存的效率。相关技术中，共享缓存划分已经被证明是一种可以有效地使用共享缓存的方法，其为每个处理器在共享缓存中动态地分配独享的空间。主要的共享缓存划分方法包括UCP方法、PIPP方法和Vantage方法。举例而言，如图2所示，图中给出了一个使用UCP方法划分两个处理器共享的8路缓存的例子，其使用硬件计数器(UMON)实时在线监视每一路缓存的命中和缺失状态，以此计数器收集的状态信息为基础，UCP方法以总的缓存命中最多为目标来决定分配给每个处理器的缓存资源数量，可以得出，当处理器0分配5路缓存，处理器1分配3路缓存的情况下，总的缓存命中数最多。然而，相关技术中的共享缓存划分方法以总的缓存利用率最大化为优化目标，导致未考虑到缓存利用率对可重构阵列性能的影响，并且对于多个可重构阵列组成的流水线，相关技术中未考虑到平衡各级流水线的访存延时，从而可能会加长流水线的关键路径，导致系统整体性能的下降。
技术实现思路
本专利技术旨在至少在一定程度上解决上述相关技术中的技术问题之一。为此，本专利技术的一个目的在于提出一种能够提高系统性能，并且结构简单，操作方便的共享片上缓存划分装置。为达到上述目的，本专利技术实施例提出了一种共享片上缓存划分装置，包括：片上缓存模块；与所述片上缓存模块相连的多个可重构阵列，其中，每个可重构阵列包括多个处理单元；多个第一监测模块，所述多个第一监测模块一一对应地与所述多个可重构阵列相连，用于跟踪所述多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，所述多个第二监测模块一一对应地与所述多个可重构阵列相连，用于记录所述多个可重构阵列上执行算法的循环迭代次数；划分模块，所述划分模块分别与所述多个第一监测模块、所述多个第二监测模块和所述片上缓存模块相连，用于根据所述缓存利用率信息和所述循环迭代次数确定分配至所述每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。根据本专利技术实施例提出的共享片上缓存划分装置，通过实时监控并记录每个可重构阵列上执行算法的循环迭代次数，并且根据缓存利用率信息和循环迭代次数分配至每个可重构阵列相应的共享缓存路数，实现片外存储器的访问，通过平衡多个可重构阵列之间的缓存利用率，从而缩短多个可重构阵列组成的流水线的关键路径长度提高了系统性能，并且结构简单，操作方便。另外，根据本专利技术上述实施例的共享片上缓存划分装置还可以具有如下附加的技术特征：进一步地，在本专利技术的一个实施例中，所述多个第二监测模块中每个第二监测模块包括：减法器和与所述减法器相连的寄存器；迭代次数解析器，所述迭代次数解析器用于根据可重构阵列的配置信息获取所述可重构阵列上执行算法的总循环迭代次数；多路选择器，所述多路选择器分别与所述减法器、所述寄存器和所述迭代次数解析器相连，用于选择所述减法器的被减数，以每完成一次循环迭代，所述被减数的值减去1。进一步地，在本专利技术的一个实施例中，分配结果为总性能Ptotal最大的缓存路数分配结果，其中，获取所述总性能Ptotal的公式为：K为可重构阵列的个数，j为可重构阵列的索引，ij为分配给可重构阵列j的缓存路数，当ij路缓存被分配给所述可重构阵列j时，变量为所述可重构阵列j的缓存利用率，N_leftj为所述可重构阵列j上还未被执行的循环迭代次数。优选地，在本专利技术的一个实施例中，所述片上缓存模块可以采用LRU替换算法。进一步地，在本专利技术的一个实施例中，所述多个第一监测模块和所述多个第二监测模块可以为硬件计数器。本专利技术附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本专利技术的实践了解到。附图说明本专利技术的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解，其中：图1为相关技术中多个可重构阵列共享片上缓存的装置结构示意图；图2为相关技术中基于利用率的共享缓存的划分示意图；图3为根据本专利技术实施例的共享片上缓存划分装置的结构示意图；图4为根据本专利技术一个实施例的第二监测模块的结构示意图；图5为根据本专利技术一个实施例的共享片上缓存划分装置的结构示意图；图6为根据本专利技术一个实施例的共享片上缓存划分装置与相关技术的性能对比示意图；图7为根据本专利技术一个实施例的共享片上缓存划分装置与相关技术的划分结果对比示意图。具体实施方式下面详细描述本专利技术的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本专利技术，而不能理解为对本专利技术的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本专利技术的描述中，“多个”的含义是两个或两个以上，除非另有明确具体的限定。在本专利技术中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本专利技术中的具体含义。在本专利技术中，除非另有明确的规定和限定，第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触，也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且，第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度小于第二特征。下面在描述根据本专利技术实施例提出的共享片上缓存划分装置之前，先来简单描述一下共享片上缓存划分的重要性。具体地，动态可重构计算是一种将软件的灵活性和硬件的高效性结合在一起的计算方式。和通用处理器之间的区别在于它不仅可以改变控制流，还可以在配置信息的控制下动态地改变数据通路的结构，具有高性能、低硬件开销和功耗、灵活性好、扩展性好的优点；同时，在处理速度上，可重构计算的性能正在接近专用定制芯片。进一步地，可重构计算阵列使用多个处理单元(ProcessingElements，PEs)构成的阵列来满足不同应用程序的不同需求。未来的计算系统往往需要兼具多功能和高性能的特点，当前的趋势是在计算系统中加入多个可重构计算阵列，来自适应地支本文档来自技高网...

【技术保护点】
一种共享片上缓存划分装置，其特征在于，包括：片上缓存模块；与所述片上缓存模块相连的多个可重构阵列，其中，每个可重构阵列包括多个处理单元；多个第一监测模块，所述多个第一监测模块一一对应地与所述多个可重构阵列相连，用于跟踪所述多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，所述多个第二监测模块一一对应地与所述多个可重构阵列相连，用于记录所述多个可重构阵列上执行算法的循环迭代次数；划分模块，所述划分模块分别与所述多个第一监测模块、所述多个第二监测模块和所述片上缓存模块相连，用于根据所述缓存利用率信息和所述循环迭代次数确定分配至所述每个可重构阵列相应的共享缓存路数，实现片外存储器的访问。

【技术特征摘要】
1.一种共享片上缓存划分装置，其特征在于，包括：片上缓存模块；与所述片上缓存模块相连的多个可重构阵列，其中，每个可重构阵列包括多个处理单元；多个第一监测模块，所述多个第一监测模块一一对应地与所述多个可重构阵列相连，用于跟踪所述多个可重构阵列上执行应用程序的缓存利用率信息；多个第二监测模块，所述多个第二监测模块一一对应地与所述多个可重构阵列相连，用于记录所述多个可重构阵列上执行算法的循环迭代次数；划分模块，所述划分模块分别与所述多个第一监测模块、所述多个第二监测模块和所述片上缓存模块相连，用于根据所述缓存利用率信息和所述循环迭代次数确定分配至所述每个可重构阵列相应的共享缓存路数，实现片外存储器的访问，其中，分配结果为总性能Ptotal最大的缓存路数分配结果，其中，获取所述总性能Ptotal的公式为：K为可...

【专利技术属性】
技术研发人员：刘雷波，杨晨，罗凯，李兆石，尹首一，魏少军，
申请(专利权)人：清华大学，
类型：发明
国别省市：北京;11