一种面向多核处理器的共享末级高速缓存访存方法和装置制造方法及图纸

一种面向多核处理器的共享末级高速缓存访存方法和装置，包括：步骤A、在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；步骤B、根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；步骤C、根据所述访存模式，决定并发执行的每个进程中每个数据区域的数据是否访问共享末级高速缓存。本发明专利技术采用旁路技术并调整数据进入末级高速缓存的插入位置可以限制局部性差数据区域的末级高速缓存访问空间，可以减少对其他数据高速缓存空间的抢占，进而在高速缓存中保护局部性良好的数据，提高末级高速缓存的利用率。

【技术实现步骤摘要】
一种面向多核处理器的共享末级高速缓存访存方法和装置
本专利技术涉及计算机系统中的处理器高速缓存管理，特别涉及一种面向多核处理器的共享末级高速缓存访存方法和装置。
技术介绍
多核处理器是将多个处理器封装在一个芯片内部，因此又被称为单芯片多处理器(single-chipmultiprocessors，简称CMP)。多核处理器中每个处理器核都具有独立的微体系结构资源。多核处理器技术具有高度的可扩展性、设计可复用、软件优势明显、功耗低以及容忍线延迟等优点。在现有多核处理器中，末级高速缓存大体可分为私有末级高速缓存和共享末级高速缓存两种基本组织形式。采用私有末级高速缓存结构，每个处理器核具有独立的末级高速缓存，处理器核同末级高速缓存紧密耦合。每个私有末级高速缓存只处理来自本地的处理器访存交易。私有末级高速缓存具有访存延迟较小、性能隔离和易于扩展等优点。但是，由于每个处理器核拥有的私有末级高速缓存大小是固定的，不能根据运行程序的访存行为动态调整，因此存在末级高速缓存利用率低等缺点。采用私有末级高速缓存结构可能会出现一个处理器核由于私有末级高速缓存空间不足导致大量失效、频繁访问主存，而另一个处理器核的部分私有末级高速缓存空间却处于空间状态。共享末级高速缓存结构是指由多个不同的处理器核共享一个容量较大的末级高速缓存。采用该结构可以方便、灵活地在多个处理器核之间共享公共数据，更能适应负载不均衡的情况，从而提高末级高速缓存的利用率并加速处理器核间通信速度。基于上述考虑，现代多核处理器多倾向于采用共享末级高速缓存结构。但是，采用共享末级高速缓存结构也会带来并发进程间冲突和干扰等问题，对多核系统的整体性能和公平性造成损害。在多进程并发执行环境下，由于不同处理器核所运行程序的访存行为和局部性特征并不一致，来自不同进程的数据相互抢占共享末级高速缓存空间。当前处理器末级高速缓存作为存储层次中的重要一级设备，目前普遍由硬件采用LRU替换算法进行管理，但LRU(LeastRecentlyUsed最近最少使用)替换算法过度依赖硬件实现，无法区分数据的局部性强度和级别，将会把局部性良好、被经常使用到的数据替换出末级高速缓存，从而引发高速缓存污染问题。末级高速缓存污染会增加系统的访存交易数量。随着处理器和存储器之间性能差距的逐渐扩大，末级高速缓存污染造成更加严重的性能损失，对系统整体性能造成较大的负面影响。由于并发进程相互之间存在共享资源冲突和争用，在多核处理器平台采用共享末级高速缓存结构会加剧高速缓存污染问题。该问题已经成为制约多核处理器整体性能提升的主要瓶颈之一。在多进程并发执行环境中，当前解决方案是采用进程间共享末级高速缓存划分方法为每个进程分配适当的、相互隔离的末级高速缓存空间，以降低进程间的末级高速缓存冲突。但是进程间末级高速缓存划分结束后，同单独运行时相比，单个进程能够访问到的末级高速缓存空间减少。在这种情况下，单个进程内局部性良好的数据被替换出末级高速缓存的可能性显著增加，进一步加重了进程内的数据访问冲突和末级高速缓存污染。
技术实现思路
本专利技术要解决的技术问题是：如何有效管理共享末级高速缓存，提高多进程并发执行环境下多核处理器的访存性能。为了解决上述技术问题，本专利技术提供了一种面向多核处理器的共享末级高速缓存访存方法，包括：步骤A、在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；步骤B、根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；步骤C、根据所述访存模式，决定并发执行的每个进程中每个数据区域的数据是否访问共享末级高速缓存。优选地，所述步骤B还包括，根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的局部性强度。优选地，所述方法还包括：步骤D、对于判断结果为访问共享末级高速缓存的，根据所述局部性强度，决定并发执行的每个进程中每个数据区域的数据进入共享末级高速缓存使得插入位置。优选地，在步骤A之前还包括：配置每个进程中每个数据区域的范围。优选地，对于判断结果为不访问共享末级高速缓存的数据，直接访问主存储器。优选地，所述访问信息包括访问命中信息和访问失效信息；访存模式包括最近最少使用访存模式、颠簸访存模式、流访存模式以及混合访存模式。优选地，所述步骤B通过设置计数器统计访问信息的数量，根据步骤D中插入位置确定前和插入位置确定后，访问信息数量的变化，决定所述访存模式。优选地，所述步骤C通过设置计数器统计结果，将失效率达到预定程度的数据设定为旁路数据，并不将所述旁路数据存放在高速缓存中；根据所述旁路数据存放在高速缓存前和存放在高速缓存后高速缓存失效率变化，确定数据是否访问共享末级高速缓存；如果高速缓存失效率减小，则所述数据区域被旁路；否则，所述数据区域应该被缓存。。为了解决上述技术问题，本专利技术还提供了一种面向多核处理器的共享末级高速缓存访存装置，包括监视器、控制器和旁路控制接口；所述监视器，用于在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；所述控制器，用于根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；并根据所述访存模式，决定并发执行的每个进程中每个数据区域的数据是否访问共享末级高速缓存；所述旁路控制接口，用于为判断结果为访问共享末级高速缓存的数据提供访问共享末级高速缓存的通路。优选地，所述控制器，还用于根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的局部性强度，并根据所述局部性强度，决定并发执行的每个进程中每个数据区域的数据进入共享末级高速缓存使得插入位置。优选地，所述访存装置，还包括插入控制接口，用于为访问共享末级高速缓存的数据提供到达所述插入位置的通路。优选地，所述控制器，还用于在监视器开始统计访问信息的数量之前，配置每个进程中每个数据区域的范围。。与现有技术相比，本专利技术采用旁路技术并调整数据进入末级高速缓存的插入位置可以限制局部性差数据区域的末级高速缓存访问空间，可以减少对其他数据高速缓存空间的抢占，进而在高速缓存中保护局部性良好的数据，提高末级高速缓存的利用率。以数据区域为单位调整旁路和插入策略可以比现有分进程的优化方法更细粒度地管理末级高速缓存，进一步提升多核处理器的访存性能。附图说明图1为本专利技术提出的面向多核处理器的共享末级高速缓存访存装置的结构示意图；图2是本专利技术提出的面向多核处理器的共享末级高速缓存访存方法的工作流程图；图3是实施例一中的高速缓存访存的工作流程图；图4是实施例一中的数据区域的访存行为配置结构图。具体实施方式为使本专利技术的目的、技术方案和优点更加清楚明白，下文中将结合附图对本专利技术的实施例进行详细说明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互任意组合。如图1所示，本专利技术实施例的一种面向多核处理器的共享末级高速缓存访存装置，包括监视器、控制器和旁路控制接口；所述监视器，用于在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；所述控制器，用于根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；并根据所述访存模式，决定并发执行的每个进程中每个本文档来自技高网...

【技术保护点】
一种面向多核处理器的共享末级高速缓存访存方法，包括：步骤A、在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；步骤B、根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；步骤C、根据所述访存模式，决定并发执行的每个进程中每个数据区域的数据是否访问共享末级高速缓存。

【技术特征摘要】
1.一种面向多核处理器的共享末级高速缓存访存方法，包括：步骤A、在多核处理器多进程并发执行环境中，统计每个进程中每个数据区域的末级高速缓存访问信息的数量；步骤B、根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的访存模式；步骤C、根据所述访存模式，决定并发执行的每个进程中每个数据区域的数据是否访问共享末级高速缓存。2.如权利要求1所述的访存方法，其特征在于：所述步骤B还包括，根据所述访问信息的数量，判断每个进程中每个数据区域的末级高速缓存的局部性强度。3.如权利要求2所述的访存方法，其特征在于：所述方法还包括：步骤D、对于判断结果为访问共享末级高速缓存的，根据所述局部性强度，决定并发执行的每个进程中每个数据区域的数据进入共享末级高速缓存使得插入位置。4.如权利要求1所述的访存方法，其特征在于：在步骤A之前还包括：配置每个进程中每个数据区域的范围。5.如权利要求1所述的访存方法，其特征在于：对于判断结果为不访问共享末级高速缓存的数据，直接访问主存储器。6.如权利要求1所述的访存方法，其特征在于：所述访问信息包括访问命中信息和访问失效信息；访存模式包括最近最少使用访存模式、颠簸访存模式、流访存模式以及混合访存模式。7.如权利要求4所述的访存方法，其特征在于：所述步骤B通过设置计数器统计访问信息的数量，根据步骤D中插入位置确定前和插入位置确定后，访问信息数量的变化，决定所述访存模式。8.如权利要求4所述的访存方法，其特征在于：所述步骤C通过设置...

【专利技术属性】
技术研发人员：程旭，黄涛，王晶，钟祺，管雪涛，
申请(专利权)人：北京北大众志微系统科技有限责任公司，
类型：发明
国别省市：北京,11