一种面向预取数据的高速缓存管理方法技术

本发明专利技术公开了一种面向预取数据的高速缓存管理方法，步骤包括将系统中多级高速缓存（Cache）的所有路（way）进行统一编码后与预取数据的置信度建立映射，获取预取数据后将其映射到对应的高速缓存位置并设置“预取”标识。如果有任何访问命中了有“预取”标识的高速缓存块，则清除高速缓存块的“预取”标识，并按普通数据的管理方式进行该高速缓存块的管理；否则，当有“预取”标识的高速缓存块被替换时，将被放置于下一级高速缓存。该发明专利技术可以减少错误预取对高速缓存的污染，提高正确预取数据被使用的几率，提高存储系统性能。同时，本发明专利技术不影响已有预取策略，使用灵活、方便集成。

A cache management method for prefetched data

【技术实现步骤摘要】
一种面向预取数据的高速缓存管理方法
本专利技术涉及微处理器设计
，涉及乱序超标量微处理器设计中预取数据的高速缓存管理策略，具体为一种面向预取数据的高速缓存管理方法。
技术介绍
微处理器设计中，“存储墙”问题一直是处理器性能提升的中难以解决的问题。存储系统的速度总是难以匹配处理器核心的速度。通常处理器中数据获取需要多个周期，如果在多级高速缓存（Cache）中都没有命中，那么需要上百个周期将数据从主存中搬移到处理器核心中。数据预取是预测数据在未来会被使用，提前发出数据请求将数据从主存中搬移到高速缓存中，当数据真正被使用时可以从高速缓存中获取，从而节省大量的数据获取时间，提高处理器性能。当前数据预取的研究主要在如何提高预取的准确率和覆盖率上，对于预取数据在高速缓存中的管理并没有太多关注。或者对预取数据仅仅是粗粒度的管理：数据是否需要预取，以及预取数据是否要放到高速缓存中。然而，错误的数据预取可能会污染高速缓存，将有用的数据替换出高速缓存，降低了高速的有效容量，造成性能下降。另一方面，对于正确的数据预取，如果数据预取的时机不对，可能造成预取数据在被替换出高速缓存时，仍没有被用上。这样，虽然预取正确，但是却没有达到应有的效果，浪费了高速缓存的空间。
技术实现思路
本专利技术要解决的技术问题：针对现有技术的上述问题，提供一种面向预取数据的高速缓存管理方法，本专利技术能够减少预取数据对高速缓存的污染、增大预取数据被使用机会、并且使用灵活易于集成。为了解决上述技术问题，本专利技术采用的技术方案为：一种面向预取数据的高速缓存管理方法，实施步骤包括：1）将多级高速缓存的所有路进行统一编码，并获取预取数据的置信度；2）建立多级高速缓存的所有路、预取数据的置信度之间的映射；3）获取预取数据后，将预取数据放入到映射到的多级高速缓存中的位置；4）将预取数据设置“预取”标识；5）如果有任何访问命中了有“预取”标识的多级高速缓存中的块，则跳转执行步骤6）；否则，跳转执行步骤8）；6）清除命中的该有“预取”标识的多级高速缓存中的块的“预取”标识；7）按普通数据的管理方式进行命中的该有“预取”标识的多级高速缓存中的块的管理；8）判断有“预取”标识的多级高速缓存中的块是否有被替换，当有“预取”标识的多级高速缓存中的块被替换时，将其放置于多级高速缓存中下一级的最近最常使用位置。可选地，步骤1）中将多级高速缓存的所有路进行统一编码具体是指将多级高速缓存的所有路按照从MRU到LRU的顺序进行统一编码，其中MRU为多级高速缓存的最近最常使用位置，LRU为多级高速缓存的最近最少使用位置。可选地，所述多级高速缓存为由L1～L3三级高速缓存组成，且三级高速缓存之间按照L1～L3的顺序、每一级高速缓存内部按照从MRU到LRU的顺序连续编号。可选地，步骤1）中获取预取数据的置信度具体是指通过计数各项预取数据的当前预取地址被命中的次数作为预取数据的置信度。可选地，步骤2）中建立多级高速缓存的所有路、预取数据的置信度之间的映射具体是指按照下述规则建立映射：如果某个预取数据的映射的置信度越高、那么通过映射后得到的高速缓存的路的统一编码应该越小以便这样才能将预取数据尽可能放入多级高速缓存的第一级的最近最常使用位置。此外，本专利技术还提供一种微处理器，该微处理器被编程或配置以执行本专利技术前述面向预取数据的高速缓存管理方法的步骤。和现有技术相比，本专利技术具有下述优点：1、本专利技术能够减少预取数据对多级高速缓存（Cache）的污染。根据预取数据置信度，将数据放置于不同的高速缓存层次中，并根据置信度置于MRU、LRU或者之间的多级高速缓存的路中。这样置信度低的预取可以更早被替换出多级高速缓存，减少不正确的预取造成高速缓存的污染，同时正确的预取能够置于相应的多级高速缓存的层次中。2、本专利技术能够增大预取数据被使用的机会。当没有被使用过的预取数据被替换时，置于下一级存储的MRU位置，延长了该数据块在下一级多级高速缓存中被替换的时间，从而增加了预取数据被使用的机会。3、本专利技术能够使用灵活，方便集成。本专利技术的方法可以和多种数据预取算法进行结合，不影响原有的数据预取策略。同时对于现有的多级高速缓存管理策略修改较小，具有使用灵活、方便集成的特点。附图说明图1为本专利技术实施例方法的基本实施流程示意图。图2为本专利技术实施例中多级高速缓存路统一编码的方法示意图。具体实施方式如图1所示，本实施例面向预取数据的高速缓存管理方法的实施步骤包括：1）将多级高速缓存的所有路进行统一编码，并获取预取数据的置信度；2）建立多级高速缓存的所有路、预取数据的置信度之间的映射；3）获取预取数据后，将预取数据放入到映射到的多级高速缓存中的位置；4）将预取数据设置“预取”标识；5）如果有任何访问命中了有“预取”标识的多级高速缓存中的块，则跳转执行步骤6）；否则，跳转执行步骤8）；6）清除命中的该有“预取”标识的多级高速缓存中的块的“预取”标识；7）按普通数据的管理方式进行命中的该有“预取”标识的多级高速缓存中的块的管理；8）判断有“预取”标识的多级高速缓存中的块是否有被替换，当有“预取”标识的多级高速缓存中的块被替换时，将其放置于多级高速缓存中下一级的最近最常使用位置。本实施例中，步骤1）中将多级高速缓存的所有路进行统一编码具体是指将多级高速缓存的所有路按照从MRU到LRU的顺序进行统一编码，其中MRU为多级高速缓存的最近最常使用位置，LRU为多级高速缓存的最近最少使用位置。在高性能乱序超标量微处理器中，一般有多级高速缓存（Cache），目前主流商用微处理器中通常有三级多级高速缓存。本实施例中，多级高速缓存为由L1～L3三级高速缓存组成，且三级高速缓存之间按照L1～L3的顺序、每一级高速缓存内部按照从MRU到LRU的顺序连续编号。对于采用LRU替换算法的多级高速缓存来说，对于每个组（set）中的多个路（way），按照MRU（MostRecentUse）到LRU（LeastRecentUse）的位置进行组织。新写进多级高速缓存或者命中的路，总是处于MRU位置，原处于MRU位置的路将向LRU方向进行左移。当有新的多级高速缓存数据需要放到多级高速缓存中时，将替换处于LRU位置的数据。如图2所示，本实施例将多级高速缓存的路按照MRU到LRU的进行统一编码时。假设一级高速缓存L1有8路，二级高速缓存L2有16路，所有的三级高速缓存（L1+L2+L3）共有N路。那么一种可能编码的方式如下：a)L1MRU路编码为0，其他路按MRU到LRU的顺序分别编码为1，2，3，4，5，6，7。b)L2MRU路编码为8，其他路按MRU到LRU的顺序分别编码为9，10，…，23。c)L3MRU路编码为24，其他路按MRU到LRU的顺序分别编码为25，…，N-1。通过以上编码方式，系统中所有的Cac本文档来自技高网...

【技术保护点】
1.一种面向预取数据的高速缓存管理方法，其特征在于实施步骤包括：/n1）将多级高速缓存的所有路进行统一编码，并获取预取数据的置信度；/n2）建立多级高速缓存的所有路、预取数据的置信度之间的映射；/n3）获取预取数据后，将预取数据放入到映射到的多级高速缓存中的位置；/n4）将预取数据设置“预取”标识；/n5）如果有任何访问命中了有“预取”标识的多级高速缓存中的块，则跳转执行步骤6）；否则，跳转执行步骤8）；/n6）清除命中的该有“预取”标识的多级高速缓存中的块的“预取”标识；/n7）按普通数据的管理方式进行命中的该有“预取”标识的多级高速缓存中的块的管理；8）判断有“预取”标识的多级高速缓存中的块是否有被替换，当有“预取”标识的多级高速缓存中的块被替换时，将其放置于多级高速缓存中下一级的最近最常使用位置。/n

【技术特征摘要】
1.一种面向预取数据的高速缓存管理方法，其特征在于实施步骤包括：
1）将多级高速缓存的所有路进行统一编码，并获取预取数据的置信度；
2）建立多级高速缓存的所有路、预取数据的置信度之间的映射；
3）获取预取数据后，将预取数据放入到映射到的多级高速缓存中的位置；
4）将预取数据设置“预取”标识；
5）如果有任何访问命中了有“预取”标识的多级高速缓存中的块，则跳转执行步骤6）；否则，跳转执行步骤8）；
6）清除命中的该有“预取”标识的多级高速缓存中的块的“预取”标识；
7）按普通数据的管理方式进行命中的该有“预取”标识的多级高速缓存中的块的管理；8）判断有“预取”标识的多级高速缓存中的块是否有被替换，当有“预取”标识的多级高速缓存中的块被替换时，将其放置于多级高速缓存中下一级的最近最常使用位置。


2.根据权利要求1所述的面向预取数据的高速缓存管理方法，其特征在于，步骤1）中将多级高速缓存的所有路进行统一编码具体是指将多级高速缓存的所有路按照从MRU到LRU的顺序进行统一编码，其中MRU为多级高速缓存的最近...

【专利技术属性】
技术研发人员：郑重，雷国庆，郭辉，孙彩霞，王永文，黄立波，隋兵才，倪晓强，王俊辉，郭维，
申请(专利权)人：中国人民解放军国防科技大学，
类型：发明
国别省市：湖南;43