一种混合缓存管理方法技术

本发明专利技术涉及一种混合缓存管理方法，所述方法包括：在混合缓存的最后一级共享高速缓存LLC中的SRAM的高速缓存块上增加读写标记字段；根据所述混合缓存接收的访问请求在所述最后一级共享高速缓存LLC的STT‑RAM和SRAM的命中情况及读写标记字段的标记规则对SRAM的高速缓存块上的读写标记字段进行标记；本发明专利技术提供的方法，利用混合缓存拥有更高的存储密度的特点，通过合理的缓存管理策略抑制长尾现象，提高执行多应用效率。

【技术实现步骤摘要】

本专利技术涉及混合缓存应用领域，具体涉及一种混合缓存管理方法。
技术介绍
在一个大规模数据中心网络中，如果服务器资源利用率增高，对于搜索引擎，流媒体播放，实时在线翻译等延迟敏感型应用来说，少部分用户的RTT会比其他用户大很多倍，导致用户体验的下降，这一现象称之为“长尾现象”。为了降低RTT，提升用户体验，最常用的手段是为延迟敏感型应用预留大量资源，使其资源利用率一直维持在一定的比例之下。另一方面，为了提高数据中心中的资源利用率，一般会采取多个应用混合部署的策略，使多个应用对共享资源竞争使用。但多应用混部在提升资源利用率的同时可能会导致延迟敏感型应用得不到足够的资源完成运算，以致无法及时响应来自用户的请求。在这种情况下，一种解决问题的方法是提高高速缓存容量，并对不同类型的应用做一定的区分，来保证延迟敏感型应用的数据优先存入高速缓存，以提高延迟敏感型应用能及时获得的资源。一方面保证延迟敏感型应用在多应用竞争共享缓存时的性能不比多应用使用私有缓存时的性能差，另一方面又允许当延迟敏感型应用不需要的缓存空间可以让给离线应用使用，提高离线应用的运行性能。但是，在设计计算机体系结构时，所使用的LLC容量并不能随意改变。因为对于使用相同介质的LLC来说，容量的增大就代表着LLC的体积等比例的变大，而在计算机体系结构的设计中，LLC的体积不能轻易扩大，因此，就引入了混合高速缓存的设计。混合高速缓存由STT-RAM和SRAM组成，其中STT-RAM为12路，SRAM为4路。STT-RAM相较于SRAM有存储密度大，静态能耗低的特点，可以在不增加缓存体积的同时加大缓存存储容量。但是，由于STT-RAM的数据写入速度比SRAM慢十一倍左右，混合缓存的管理策略与传统缓存的管理策略截然不同。例如，Kasture,Harshad,andDanielSanchez.Ubik:efficientcachesharingwithstrictqosforlatency-criticalworkloads.Proceedingsofthe19thinternationalconferenceon，首先作者通过经验公式得到延迟敏感型应用在不同缓存容量的条件下其请求缺失的概率。根据请求缺失的概率，作者能够计算出当分配给延迟敏感型应用的缓存容量从一个状态变为另一个状态时，由于数据填充等原因而理应命中的请求数和实际命中请求数直接的差值以及状态转换所消耗的时间。为了保证与固定缓存容量的方法相同的性能，文献中的方法在提高延迟敏感型应用所拥有的缓存容量时，额外指派较固定缓存容量更多的缓存，以弥补差值。在缺失的请求数被弥补以后，指派的缓存容量降至与固定缓存容量方法相同的容量。当对延迟敏感型应用的访问请求数量处于低谷时，文献中的方法将不必要的缓存容量从延迟敏感型应用处收回，分配给其他离线应用，以提高离线应用的执行效率，缩短执行时间。但是，当对延迟敏感型应用的访问请求数量处于高峰时，需要及时将所分配的缓存容量升高，不影响用户体验。因此，缓存命中率的提高时间决定了延迟敏感型应用让出给离线应用的缓存容量。现有技术中，混合缓存的管理策略并不能抑制长尾现象，只能保证所产生的长尾不必缓存独占方式的长尾差。另外，由于使用的是基于SRAM的缓存，静态能耗较STT-SRAM要高，且存储密度低。由于其存储容量有限，会引发极其频繁的数据替换操作，这导致了这些现有策略并不能直接在数据中心这种关注延迟敏感的场景下使用
技术实现思路
本专利技术提供一种混合缓存管理方法，其目的是利用混合缓存拥有更高的存储密度的特点，通过合理的缓存管理策略抑制长尾现象，提高执行多应用效率。本专利技术的目的是采用下述技术方案实现的：一种混合缓存管理方法，其改进之处在于，包括：在混合缓存的最后一级共享高速缓存LLC中的SRAM的高速缓存块上增加读写标记字段；根据所述混合缓存接收的访问请求在所述最后一级共享高速缓存LLC的STT-RAM和SRAM的命中情况及读写标记字段的标记规则对SRAM的高速缓存块上的读写标记字段进行标记。优选的，所述读写标记字段的标记规则包括：若被命中的访问请求为非延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第一字段；若被命中的访问请求为被写过的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第二字段；若被命中的访问请求为被读过1次的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第三字段；若被命中的访问请求为被读过多次的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第四字段。进一步的，所述混合缓存接收延迟敏感型应用的访问请求后，所述最后一级高速缓存LLC在目标缓存组的STT-RAM和SRAM介质上同步查找，并根据所述延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记所述高速缓存块的读写标记字段。进一步的，所述根据所述延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记所述高速缓存块的读写标记字段，包括：若所述延迟敏感型应用的访问请求为读请求并在SRAM上命中，则返回命中的数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段；若所述延迟敏感型应用的访问请求为读请求并在STT-RAM上命中，则返回命中的数据；若所述延迟敏感型应用的访问请求为写请求并在SRAM上命中，则写入命中的数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段；若所述延迟敏感型应用的访问请求为写请求并在STT-RAM上命中，则无效化在STT-RAM上命中的数据，在SRAM上写入该数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段；若所述延迟敏感型应用的访问请求未命中，则在SRAM上写入数据。进一步的，当接收非延迟敏感型应用的访问请求后，所述最后一级高速缓存LLC在目标缓存组的STT-RAM和SRAM介质上同步查找，并根据所述非延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段。进一步的，所述根据所述延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段，包括：若所述非延迟敏感型应用的访问请求为读请求并在SRAM或STT-RAM上命中，则返回命中的数据；若所述非延迟敏感型应用的访问请求为写请求并在SRAM上命中，则写入命中的数据；若所述非延迟敏感型应用的访问请求为写请求并在STT-RAM上命中，则无效化在STT-RAM上命中的数据，在SRAM上写入该数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段，若SRAM上无法写入该数据，则将该数据写回内存；若所述延迟敏感型应用的访问请求未命中，则在SRAM上写入数据，若SRAM上无法写入该数据，则内存上读数据或写数据。进一步的，若延迟敏感型应用的访问请求在SRAM上写入读访问数据时需要替换数据，则依次选择读写标记字段为第一字段、第四字段、第三字段或第二字段的高速缓存块存储的数据进行替换，若在SRAM上写入写访问数据时需要替换数据，则依次选择读写标记字段为第一字段或第四字段的高速缓存块存储的数据进行替换。进一步的，若非延迟敏感型应用的本文档来自技高网...

【技术保护点】
一种混合缓存管理方法，其特征在于，所述方法包括：在混合缓存的最后一级共享高速缓存LLC中的SRAM的高速缓存块上增加读写标记字段；根据所述混合缓存接收的访问请求在所述最后一级共享高速缓存LLC的STT‑RAM和SRAM的命中情况及读写标记字段的标记规则对SRAM的高速缓存块上的读写标记字段进行标记。

【技术特征摘要】
1.一种混合缓存管理方法，其特征在于，所述方法包括：在混合缓存的最后一级共享高速缓存LLC中的SRAM的高速缓存块上增加读写标记字段；根据所述混合缓存接收的访问请求在所述最后一级共享高速缓存LLC的STT-RAM和SRAM的命中情况及读写标记字段的标记规则对SRAM的高速缓存块上的读写标记字段进行标记。2.如权利要求1所述的方法，其特征在于，所述读写标记字段的标记规则包括：若被命中的访问请求为非延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第一字段；若被命中的访问请求为被写过的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第二字段；若被命中的访问请求为被读过1次的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第三字段；若被命中的访问请求为被读过多次的延迟敏感数据，则标记SRAM的高速缓存块上的读写标记字段为第四字段。3.如权利要求2所述的方法，其特征在于，所述混合缓存接收延迟敏感型应用的访问请求后，所述最后一级高速缓存LLC在目标缓存组的STT-RAM和SRAM介质上同步查找，并根据所述延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记所述高速缓存块的读写标记字段。4.如权利要求3所述的方法，其特征在于，所述根据所述延迟敏感型应用的访问请求的命中情况及读写标记字段的标记规则标记所述高速缓存块的读写标记字段，包括：若所述延迟敏感型应用的访问请求为读请求并在SRAM上命中，则返回命中的数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段；若所述延迟敏感型应用的访问请求为读请求并在STT-RAM上命中，则返回命中的数据；若所述延迟敏感型应用的访问请求为写请求并在SRAM上命中，则写入命中的数据，并根据所述读写标记字段的标记规则标记SRAM的高速缓存块的读写标记字段；若所述延迟敏感型应用的访问请求为写请求并在STT-RAM上命中，则无效化在STT-RAM上命中的数据，在SRAM上写入...

【专利技术属性】
技术研发人员：李正民，隋秀峰，朱春鸽，黄道超，周润林，李焱，
申请(专利权)人：国家计算机网络与信息安全管理中心，长安通信科技有限责任公司，
类型：发明
国别省市：北京;11