一种高速缓存控制方法、系统及相关组件技术方案

本申请公开了一种高速缓存控制方法、系统及相关组件，涉及高速缓存领域，该方法包括：获取当前CPU的请求报文；按照当前目录工作模式响应所述请求报文，并监测所述请求报文的命中率；判断所述命中率是否达到目标命中率；若否，则调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分。本申请通过监测请求报文在响应过程中的命中率，对命中率不足目标命中率的目标工作模式调整其组相连结构参数，以较低的成本实现了提高整体请求报文的命中率、降低访问延迟概率的效果。降低访问延迟概率的效果。降低访问延迟概率的效果。

【技术实现步骤摘要】
一种高速缓存控制方法、系统及相关组件


[0001]本专利技术涉及高速缓存领域，特别涉及一种高速缓存控制方法、系统及相关组件。

技术介绍

[0002]高速缓冲缓存器cache，简称高速缓存，是一种介于主存储器和CPU(Central Processing Unit，中央处理器)之间的一级存储器，用于为CPU提供比主存储器速度更高的读写服务。
[0003]当CPU读取数据时，硬件首先自动对存取地址的列号字段进行译码，以便将高速缓存中该列的全部行号与存取主存储器地址的行号字段进行比较：若有相同的，表明要存取的主存储器单元已在高速存储器中，称为命中，硬件就将存取主存储器的地址映射为高速存储器的地址并执行存取操作；若都不相同，表明该单元不在高速存储器中，称为脱靶，硬件将执行存取主存储器操作并自动将该单元所在的那一主存储器单元组调入高速存储器相同列中空着的存储单元组中，同时将该组在主存储器中的行号存入联想存储器对应位置的单元内；当出现脱靶而高速存储器对应列中没有空的位置时，便淘汰该列中的某一组以腾出位置存放新调入的组，这一过程称为替换。
[0004]高速缓存内部以目录形式设置有地址映象转换，从而建立起某一数据在主内存器的地址和高速缓存的地址之间的对应关系。具体的，常见的地址映像转换结构包括全相连结构、直接相连结构、组相连结构等，其中全相连结构的命中率较高，但匹配对象多、访问速度慢、硬件资源消耗较多；直接相连结构的电路设计简单，但命中率低、替换操作频繁；组相连结构是介于全相连结构和直接相连结构之间的一种方案，具有较高的命中率和利用率。
[0005]然而，对于不同的上层应用程序，其对内存的读写方式并不相同，在恒定不变的组相连结构下，高速缓存响应不同读写命令时的命中率并不相同，当命中率较低时会发生高速缓存访问延迟的情况，导致上层应用程序运行速度的不稳定。
[0006]因此，如何提供一种解决上述技术问题的方案是目前本领域技术人员需要解决的问题。

技术实现思路

[0007]有鉴于此，本专利技术的目的在于提供一种具有较高命中率的高速缓存控制方法、系统及相关组件。其具体方案如下：
[0008]一种高速缓存控制方法，包括：
[0009]获取当前CPU的请求报文；
[0010]按照当前目录工作模式响应所述请求报文，并监测所述请求报文的命中率；
[0011]判断所述命中率是否达到目标命中率；
[0012]若否，则调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分。
[0013]优选的，所述高速缓存控制方法还包括：
[0014]监测当前所述目录工作模式响应所述请求报文时所述请求报文的命中率；
[0015]判断所述命中率是否达到所述目标命中率；
[0016]若否，则执行以下动作，直至所述命中率达到所述目标命中率为止：
[0017]调整当前所述目录工作模式的组相连结构参数，并按照调整后的所述目录工作模式响应所述请求报文的剩余部分。
[0018]优选的，所述高速缓存控制方法还包括：
[0019]若所有所述目录工作模式对应的所述命中率均未达到所述目标命中率，则从所有所述目录工作模式中，选择最高的所述命中率对应的所述目录工作模式来响应所述请求报文的剩余部分。
[0020]优选的，所述获取当前CPU的请求报文之后，包括：
[0021]根据所述请求报文的类型，确定当前目录工作模式的组相连结构参数；
[0022]所述请求报文的类型包括内存连续读写类型和内存非连续读写类型。
[0023]优选的，所述高速缓存控制方法还包括：
[0024]接收模式指令；
[0025]根据所述模式指令调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分。
[0026]优选的，所述调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分的过程，包括：
[0027]先将高速缓存中的所有缓存行设置为无效状态，调整当前所述目录工作模式中的组相连结构参数，再按照当前所述目录工作模式和所述请求报文的剩余部分对所有所述缓存行重新使能和更新数据。
[0028]优选的，所述高速缓存控制方法还包括：
[0029]根据当前所述目录工作模式中的组相连结构参数对应的LRU替换算法对所有所述缓存行进行替换。
[0030]相应的，本申请还公开了一种高速缓存控制系统，包括：
[0031]获取模块，用于获取当前CPU的请求报文；
[0032]响应模块，用于按照当前目录工作模式响应所述请求报文，并监测所述请求报文的命中率；
[0033]判断模块，用于判断所述命中率是否达到目标命中率；
[0034]动作模块，用于若判断模块结果为否，则调整当前所述目录工作模式中的组相连结构参数，以触发所述响应模块按照当前所述目录工作模式响应所述请求报文的剩余部分。
[0035]相应的，本申请还公开了一种电子设备，包括：
[0036]存储器，用于存储计算机程序；
[0037]处理器，用于执行所述计算机程序时实现如上文任一项所述高速缓存控制方法的步骤。
[0038]相应的，本申请还公开了一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上文任一项所述高速缓存控制方法的步骤。
[0039]本申请公开了一种高速缓存控制方法，包括：获取当前CPU的请求报文；按照当前
目录工作模式响应所述请求报文，并监测所述请求报文的命中率；判断所述命中率是否达到目标命中率；若否，则调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分。本申请通过监测请求报文在响应过程中的命中率，对命中率不足目标命中率的目标工作模式调整其组相连结构参数，以较低的成本实现了提高整体请求报文的命中率、降低访问延迟概率的效果。
附图说明
[0040]为了更清楚地说明本专利技术实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本专利技术的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
[0041]图1为本专利技术实施例中一种高速缓存控制方法的步骤流程图；
[0042]图2为本专利技术实施例中一种地址映射划分的结构分布图；
[0043]图3为本专利技术实施例中一种cache line的分组结构图；
[0044]图4为本专利技术实施例中一种可变替换算法的树状结构图；
[0045]图5为本专利技术实施例中一种高速缓存控制系统的结构分布图；
[0046]图6为本专利技术实施例中一种电子设备的结构分布图。
具体实施方式
[0047]下面将结合本本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种高速缓存控制方法，其特征在于，包括：获取当前CPU的请求报文；按照当前目录工作模式响应所述请求报文，并监测所述请求报文的命中率；判断所述命中率是否达到目标命中率；若否，则调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请求报文的剩余部分。2.根据权利要求1所述高速缓存控制方法，其特征在于，还包括：监测当前所述目录工作模式响应所述请求报文时所述请求报文的命中率；判断所述命中率是否达到所述目标命中率；若否，则执行以下动作，直至所述命中率达到所述目标命中率为止：调整当前所述目录工作模式的组相连结构参数，并按照调整后的所述目录工作模式响应所述请求报文的剩余部分。3.根据权利要求2所述高速缓存控制方法，其特征在于，还包括：若所有所述目录工作模式对应的所述命中率均未达到所述目标命中率，则从所有所述目录工作模式中，选择最高的所述命中率对应的所述目录工作模式来响应所述请求报文的剩余部分。4.根据权利要求1所述高速缓存控制方法，其特征在于，所述获取当前CPU的请求报文之后，包括：根据所述请求报文的类型，确定当前目录工作模式的组相连结构参数；所述请求报文的类型包括内存连续读写类型和内存非连续读写类型。5.根据权利要求1所述高速缓存控制方法，其特征在于，还包括：接收模式指令；根据所述模式指令调整当前所述目录工作模式中的组相连结构参数，以按照调整后的所述目录工作模式响应所述请...

【专利技术属性】
技术研发人员：丁月，高玉昕，
申请(专利权)人：山东云海国创云计算装备产业创新中心有限公司，
类型：发明
国别省市：