用于对多通道存储器进行控制的方法和装置制造方法及图纸

技术编号:36574451 阅读:34 留言:0更新日期:2023-02-04 17:32
本申请提出了用于对多通道存储器进行控制的方法和装置。所述方法包括:接收通道数改变指令,其中,所述通道数改变指令指示将当前使用的存储器的通道数改变成所需的通道数,所需的通道数是根据所述多通道存储器中的多个通道的存储器的当前的带宽利用率和容量使用率被确定的;将当前使用通道的存储器中的数据迁移到所需通道数的存储器中,并将所述当前使用通道的存储器中数据所在通道地址所映射到的物理地址重新映射到所述所需通道数的存储器的通道地址,其中,同一数据在当前使用通道的存储器中所在的通道地址所映射到的物理地址与所述同一数据在所述所需通道数的存储器中所在的通道地址所映射到的物理地址是相同的。的。的。

【技术实现步骤摘要】
用于对多通道存储器进行控制的方法和装置


[0001]本公开涉及计算机
,尤其涉及用于对多通道存储器进行控制的方法和装置、存储介质以及计算机程序产品。

技术介绍

[0002]随着计算机技术的发展,各种高性能计算机被广泛使用。对于各种高性能计算机的处理器(例如,CPU(Central Processing Unit, 中央处理单元)、GPU(Graphics Processing Unit,图形处理单元),TPU(Tensor Processing Unit, 张量处理单元)、NPU(Neural network Processing Unit, 神经网络处理单元)等)而言,为了提高运算性能,需要提高存储器(例如,DDR(Double Data Rat,双倍速率)存储器)的带宽以与之匹配。在频率和工艺确定的情况下,通过增加存储器的通道数量来提高存储器的带宽。每个通道通常都用独立的配套组件(例如,DDR物理层接口单元、DDR颗粒等),因此随着通道数量的增加,随之带来的功耗也大大增加,散热问题也变得棘手。特别是当处理器处于非极限运算的场景下,对存储器的带宽需求可能小于最大带宽的50%,例如在仅显示桌面的情况下,对存储器的带宽需求更低,可能小于10%。然而,每个通道仍然会消耗很大的功耗,既影响相关设备或存储器芯片的寿命,也造成了资源的浪费。

技术实现思路

[0003]有鉴于此,本公开提供用于对多通道存储器进行控制的方法和装置、存储介质以及计算机程序产品,期望克服上面提到的部分或全部缺陷以及其它可能的缺陷。
[0004]根据本公开的第一方面,提供了一种用于对多通道存储器进行控制的方法。所述方法包括:接收通道数改变指令,其中,所述通道数改变指令指示将当前使用的存储器的通道数改变成所需的通道数,所需的通道数是根据所述多通道存储器中的多个通道的存储器的当前的带宽利用率和容量使用率被确定的,以及其中,带宽利用率表示所述多个通道的存储器的当前使用带宽与所述多个通道的存储器的最大总带宽的比值,容量使用率表示所述多个通道的存储器的当前使用容量与所述多个通道的存储器的总容量的比值;将当前使用通道的存储器中的数据迁移到所需通道数的存储器中,并将所述当前使用通道的存储器中数据所在通道地址所映射到的物理地址重新映射到所述所需通道数的存储器的通道地址,其中,同一数据在当前使用通道的存储器中所在的通道地址所映射到的物理地址与所述同一数据在所述所需通道数的存储器中所在的通道地址所映射到的物理地址是相同的。
[0005]在一些实施例中,所述多通道存储器中的多个通道的存储器的当前的带宽利用率和容量使用率通过如下方式被确定:将所述多通道存储器的通道划分为多个分组,每个分组中包括多个通道的存储器;针对每个相应的分组,确定相应分组中的多个通道的存储器的当前的带宽利用率和容量使用率。
[0006]在一些实施例中,所述多个通道的存储器的通道数等于,并且其中,所需的通道数通过如下方式被确定:确定使得所述当前的带宽利用率和容量使用率均小于1/时的k
的最大值;确定所述多个通道的通道数除以得到的商m,并将m作为所需的通道数,其中k为不小于零的整数,以及p和m为正整数。
[0007]在一些实施例中,所述多个通道的存储器的通道数不等于,并且其中,所需的通道数通过如下方式被确定:确定使得所述当前的带宽利用率和容量使用率均小于1/时的k的最大值;确定所述多个通道的通道数除以得到的商m,并将大于或等于m的最小整数n作为所需的通道数,其中k为不小于零的整数,p为正整数,以及m为正数。
[0008]在一些实施例中,所述多个通道的存储器的通道数为8。
[0009]在一些实施例中,将当前使用通道的存储器中的数据迁移到所需通道数的存储器中,并将所述当前使用通道的存储器中数据所在通道地址所映射到的物理地址重新映射到所述所需通道数的存储器的通道地址,包括:响应于所需的通道数小于当前使用的存储器的通道数,则将当前使用通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,其中,第一部分通道的通道数等于所需的通道数,并且当前使用通道中第一部分通道之外的通道为第二部分通道;将所述当前使用通道的存储器中数据所在的通道地址所映射的物理地址重新映射到所述第一部分通道的存储器的通道地址,其中同一数据在当前使用通道的存储器中所在的通道地址所映射的物理地址与所述同一数据在所述第一部分通道的存储器中所在的通道地址所映射的物理地址是相同的;关闭所述当前使用通道中的所述第二部分通道。
[0010]在一些实施例中,所述方法还包括:根据时隙配置信息,确定时隙控制模式,所述时隙控制模式用于指示所述第一部分通道的存储器的每个控制周期中的工作模式和休眠模式的切换模式;根据所述时隙控制模式控制所述第一部分通道的存储器,使得所述第一部分通道的存储器在休眠模式下进入低功耗状态,以及在工作模式下处理命令缓冲器在第一部分通道的存储器的休眠模式下缓存的针对第一部分通道的存储器的访问请求。
[0011]在一些实施例中,所述第一部分通道的存储器包括多个通道,所述方法还包括:获取目标存储器的工作模式,其中,所述目标存储器为所述第一部分通道的存储器中的任意一个,所述工作模式包括同步模式和顺序模式中的一个,所述同步模式指示目标存储器与第一部分通道的存储器中其它通道的存储器同步进入工作模式和休眠模式,顺序模式指示所述目标存储器与第一部分通道的存储器中其它通道的存储器按指定顺序进入工作模式和休眠模式;其中,所述根据所述时隙控制模式控制所述第一部分通道的存储器,包括:根据所述时隙控制模式和工作模式控制所述目标存储器,使得所述目标存储器在休眠模式下进入低功耗状态,以及在工作模式下处理命令缓冲器在目标存储器的休眠模式下缓存的针对目标存储器的访问请求。
[0012]在一些实施例中,将当前使用通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,包括:将当前使用通道的第一部分通道的存储器中的数据迁移到所述当前使用通道中所述第二部分通道的存储器中的未被使用的通道地址上;将所述当前使用通道中所述第二部分通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中。
[0013]在一些实施例中,第一部分通道的通道数为至少两个,并且其中,将当前使用通道的第一部分通道的存储器中的数据迁移到所述当前使用通道中所述第二部分通道的存储
器中的未被使用的通道地址上,包括:将所述至少两个第一部分通道的存储器中的数据并行迁移到所述第二部分通道的存储器中的未被使用的通道地址上,其中所述数据被迁移到所述第二部分通道的存储器的通道数等于所述第一部分通道的通道数。
[0014]在一些实施例中,将所述当前使用通道中所述第二部分通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,包括:将所述第二部分通道的存储器中的数据迁移到所述第一部分通道的存储器中,使得同一数据在所述第一部分通道的存储器中所在的通道地址相对于被迁移的其它数据所在通道地址的次序与在所述当前使用通道的存储器中相同本文档来自技高网
...

【技术保护点】

【技术特征摘要】
1.一种用于对多通道存储器进行控制的方法,其特征在于,所述方法包括:接收通道数改变指令,其中,所述通道数改变指令指示将当前使用的存储器的通道数改变成所需的通道数,所需的通道数是根据所述多通道存储器中的多个通道的存储器的当前的带宽利用率和容量使用率被确定的,以及其中,带宽利用率表示所述多个通道的存储器的当前使用带宽与所述多个通道的存储器的最大总带宽的比值,容量使用率表示所述多个通道的存储器的当前使用容量与所述多个通道的存储器的总容量的比值;将当前使用通道的存储器中的数据迁移到所需通道数的存储器中,并将所述当前使用通道的存储器中数据所在通道地址所映射到的物理地址重新映射到所述所需通道数的存储器的通道地址,其中,同一数据在当前使用通道的存储器中所在的通道地址所映射到的物理地址与所述同一数据在所述所需通道数的存储器中所在的通道地址所映射到的物理地址是相同的。2.根据权利要求1所述的方法,其特征在于,所述多通道存储器中的多个通道的存储器的当前的带宽利用率和容量使用率通过如下方式被确定:将所述多通道存储器的通道划分为多个分组,每个分组中包括多个通道的存储器;针对每个相应的分组,确定相应分组中的多个通道的存储器的当前的带宽利用率和容量使用率。3.根据权利要求1所述的方法,其特征在于,所述多个通道的存储器的通道数等于,并且其中,所需的通道数通过如下方式被确定:确定使得所述当前的带宽利用率和容量使用率均小于1/时的k的最大值;确定所述多个通道的通道数除以得到的商m,并将m作为所需的通道数,其中k为不小于零的整数,以及p和m为正整数。4.根据权利要求1所述的方法,其特征在于,所述多个通道的存储器的通道数不等于,并且其中,所需的通道数通过如下方式被确定:确定使得所述当前的带宽利用率和容量使用率均小于1/时的k的最大值;确定所述多个通道的通道数除以得到的商m,并将大于或等于m的最小整数n作为所需的通道数,其中k为不小于零的整数,p为正整数,以及m为正数。5.根据权利要求1所述的方法,其特征在于,将当前使用通道的存储器中的数据迁移到所需通道数的存储器中,并将所述当前使用通道的存储器中数据所在通道地址所映射到的物理地址重新映射到所述所需通道数的存储器的通道地址,包括:响应于所需的通道数小于当前使用的存储器的通道数,则:将当前使用通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,其中,第一部分通道的通道数等于所需的通道数,并且当前使用通道中第一部分通道之外的通道为第二部分通道;将所述当前使用通道的存储器中数据所在的通道地址所映射的物理地址重新映射到所述第一部分通道的存储器的通道地址,其中同一数据在当前使用通道的存储器中所在的通道地址所映射的物理地址与所述同一数据在所述第一部分通道的存储器中所在的通道地址所映射的物理地址是相同的;关闭所述当前使用通道中的所述第二部分通道。
6.根据权利要求5所述的方法,其特征在于,将当前使用通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,包括:将当前使用通道的第一部分通道的存储器中的数据迁移到所述当前使用通道中所述第二部分通道的存储器中的未被使用的通道地址上;将所述当前使用通道中所述第二部分通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中。7.根据权利要求6所述的方法,其特征在于,第一部分通道的通道数为至少两个,并且其中,将当前使用通道的第一部分通道的存储器中的数据迁移到所述当前使用通道中所述第二部分通道的存储器中的未被使用的通道地址上,包括:将所述至少两个第一部分通道的存储器中的数据并行迁移到所述第二部分通道的存储器中的未被使用的通道地址上,其中所述数据被迁移到所述第二部分通道的存储器的通道数等于所述第一部分通道的通道数。8.根据权利要求6所述的方法,其特征在于,将所述当前使用通道中所述第二部分通道的存储器中的数据迁移到当前使用通道的第一部分通道的存储器中,包括:将所述第二部分通道的存储器中的数据迁移到...

【专利技术属性】
技术研发人员:请求不公布姓名
申请(专利权)人:摩尔线程智能科技北京有限责任公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1