System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 机会性清除一致性目录以减少缓存一致性开销制造技术_技高网

机会性清除一致性目录以减少缓存一致性开销制造技术

技术编号:44388857 阅读:0 留言:0更新日期:2025-02-25 10:04
一种高速缓存一致的计算机系统节点包括片上网络,与片上网络通信的多个计算元件,包括用于计算元件的高速缓存的多个地址、地址的多个一致性状态和地址的多个跟踪向量的一致性目录,以及被配置为在片上网络的空闲周期期间向计算元件发送探测的一致性目录控制器。探测被配置为查询存储在一致性目录中的多个地址中的地址是否在计算元件的高速缓存中,并且一致性目录被配置为响应于指示地址不在高速缓存中的确认,清除一致性目录以移除地址。

【技术实现步骤摘要】

本申请涉及用于清除计算机系统的一致性目录的系统和方法。


技术介绍

1、计算机节点包括高速缓存数据的多个计算元件,例如核心和/或加速器。在一些高速缓存一致的节点中,利用一致性目录来跟踪节点中高速缓存的数据的所有地址,并识别哪些计算元件正在高速缓存该高速缓存的行。一致性目录被用来发送观察请求以获得数据的当前副本,并响应于计算元件修改高速缓存的数据而使高速缓存的副本无效。此外,在一些高速缓存一致的节点中,当计算元件想要驱逐高速缓存的行或改变它们的状态以保持整个节点最新时,它们更新一致性目录。这是通过从目录中驱逐现有行并从节点中移除所有与其相关联的数据副本来完成的。在这种场景下,拥有最新的信息有助于驱逐旧的或不需要的行,以便为新的行留出空间。在具有少量核心的高性能计算(hpc)应用和一般数据中心系统中,驱逐(eviction)清除了目录并保持了一致性状态最新。

2、然而,核心/加速器采用静默驱逐变得越来越普遍,静默驱逐从高速缓存中丢弃干净的或未修改的数据副本,而不通知一致性目录,以避免不必要的核心计算周期(即,将通知目录的消息)并减少片上网络上的消息流量。这会导致一致性目录变得陈旧,从而导致低效的驱逐、不必要的无效或观察消息被发出,以及性能下降。此外,静默驱逐还导致设计者不得不显著过度供应一致性目录,以解决陈旧行的存在。没有这种过度供应和具有静默驱逐,所有行看起来都像正在被并发使用,因为在高速缓存行驱逐时,一致性目录没有得到清除。随着节点上核心或加速器缓存数量的增加,一致性目录的增长(通过额外的行数以及跟踪位向量大小的增加)会导致严重的面积和功耗问题。

3、
技术介绍
部分中公开的上述信息仅用于增强对本专利技术背景的理解,因此它可能包含不构成现有技术的信息。


技术实现思路

1、本公开涉及高速缓存一致的计算机系统节点的多种实施例。在一个实施例中,高速缓存一致的计算机系统节点包括片上网络,与片上网络通信的多个计算元件,包括用于计算元件的高速缓存的多个地址、地址的多个一致性状态以及地址的多个跟踪向量的一致性目录,以及被配置为在片上网络的空闲周期期间向计算元件发送探测的一致性目录控制器。探测被配置为查询存储在一致性目录中的地址是否在计算元件的高速缓存中,以及一致性目录被配置为响应于指示地址不在高速缓存中的确认,清除一致性目录以移除地址。

2、计算元件可以是同构的,并且包括多个核心。

3、计算元件可以是同构的,并且包括多个加速器。

4、计算元件可以是异构的,并且包括核心和加速器的组合。

5、一致性目录控制器可以被配置为当计算元件忙碌时发送探测。

6、一致性目录控制器可以被配置为不响应于来自计算元件的命令而发送探测。

7、探测可以被结合到标准一致性协议中。

8、标准一致性协议可以是mesi协议。

9、一致性目录控制器可以被配置为利用标准一致性协议的现有探测/观察信道来发送探测。

10、高速缓存相关的计算机系统节点还可以包括连接到高速缓存的主存储器。

11、高速缓存一致的计算机系统节点还可以包括互连,并且一致性目录控制器可以被配置为通过互连发送探测。

12、一致性目录控制器可以被配置为间歇地发送探测。

13、本公开还涉及清除计算机系统的节点中的一致性目录的方法的多种实施例,该计算机系统包括片上网络和连接到片上网络的多个核心和/或多个加速器。在一个实施例中,该方法包括在片上网络的空闲周期期间,从一致性目录控制器向核心和/或加速器的高速缓存发送探测。探测查询存储在一致性目录中的地址是否在高速缓存中。该方法还包括接收响应于该探测的确认,以及响应于指示该地址不在高速缓存中的确认,从一致性目录中清除该地址。

14、核心和/或加速器在发送探测期间可能忙碌。

15、探测的发送可能不是响应于来自核心和/或加速器的命令。

16、探测可以被结合到标准一致性协议中。

17、标准一致性协议可以是mesi协议。

18、探测的发送可以利用标准一致性协议的现有探测/观察信道。

19、探测的发送可以包括通过互连发送探测。

20、探测的发送可以包括间歇地发送探测。

21、提供本概述是为了介绍本公开的实施例的一些特征和概念,这些特征和概念将在下面的详细描述中进一步描述。该概述不旨在标识所要求保护的主题的关键或必要特征,也不旨在用于限制所要求保护的主题的范围。一个或多个所描述的特征可以与一个或多个其他所描述的特征相结合,以提供可行的系统或方法。

本文档来自技高网...

【技术保护点】

1.一种高速缓存一致的计算机系统节点,包括:

2.根据权利要求1所述的高速缓存一致的计算机系统节点,其中,所述多个计算元件是同构的,并且包括多个核心。

3.根据权利要求1所述的高速缓存一致的计算机系统节点,其中所述多个计算元件是同构的,并且包括多个加速器。

4.根据权利要求1所述的高速缓存一致的计算机系统节点,其中所述多个计算元件是异构的,并且包括多个核心和多个加速器的组合。

5.根据权利要求1所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为当所述多个计算元件忙碌时发送所述探测。

6.根据权利要求1所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为不响应来自所述多个计算元件的命令而发送所述探测。

7.根据权利要求1所述的高速缓存一致的计算机系统节点,其中,所述探测被结合到标准一致性协议中。

8.根据权利要求7所述的高速缓存一致的计算机系统节点,其中标准一致性协议是MESI协议。

9.根据权利要求7所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为利用标准一致性协议的现有探测/观察通道来发送所述探测。

10.根据权利要求1所述的高速缓存一致的计算机系统节点,还包括连接到高速缓存的主存储器。

11.根据权利要求1所述的高速缓存一致的计算机系统节点,还包括互连,并且其中一致性目录控制器被配置为通过所述互连发送所述探测。

12.根据权利要求1所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为间歇地发送所述探测。

13.一种清除计算机系统的节点中的一致性目录的方法,所述计算机系统包括片上网络和连接到片上网络的多个核心和/或多个加速器,所述方法包括:

14.根据权利要求13所述的方法,其中,在发送所述探测期间,所述多个核心和/或多个加速器忙碌。

15.根据权利要求13所述的方法,其中所述探测的发送不响应来自所述多个核心和/或多个加速器的命令。

16.根据权利要求13所述的方法,其中所述探测被结合到标准一致性协议中。

17.根据权利要求16所述的方法,其中所述标准一致性协议是MESI协议。

18.根据权利要求16所述的方法,其中所述探测的发送利用标准一致性协议的现有探测/观察通道。

19.根据权利要求13所述的方法,其中发送所述探测包括通过互连发送所述探测。

20.根据权利要求13所述的方法,其中发送所述探测包括间歇地发送所述探测。

...

【技术特征摘要】

1.一种高速缓存一致的计算机系统节点,包括:

2.根据权利要求1所述的高速缓存一致的计算机系统节点,其中,所述多个计算元件是同构的,并且包括多个核心。

3.根据权利要求1所述的高速缓存一致的计算机系统节点,其中所述多个计算元件是同构的,并且包括多个加速器。

4.根据权利要求1所述的高速缓存一致的计算机系统节点,其中所述多个计算元件是异构的,并且包括多个核心和多个加速器的组合。

5.根据权利要求1所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为当所述多个计算元件忙碌时发送所述探测。

6.根据权利要求1所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为不响应来自所述多个计算元件的命令而发送所述探测。

7.根据权利要求1所述的高速缓存一致的计算机系统节点,其中,所述探测被结合到标准一致性协议中。

8.根据权利要求7所述的高速缓存一致的计算机系统节点,其中标准一致性协议是mesi协议。

9.根据权利要求7所述的高速缓存一致的计算机系统节点,其中一致性目录控制器被配置为利用标准一致性协议的现有探测/观察通道来发送所述探测。

10.根据权利要求1所述的高速缓存一致的计算机系统节点...

【专利技术属性】
技术研发人员:S·S·苏利
申请(专利权)人:三星电子株式会社
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1