System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 用于快速寄存器的数据搬运方法、处理器、计算设备技术_技高网

用于快速寄存器的数据搬运方法、处理器、计算设备技术

技术编号:41969284 阅读:7 留言:0更新日期:2024-07-10 16:50
本公开提供了一种用于快速寄存器的数据搬运方法、处理器、计算设备。根据本公开的数据搬运方法包括:读取对应于缓存控制器的缓存地址的缓存数据;按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合,以使得组合后的数据包括处理器的N个线程中M个线程的数据块,其中,M和N为大于1的整数,M不大于N;以及将组合后的数据搬运至快速寄存器,从而,能够对要发送至快速寄存器的数据进行组合,以使得组合后的数据包括处理器的多个线程中的数据块,然后再将组合后的数据搬运至快速寄存器,能够减少对快速寄存器访问接口的占用,提高处理器的处理效率。

【技术实现步骤摘要】

本公开的实施例涉及处理器,更具体地,涉及一种用于快速寄存器的数据搬运方法、处理器、计算设备


技术介绍

1、随着人工智能训练、推理,以及科学计算等更广泛的通用计算场景发展,对于处理器芯片的算力、处理效率、带宽等方面均提出了更高的要求。如何在软件、硬件方面提供高性能的通用计算设备成为重要研究方向。


技术实现思路

1、本公开的实施例提供了一种用于快速寄存器的数据搬运方法、处理器、计算设备,用于减少数据搬运过程中对快速寄存器访问接口的占用,提高处理器的运行效率。

2、根据本公开的一方面,提供了一种用于快速寄存器的数据搬运方法。根据本公开实施例的用于快速寄存器的数据搬运方法包括:读取对应于缓存控制器的缓存地址的缓存数据;按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合,以使得组合后的数据包括处理器的n个线程中m个线程的数据块,其中,m和n为大于1的整数,m不大于n;以及将组合后的数据搬运至快速寄存器。

3、根据本公开的一些实施例,对应于缓存控制器的一条缓存地址的缓存数据包括对应于n个线程中的至少一个线程的一个或多个连续数据块,其中,按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:对于对应于n个线程中的至少一个线程的一个或多个连续数据块,将具有相同的快速寄存器存储地址的数据块组合成同一组数据,将具有不同的快速寄存器存储地址的数据块组合成不同组数据。

4、根据本公开的一些实施例,将组合后的数据搬运至快速寄存器包括:响应于确定同一组数据包括n个线程中m个线程的数据块,将同一组数据搬运至快速寄存器。

5、根据本公开的一些实施例,读取对应于缓存控制器的缓存地址的缓存数据,按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:读取对应于缓存控制器的第一缓存地址的第一缓存数据,其中,第一缓存数据包括对应于n个线程中的至少一个线程的一个或多个连续数据块,从第一缓存数据中组合具有第一快速寄存器地址的一个或多个数据块;以及在组合后的数据不包括n个线程中m个线程的数据块的情况下,继续读取对应于缓存控制器的第二缓存地址的第二缓存数据,并从第二缓存数据中组合具有第一快速寄存器地址的一个或多个数据块,直到确定组合后的数据包括n个线程中m个线程的数据块。

6、根据本公开的一些实施例,读取对应于缓存控制器的缓存地址的缓存数据,按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:分别读取对应于缓存控制器的p个缓存地址的p行缓存数据,其中,p为大于1的整数;以及按照快速寄存器中线程数据的存储规则将p行缓存数据存储至缓存控制器的存储单元,其中,具有相同的快速寄存器存储地址的数据块存储在存储单元的同一行,具有不同的快速寄存器存储地址的数据块存储在存储单元的不同行。

7、根据本公开的一些实施例,将组合后的数据搬运至快速寄存器包括:将存储单元中的数据逐行搬运至快速寄存器。

8、根据本公开一些实施例的用于快速寄存器的数据搬运方法还包括:从处理器的片外存储器中读取数据至缓存控制器。

9、根据本公开的另一方面,还提供了一种处理器。根据本公开一些实施例的处理器包括计算单元以及缓存控制器,计算单元内部包括快速寄存器,缓存控制器配置有组合单元,其中,缓存控制器的组合单元配置成:读取对应于缓存控制器的缓存地址的缓存数据;按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合,以使得组合后的数据包括处理器的n个线程中m个线程的数据块,其中,m和n为大于1的整数,m不大于n;以及将组合后的数据搬运至快速寄存器。

10、根据本公开的一些实施例,对应于缓存控制器的一条缓存地址的缓存数据包括对应于n个线程中的至少一个线程的一个或多个连续数据块,其中,组合单元按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:对于对应于n个线程中的至少一个线程的一个或多个连续数据块,将具有相同的快速寄存器存储地址的数据块组合成同一组数据,将具有不同的快速寄存器存储地址的数据块组合成不同组数据。

11、根据本公开的一些实施例,组合单元将组合后的数据搬运至快速寄存器包括:响应于确定同一组数据包括n个线程中m个线程的数据块,将同一组数据搬运至快速寄存器。

12、根据本公开的一些实施例,组合单元读取对应于缓存控制器的缓存地址的缓存数据,按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:读取对应于缓存控制器的第一缓存地址的第一缓存数据,其中,第一缓存数据包括对应于n个线程中的至少一个线程的一个或多个连续数据块,从第一缓存数据中组合具有第一快速寄存器地址的一个或多个数据块;以及在组合后的数据不包括n个线程中m个线程的数据块的情况下,继续读取对应于缓存控制器的第二缓存地址的第二缓存数据,并从第二缓存数据中组合具有第一快速寄存器地址的一个或多个数据块,直到确定组合后的数据包括n个线程中m个线程的数据块。

13、根据本公开的一些实施例,针对缓存控制器还配置有存储单元,组合单元读取对应于缓存控制器的缓存地址的缓存数据,按照快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:分别读取对应于缓存控制器的p个缓存地址的p行缓存数据,其中,p为大于1的整数;以及按照快速寄存器中线程数据的存储规则将p行缓存数据存储至存储单元,其中,具有相同的快速寄存器存储地址的数据块存储在存储单元的同一行,具有不同的快速寄存器存储地址的数据块存储在存储单元的不同行。

14、根据本公开的一些实施例,组合单元将组合后的数据搬运至快速寄存器包括:将存储单元中的数据逐行搬运至快速寄存器。

15、根据本公开的一些实施例,处理器还包括片外存储器,其中,缓存控制器从片外存储器中读取数据至缓存控制器。

16、根据本公开的一些实施例,缓存控制器为以下之一:l1级缓存;l2级缓存;以及缓存加速器,其中,缓存加速器包括内存访问控制器。

17、根据本公开的又一方面,提供了一种计算设备。根据本公开实施例的计算设备包括计算单元、缓存控制器和存储器,该存储器中存储有计算机可读代码,该计算机可读代码在由缓存控制器执行时使得缓存控制器执行如上所述的用于快速寄存器的数据搬运方法。

18、利用本公开实施例提供的用于快速寄存器的数据搬运方法、处理器、计算设备,能够实现对于要传输至快速寄存器的数据,按照快速寄存器中线程数据的存储规则进行组合,以使得组合后的数据包括处理器的多个线程的数据块,然后再将组合后的数据搬运至快速寄存器,从而减少数据搬运对快速寄存器访存接口的占用,提高处理器的运行效率。

本文档来自技高网...

【技术保护点】

1.一种用于快速寄存器的数据搬运方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,对应于所述缓存控制器的一条缓存地址的缓存数据包括对应于所述N个线程中的至少一个线程的一个或多个连续数据块,其中,所述按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

3.根据权利要求2所述的方法,其特征在于,所述将组合后的数据搬运至所述快速寄存器包括:

4. 根据权利要求1所述的方法,其特征在于,所述读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

5. 根据权利要求1所述的方法,其特征在于,所述读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

6.根据权利要求5所述的方法,其特征在于,所述将组合后的数据搬运至所述快速寄存器包括:

7.根据权利要求1所述的方法,其特征在于,所述方法还包括:

8.一种处理器,其特征在于,所述处理器包括计算单元以及缓存控制器,所述计算单元内部包括快速寄存器,所述缓存控制器配置有组合单元,其中,所述缓存控制器的组合单元配置成:

9.根据权利要求8所述的处理器,其特征在于,对应于所述缓存控制器的一条缓存地址的缓存数据包括对应于所述N个线程中的至少一个线程的一个或多个连续数据块,其中,所述组合单元按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

10.根据权利要求9所述的处理器,其特征在于,所述组合单元将组合后的数据搬运至所述快速寄存器包括:

11. 根据权利要求8所述的处理器,其特征在于,所述组合单元读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

12. 根据权利要求8所述的处理器,其特征在于,针对所述缓存控制器还配置有存储单元,所述组合单元读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

13.根据权利要求12所述的处理器,其特征在于,所述组合单元将组合后的数据搬运至所述快速寄存器包括:

14.根据权利要求8所述的处理器,其特征在于,所述处理器还包括片外存储器,其中,所述缓存控制器从所述片外存储器读取数据至所述缓存控制器。

15.根据权利要求8-14中任一项所述的处理器,其特征在于,所述缓存控制器为以下之一:

16.一种计算设备,其特征在于,所述计算设备包括计算单元、缓存控制器和存储器,所述存储器中存储有计算机可读代码,所述计算机可读代码在由所述缓存控制器执行时使得所述缓存控制器执行如权利要求1-7中任一项所述的方法的步骤。

...

【技术特征摘要】

1.一种用于快速寄存器的数据搬运方法,其特征在于,所述方法包括:

2.根据权利要求1所述的方法,其特征在于,对应于所述缓存控制器的一条缓存地址的缓存数据包括对应于所述n个线程中的至少一个线程的一个或多个连续数据块,其中,所述按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

3.根据权利要求2所述的方法,其特征在于,所述将组合后的数据搬运至所述快速寄存器包括:

4. 根据权利要求1所述的方法,其特征在于,所述读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

5. 根据权利要求1所述的方法,其特征在于,所述读取对应于缓存控制器的缓存地址的缓存数据,按照所述快速寄存器中线程数据的存储规则对所读取的缓存数据进行组合包括:

6.根据权利要求5所述的方法,其特征在于,所述将组合后的数据搬运至所述快速寄存器包括:

7.根据权利要求1所述的方法,其特征在于,所述方法还包括:

8.一种处理器,其特征在于,所述处理器包括计算单元以及缓存控制器,所述计算单元内部包括快速寄存器,所述缓存控制器配置有组合单元,其中,所述缓存控制器的组合单元配置成:

9.根据权利要求8所述的处理器,其特征在于,对应于所述缓存控制器的一条缓存地址的缓存数据包括对应于所述n个线程中的至少...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:北京壁仞科技开发有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1