System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 读取寄存器中数据的方法、装置、计算机设备及存储介质制造方法及图纸_技高网

读取寄存器中数据的方法、装置、计算机设备及存储介质制造方法及图纸

技术编号:43314219 阅读:2 留言:0更新日期:2024-11-15 20:16
本申请公开一种读取寄存器中数据的方法、装置、计算机设备及存储介质,属于人工智能技术领域,该方法中,获取目标TLR在人工智能芯片上TLR阵列中的遍历坐标,其中,TLR阵列用于存储一个数据块,遍历坐标是根据存储数据块时配置的单个TLR中多个单位数据的数据排列尺寸确定的,根据遍历坐标、单个TLR对应的数据排列尺寸,以及数据块中单个子块的TLR排列描述信息,确定目标TLR的索引,进而根据索引从TLR阵列中读取目标TLR中的数据,从而提供了一种根据数据块所对应TLR阵列的排布信息读取TLR中数据的通用技术方案。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种读取寄存器中数据的方法、装置、计算机设备及存储介质


技术介绍

1、实际应用中,当将数据块如张量(tensor)加载到人工智能芯片的线程本地寄存器(thread local register,tlr)阵列中时,可设置tlr阵列的排布信息。

2、由于同一场景下,tlr阵列的排布信息已经确定,tlr阵列中tlr 的索引也随之固定,所以可直接通过tlr的索引读取tlr中的数据。而不同场景下,tlr阵列的排布信息是不同的,这导致tlr阵列中tlr 的索引也无法再固定,而是随排布信息的变化而变化,这种情况下,如何根据数据块所对应tlr阵列的排布信息读取tlr中的数据成为了亟待解决的技术问题。


技术实现思路

1、本申请实施例提供一种读取寄存器中数据的方法、装置、计算机设备及存储介质,用以提供一种根据数据块所对应 tlr阵列的排布信息读取tlr中数据的方案。

2、第一方面,本申请实施例提供一种读取寄存器中数据的方法,包括:

3、获取目标线程本地寄存器tlr在人工智能芯片上tlr阵列中的遍历坐标,所述tlr阵列用于存储一个数据块,所述遍历坐标是根据存储所述数据块时配置的单个tlr中多个单位数据的数据排列尺寸确定的;

4、根据所述遍历坐标、单个tlr对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的tlr排列描述信息,确定所述目标tlr的索引;

5、根据所述目标tlr的索引,从所述tlr阵列中读取所述目标tlr中的数据。

6、在一些实施例中,所述tlr排列描述信息包括tlr排列尺寸,根据所述遍历坐标、单个tlr对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的tlr排列描述信息,确定所述目标tlr的索引,包括:

7、根据所述遍历坐标和所述单个tlr对应的数据排列尺寸,确定所述目标tlr的寄存器坐标,所述寄存器坐标包括所述目标tlr在所述tlr阵列中的高度坐标和宽度坐标;

8、根据所述遍历坐标和单个子块对应的数据排列尺寸,确定所述目标tlr所属的目标子块的子块坐标,所述单个子块对应的数据排列尺寸是根据所述tlr排列尺寸,以及所述单个tlr对应的数据排列尺寸确定的,所述子块坐标包括所述目标子块在各子块中的高度坐标和宽度坐标;

9、根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr的索引。

10、在一些实施例中,所述tlr排列描述信息还包括tlr索引顺序,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr的索引,包括:

11、根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr在所述目标子块内的索引偏移量;

12、根据所述子块坐标、所述数据块的宽度和所述tlr排列尺寸,确定所述数据块中第一子块和第二子块包含的tlr总数量,所述第一子块的高度坐标小于所述目标子块的高度坐标,所述第二子块的高度坐标等于所述目标子块的高度坐标,但宽度坐标小于所述目标子块的宽度坐标;

13、将所述tlr阵列中首个tlr的索引、所述tlr总数量,以及所述索引偏移量的和,确定为所述目标tlr的索引。

14、在一些实施例中,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr在所述目标子块内的索引偏移量,包括:

15、根据所述目标tlr的高度坐标、所述目标子块的高度坐标,以及所述tlr排列尺寸,确定所述目标tlr在所述目标子块内的高度偏移量;

16、根据所述目标tlr的宽度坐标、所述目标子块的宽度坐标,以及所述tlr排列尺寸中的宽度尺寸,确定所述目标tlr在所述目标子块内的宽度偏移量;

17、根据所述tlr排列描述信息,以及所述目标tlr在所述目标子块内的高度偏移量和宽度偏移量,确定所述目标tlr在所述目标子块内的索引偏移量。

18、在一些实施例中,根据所述tlr排列描述信息,以及所述目标tlr在所述目标子块内的高度偏移量和宽度偏移量,确定所述目标tlr在所述目标子块内的索引偏移量,包括:

19、根据所述目标tlr在所述目标子块内的高度偏移量和宽度偏移量,确定所述目标tlr在所述目标子块内的相对位置;

20、根据所述数据块的单个子块中不同相对位置与索引偏移量间的对应关系,确定所述目标tlr在所述目标子块内的相对位置对应的索引偏移量,所述对应关系是根据所述tlr排列描述信息预先建立的。

21、在一些实施例中,根据所述子块坐标、所述数据块的宽度和所述tlr排列尺寸,确定所述数据块中第一子块和第二子块包含的tlr总数量,包括:

22、根据所述目标子块的高度坐标、所述数据块在宽度方向上的子块数量,以及所述数据块中单个子块包含的tlr数量,确定所述第一子块包含的tlr数量,所述子块数量是根据所述数据块的宽度和所述tlr排列尺寸中的宽度尺寸确定的,所述单个子块包含的tlr数量是根据所述tlr排列尺寸确定的;

23、根据所述目标子块的宽度坐标和所述单个子块包含的tlr数量,确定所述第二子块包含的tlr数量;

24、将所述第一子块和所述第二子块包含的tlr数量之和,确定为所述tlr总数量。

25、第二方面,本申请实施例提供一种读取寄存器中数据的装置,包括:

26、获取模块,用于获取目标线程本地寄存器tlr在人工智能芯片上tlr阵列中的遍历坐标,所述tlr阵列用于存储一个数据块,所述遍历坐标是根据存储所述数据块时配置的单个tlr中多个单位数据的数据排列尺寸确定的;

27、确定模块,用于根据所述遍历坐标、单个tlr对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的tlr排列描述信息,确定所述目标tlr的索引;

28、读取模块,用于根据所述目标tlr的索引,从所述tlr阵列中读取所述目标tlr中的数据。

29、第三方面,本申请实施例提供一种计算机设备,包括存储器、人工智能芯片及存储在存储器上并可在人工智能芯片上运行的计算机程序,所述人工智能芯片执行所述计算机程序时实现上述任一读取寄存器中数据的方法。

30、第四方面,本申请实施例提供一种存储介质,当所述存储介质中的计算机程序由计算机设备的处理器执行时,所述计算机设备能够执行上述任一读取寄存器中数据的方法。

31、第五方面,本申请实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现上述任一读取寄存器中数据的方法。

32、本申请实施例中,获取目标tlr在人工智能芯片上tlr阵列中的遍历坐标,其中,tlr阵列用于存储一个数据块,遍历坐标是根据存储数据块时配置的单个tlr中多个单位数据的数据排列尺寸确定的,根据遍历坐标、单个tlr对应的数据排列尺寸,以及数据块本文档来自技高网...

【技术保护点】

1.一种读取寄存器中数据的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述TLR排列描述信息包括TLR排列尺寸,根据所述遍历坐标、单个TLR对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的TLR排列描述信息,确定所述目标TLR的索引,包括:

3.如权利要求2所述的方法,其特征在于,所述TLR排列描述信息还包括TLR索引顺序,根据所述寄存器坐标、所述子块坐标和所述TLR排列描述信息,确定所述目标TLR的索引,包括:

4.如权利要求3所述的方法,其特征在于,根据所述寄存器坐标、所述子块坐标和所述TLR排列描述信息,确定所述目标TLR在所述目标子块内的索引偏移量,包括:

5.如权利要求4所述的方法,其特征在于,根据所述TLR排列描述信息,以及所述目标TLR在所述目标子块内的高度偏移量和宽度偏移量,确定所述目标TLR在所述目标子块内的索引偏移量,包括:

6.如权利要求3所述的方法,其特征在于,根据所述子块坐标、所述数据块的宽度和所述TLR排列尺寸,确定所述数据块中第一子块和第二子块包含的TLR总数量,包括:

7.一种读取寄存器中数据的装置,其特征在于,包括:

8.一种计算机设备,包括存储器、人工智能芯片及存储在存储器上并可在人工智能芯片上运行的计算机程序,其特征在于,所述人工智能芯片执行所述计算机程序时实现如权利要求1-6任一所述方法的步骤。

9.一种存储介质,其特征在于,当所述存储介质中的计算机程序由计算机设备的处理器执行时,所述计算机设备能够执行如权利要求1-6任一所述的方法。

10.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序被处理器执行时实现权利要求1-6任一所述的方法。

...

【技术特征摘要】

1.一种读取寄存器中数据的方法,其特征在于,包括:

2.如权利要求1所述的方法,其特征在于,所述tlr排列描述信息包括tlr排列尺寸,根据所述遍历坐标、单个tlr对应的数据排列尺寸,以及存储所述数据块时配置的所述数据块中单个子块的tlr排列描述信息,确定所述目标tlr的索引,包括:

3.如权利要求2所述的方法,其特征在于,所述tlr排列描述信息还包括tlr索引顺序,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr的索引,包括:

4.如权利要求3所述的方法,其特征在于,根据所述寄存器坐标、所述子块坐标和所述tlr排列描述信息,确定所述目标tlr在所述目标子块内的索引偏移量,包括:

5.如权利要求4所述的方法,其特征在于,根据所述tlr排列描述信息,以及所述目标tlr在所述目标子块内的高度偏移量和宽度...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:北京壁仞科技开发有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1