System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种人工智能芯片接入系统及其构建方法、算子调用方法技术方案_技高网

一种人工智能芯片接入系统及其构建方法、算子调用方法技术方案

技术编号:42566643 阅读:19 留言:0更新日期:2024-08-29 00:34
本申请公开了一种人工智能芯片接入系统及其构建方法、算子调用方法及设备、存储介质和计算机程序产品,该人工智能芯片接入系统包括:统一接口层,包括调用算子的统一接口;公共处理层,用于实现不同类型的人工智能芯片调用算子的公共逻辑操作;芯片处理层,包括不同类型的人工智能芯片对应的处理模块,处理模块用于实现对应类型的人工智能芯片调用算子的特有逻辑操作。本申请通过算子的统一接口使得相同的算子可以在不同类型的人工智能芯片上以相同的方式进行调用,通过公共处理层提取算子的公共逻辑操作,实现不同类型的人工智能芯片实现算子功能的代码复用,提高了新接入人工智能芯片的开发效率,提高了人工智能芯片的接入效率。

【技术实现步骤摘要】

本申请涉及计算机,更具体地说,涉及一种人工智能芯片接入系统及其构建方法、算子调用方法及设备、存储介质和计算机程序产品。


技术介绍

1、随着人工智能的兴起,不同类型的ai(人工智能,artificial intelligence)芯片,这些ai芯片采用各自的api(应用程序编程接口,application programminginterface)接口或者自有的编程语言,此外还存在诸多差异,如指令集、计算架构等,导致在不同硬件上进行算法部署和优化时需要耗费大量的时间和精力,接入ai框架的时候需要付出较大的成本,耗费很多的时间。在相关技术中,在不同类型的人工智能芯片接入ai框架时,需要针对不同类型的人工智能芯片进行单独开发,接入人工智能芯片的效率较低。

2、因此,如何提高人工智能芯片的接入效率是本领域技术人员需要解决的技术问题。


技术实现思路

1、本申请的目的在于提供一种人工智能芯片接入系统及其构建方法、算子调用方法及设备、存储介质和计算机程序产品,提高了人工智能芯片的接入效率。

2、为实现上述目的,本申请提供了一种人工智能芯片接入系统,包括:

3、统一接口层,包括调用算子的统一接口;

4、公共处理层,用于实现不同类型的人工智能芯片调用所述算子的公共逻辑操作;

5、芯片处理层,包括不同类型的人工智能芯片对应的处理模块,所述处理模块用于实现对应类型的人工智能芯片调用所述算子的特有逻辑操作。

6、其中,所述处理模块包括转换单元和逻辑处理单元,所述转换单元用于将所述公共处理层传入的数据转换为对应类型的人工智能芯片支持的数据类型,所述逻辑处理单元用于基于转换后的数据实现对应类型的人工智能芯片调用所述算子的特有逻辑操作。

7、其中,所述逻辑处理单元包括所述算子的应用程序编程接口或核函数。

8、其中,所述公共处理层传入所述芯片处理层的数据包括输入数据信息和输出数据信息,所述输入数据信息包括输入数组的形状、窗口步长、维度中任一项或任几项的组合,所述输出数据信息包括输出数组的形状、窗口步长、维度中任一项或任几项的组合。

9、其中,所述算子包括卷积算子、矩阵乘算子、激活算子中任一项或任几项的组合。

10、其中,所述统一接口的输入数据和输出数据的数据类型为与不同类型的人工智能芯片支持的数据类型无关的通用数据类型。

11、其中,所述公共逻辑操作包括类型转换操作和/或错误信息判断操作。

12、为实现上述目的,本申请提供了一种人工智能芯片接入系统的构建方法,包括:

13、为不同类型的人工智能芯片创建调用算子的统一接口,并基于不同算子对应的统一接口构建统一接口层;

14、提取不同类型的人工智能芯片调用算子的公共逻辑操作,并基于不同算子对应的公共逻辑操作构建公共处理层;

15、基于不同类型的人工智能芯片调用算子的特有逻辑操作构建不同类型的人工智能芯片对应的处理模块,基于不同不同类型的人工智能芯片对应的处理模块构建芯片处理层。

16、其中,基于不同类型的人工智能芯片调用算子的特有逻辑操作构建不同类型的人工智能芯片对应的处理模块,包括:

17、构建不同类型的人工智能芯片对应的转换单元;其中,所述转换单元用于将所述公共处理层传入的数据转换为对应类型的人工智能芯片支持的数据类型;

18、构建不同类型的人工智能芯片对应的逻辑处理单元;其中,所述逻辑处理单元用于基于转换后的数据实现对应类型的人工智能芯片调用所述算子的特有逻辑操作;

19、基于不同类型的人工智能芯片对应的转换单元和逻辑处理单元构建不同类型的人工智能芯片对应的处理模块。

20、其中,还包括:

21、当存在新接入所述人工智能芯片接入系统的人工智能芯片时,确定所述人工智能芯片的目标类型;

22、基于所述目标类型的人工智能芯片调用算子的特有逻辑操作构建所述目标类型的人工智能芯片对应的处理模块;

23、将所述目标类型的人工智能芯片对应的处理模块加入所述芯片处理层。

24、其中,基于所述目标类型的人工智能芯片调用算子的特有逻辑操作构建所述目标类型的人工智能芯片对应的处理模块,包括:

25、构建所述目标类型的人工智能芯片对应的转换单元;其中,所述转换单元用于将所述公共处理层传入的数据转换为所述目标类型的人工智能芯片支持的数据类型;

26、构建所述目标类型的人工智能芯片对应的逻辑处理单元;其中,所述逻辑处理单元用于基于转换后的数据实现所述目标类型的人工智能芯片调用所述算子的特有逻辑操作。

27、为实现上述目的,本申请提供了一种算子调用方法,应用于如上述人工智能芯片接入系统,包括:

28、当需要调用目标类型的人工智能芯片的目标算子时,调用统一接口层中所述目标算子对应的统一接口;

29、在公共处理层中执行所述目标算子的公共逻辑操作;

30、在芯片处理层中利用所述目标类型的人工智能芯片对应的处理模块将所述公共处理层传入的数据转换为所述目标类型的人工智能芯片支持的数据类型,判断所述目标类型的人工智能芯片中是否存在所述目标算子对应的应用程序编程接口,若存在,则基于转换后的数据调用所述目标算子对应的应用程序编程接口,若不存在,则基于转换后的数据调用所述目标算子对应的核函数;其中,所述目标算子对应的应用程序编程接口或核函数用于实现所述目标类型的人工智能芯片调用所述目标算子的特有逻辑操作。

31、为实现上述目的,本申请提供了一种电子设备,包括:

32、存储器,用于存储计算机程序;

33、处理器,用于执行所述计算机程序时实现如上述人工智能芯片接入系统的构建方法或算子调用方法的步骤。

34、为实现上述目的,本申请提供了一种非易失性存储介质,所述非易失性存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如上述人工智能芯片接入系统的构建方法或算子调用方法的步骤。

35、为实现上述目的,本申请提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述人工智能芯片接入系统的构建方法或算子调用方法的步骤。

36、通过以上方案可知,本申请提供的一种人工智能芯片接入系统,包括:统一接口层,包括调用算子的统一接口;公共处理层,用于实现不同类型的人工智能芯片调用所述算子的公共逻辑操作;芯片处理层,包括不同类型的人工智能芯片对应的处理模块,所述处理模块用于实现对应类型的人工智能芯片调用所述算子的特有逻辑操作。

37、由此可见,本申请提供的人工智能芯片接入系统,通过算子的统一接口使得相同的算子可以在不同类型的人工智能芯片上以相同的方式进行调用,通过公共处理层提取算子的公共逻辑操作,实现不同类型的人工智能芯片实现算子功能的代码复用,提高了新接入人工智能芯片的开发效率,提高了人工智能本文档来自技高网...

【技术保护点】

1.一种人工智能芯片接入系统,其特征在于,包括:

2.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述处理模块包括转换单元和逻辑处理单元,所述转换单元用于将所述公共处理层传入的数据转换为对应类型的人工智能芯片支持的数据类型,所述逻辑处理单元用于基于转换后的数据实现对应类型的人工智能芯片调用所述算子的特有逻辑操作。

3.根据权利要求2所述人工智能芯片接入系统,其特征在于,所述逻辑处理单元包括所述算子的应用程序编程接口或核函数。

4.根据权利要求2所述人工智能芯片接入系统,其特征在于,所述公共处理层传入所述芯片处理层的数据包括输入数据信息和输出数据信息,所述输入数据信息包括输入数组的形状、窗口步长、维度中任一项或任几项的组合,所述输出数据信息包括输出数组的形状、窗口步长、维度中任一项或任几项的组合。

5.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述算子包括卷积算子、矩阵乘算子、激活算子中任一项或任几项的组合。

6.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述统一接口的输入数据和输出数据的数据类型为与不同类型的人工智能芯片支持的数据类型无关的通用数据类型。

7.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述公共逻辑操作包括类型转换操作和/或错误信息判断操作。

8.一种人工智能芯片接入系统的构建方法,其特征在于,包括:

9.根据权利要求8所述人工智能芯片接入系统的构建方法,其特征在于,基于不同类型的人工智能芯片调用算子的特有逻辑操作构建不同类型的人工智能芯片对应的处理模块,包括:

10.根据权利要求8所述人工智能芯片接入系统的构建方法,其特征在于,还包括:

11.根据权利要求10所述人工智能芯片接入系统的构建方法,其特征在于,基于所述目标类型的人工智能芯片调用算子的特有逻辑操作构建所述目标类型的人工智能芯片对应的处理模块,包括:

12.一种算子调用方法,其特征在于,应用于如权利要求1至7任一项所述人工智能芯片接入系统,包括:

13.一种电子设备,其特征在于,包括:

14.一种非易失性存储介质,其特征在于,所述非易失性存储介质上存储有计算机程序,所述计算机程序被执行时实现如权利要求8至11任一项所述人工智能芯片接入系统的构建方法或如权利要求12所述算子调用方法的步骤。

15.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序被处理器执行时实现如权利要求8至11任一项所述人工智能芯片接入系统的构建方法或如权利要求12所述算子调用方法的步骤。

...

【技术特征摘要】

1.一种人工智能芯片接入系统,其特征在于,包括:

2.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述处理模块包括转换单元和逻辑处理单元,所述转换单元用于将所述公共处理层传入的数据转换为对应类型的人工智能芯片支持的数据类型,所述逻辑处理单元用于基于转换后的数据实现对应类型的人工智能芯片调用所述算子的特有逻辑操作。

3.根据权利要求2所述人工智能芯片接入系统,其特征在于,所述逻辑处理单元包括所述算子的应用程序编程接口或核函数。

4.根据权利要求2所述人工智能芯片接入系统,其特征在于,所述公共处理层传入所述芯片处理层的数据包括输入数据信息和输出数据信息,所述输入数据信息包括输入数组的形状、窗口步长、维度中任一项或任几项的组合,所述输出数据信息包括输出数组的形状、窗口步长、维度中任一项或任几项的组合。

5.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述算子包括卷积算子、矩阵乘算子、激活算子中任一项或任几项的组合。

6.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述统一接口的输入数据和输出数据的数据类型为与不同类型的人工智能芯片支持的数据类型无关的通用数据类型。

7.根据权利要求1所述人工智能芯片接入系统,其特征在于,所述公共逻辑操作包...

【专利技术属性】
技术研发人员:李柏宏吴韶华
申请(专利权)人:浪潮电子信息产业股份有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1