System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 模型脚本迁移方法、设备、存储介质和程序产品技术_技高网

模型脚本迁移方法、设备、存储介质和程序产品技术

技术编号:43689605 阅读:11 留言:0更新日期:2024-12-18 21:07
本申请提供一种模型脚本迁移方法、设备、存储介质和程序产品,涉及数据处理领域。该模型脚本迁移方法可应用于组合处理装置中。该组合处理装置包括计算装置、接口装置、处理装置和存储装置。计算装置配置成执行模型脚本迁移任务,主要实现为单核智能处理器或者多核智能处理器,用以执行深度学习或机器学习的计算,其可以通过接口装置与处理装置进行交互,以共同完成模型脚本迁移任务。接口装置用于在计算装置与处理装置间传输数据和控制指令。处理装置作为通用的处理装置,执行包括但不限于数据搬运、对计算装置的开启和/或停止等基本控制。存储装置用以存储待处理的数据。通过本申请的方案,可以提高模型脚本迁移效率。

【技术实现步骤摘要】

本申请涉及人工智能,尤其涉及一种模型脚本迁移方法、设备、存储介质和程序产品


技术介绍

1、人工智能处理器是专门用于处理人工智能应用中的大量计算任务的模块,人工智能处理器又称ai(artificial intelligence,人工智能)芯片。随着ai应用的不断普及和发展,对算力的需求也日趋增长,多个厂商均推出了不同架构的ai芯片。丰富的ai芯片种类给ai应用提供了源源不断的算力,却也一定程度上给ai应用的开发带来了困难。

2、实际场景中,ai应用的开发者一般并不直接接触芯片硬件,而是通过ai框架提供的丰富的api(application programming interface,应用程序编程接口)间接使用底层ai芯片。通常,ai框架为不同的ai芯片提供的api也不相同。这就给ai应用开发者带来了困扰:使用基于特定框架的某一ai芯片开发的应用代码(即模型脚本),无法灵活的在多种ai芯片之间切换。

3、针对这一困难,传统方式中ai应用开发者需要通过手工修改api,将模型脚本在多种ai芯片间进行迁移,操作繁琐、效率低下。


技术实现思路

1、本申请实施例提供一种模型脚本迁移方法、设备、存储介质和程序产品,以实现使得迁移后的目标模型脚本可以同时兼容不同种类芯片,提高模型脚本迁移的效率,有效解决了多版本模型脚本的维护问题。

2、第一方面,本申请提供一种模型脚本迁移方法,响应于模型脚本的迁移指令,确定待处理的原始模型脚本中关于目标芯片的第一接口;根据所述原始模型脚本生成对应的适配器;根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到迁移后的目标模型脚本,所述适配器用于在所述目标模型脚本调用所述第二接口时,为所述目标模型脚本选择与当前芯片环境适配的目标接口。

3、第二方面,本申请提供一种模型脚本处理方法,包括:在目标模型脚本执行时,响应于所述目标模型脚本对适配器的调用指令,通过所述适配器确定所述目标模型脚本的当前芯片环境,其中所述目标模型脚本和所述适配器是根据上述任一方面所述的方法生成的;通过所述适配器为所述目标模型脚本选择与所述当前芯片环境适配的目标接口;调用所述目标接口。

4、第三方面,本申请提供一种模型脚本迁移装置,包括:

5、确定模块,用于响应于模型脚本的迁移指令,确定待处理的原始模型脚本中关于目标芯片的第一接口;

6、第一生成模块,用于根据所述原始模型脚本生成对应的适配器;

7、第二生成模块,用于根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到迁移后的目标模型脚本,所述适配器用于在所述目标模型脚本调用所述第二接口时,为所述目标模型脚本选择与当前芯片环境适配的目标接口。

8、第四方面,本申请提供一种芯片,包括:上述任一方面所述的模型脚本迁移装置。

9、第五方面,本申请提供一种板卡,所述板卡包括:存储器件、接口装置和控制器件以及上述任一方面所述的芯片;

10、其中,所述芯片与所述存储器件、所述控制器件以及所述接口装置分别连接;

11、所述存储器件,用于存储目标数据;

12、所述接口装置,用于实现所述芯片与外部设备之间的数据传输;

13、所述控制器件,用于对所述芯片的状态进行监控。

14、第六方面,本申请提供一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述电子设备执行上述任一方面所述的方法。

15、第七方面,本申请实施例提供一种计算机可读存储介质,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现上述任一方面所述的方法。

16、第八方面,本申请实施例提供一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述任一方面所述的方法。

17、本申请实施例提供的模型脚本迁移方法、设备、存储介质和程序产品,在需要进行模型迁移时,通过确定原始模型脚本中与目标芯片相关的第一接口,然后生成原始模型脚本对应的适配器,并根据原始模型脚本中使用到的第一接口,在原始模型脚本中生成用于调用该适配器的第二接口,得到最终迁移后的目标模型脚本,如此,在模型脚本迁移过程中,不仅生成与原始模型脚本对应的目标模型脚本,还生成对应的适配器,新生成的目标模型脚本可以通过适配器选择与当前芯片环境适配的目标接口,如此,使得迁移后的目标模型脚本可以同时兼容不同种类芯片,提高模型脚本迁移的效率,有效解决了多版本模型脚本的维护问题。

本文档来自技高网...

【技术保护点】

1.一种模型脚本迁移方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述原始模型脚本生成对应的适配器,包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述原始模型脚本生成对应的适配器,包括:

4.根据权利要求2所述的方法,其特征在于,根据所述接口信息生成所述模型框架提供的全部接口对应的适配器,包括:

5.根据权利要求1-4中任一项所述的方法,其特征在于,所述根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到迁移后的目标模型脚本,包括:

6.根据权利要求1-4中任一项所述的方法,其特征在于,所述根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到迁移后的目标模型脚本,包括:

7.一种模型脚本处理方法,其特征在于,包括:

8.一种模型脚本迁移装置,其特征在于,包括:

9.一种芯片,其特征在于,包括:如权利要求8所述的模型脚本迁移装置。

10.一种电子设备,其特征在于,包括:

11.一种板卡,其特征在于,所述板卡包括:存储器件、接口装置和控制器件以及如权利要求9所述的芯片;

12.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机执行指令,当处理器执行所述计算机执行指令时,实现如权利要求1-7任一项所述的方法。

13.一种计算机程序产品,其特征在于,包括计算机程序,该计算机程序被处理器执行时,实现如权利要求1-7任一项所述的方法。

...

【技术特征摘要】

1.一种模型脚本迁移方法,其特征在于,包括:

2.根据权利要求1所述的方法,其特征在于,所述根据所述原始模型脚本生成对应的适配器,包括:

3.根据权利要求1所述的方法,其特征在于,所述根据所述原始模型脚本生成对应的适配器,包括:

4.根据权利要求2所述的方法,其特征在于,根据所述接口信息生成所述模型框架提供的全部接口对应的适配器,包括:

5.根据权利要求1-4中任一项所述的方法,其特征在于,所述根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到迁移后的目标模型脚本,包括:

6.根据权利要求1-4中任一项所述的方法,其特征在于,所述根据所述第一接口,在所述原始模型脚本中生成用于调用所述适配器的第二接口,得到...

【专利技术属性】
技术研发人员:请求不公布姓名请求不公布姓名请求不公布姓名请求不公布姓名
申请(专利权)人:寒武纪昆山信息科技有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1