System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind() 一种频率调节方法、装置、电子设备、芯片及介质制造方法及图纸_技高网

一种频率调节方法、装置、电子设备、芯片及介质制造方法及图纸

技术编号:43514366 阅读:2 留言:0更新日期:2024-12-03 12:05
本公开提供一种频率调节方法、装置、电子设备、芯片及介质,涉及人工智能芯片领域,该方法包括:确定一个或多个第一算子的第一数据和第二数据,第一数据至少包括执行第一算子所需能量,第二数据至少包括执行第一算子的时延;基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率,通过针对每个算子动态调节芯片的工作频率,提高芯片的工作效率,降低功耗。

【技术实现步骤摘要】

本公开涉及人工智能芯片领域,尤其涉及一种频率调节方法、装置、电子设备、芯片及介质


技术介绍

1、人工智能(artificial intelligence,ai)芯片是ai服务器算力的核心组成,是专门针对人工智能领域设计的芯片,其架构和指令集针对人工智能领域中的各类算法和应用作了专门优化,可高效支持视觉、语音、自然语言处理和传统机器学习等智能处理任务。随着技术的发展,ai算力规模的快速增长,ai芯片的集成性以及复杂性越来越高,对应的功能也越来越强大。为了以较低的功耗完成芯片设计,在芯片开发过程中设计高效的芯片至关重要。


技术实现思路

1、本公开提供一种频率调节方法、装置、电子设备、芯片及介质,以解决相关技术中的问题,通过针对每个算子动态调节芯片的工作频率,提高芯片的工作效率,降低功耗。

2、本公开的第一方面实施例提出了一种频率调节方法,该方法由芯片执行,该方法包括:确定一个或多个第一算子的第一数据和第二数据,第一数据至少包括执行第一算子所需能量,第二数据至少包括执行第一算子的时延;基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率。

3、在本公开的一些实施例中,确定一个或多个第一算子的第一数据和第二数据包括:基于第一参数,获取第一算子的第一操作数和第一利用率,第一利用率为执行第一算子进行第二操作的利用率,第一参数包括ai模型参数和/或ai模型对应的硬件参数,所述第一算子为所述ai模型算子中的至少一个;基于第一操作数和第一利用率,确定第一算子对应的第二操作数,第二操作数为执行第一算子进行第二操作的操作数,第二操作数大于或等于第一操作数;基于第一参数,确定在预设时间内的第三操作数,第三操作数为在预设时间内执行第一算子进行第二操作的操作数;基于第二操作数和第三操作数,确定第一算子的第一数据和第二数据。

4、在本公开的一些实施例中,基于第二操作数和所述第三操作数,确定第一算子的第一数据包括:基于第二操作数和第三操作数,确定第一算子的操作周期;根据第一工作频率和操作周期,确定第一算子的运行时间;基于第一工作频率和第一对应关系,确定第一算子的功率,第一对应关系为第一算子的工作频率与电压之间的关系;根据第一算子的功率和运行时间,确定第一数据。

5、在本公开的一些实施例中,基于第二操作数和第三操作数,确定第一算子的第二数据包括:基于第一操作数、第一利用率、第三操作数以及第一工作频率,确定第一算子的第二数据。

6、在本公开的一些实施例中,基于第一数据和所述第二数据,将芯片的第一工作频率调整为第二工作频率包括:确定芯片的目标状态,并基于目标状态确定第一预设系数和第二预设系数,目标状态包括目标性能或目标功耗中的一个;基于第一预设系数、第二预设系数、第一数据以及第二数据,确定芯片的频率调整值;通过频率调整值,将芯片的第一工作频率调整为第二工作频率。

7、在本公开的一些实施例中,确定芯片的目标状态包括:基于第一算子,确定芯片的目标状态。

8、在本公开的一些实施例中,基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率包括:响应于接收到的调频指令,基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率。

9、本公开的第二方面实施例提出了一种频率调节装置,该装置应用于芯片,该装置包括:确定单元,用于确定一个或多个第一算子的第一数据和第二数据,第一数据至少包括执行第一算子所需能量,第二数据至少包括执行第一算子的时延;调整单元,用于基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率。

10、本公开的第三方面实施例提出了一种芯片,该芯片包括一个或多个接口电路和一个或多个处理器;处理器用于执行本公开第一方面实施例中描述的方法。

11、本公开的第四方面实施例提出了一种电子设备,电子设备包括本公开第二方面实施例中描述的装置,或者本公开第三方面实施例中描述的芯片。

12、本公开的第五方面实施例提出了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行本公开第一方面实施例描述的方法。

13、综上,根据本公开提出的频率调节方法,确定一个或多个第一算子的第一数据和第二数据,第一数据至少包括执行第一算子所需能量,第二数据至少包括执行第一算子的时延;基于第一数据和第二数据,将芯片的第一工作频率调整为第二工作频率,通过针对每个算子动态调节芯片的工作频率,从而提高芯片的工作效率,降低功耗。

14、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。

本文档来自技高网...

【技术保护点】

1.一种频率调节方法,其特征在于,所述方法由芯片执行,包括:

2.根据权利要求1所述的方法,其特征在于,所述确定一个或多个第一算子的第一数据和第二数据包括:

3.根据权利要求2所述的方法,其特征在于,基于所述第二操作数和所述第三操作数,确定所述第一算子的第一数据包括:

4.根据权利要求2所述的方法,其特征在于,基于所述第二操作数和所述第三操作数,确定所述第一算子的第二数据包括:

5.根据权利要求1所述的方法,其特征在于,所述基于所述第一数据和所述第二数据,将所述芯片的第一工作频率调整为第二工作频率,包括:

6.根据权利要求5所述的方法,其特征在于,所述确定所述芯片的目标状态包括:

7.根据权利要求1所述的方法,其特征在于,所述基于所述第一数据和所述第二数据,将所述芯片的第一工作频率调整为第二工作频率确定一个或多个第一算子的第一数据和第二数据包括:

8.一种频率调节装置,其特征在于,所述装置应用于芯片,所述装置包括:

9.一种芯片,其特征在于,包括一个或多个接口电路和一个或多个处理器;所述处理器用于执行根据权利要求1-7中任一项所述的方法。

10.一种电子设备,其特征在于,所述电子设备包括如权利要求8中所述的频率调节装置,或者如权利要求9所述的芯片。

11.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。

...

【技术特征摘要】

1.一种频率调节方法,其特征在于,所述方法由芯片执行,包括:

2.根据权利要求1所述的方法,其特征在于,所述确定一个或多个第一算子的第一数据和第二数据包括:

3.根据权利要求2所述的方法,其特征在于,基于所述第二操作数和所述第三操作数,确定所述第一算子的第一数据包括:

4.根据权利要求2所述的方法,其特征在于,基于所述第二操作数和所述第三操作数,确定所述第一算子的第二数据包括:

5.根据权利要求1所述的方法,其特征在于,所述基于所述第一数据和所述第二数据,将所述芯片的第一工作频率调整为第二工作频率,包括:

6.根据权利要求5所述的方法,其特征在于,所述确定所述芯片的目标状态包括:

7...

【专利技术属性】
技术研发人员:张路谭维赵剑堃曾超王琳张枫璐
申请(专利权)人:上海玄戒技术有限公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1