功耗管理方法、多处理单元系统和功耗管理模组技术方案

本公开实施例提供了一种功耗管理方法、多处理单元系统和功耗管理模组。多运算单元系统包括多个本地功耗管理单元和全局功耗管理单元，各本地功耗管理单元分别对应于所述多运算单元系统中的一个运算单元，所述功耗管理方法包括：利用所述全局功耗管理单元，获取所述多运算单元系统的全局功耗预算；利用所述全局功耗管理单元，根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算；利用所述本地功耗管理单元，根据分配的本地功耗预算管理相应运算单元的本地功耗资源；利用所述本地功耗管理单元，向所述全局功耗管理单元上报所述运算单元的功耗管理参数。本公开实施例提高多运算单元系统的总体功耗利用效率。利用效率。利用效率。

【技术实现步骤摘要】
功耗管理方法、多处理单元系统和功耗管理模组


[0001]本公开实施例涉及计算机
，尤其涉及一种功耗管理方法、多处理单元系统和功耗管理模组。

技术介绍

[0002]在诸如多处理器的多运算单元系统的功耗管理中，系统的功耗与性能息息相关。当各个运算单元的功耗需求不能被充分满足时，部分运算单元的性能会下降，导致诸如暗硅现象的发生；当各个运算单元的功耗需求都被充分满足时，多运算单元系统的整体功耗又变得很大，造成了资源的浪费，导致两者的能量效率均较差。
[0003]一般地，多运算单元系统的功耗管理方式可以被分为集中式功耗管理和分布式功耗管理。对于集中式功耗管理，各个运算单元共享相同的功耗预算，并且分别进行功耗管理。但各个运算单元实际运行时所需的功耗千差万别，相同的功能预算不利于总体达到较佳的功耗利用效率。对于分布式功耗管理，不同的运算单元执行各自的功耗预算分配及管理。其对于各运算单元自身功耗利用效率较优，但对于多运算单元系统整体，并不有利于总体功耗利用效率。
[0004]因此，集中式功耗管理和分布式功耗管理两者的总体功耗利用效率均存在提高的空间。

技术实现思路

[0005]有鉴于此，本公开实施例提供一种功耗管理方法、多处理单元系统和功耗管理模组，以提高多运算单元系统的总体功耗利用效率。
[0006]根据本公开实施例的第一方面，提供了一种多运算单元系统的功耗管理方法，所述多运算单元系统包括多个本地功耗管理单元和全局功耗管理单元，各本地功耗管理单元分别对应于所述多运算单元系统中的一个运算单元，所述方法包括：利用所述全局功耗管理单元，获取所述多运算单元系统的全局功耗预算；利用所述全局功耗管理单元，根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算；利用所述本地功耗管理单元，根据分配的本地功耗预算管理相应运算单元的本地功耗资源；利用所述本地功耗管理单元，向所述全局功耗管理单元上报所述运算单元的功耗管理参数。
[0007]在本公开的另一实现方式中，所述功耗管理参数包括耗能参数、性能参数和任务量参数中的至少一个。
[0008]在本公开的另一实现方式中，所述耗能参数包括功耗值、功耗状态、本地预算使用率中的至少一个。
[0009]在本公开的另一实现方式中，所述获取所述多运算单元系统的全局功耗预算，包括：基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算。
[0010]在本公开的另一实现方式中，所述基于各运算单元的先前的功耗管理参数和先前
的全局功耗预算，确定所述全局功耗预算，包括：利用第一机器学习模型或第一规则，基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算，以使所述全局功耗预算的预测功率使用率不低于所述先前的全局功耗预算的实际功率使用率。
[0011]在本公开的另一实现方式中，所述基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算，包括：基于各运算单元在所述第一功耗管理时段的功耗管理参数和所述多运算单元系统在所述第一功耗管理时段的全局功耗预算，确定所述多运算单元系统在所述第二功耗管理时段的全局功耗预算，其中，所述第二功耗管理时段在所述第一功耗管理时段之后，所述第一功耗管理时段与所述第二功耗管理时段形成连续的功耗管理时段。
[0012]在本公开的另一实现方式中，所述第一功耗管理时段和第二功耗管理时段按照以下之一设置：所述第一功耗管理时段和所述第二功耗管理时段是两个连续的等时长周期；所述第一功耗管理时段和所述第二功耗管理时段分别用于执行连续的两个功耗资源管理任务。
[0013]在本公开的另一实现方式中，所述根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：根据所述多运算单元系统在所述第二功耗管理时段的全局功耗预算和各运算单元在所述第一功耗管理时段的功耗管理参数，分配各运算单元在所述第二功耗管理时段的本地功耗预算。
[0014]在本公开的另一实现方式中，所述根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：确定所述全局功耗预算中各运算单元的总功耗预算和所述全局功耗管理单元的功耗预算；根据所述各运算单元的总功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算。
[0015]在本公开的另一实现方式中，所述根据所述各运算单元的总功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：利用第二规则，根据所述各运算单元的总功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算；或者，基于所述各运算单元的总功耗预算和各运算单元的功耗管理参数作为第二机器学习模型的输入，得到各运算单元的本地功耗预算。
[0016]在本公开的另一实现方式中，所述基于所述各运算单元的总功耗预算和各运算单元的功耗管理参数作为第二机器学习模型的输入，得到各运算单元的本地功耗预算，包括：根据各运算单元的先前的功耗管理参数，确定各运算单元的当前的功耗预算参考参数；将各运算单元的当前的功耗预算参考参数和所述各运算单元的当前的总功耗预算输入到所述第二机器学习模型，得到各运算单元的本地功耗预算。
[0017]在本公开的另一实现方式中，所述第二机器学习模型为强化学习模型，其中，所述根据各运算单元的先前的功耗管理参数，确定各运算单元的当前的功耗预算参考参数，包括：根据各运算单元的先前的功耗管理参数，计算各运算单元的当前的功耗预算参考参数，作为所述强化学习模型的状态和奖励。
[0018]在本公开的另一实现方式中，所述多运算单元系统还包括所述多运算单元共享的共享资源，其中，所述根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：根据所述全局功耗预算、各运算单元的功耗管理参数和所述共享资源的功耗管理参数，分配各运算单元的本地功耗预算。
[0019]在本公开的另一实现方式中，所述根据分配的本地功耗预算管理相应运算单元的本地功耗资源，包括：根据分配的本地功耗预算、以及该本地功耗管理单元的功耗管理参数，确定本地功耗资源管理策略并执行。
[0020]在本公开的另一实现方式中，所述本地功耗资源管理策略包括动态电压频率缩放、电源选通、时钟选通、设置时钟频率、调整要执行的多个任务的顺序中的至少一个。
[0021]在本公开的另一实现方式中，所述根据分配的本地功耗预算、以及该本地功耗管理单元的功耗管理参数，确定本地功耗资源管理策略，包括：利用第三机器学习模型或第三规则，根据分配的本地功耗预算、以及该本地功耗管理单元的功耗管理参数，确定本地功耗资源管理策略。
[0022]在本公开的另一实现方式中，所述全局功耗管理单元在各运算单元的第一功耗管理时段的功耗管理参数符合预定条件的情况下，执行第一处理。
[0023]在本公开的另一实现方式中，所述功耗管理参数包括功耗值，所述预定条件包括：各运算单元的第一功耗管理时段的功耗值的和超出所述第一本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种多运算单元系统的功耗管理方法，其中，所述多运算单元系统包括多个本地功耗管理单元和全局功耗管理单元，各本地功耗管理单元分别对应于所述多运算单元系统中的一个运算单元，所述方法包括：利用所述全局功耗管理单元，获取所述多运算单元系统的全局功耗预算；利用所述全局功耗管理单元，根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算；利用所述本地功耗管理单元，根据分配的本地功耗预算管理相应运算单元的本地功耗资源；利用所述本地功耗管理单元，向所述全局功耗管理单元上报所述运算单元的功耗管理参数。2.根据权利要求1所述的方法，其中，所述功耗管理参数包括耗能参数、性能参数和任务量参数中的至少一个；其中，所述耗能参数包括功耗值、功耗状态、本地预算使用率中的至少一个。3.根据权利要求1所述的方法，其中，所述获取所述多运算单元系统的全局功耗预算，包括：基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算。4.根据权利要求3所述的方法，其中，所述基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算，包括：利用第一机器学习模型或第一规则，基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算，以使所述全局功耗预算的预测功率使用率不低于所述先前的全局功耗预算的实际功率使用率。5.根据权利要求3所述的方法，其中，所述基于各运算单元的先前的功耗管理参数和先前的全局功耗预算，确定所述全局功耗预算，包括：基于各运算单元在所述第一功耗管理时段的功耗管理参数和所述多运算单元系统在所述第一功耗管理时段的全局功耗预算，确定所述多运算单元系统在所述第二功耗管理时段的全局功耗预算，其中，所述第二功耗管理时段在所述第一功耗管理时段之后，所述第一功耗管理时段与所述第二功耗管理时段形成连续的功耗管理时段；以及所述根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：根据所述多运算单元系统在所述第二功耗管理时段的全局功耗预算和各运算单元在所述第一功耗管理时段的功耗管理参数，分配各运算单元在所述第二功耗管理时段的本地功耗预算。6.根据权利要求1所述的方法，其中，所述根据所述全局功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：确定所述全局功耗预算中各运算单元的总功耗预算；根据所述各运算单元的总功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算。7.根据权利要求6所述的方法，其中，所述根据所述各运算单元的总功耗预算和各运算
单元的功耗管理参数，分配各运算单元的本地功耗预算，包括：利用第二规则，根据所述各运算单元的总功耗预算和各运算单元的功耗管理参数，分配各运算单元的本地功耗预算；或者，基于所述各运算单元的总功耗预算和各运算单元的功耗管理参数作为第二机器学习模型的输入，得到各运算单元的本地功耗预算；其中，所述基于所述各运算单元的总功耗预算和各运算单元的功耗管理参数作为第二机器学习模型的输入，得到各运算单元的本地功耗预算，包括：根据各运算单元的先前的功耗管理参数，确定各运算单元的当前的功耗预算参考参数；将各运算单元的当前的功耗预算参考参数和所述各运算单元的当前的总功耗预算输入到所述第二机器学习模型，得到各运算单元的本地功耗预算。8.根据权利要求1...

【专利技术属性】
技术研发人员：李浩然，孙飞，
申请(专利权)人：平头哥上海半导体技术有限公司，
类型：发明
国别省市：