利索能及
我要发布
收藏
专利号: 2024102768531
申请人: 广东琴智科技研究院有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-18
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种运算器芯片功耗管理方法,其特征在于,包括:

获取目标运算器芯片的实时运行数据;所述实时运行数据用于表示目标运算器芯片的实时运行情况;

采用芯片多模态功耗预测模型,对所述实时运行数据在不同工作模式下的芯片功耗进行预测,以获得适用于目标运算器芯片的目标工作模式;其中,目标工作模式为目标运算器芯片满足实时运行需求时芯片功耗最低的一种工作模式;

动态配置目标运算器芯片的实时运行参数,以使目标运算器芯片达到目标工作模式;

所述芯片多模态功耗预测模型至少包括:特征提取层、实时学习预测层、动态关联网络预测层和预测机制整合层;

所述采用芯片多模态功耗预测模型,对所述实时运行数据在不同工作模式下的芯片功耗进行预测,以获得适用于目标运算器芯片的目标工作模式,包括:通过特征提取层,从所述实时运行数据中提取目标运算器芯片的实时负载特征以及任务运行需求特征;

通过实时学习预测层,采用实时学习任务网络中不同工作模式下的功耗模型,对实时负载特征以及任务运行需求特征进行学习,以预测得到目标运算器芯片在不同工作模式下的第一功耗预测数据;

通过动态关联网络预测层,基于动态关联网络中各个关联单元之间的动态路由关系,获取目标运算器芯片在不同工作模式下第一功耗预测数据之间的电路空间关系特征以及能耗关联特征;

通过预测机制整合层,根据电路空间关系特征以及能耗关联特征,对目标运算器芯片在不同工作模式下的第一功耗预测数据进行动态优化,以得到优化后的第二功耗预测数据;基于第二功耗预测数据以及动态调整的实时任务需求,选取适用于目标运算器芯片的目标工作模式;

其中,在第二功耗预测数据满足所述实时任务需求的工作模式中,目标工作模式对应的第二功耗预测数据的数值最低;

实时学习预测层至少包括:实时学习任务网络;所述实时学习任务网络至少包括:多任务特征提取层、实时学习层和优化层;

所述通过实时学习预测层,采用实时学习任务网络中不同工作模式下的功耗模型,对实时负载特征以及任务运行需求特征进行学习,以预测得到目标运算器芯片在不同工作模式下的第一功耗预测数据,包括:通过多任务特征提取层,获取实时负载特征以及任务运行需求特征,并分配至不同工作模式对应的任务提取分支;通过各个任务提取分支,从实时负载特征以及任务运行需求特征中提取对应的实时任务运行特征;所述实时任务运行特征至少包括:处理器实时负载信息、内存占用信息和频率设置信息;

通过实时学习层,对各个任务提取分支中提取的实时任务运行特征进行元计算,以获得目标运算器芯片在不同工作模式下的第一功耗预测数据;

通过优化层,采用预设优化机制对第一功耗预测数据进行偏差拟合校正,以得到优化后的第一功耗预测数据;

所述通过实时学习层,对各个任务提取分支中提取的实时任务运行特征进行元计算,以获得目标运算器芯片在不同工作模式下的第一功耗预测数据,包括:在实时学习层中,设置各个工作模式下的初始化元参数;各个初始化元参数依据对应的功耗模型确定;

基于所述实时任务运行特征,设定各个工作模式下的功耗模型任务;

基于各个工作模式下的初始化元参数,迭代计算各个工作模式下的功耗模型任务所驱动的功耗模型参数,以使功耗模型参数达到功耗模型任务中设定的目标任务需求;

当功耗模型参数达到功耗模型任务中设定的目标任务需求时,基于当前功耗模型参数,计算当前工作模式下的第一功耗预测数据;

迭代计算过程表示为如下公式:

其中, 表示第i个工作模式下第t+1次迭代后得到的功耗模型参数, 表示第i个工作模式下第t次迭代后得到的功耗模型参数,α是学习率,所述学习率用于控制参数更新的步长, 表示损失函数,所述损失函数用于衡量功耗模型参数 与目标任务需求之间的偏差, 是损失函数关于功耗模型参数 的梯度;

实时学习预测层还包括:实时学习器;

其中,不同工作模式下的功耗模型是由实时学习器从历史运行数据以及历史芯片功耗数据中学习得到的;

若实时学习器的参数集合为θ,通过如下损失函数优化参数集合θ,该损失函数用于衡量不同工作模式下的预测误差累计值,则用于优化各个功耗模型的损失函数l(θ)表示为如下公式:其中,i表示不同工作模式的索引,j表示对应工作模式下的样本索引,Xrun,i,j表示第i个工作模式下第j个样本的历史运行数据,Xpower,i,j表示第i个工作模式下第j个样本的历史芯片功耗数据,f(Xrun,i,j,θ)表示参数θ为实时学习器,所述实时学习器用于学习从历史运行数据到功耗数据之间的映射函数。

2.根据权利要求1所述的运算器芯片功耗管理方法,其特征在于,所述芯片多模态功耗预测模型还包括:实时任务需求提取层;

所述通过特征提取层,从所述实时运行数据中提取目标运算器芯片的实时负载特征以及任务运行需求特征之后,还包括:通过实时任务需求提取层,基于实时负载特征以及任务运行需求特征,获取待执行的实时任务需求;

基于实时任务需求中各个实时任务的复杂程度以及重要性,动态配置各个实时任务对应的需求权重系数;

基于各个实时任务对应的需求权重系数、以及各个实时任务对应的历史平均功耗,计算目标运算器芯片的实时任务功耗参考值,作为所述实时任务需求。

3.根据权利要求1所述的运算器芯片功耗管理方法,其特征在于,所述动态关联网络预测层至少包括:动态关联网络;

动态关联网络中包括多个关联单元,动态关联网络中每一关联单元对应于一种工作模式;

所述通过动态关联网络预测层,基于动态关联网络中各个关联单元之间的动态路由关系,获取目标运算器芯片在不同工作模式下第一功耗预测数据之间的电路空间关系特征以及能耗关联特征,包括:获取目标运算器芯片所处电路中的电路空间结构;

基于所述电路空间结构以及所述动态路由关系,选取目标运算器芯片在不同工作模式下应用到的电路结构单元组成的空间结构分支;

通过各个关联单元,将各个工作模式下的第一功耗预测数据分配至所选的空间结构分支,并驱动各个空间结构分支中的特征提取模块,从第一功耗预测数据中提取对应的电路空间关系特征;

通过各个关联单元,基于所述动态路由关系对不同工作模式对应的第一功耗预测数据之间进行特征横向预测,以获得第一功耗预测数据之间的能耗关联特征。

4.一种计算子系统,其特征在于,所述计算子系统包括:

获取单元,被配置为获取目标运算器芯片的实时运行数据;所述实时运行数据用于表示目标运算器芯片的实时运行情况;

预测单元,被配置为采用芯片多模态功耗预测模型,对所述实时运行数据在不同工作模式下的芯片功耗进行预测,以获得适用于目标运算器芯片的目标工作模式;其中,目标工作模式为目标运算器芯片满足实时运行需求时芯片功耗最低的一种工作模式;

动态配置单元,被配置为动态配置目标运算器芯片的实时运行参数,以使目标运算器芯片达到目标工作模式;

所述芯片多模态功耗预测模型至少包括:特征提取层、实时学习预测层、动态关联网络预测层和预测机制整合层;

所述预测单元,采用芯片多模态功耗预测模型,对所述实时运行数据在不同工作模式下的芯片功耗进行预测,以获得适用于目标运算器芯片的目标工作模式,具体被配置为:通过特征提取层,从所述实时运行数据中提取目标运算器芯片的实时负载特征以及任务运行需求特征;

通过实时学习预测层,采用实时学习任务网络中不同工作模式下的功耗模型,对实时负载特征以及任务运行需求特征进行学习,以预测得到目标运算器芯片在不同工作模式下的第一功耗预测数据;

通过动态关联网络预测层,基于动态关联网络中各个关联单元之间的动态路由关系,获取目标运算器芯片在不同工作模式下第一功耗预测数据之间的电路空间关系特征以及能耗关联特征;

通过预测机制整合层,根据电路空间关系特征以及能耗关联特征,对目标运算器芯片在不同工作模式下的第一功耗预测数据进行动态优化,以得到优化后的第二功耗预测数据;基于第二功耗预测数据以及动态调整的实时任务需求,选取适用于目标运算器芯片的目标工作模式;

其中,在第二功耗预测数据满足所述实时任务需求的工作模式中,目标工作模式对应的第二功耗预测数据的数值最低;

实时学习预测层至少包括:实时学习任务网络;所述实时学习任务网络至少包括:多任务特征提取层、实时学习层和优化层;

所述通过实时学习预测层,采用实时学习任务网络中不同工作模式下的功耗模型,对实时负载特征以及任务运行需求特征进行学习,以预测得到目标运算器芯片在不同工作模式下的第一功耗预测数据,包括:通过多任务特征提取层,获取实时负载特征以及任务运行需求特征,并分配至不同工作模式对应的任务提取分支;通过各个任务提取分支,从实时负载特征以及任务运行需求特征中提取对应的实时任务运行特征;所述实时任务运行特征至少包括:处理器实时负载信息、内存占用信息和频率设置信息;

通过实时学习层,对各个任务提取分支中提取的实时任务运行特征进行元计算,以获得目标运算器芯片在不同工作模式下的第一功耗预测数据;

通过优化层,采用预设优化机制对第一功耗预测数据进行偏差拟合校正,以得到优化后的第一功耗预测数据;

所述通过实时学习层,对各个任务提取分支中提取的实时任务运行特征进行元计算,以获得目标运算器芯片在不同工作模式下的第一功耗预测数据,包括:在实时学习层中,设置各个工作模式下的初始化元参数;各个初始化元参数依据对应的功耗模型确定;

基于所述实时任务运行特征,设定各个工作模式下的功耗模型任务;

基于各个工作模式下的初始化元参数,迭代计算各个工作模式下的功耗模型任务所驱动的功耗模型参数,以使功耗模型参数达到功耗模型任务中设定的目标任务需求;

当功耗模型参数达到功耗模型任务中设定的目标任务需求时,基于当前功耗模型参数,计算当前工作模式下的第一功耗预测数据;

迭代计算过程表示为如下公式:

其中, 表示第i个工作模式下第t+1次迭代后得到的功耗模型参数, 表示第i个工作模式下第t次迭代后得到的功耗模型参数,α是学习率,所述学习率用于控制参数更新的步长, 表示损失函数,所述损失函数用于衡量功耗模型参数 与目标任务需求之间的偏差, 是损失函数关于功耗模型参数 的梯度;

实时学习预测层还包括:实时学习器;

其中,不同工作模式下的功耗模型是由实时学习器从历史运行数据以及历史芯片功耗数据中学习得到的;

若实时学习器的参数集合为θ,通过如下损失函数优化参数集合θ,该损失函数用于衡量不同工作模式下的预测误差累计值,则用于优化各个功耗模型的损失函数l(θ)表示为如下公式:其中,i表示不同工作模式的索引,j表示对应工作模式下的样本索引,Xrun,i,j表示第i个工作模式下第j个样本的历史运行数据,Xpower,i,j表示第i个工作模式下第j个样本的历史芯片功耗数据,f(Xrun,i,j,θ)表示参数θ为实时学习器,所述实时学习器用于学习从历史运行数据到功耗数据之间的映射函数。

5.一种智能计算平台,其特征在于,所述智能计算平台包括:

至少一个处理器、存储器和输入输出单元;

其中,所述存储器用于存储计算机程序,所述处理器用于调用所述存储器中存储的计算机程序来执行如权利要求1至3中任一项所述的运算器芯片功耗管理方法。