利索能及
我要发布
收藏
专利号: 201910926439X
申请人: 杭州海康威视数字技术股份有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2025-10-27
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种资源分配方法,其特征在于,应用于分析系统,所述分析系统包括多个计算单元,所述方法包括:确定用于动态加载算法模型的目标计算单元中加载的算法模型的任务类型,得到目标类型;

确定等待队列中类型为所述目标类型的任务的目标数量;

若所述目标数量满足预设冷门数量规则,则清理所述目标计算单元中加载的算法模型;

利用所述目标计算单元加载指定算法模型;所述指定算法模型为用于处理等待队列中总数排行前N的任务类型对应的算法模型;其中,N为正整数;

在所述确定用于动态加载算法模型的各目标计算单元中加载的算法模型的任务类型,得到各目标类型之前,检测是否有未加载算法模型的空闲计算单元;

若不存在所述空闲计算单元,确定用于动态加载算法模型的目标计算单元中加载的算法模型的任务类型,得到目标类型;

若存在所述空闲计算单元,获取各所述空闲计算单元的最大负载,获取各所述指定算法模型的算法负载;按照各所述空闲计算单元的最大负载及各所述指定算法模型的算法负载,确定各所述空闲计算单元各自对应的指定算法模型;利用各所述空闲计算单元各自加载对应的指定算法模型。

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:计算所述等待队列中各任务类型的任务的数量,将任务数量最多的任务类型对应的算法模型作为所述指定算法模型。

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:获取预分配资源指令,其中,所述预分配资源指令包括指定计算单元与算法模型的对应关系;

按照所述预分配资源指令中的对应关系,利用所述指定计算单元预加载相应的算法模型,其中,所述分析系统中除预加载算法模型的计算单元外的其他计算单元为所述目标计算单元。

4.根据权利要求1‑3任一所述的方法,其特征在于,所述计算单元为图形处理器GPU。

5.一种资源分配装置,其特征在于,应用于分析系统,所述分析系统包括多个计算单元,所述装置包括:目标类型确定模块,用于确定用于动态加载算法模型的目标计算单元中加载的算法模型的任务类型,得到目标类型;

目标数量确定模块,用于确定等待队列中类型为所述目标类型的任务的目标数量;

算法模型清理模块,用于若所述目标数量满足预设冷门数量规则,则清理所述目标计算单元中加载的算法模型;

算法模型加载模块,利用所述目标计算单元加载指定算法模型;所述指定算法模型为用于处理等待队列中总数排行前N的任务类型对应的算法模型;其中,N为正整数;

空闲单元检测模块,用于检测是否有未加载算法模型的空闲计算单元;

所述目标数量确定模块,具体用于:若不存在所述空闲计算单元,确定用于动态加载算法模型的目标计算单元中加载的算法模型的任务类型,得到目标类型;

指定算法模型加载模块,用于若存在所述空闲计算单元,获取各所述空闲计算单元的最大负载,获取各所述指定算法模型的算法负载;按照各所述空闲计算单元的最大负载及各所述指定算法模型的算法负载,确定各所述空闲计算单元各自对应的指定算法模型;利用各所述空闲计算单元各自加载对应的指定算法模型。

6.根据权利要求5所述的装置,其特征在于,所述装置还包括:指定算法模型确定模块,用于计算所述等待队列中各任务类型的任务的数量,将任务数量最多的任务类型对应的算法模型作为所述指定算法模型。

7.根据权利要求5所述的装置,其特征在于,所述装置还包括:指令获取模块,用于获取预分配资源指令,其中,所述预分配资源指令包括指定计算单元与算法模型的对应关系;

单元配置模块,用于按照所述预分配资源指令中的对应关系,利用所述指定计算单元预加载相应的算法模型,其中,所述分析系统中除预加载算法模型的计算单元外的其他计算单元为所述目标计算单元。

8.根据权利要求5‑7任一所述的装置,其特征在于,所述计算单元为图形处理器GPU。