利索能及
我要发布
收藏
专利号: 2020113345922
申请人: 杭州海康威视数字技术股份有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种模型压缩方法,其特征在于,包括:

将待压缩模型划分为多个优化单元,其中,一个优化单元包括所述待压缩模型中连续的多个卷积层;

对于任一优化单元,对该优化单元中各卷积层的参数进行量化,得到量化后的优化单元;

分别对所述量化后的优化单元中各卷积层的参数进行优化,以使第一距离小于第二距离,得到压缩模型,将所述压缩模型部署于移动终端或嵌入式设备;其中,所述第一距离为进行参数优化后,所述量化后的优化单元的输出特征与原始优化单元的输出特征之间的距离;所述第二距离为进行参数优化前,所述量化后的优化单元的输出特征与原始优化单元的输出特征之间的距离,所述移动终端或嵌入式设备利用所述压缩模型执行计算机视觉任务;

其中,所述分别对所述量化后的优化单元中各卷积层的参数进行优化,包括:按照迭代优化方式,分别对所述量化后的优化单元中各卷积层的各参数进行优化;

对于任一参数,按照量化间隔对该参数进行调整,以确定目标参数值,其中,所述目标参数值为对该参数进行调整过程中,使参数调整后的优化单元的输出特征与原始优化单元的输出特征之间的距离最小的该参数的值。

2.根据权利要求1所述的方法,其特征在于,所述对该优化单元中各卷积层的参数进行量化之前,还包括:依据该优化单元中各通道的重要性,对该优化单元进行通道裁剪,得到通道裁剪后的优化单元;其中,优化单元的一个通道包括该优化单元中相邻的两个卷积层中前一个卷积层的一个输出通道,以及后一个卷积层的对应的输入通道,通道的重要性与该通道裁剪前后输出特征之间的距离正相关;

所述对该优化单元中各卷积层的参数进行量化,包括:

对通道裁剪后的优化单元中各卷积层的参数进行量化,得到量化后的优化单元。

3.根据权利要求1所述的方法,其特征在于,所述对该优化单元中各卷积层的参数进行量化之后,还包括:依据所述量化后的优化单元中各通道的重要性,对所述量化后的优化单元进行通道裁剪,得到通道裁剪后的优化单元;其中,优化单元的一个通道包括该优化单元中相邻的两个卷积层中前一个卷积层的一个输出通道,以及后一个卷积层的对应的输入通道,通道的重要性与该通道裁剪前后输出特征之间的距离正相关;

所述分别对所述量化后的优化单元中各卷积层的参数进行优化,包括:分别对所述通道裁剪后的优化单元中各卷积层的参数进行优化。

4.根据权利要求2或3所述的方法,其特征在于,对优化单元进行通道裁剪通过以下方式实现:对于任一通道,确定该通道裁剪前后优化单元的输出特征之间的距离;

依据各通道裁剪前后优化单元的输出特征之间的距离,按照距离从大到小的顺序,对各通道进行排序;

当确定裁剪掉排序靠前的N个通道时优化单元的输出特征与原始优化单元的输出特征之间的距离小于第一阈值,且裁剪掉排序靠前的N+1个通道时优化单元的输出特征与原始优化单元的输出特征之间的距离大于等于所述第一阈值时,确定裁剪掉排序靠前的N个通道。

5.根据权利要求2或3所述的方法,其特征在于,对优化单元进行通道裁剪通过以下方式实现:对于任一通道,确定该通道裁剪前后优化单元的输出特征之间的距离;

依据各通道裁剪前后输出特征之间的距离,将裁减前后优化单元的输出特征之间的距离小于第二阈值的通道确定为需要裁剪的通道;

对需要裁剪的通道进行裁剪。

6.一种模型压缩装置,其特征在于,包括:

划分单元,用于将待压缩模型划分为多个优化单元,其中,一个优化单元包括所述待压缩模型中连续的多个卷积层;

压缩单元,用于对于任一优化单元,对该优化单元中各卷积层的参数进行量化,得到量化后的优化单元;

优化单元,用于分别对所述量化后的优化单元中各卷积层的参数进行优化,以使第一距离小于第二距离,得到压缩模型,将所述压缩模型部署于移动终端或嵌入式设备;其中,所述第一距离为进行参数优化后,所述量化后的优化单元的输出特征与原始优化单元的输出特征之间的距离;所述第二距离为进行参数优化前,所述量化后的优化单元的输出特征与原始优化单元的输出特征之间的距离,所述移动终端或嵌入式设备利用所述压缩模型执行计算机视觉任务;

其中,所述优化单元分别对所述量化后的优化单元中各卷积层的参数进行优化,包括:按照迭代优化方式,分别对所述量化后的优化单元中各卷积层的各参数进行优化;

对于任一参数,按照量化间隔对该参数进行调整,以确定目标参数值,其中,所述目标参数值为对该参数进行调整过程中,使参数调整后的优化单元的输出特征与原始优化单元的输出特征之间的距离最小的该参数的值。

7.一种电子设备,其特征在于,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的机器可执行指令,所述处理器用于执行机器可执行指令,以实现如权利要求1‑5任一项所述的方法。

8.一种机器可读存储介质,其特征在于,所述机器可读存储介质内存储有机器可执行指令,所述机器可执行指令被处理器执行时实现权利要求1‑5任一所述的方法。