利索能及
我要发布
收藏
专利号: 2020105682604
申请人: 北京百度网讯科技有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2025-02-06
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种神经网络模型的量化方法,所述神经网络模型用于图像处理,包括:基于当前的量化映射函数,对待量化的神经网络模型进行量化并测试基于当前的量化映射函数量化得到的当前量化后神经网络模型的性能,所述量化映射函数为预设的函数;

基于所述当前量化后神经网络模型的性能对所述待量化的神经网络模型的参数和所述当前的量化映射函数的参数进行迭代调整;

响应于确定当前量化后神经网络模型满足预设的收敛条件,确定所述当前量化后神经网络模型为目标神经网络模型;所述量化映射函数的参数包括:映射变换参数,或者所述量化映射函数的参数包括映射变换参数和映射区间阈值;

其中,所述映射变换参数包括表征待量化的神经网络模型的参数与量化后神经网络模型的参数之间的数学变换关系的参数,所述映射区间阈值表征待量化的神经网络模型的参数所属区间与量化后神经网络模型的参数所属区间之间的映射关系。

2.根据权利要求1所述的方法,所述方法还包括:

将所述目标神经网络模型发送至任务执行端,以在任务执行端侧部署所述目标神经网络模型并执行对应的媒体数据处理任务。

3.根据权利要求2所述的方法,其中,所述方法还包括:

基于所述任务执行端的硬件运行环境信息确定量化位宽,根据所述量化位宽确定当前的量化映射函数。

4.根据权利要求1‑3任一项所述的方法,还包括:

响应于确定对所述待量化的神经网络模型的参数和所述当前的量化映射函数的参数迭代调整的次数超过预设的次数阈值且当前量化后神经网络模型的性能未达到预设的性能阈值,基于所述当前量化后神经网络模型的性能从预设的量化映射函数搜索空间内确定出量化映射函数,以更新所述当前的量化映射函数。

5.一种神经网络模型的量化装置,所述神经网络模型用于图像处理,包括:量化单元,被配置成基于当前的量化映射函数,对待量化的神经网络模型进行量化并测试基于当前的量化映射函数量化得到的当前量化后神经网络模型的性能,所述量化映射函数为预设的函数;

调整单元,被配置成基于所述当前量化后神经网络模型的性能对所述待量化的神经网络模型的参数和所述当前的量化映射函数的参数进行迭代调整;

确定单元,被配置成响应于确定当前量化后神经网络模型满足预设的收敛条件,确定所述当前量化后神经网络模型为目标神经网络模型;

所述量化映射函数的参数包括:映射变换参数,或者所述量化映射函数的参数包括映射变换参数和映射区间阈值;

其中,所述映射变换参数包括表征待量化的神经网络模型的参数与量化后神经网络模型的参数之间的数学变换关系的参数,所述映射区间阈值表征待量化的神经网络模型的参数所属区间与量化后神经网络模型的参数所属区间之间的映射关系。

6.根据权利要求5所述的装置,还包括:

发送单元,被配置成将所述目标神经网络模型发送至任务执行端,以在任务执行端侧部署所述目标神经网络模型并执行对应的媒体数据处理任务。

7.根据权利要求6所述的装置,还包括:

位宽确定单元,被配置成基于所述任务执行端的硬件运行环境信息确定量化位宽,根据所述量化位宽确定当前的量化映射函数。

8.根据权利要求5‑7任一项所述的装置,还包括:

更新单元,被配置成响应于确定对所述待量化的神经网络模型的参数和所述当前的量化映射函数的参数迭代调整的次数超过预设的次数阈值且当前量化后神经网络模型的性能未达到预设的性能阈值,基于所述当前量化后神经网络模型的性能从预设的量化映射函数搜索空间内确定出量化映射函数,以更新所述当前的量化映射函数。

9.一种电子设备,其特征在于,包括:

至少一个处理器;以及

与所述至少一个处理器通信连接的存储器;其中,

所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1‑4中任一项所述的方法。

10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1‑4中任一项所述的方法。