利索能及
我要发布
收藏
专利号: 2019106839713
申请人: 杭州海康威视数字技术股份有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2025-10-25
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种数据块的处理方法,其特征在于,所述方法包括:

通过神经网络模型的元素级操作层,获取所述元素级操作层的上一级网络层输入的n个数据块,所述n个数据块中的数据均为定点型数据,所述n为正整数,所述神经网络模型用于进行图像识别或语音识别;

通过所述元素级操作层,从已存储的模型数据或所述元素级操作层的输入数据中,获取所述n个数据块中每个数据块的各个通道对应的补偿系数,所述补偿系数是指用于对数据范围进行缩放的比例系数;

通过所述元素级操作层,将所述n个数据块中每个数据块的各个通道上的数据,分别与各个通道对应的补偿系数进行相乘,并对相乘结果进行取整处理,得到n个补偿数据块;

若所述n为大于1的整数,所述补偿系数根据所述n个数据块的数据精度差异或数据范围差异设置,所述n个数据块的数据精度不同,所述n个补偿数据块中的数据均为定点型数据,且所述n个补偿数据块的数据精度相同,则通过所述元素级操作层对所述n个补偿数据块进行元素级操作,得到元素级操作结果,对所述元素级操作结果进行输出。

2.如权利要求1所述的方法,其特征在于,所述从已存储的模型数据或所述元素级操作层的输入数据中,获取所述n个数据块中每个数据块的各个通道对应的补偿系数,包括:对于所述n个数据块中的目标数据块,从已存储的模型数据中,获取所述目标数据块的各个通道对应的补偿系数,所述目标数据块为所述n个数据块中的任一数据块;或者,从所述元素级操作层的输入数据中,获取所述目标数据块的各个通道对应的补偿系数。

3.如权利要求1所述的方法,其特征在于,所述对所述n个补偿数据块进行元素级操作,得到元素级操作结果,包括:对所述n个补偿数据块进行相加或相乘,得到所述元素级操作结果;或者,对所述n个补偿数据块进行相加或相乘,得到第一操作结果,将所述第一操作结果与偏置系数进行相加,得到所述元素级操作结果。

4.如权利要求1‑3任一所述的方法,其特征在于,所述对所述元素级操作结果进行输出,包括:对所述元素级操作结果进行量化,得到第一输出数据,所述第一输出数据占据的比特位数为预设比特位数;

将所述第一输出数据输出给所述元素级操作层的下一个网络层。

5.如权利要求1所述的方法,其特征在于,所述通过所述元素级操作层,将所述n个数据块中每个数据块的各个通道上的数据,分别与各个通道对应的补偿系数进行相乘,并对相乘结果进行取整处理,得到n个补偿数据块之后,还包括:若所述n等于1,则通过所述元素级操作层,对所述n个补偿数据块进行输出。

6.如权利要求5所述的方法,其特征在于,所述对所述n个补偿数据块进行输出,包括:对所述n个补偿数据块中的数据进行量化,得到第二输出数据,所述第二输出数据占据的比特位数为预设比特位数;

将所述第二输出数据输出给所述元素级操作层的下一个网络层。

7.一种数据块的处理装置,其特征在于,所述装置包括:

第一获取模块,用于通过神经网络模型的元素级操作层,获取所述元素级操作层的上一级网络层输入的n个数据块,所述n个数据块中的数据均为定点型数据,所述n为正整数,所述神经网络模型用于进行图像识别或语音识别;

第二获取模块,用于通过所述元素级操作层,从已存储的模型数据或所述元素级操作层的输入数据中,获取所述n个数据块中每个数据块的各个通道对应的补偿系数,所述补偿系数是指用于对数据范围进行缩放的比例系数;

补偿模块,用于通过所述元素级操作层,将所述n个数据块中每个数据块的各个通道上的数据,分别与各个通道对应的补偿系数进行相乘,并对相乘结果进行取整处理,得到n个补偿数据块;

第一操作模块,用于若所述n为大于1的整数,所述补偿系数根据所述n个数据块的数据精度差异或数据范围差异设置,所述n个数据块的数据精度不同,所述n个补偿数据块中的数据均为定点型数据,且所述n个补偿数据块的数据精度相同,则通过所述元素级操作层对所述n个补偿数据块进行元素级操作,得到元素级操作结果,对所述元素级操作结果进行输出。

8.如权利要求7所述的装置,其特征在于,所述第二获取模块用于:

对于所述n个数据块中的目标数据块,从已存储的模型数据中,获取所述目标数据块的各个通道对应的补偿系数,所述目标数据块为所述n个数据块中的任一数据块;或者,从所述元素级操作层的输入数据中,获取所述目标数据块的各个通道对应的补偿系数。

9.如权利要求7所述的装置,其特征在于,所述第一操作模块用于:

对所述n个补偿数据块进行相加或相乘,得到所述元素级操作结果;或者,对所述n个补偿数据块进行相加或相乘,得到第一操作结果,将所述第一操作结果与偏置系数进行相加,得到所述元素级操作结果。

10.如权利要求7‑9任一所述的装置,其特征在于,所述第一操作模块用于:对所述元素级操作结果进行量化,得到第一输出数据,所述第一输出数据占据的比特位数为预设比特位数;

将所述第一输出数据输出给所述元素级操作层的下一个网络层。

11.如权利要求7所述的装置,其特征在于,所述装置还包括:

第二操作模块,用于若所述n等于1,则通过所述元素级操作层,对所述n个补偿数据块进行输出。

12.如权利要求11所述的装置,其特征在于,所述第二操作模块用于:

对所述n个补偿数据块中的数据进行量化,得到第二输出数据,所述第二输出数据占据的比特位数为预设比特位数;

将所述第二输出数据输出给所述元素级操作层的下一个网络层。

13.一种计算机设备,其特征在于,所述计算机设备包括处理器、通信接口、存储器和通信总线,所述处理器、所述通信接口和所述存储器通过所述通信总线完成相互间的通信,所述存储器用于存放计算机程序,所述处理器用于执行所述存储器上所存放的程序,以实现权利要求1‑6任一所述方法的步骤。

14.一种计算机可读存储介质,其特征在于,所述存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现权利要求1‑6任一所述方法的步骤。