利索能及
我要发布
收藏
专利号: 2020103257003
申请人: 北京百度网讯科技有限公司
专利类型:发明专利
专利状态:已下证
更新日期:2025-12-08
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种用于确定深度神经网络的耗时的方法,所述方法包括:

确定待处理深度神经网络包括的处理层,以及获取所确定的处理层的参数的值;

在预设的运算耗时数据集中,查找所确定的处理层的参数的值所对应的运算耗时,作为所确定的处理层的运算耗时,其中,所述运算耗时数据集中包括对应存储的值与参数为该值的处理层的运算耗时,所述运算耗时数据集中的值与运算耗时的对应关系以各种形式中的一种形式表现,所述各种形式包括表格、字典;

基于各个所确定的处理层的运算耗时,确定所述待处理深度神经网络的运算耗时。

2.根据权利要求1所述的方法,其中,所述运算耗时数据集通过以下步骤得到:根据深度神经网络的处理层的待赋值运算公式,生成与该处理层的参数的多个值分别对应的、该处理层的多个运算公式;

获取执行所述多个运算公式分别对应的运算的运算耗时,其中,所确定的每个运算耗时为利用相同运算公式进行至少两次运算的运算耗时的平均值;

对于所述多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于运算耗时数据集。

3.根据权利要求2所述的方法,其中,深度神经网络包括不同种的处理层;所述根据深度神经网络的处理层的待赋值运算公式,生成与该处理层的参数的多个值分别对应的、该处理层的多个运算公式,包括:根据每种处理层的待赋值运算公式,生成与每种处理层的参数的多个值分别对应的多个运算公式,其中,所述不同种的处理层包括:卷积层、池化层和全连接层。

4.根据权利要求3所述的方法,其中,所述运算耗时数据集包括与所述不同种的处理层分别对应的不同的运算耗时子集;

所述对于所述多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于运算耗时数据集,包括:对于每种处理层的参数的多个值分别对应的多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于该种处理层对应的运算耗时子集,其中,所述不同的运算耗时子集包括卷积运算耗时子集、池化运算耗时子集和全连接运算耗时子集。

5.根据权利要求4所述的方法,其中,所述在预设的运算耗时数据集中,查找所确定的处理层的参数的值所对应的运算耗时,作为所确定的处理层的运算耗时,包括:对于每个所确定的处理层,基于该处理层的种类,将所述运算耗时数据集的运算耗时子集中,该处理层对应的运算耗时子集作为与该处理层对应的目标运算耗时子集;

在所述目标运算耗时子集中,查找该处理层的参数的值所对应的运算耗时。

6.根据权利要求2所述的方法,其中,所述运算耗时数据集与指定电子设备相关联;

所述获取执行所述多个运算公式分别对应的运算的运算耗时,包括:获取所述指定电子设备执行所述多个运算公式分别对应的运算的运算耗时;以及所述基于各个所确定的处理层的运算耗时,确定所述待处理深度神经网络的运算耗时,包括:基于各个所确定的处理层的运算耗时,确定所述指定电子设备执行所述待处理深度神经网络中的运算的运算耗时。

7.一种用于确定深度神经网络的耗时的装置,所述装置包括:

获取单元,被配置成确定待处理深度神经网络包括的处理层,以及获取所确定的处理层的参数的值;

查找单元,被配置成在预设的运算耗时数据集中,查找所确定的处理层的参数的值所对应的运算耗时,作为所确定的处理层的运算耗时,其中,所述运算耗时数据集中包括对应存储的值与参数为该值的处理层的运算耗时,所述运算耗时数据集中的值与运算耗时的对应关系以各种形式中的一种形式表现,所述各种形式包括表格、字典;

确定单元,被配置成基于各个所确定的处理层的运算耗时,确定所述待处理深度神经网络的运算耗时。

8.根据权利要求7所述的装置,其中,所述运算耗时数据集通过以下步骤得到:根据深度神经网络的处理层的待赋值运算公式,生成与该处理层的参数的多个值分别对应的、该处理层的多个运算公式;

获取执行所述多个运算公式分别对应的运算的运算耗时,其中,所确定的每个运算耗时为利用相同运算公式进行至少两次运算的运算耗时的平均值;

对于所述多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于运算耗时数据集。

9.根据权利要求8所述的装置,其中,深度神经网络包括不同种的处理层;所述根据深度神经网络的处理层的待赋值运算公式,生成与该处理层的参数的多个值分别对应的、该处理层的多个运算公式,包括:根据每种处理层的待赋值运算公式,生成与每种处理层的参数的多个值分别对应的多个运算公式,其中,所述不同种的处理层包括:卷积层、池化层和全连接层。

10.根据权利要求9所述的装置,其中,所述运算耗时数据集包括与所述不同种的处理层分别对应的不同的运算耗时子集;

所述对于所述多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于运算耗时数据集,包括:对于每种处理层的参数的多个值分别对应的多个运算公式中的运算公式,将该运算公式中的参数的值和该运算公式对应的运算耗时,对应存储于该种处理层对应的运算耗时子集,其中,所述不同的运算耗时子集包括卷积运算耗时子集、池化运算耗时子集和全连接运算耗时子集。

11.根据权利要求10所述的装置,其中,所述查找单元,进一步被配置成按照如下方式执行所述在预设的运算耗时数据集中,查找所确定的处理层的参数的值所对应的运算耗时,作为所确定的处理层的运算耗时:对于每个所确定的处理层,基于该处理层的种类,将所述运算耗时数据集的运算耗时子集中,该处理层对应的运算耗时子集作为与该处理层对应的目标运算耗时子集;

在所述目标运算耗时子集中,查找该处理层的参数的值所对应的运算耗时。

12.根据权利要求8所述的装置,其中,所述运算耗时数据集与指定电子设备相关联;

所述获取执行所述多个运算公式分别对应的运算的运算耗时,包括:获取所述指定电子设备执行所述多个运算公式分别对应的运算的运算耗时;以及所述确定单元,进一步被配置成按照如下方式执行所述基于各个所确定的处理层的运算耗时,确定所述待处理深度神经网络的运算耗时:基于各个所确定的处理层的运算耗时,确定所述指定电子设备执行所述待处理深度神经网络中的运算的运算耗时。

13.一种电子设备,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,

当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1‑6中任一所述的方法。

14.一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如权利要求1‑6中任一所述的方法。