利索能及
我要发布
收藏
专利号: 2024100091822
申请人: 南京邮电大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-09-16
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:所述三维点云物体识别方法包括如下步骤:步骤1.选取深度学习网络模型作为教师模型,基于训练点云数据集对教师模型进行训练,利用所述教师模型提取原始点云数据的区分性特征,并获取所述教师模型生成的软标签;

步骤2.构造一个n层宽度学习网络的stackKDBLS模型,将所述stackKDBLS模型作为学生模型,并将步骤1中获取的区分性特征进行拼接,作为学生模型的输入;

步骤3.利用步骤1深度学习网络获取的软标签信息和点云数据的真实标签对步骤2构造的stackKDBLS模型进行训练;

步骤4.若步骤3中的最终训练结果超过一个预定的阈值的话,则在原始的stackKDBLS模型的基础上,进一步堆叠一个宽度学习网络,其中:步骤2中构造的stackKDBLS模型即学生模型包括n个宽度学习系统模块,所述n个宽度学习系统模块通过残差连接堆叠,第i‑1个宽度学习系统模块的输出将作为第i个宽度学习系统模块的输入,且第i个宽度学习系统模块的输出为第1,2,…,i‑1个宽度学习系统模块的残差,i≤n,宽度学习系统模块最后输出为n个宽度学习系统模块的输出总和,每个宽度学习系统模块包括特征节点、特征节点权重、增强节点和增强节点权重,所述步骤2具体包括:假定输入数据为x,输出数据为y,则第i个宽度学习系统模块的输出为ui为:其中, 和 为特征节点与输出层的连接权重, 为随机生成的输入与特征节点之间的权重, 为随机生成的特征节点与增强节点之间的连接权重;Qp(·)是P(·)和Q(·)的复合映射,其中P(·)为特征节点的广义函数,Q(·)为增强节点的广义函数,vi=g(ui‑

1),g(·)为映射函数,系统的最终输出为:

2.根据权利要求1所述的基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:所述步骤1具体包括如下步骤:步骤1.1、选取深度学习网络模型,将原始点云数据作为深度学习网络模型的输入;

步骤1.2、通过深度网络模型对原始点云数据进行空间变换、特征提取和池化操作捕捉原始点云数据的全局特征和局部特征;

步骤1.3、利用训练完成的深度学习网络获取点云数据的软标签信息。

3.根据权利要求2所述的基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:所述步骤1中的区分性特征分别为全局特征和局部特征,所述全局特征是通过对输入的原始点云数据进行空间变换、特征提取和池化操作获得,它代表了点云的全局性质,对点云的几何结构和特征进行了总结和提取,所述局部特征通过确定每个点的局部邻域范围,对于选定的每个局部邻域,将其坐标规范化,最后通过卷积或者池化来获得,捕捉了在深度神经网络中间层学到的更局部和抽象的特征信息。

4.根据权利要求1所述的基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:所述 和 通过求解优化问题来获得:其中,yi是第i个宽度学习系统模块中对于训练数据vi的期望输出,λ为平衡系数,优化问题通过岭回归近似来求解:其中, Wi为特征节点和增强节点与输出层的连接权

重,I为单位矩阵。

5.根据权利要求1所述的基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:所述步骤3具体包括:步骤3.1、采取了知识蒸馏的方式,使用教师模型θ来辅助训练stackKDBLS模型,教师模型θ的logits和预测输出为:Zt=θ(X)

Yt=sofymax(θ(X))

其中,X为输入数据,Zt为教师模型的logits,Yt为教师模型θ的预测输出;

k +

步骤3.2、若不考虑教师模型θ,则 其中(A) 为伪逆矩阵,当使k

用教师模型θ来协助训练stackKDBLS模型时,目标输出Y的计算方式发生变化,其计算方式转为:k l

其中,k为堆叠的stackKDBLS模型的数量,t 是蒸馏温度,Y是第l个宽度学习系统模块的预测输出,1

如果k=1,则Y=(1‑1/t)YGT+1/tYt,无需考虑前k个stackKDBLS模型输出的汇总。

6.根据权利要求1所述的基于深宽知识蒸馏的三维点云物体识别方法,其特征在于:步骤4中,为了确定是否将更多的宽度学习网络堆叠到stackKDBLS模型中,使用KL散度来度量k预测输出Y与目标输出之间的差异,其中KL散度的计算公式为:k k

L=DKL(Y||YGT)

k

如果L大于预定的阈值ε,那么就额外添加一个宽度学习网络,以提高模型的性能。