1.一种基于知识蒸馏的目标检测方法,其特征在于,包括:
(1)构建教师‑助教‑学生模型,其中教师模型包括P‑conv以及四层堆叠的卷积层Layer1至Layer4;助教模型包括四层特征处理层Af1至Af4、特征拼接层、空间注意力模块和Bottleneck卷积块,特征处理层Af1包括三个卷积块,特征处理层Af2包括两个卷积块,特征处理层Af3和Af4均包括一个卷积块,卷积块由卷积层、批归一化层BatchNorm和Relu激活函数层依次连接而成;学生模型包括四层堆叠的反卷积层Slayer1至Slayer4;
预训练的教师模型提取图像的两组深层特征图F1、F2和两组浅层特征图F3、F4,并输入助教模型;特征图F1至F4大小依次递增;深层特征图F1输入特征处理层Af1得到特征图Al1;
深层特征图F2输入特征处理层Af2得到特征图Al2;浅层特征图F3输入特征处理层Af3得到特征图Al3;浅层特征图F4经下采样得到特征图Al4;特征图Al1至Al4维度一致;特征图Al1、Al2,Al2、Al3,Al3,Al4两两拼接后,得到特征图A1,A2,A3;特征图A1,A2,A3分别经过特征处理层Af4和空间注意力模块处理后,进行横向拼接,得到一张特征图At;特征图At经过Bottleneck卷积块加速计算后,输入学生模型;将特征图At输入反卷积层Slayer1得到特征图F5;将特征图F5输入反卷积层Slayer2得到特征图F6;将特征图F6输入反卷积层Slayer3得到特征图F7;将特征图F7输入反卷积层Slayer4得到特征图F8;
(2)对教师‑助教‑学生模型进行训练,其中教师模型参数固定,不参与训练;学生模型和助教模块参与训练;分别计算F1与F8,F2与F7,F3与F6,F4与F5的余弦相似度,取均值后相加作为损失函数;
(3)将待检测图像输入经训练的教师‑助教‑学生模型,教师模型和学生模型分别得到张特征图,分别计算四组特征图的余弦相似度;通过双线性插值采样将特征图恢复到原图尺寸,得出的四组经过双线性采样升维的余弦相似度计算结果取积运算得到特征图Ma1,使用高斯滤波对Ma1进行平滑处理后,计算Ma1中每一个值的特征得分,获取特征得分图;根据特征得分图绘制图像热力图,特征得分越高,在图像热力图中越亮,从而实现目标检测。
2.根据权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于,P‑conv包括卷积层、批归一化层、Relu激活函数层和池化层,卷积层步长为2,填充为3,卷积核大小为7×7;
池化层步长为2,填充为1,池化窗口为3×3。
3.根据权利要求2所述的基于知识蒸馏的目标检测方法,其特征在于,卷积层Layer1至Layer4包括一组t_conv卷积块组和一层并行的下采样层DownSample,再连接一层特征拼接层;其中Layer1包括3个t_conv卷积块,Layer2包括4个t_conv卷积块,Layer3包括6个t_conv卷积块,Layer4包括3个t_conv卷积块;t_conv卷积块包括一层步长为1的3×3卷积conv2和两个1×1卷积conv1,conv3连接而成,每层卷积后还需连接一层BatchNorm层;下采样层包括一层1×1conv卷积和一层BatchNorm层。
4.根据权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于,反卷积层Slayer1至Slayer4包括一个tr_conv反卷积块,多个相连的t_conv卷积块组和一个并行上采样层UpSample,再连接一层特征拼接层;其中Slayer1包括1个tr_conv反卷积块和2个t_conv卷积块,Slayer2包括1个tr_conv反卷积块和5个t_conv卷积块,Slayer3包括1个tr_conv反卷积块和3个t_conv卷积块,Slayer4包括1个tr_conv反卷积块和2个t_conv卷积块;
tr_conv反卷积块包括一层步长为2的2×2convtrans反卷积和一层BatchNorm层;上采样层UpSample包括一层步长为2的2×2convtrans反卷积和一层BatchNorm层。
5.根据权利要求1至4中任一项所述的基于知识蒸馏的目标检测方法,其特征在于,教师模型和学生模型输出的特征图具有完全相同的维度大小。
6.根据权利要求5所述的基于知识蒸馏的目标检测方法,其特征在于,特征图F1大小为
256×64×64,特征图F2大小为512×32×32,特征图F3大小为1024×16×16,特征图F4大小为2048×8×8;特征图F5大小为2048×8×8,特征图F6大小为1024×16×16,特征图F7大小为512×32×32,特征图F8大小为256×64×64。
7.根据权利要求6所述的基于知识蒸馏的目标检测方法,其特征在于,输入教师模型的图像大小为256×256×3,特征图Al1至Al4的大小均为1024×8×8,特征图A1至A3的大小为
2048×8×8,特征图At的大小为6144×8×8。
8.根据权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于,特征得分计算公式为:Ma1=(ma1‑ma1.min)/(ma1.max‑ma1.min)其中,ma1.min为特征矩阵Ma1中的最小值,ma1.max为特征矩阵Ma1中的最大值。
9.根据权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于,利用MvTecAD数据集对教师‑助教‑学生模型进行训练。
10.根据权利要求1所述的基于知识蒸馏的目标检测方法,其特征在于,教师模型在ImageNet数据集上预先完成训练。