利索能及
我要发布
收藏
专利号: 2023103521902
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:所述方法以有标签的数据预训练一目标模型;以目标模型的参数初始化EMA模型,EMA模型的分类器的全连接层 包括每个类别的权重,K为维度,得到一个相似度矩阵 , ,对的每一列归一化处理,得到类别级软标签 ,与图像进行关联;

输入图像,基于目标模型和EMA模型构建模型训练的总损失更新目标模型;总损失 包括:基于目标模型预测的概率分布,计算其与样本真实硬标签之间的交叉熵损失 ;基于目标模型预测的概率分布,计算其与类别级软标签之间的KL散度 ;基于目标模型预测的概率分布,计算其与EMA模型输出概率分布之间的KL散度 ;

以新的目标模型更新EMA模型,并用新EMA模型计算出新的类别级软标签;重复并最小化总损失,实现细粒度图像分类模型的训练。

2.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:以有标签的数据预训练一目标模型,目标函数为,,

其中, 表示目标模型,表示类别总量,对应每个类别, 是样本 的标签, 是经过归一化处理后模型预测的到第c个类别的概率,是温度系数, , 是样本经过目标模型 后得到的归一化之前的输出,是目标模型的参数。

3.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:所述目标模型包括特征提取器和分类器,目标模型的特征提取器和分类器在每一轮基于总损失的梯度反传进行更新;所述EMA模型包括特征提取器和分类器,EMA模型的特征提取器和分类器初始化为目标模型中的特征提取器和分类器,训练过程中EMA模型的特征提取器和分类器基于当前目标模型通过指数滑动平均进行更新。

4.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于: ,其中, 和 为对应损失的权重系数,, 。

5.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:KL散度 满足,,

其中,KL散度为 , , 表示类别总量,对应每个

类别, 为类级别的软标签,是经过归一化处理后模型预测的概率分布。

6.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:KL散度 满足,,

其中, 为KL散度, 为样本经过EMA模型得到的输出,是样本经过目标模型得到的概率分布。

7.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:目标模型更新后,以一定权重和预设的更新频率规则进行EMA模型的更新,,其中, 是EMA模型参数,是当前目标模型参数,是对应的权重系数, 。

8.根据权利要求1所述的一种基于类别级软目标监督的细粒度图像分类模型训练方法,其特征在于:给定一张需要进行分类的图片,以训练后的目标模型利用其训练时学习的类别之间的相关性,输出图片对应的类别。