利索能及
我要发布
收藏
专利号: 2022109324833
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-10-21
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,该方法包括:

步骤一:准备干净数据集;

步骤二:选取深度学习网络,使用中毒攻击方法生成中毒数据,将中毒数据添加到干净数据集中,形成中毒数据集;采用中毒数据集训练深度学习网络,得到中毒模型;

步骤三:将少量的干净数据输入到中毒模型中,计算中毒模型中全连接层的神经元的激活值的平均值,并记录激活值大于等于所述平均值的神经元,作为神经元群;将大量的干净数据输入到中毒模型中,计算神经元群中的神经元的激活值,并将这些神经元对所有输入的干净数据的激活值累加,并将累加后的激活值按照从大到小排序,选取排序靠前的神经元,即为异常偏差类神经元;

步骤四:构建损失函数,将干净数据输入中毒模型中,并记录中毒模型中全连接层的异常偏差类神经元的激活值,并以此计算损失函数值;使用损失函数的梯度信息,对输入的干净数据的像素值进行改变,将其迭代优化为异常数据;

步骤五:采用步骤四得到的异常数据,以及原始的干净数据一起组成数据集,训练中毒模型,模型将其中的异常偏差类神经元纠正为正常工作的神经元,防御中毒攻击,从而对完成对模型的加固。

2.根据权利要求1所述的基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,所述损失函数具体为:TK_FC(X)=∑maxk(Mfc(xi))

其中,λ表示平衡参数,可人为调节,默认为常数1;maxk(·)表示该层激活值最大的k个输出,k为超参数,需不超过异常偏差类神经元的个数,n是样本数量;x是预测向量维度;y是one‑hot编码后的真实值,对应x维度上的标签,取值为1或0;a是one‑hot格式输出的预测标签,取值0~1。

3.根据权利要求1所述的基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,所述步骤一中的干净数据集选自MNIST、CIFAR10、ImageNet、GTSRB和CASIA中的任意一个图像数据集。

4.根据权利要求1所述的基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,所述步骤一中的深度学习网络选自LeNet、AlexNet、VGG11、ResNet34中的任意一种。

5.根据权利要求1所述的基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,所述中毒攻击方法选择BadNets,PoisonFrog,Trojannn,Feature Collision Attack中的任意一种。