1.一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:所述方法读取并解析预训练完成后的深度神经网络模型中的参数,提取深度神经网络模型的关键路径,基于正常样本和对抗样本构建三阶级联检测器,所述三阶级联检测器包括:第一检测器,基于正常样本和对抗样本在主成分分析降维后点分布的显著差异构建;
第二检测器,基于正常样本和对抗样本在深度神经网络模型中神经元重要性离散度的显著差异构建;
第三检测器,基于正常样本和对抗样本在深度神经网络模型中关键路径的显著差异构建;
按照级联策略组合三阶级联检测器,第一检测器、第二检测器和第三检测器顺次设置,任一待检测样本被第一检测器或第二检测器判断所属类别后不再由下一级检测器检测,第一检测器或第二检测器或第三检测器输出待检测样本的所属类别;
完成对对抗样本的检测与识别。
2.根据权利要求1所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:提取深度神经网络模型的关键路径包括以下步骤:步骤1.1:针对k种攻击方式,在正常样本集中随机抽取指定比例的正常样本,构造k组对抗样本,分别合并为k个正常样本集与相应的k个对抗样本集,按预设比例划分为训练集和待检测样本集,分别标记为 和 ,其中,i为组别,i = 1, 2, 3, …, k,k为正整数,以和 分别指第i组训练集与待检测样本集中所抽取的第j个样本,j = 1, 2, 3, …, n,n为该组样本的数量;
步骤1.2:针对 和 ,使用逐层相关传播算法量化M中每层神经元的重要性,提取相应的关键路径。
3.根据权利要求2所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:所述步骤1.2包括以下步骤:步骤1.2.1:将 与 输入到深度神经网络模型M中,并直接提取每层神经元的激活度a、网络权值w及M所预测类别的置信度cf;
步骤1.2.2:基于a和w,从M的softmax层前最后一个完全连接层的输出开始,通过式(1)所示的层重要性守恒定律进行重要性反向传播,获得到每个神经元的重要性信息, (1)
其中, 代表第u个神经元的激活度, 代表连接第u个与第v个神经元的权值,代表相邻层中前一层第u个神经元的重要性值, 代表相邻层中后一层第v个神经元的重要性值,用于增强显著性, ,U为相邻层中前一层神经元的个数,V为相邻层中后一层神经元的个数;
步骤1.2.3:针对每个 和 ,选取M中每层靠前一定比例的重要性节点作为该层的关键节点,其中最后一个完全连接层只选取最重要的一个神经元作为该层的关键节点,再将相邻层之间有连接关系的关键节点连接起来,作为针对当前样本在M中的关键路径。
4.根据权利要求1所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:所述第一检测器的构建及对对抗样本识别包括以下步骤:步骤2.1:针对对抗样本的训练集 利用主成分分析方法对其中的样本进行平铺并降维,标记为 ,训练集 中的第j个样本对应降维后的点 ;
步骤2.2:初始化距离阈值DS,计算 内各元素两两之间的欧氏距离,从 中选择出与距离小于阈值DS的其余坐标点,作为 邻域范围内的点,统计 邻域范围内的点中分别属于正常样本集和对抗样本集的点的数量,记为a和b;
步骤2.3:初始化比例阈值PS、式(2)、式(3), (2)
(3)
若a与b满足式(2),则判定 为正常样本,若满足式(3),则判定 为对抗样本;
步骤2.4:通过步骤2.2和步骤2.3训练并计算最优的DS和PS;
步骤2.5:以步骤2.1至步骤2.3的方法及训练得到的DS、PS对待检测样本集 中样本的类别进行检测,若 不满足式(2)和式(3),则记作 ,由三阶级联检测器的后续检测器进行检测。
5.根据权利要求4所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:所述第二检测器的构建及对对抗样本识别包括以下步骤:步骤3.1:针对 ,对深度神经网络模型M中每层神经元的重要性由大到小进行排序,并提取其中的下四分位数 和上四分位数 ;
步骤3.2:利用式(4)分别计算 中正常样本集与对抗样本集在深度神经网络模型M中第l层的平均四分位数间距IQR, (4)
将正常样本集与对抗样本集在第l层的IQR分别记为 与 ,当前样本 在第l层的离散度为 ;l = 1, 2, …, L,L为深度神经网络模型M的总层数;
步骤3.3:计算 在M中每层属于正常样本和对抗样本的置信度,如式(5) 式(8),~ (5)
(6)
(7)
(8)
若层l位于M中的卷积层,则利用式(5)和式(7)分别计算 在该层属于正常样本和对抗样本的置信度 和 ;
若层l位于M中的线性层,则利用式(6)和式(8)分别计算 在该层属于正常样本和对抗样本的置信度 和 ;
步骤3.4:利用式(9)和式(10)分别计算 属于正常样本和对抗样本的层平均置信度和 , (9)
(10)
步骤3.5:设层平均置信度阈值为QS;
若 大于等于QS,则判定该样本为正常样本;
若 大于等于QS,则判定该样本为对抗样本;
若上述两条件均不满足,则记作 ,由三阶级联检测器的后续检测器进行检测。
6.根据权利要求5所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于: 为第25个百分位数, 为第75个百分位数。
7.根据权利要求5所述的一种基于三阶级联检测器的图像类对抗样本识别方法,其特征在于:所述第三检测器的构建及对对抗样本识别包括以下步骤:步骤4.1:分别利用 和 所对应的关键路径、神经元信息以及它们在M中的置信度信息cf,构造由图节点表、图边表和图类别表组成的图数据,分别标记为Z和 ;其中,图节点表由节点所在的图序号、其所对应神经元的重要性信息与激活度及其所在M中的层相对位置组成,图边表由所有构成关键路径的线段组成,图类别表存储的是所有图的置信度cf与其所对应的类别,包括正常样本集和对抗样本集;
步骤4.2:将 和 按照节点和特征的对应关系以及各节点之间的连接关系转化成特征嵌入向量和连接嵌入向量,分别记为X和A;
步骤4.3:基于X和A构造图卷积神经网络模型G,其层与层之间的特征按式(11)进行传播, (11)
其中, ,是单位矩阵, 是 的度矩阵, 是第l层的特征,输入层的 为X,是非线性激活函数, 是第l层的权重向量;
步骤4.4:利用式(12)和Z训练图卷积神经网络模型G直至收敛, (12)
其中, 代表一个样本构成的图数据z以及对应的真实类别y, 代表用于训练的所有图数据Z以及对应的真实类别集Y, 和 分别代表z的连接嵌入向量和特征嵌入向量,ls为模型输出和真实类别之间的损失值;
步骤4.5:利用G判断 的类别, ,并输出最后检测结果。
8.一种检测器,其特征在于:采用权利要求1 7之一的基于三阶级联检测器的图像类对~抗样本识别方法构建,包括:
第一检测器,基于正常样本和对抗样本在主成分分析降维后点分布的显著差异构建;
第二检测器,基于正常样本和对抗样本在深度神经网络模型中神经元重要性离散度的显著差异构建;
第三检测器,基于正常样本和对抗样本在深度神经网络模型中关键路径的显著差异构建。
9.根据权利要求8所述的一种检测器,其特征在于:第一检测器、第二检测器和第三检测器顺次设置,任一待检测样本被第一检测器或第二检测器判断所属类别后不再由下一级检测器检测,第一检测器或第二检测器或第三检测器输出待检测样本的所属类别。