1.一种基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,包括以下步骤:(1)获取图像数据集和深度学习模型;采用图像数据集对深度学习模型进行预训练;将图像数据集中的测试样本按类输入至预训练后的深度学习模型中,获得每类测试样本的神经通路激活状态的特征矩阵M;
(2)从图像数据集的剩余类中随机选取一类,构建该类的批处理池,该类的特征矩阵M用于生成准测试样本;将图像数据集放入批处理池中;
(3)从批处理池中随机选取若干个测试样本作为种子样本;对种子样本进行变异得到变异样本;对变异样本进行功率调整,确定变异样本下次进行变异的概率;
(4)将功率调整后的变异样本输入至预训练后的深度学习模型中,若预测输出与对应种子样本的原始类标一致,则舍弃该变异样本,对应的种子样本重新放入批处理池中;否则进行下一步;
(5)生成准测试样本,赋予准测试样本批次优先级别,将准测试样本放入批处理池中;
(6)循环执行步骤(3)-(5),直至达到预设条件,则该批处理池中的样本组成该类的测试集;
(7)循环执行步骤(2)-(6),直至生成所有类的测试集;所有类的测试集组成基于神经通路激活状态的深度学习测试样本集。
2.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,步骤(1)中,获得每类测试样本的神经通路激活状态的特征矩阵M,包括以下步骤:(i)构建n×m的矩阵,n为神经层个数,m为所有神经层中最大神经元个数;若某一神经层中神经元个数小于最大神经元个数m,则在矩阵中的相应位置上补0;
(ii)将测试样本输入深度学习模型中,前向传播,获得每个神经层中每个神经元的激活值;
(iii)根据每个神经元的激活值对对应神经层的激活函数求导,判断该神经元的激活状态;若神经元激活,则将矩阵中该神经元的对应位置置1,否则置0,获得每个测试样本的神经通路状态矩阵;
(iv)对该类所有测试样本的神经通路状态矩阵取公共集合,即得该类测试样本的神经通路激活状态的特征矩阵M。
3.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,步骤(3)中,对种子样本进行变异包括改变图像的像素值、改变图像的类标和/改变图像的尺度。
4.根据权利要求3所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,改变图像的像素值包括改变图像对比度、图像亮度、图像模糊和/或图像噪点;改变图像的尺度包括图像平移、图像缩放、图像剪切和/或图像翻转。
5.根据权利要求3或4所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,改变图像的像素值时需满足:其中,I表示原始图像;I’表示改变像素值后的图像;L0表示已更改像素的最大数量;L∞表示像素更改的最大值;size(I)是图像中0<I的像素数量;0<α,β<1。
6.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,步骤(3)中,对变异样本进行功率调整,包括:将变异样本的潜在突变作为变异样本下一次变异的概率;所述的潜在突变为:β×255×size(I)-sum(abs(I-I′0)),其中β×
255×size(I)表示原始样本可改变的最大值,sum(abs(I-I′0))表示变异样本已经改变的值。
7.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,步骤(5)中,生成准测试样本包括以下步骤:(5-1)优化损失函数,计算损失函数值及梯度;
所述的损失函数为:
其中: 为深度学习模型的损失函数,x为变异样本,yi为第i类实际输出,yi’为第i类标签,N为所有变异样本的数量,0<λ<1;
loss2=fn(x)=Min(dist(m,M)),dist(m,M)表示对变异样本与选定类的特征矩阵M求欧氏距离;
所述的梯度为:
(5-2)根据梯度上升最大化修改变异样本:
x’=x+s*grad;
其中,x′为修改后的变异样本,x为修改前的变异样本,grad为梯度,s为迭代步长。
8.根据权利要求1或7所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,生成的准测试样本满足以下条件:准测试样本的神经通路激活状态矩阵m与选定类的特征矩阵M之间的欧式距离小于设定阈值;
准测试样本的预测输出与选定类的类标相同;
准测试样本的预测输出与对应的种子样本的原始类标不同。
9.根据权利要求1所述的基于神经通路激活状态的深度学习测试样本的生成方法,其特征在于,赋予准测试样本批次优先级别的方法为:根据样本已循环处理的次数概率作为该样本被下一次批次处理的概率;样本已循环处理的次数概率的计算公式为:其中B是批次,f(B)表示批次B被变异处理的次数,pmin是最小概率,0<pmin<1,γ为正整数。
10.一种基于神经通路激活状态的深度学习测试样本的生成装置,包括计算机存储器、计算机处理器以及存储在所述计算机存储器中并可在所述计算机处理器上执行的计算机程序,其特征在于,所述计算机存储器中存有图像数据集和深度学习模型,所述计算机处理器执行所述计算机程序时实现如权利要求1~9任一项所述的深度学习测试样本的生成方法。