1.一种基于注意力图差异的对抗样本检测方法,其特征在于,包括:
步骤S1,获取原始样本,所述原始样本包括正常样本、对抗样本,为图像样本;
步骤S2,采用基于梯度权重的类激活映射(grad‑CAM)方法生成原始样本的注意力图,得到待检测的注意力图;
步骤S3,构建检测模型,包括自编码器、判别器;
所述自编码器,包括编码器、解码器;
所述编码器采用改进的ResNet18残差网络结构,残差层共有4层,每层网络中包含2个残差块,每个残差块由第一个3*3的卷积层和批量归一化层、第二个3*3的卷积层和批量归一化层串联组合构成;在残差块的第二个批量归一化层后面引入了一个混合注意力模块;
所述解码器,采用改进的ResNet18残差网络结构,残差层共有4层,每层网络中包含2个残差块,每个残差块由第一个上采样层(Upsampling)和1*1卷积层以及批量归一化层、第二个上采样层(Upsampling)和1*1卷积层以及批量归一化层串联组合构成;在残差块的第二个批量归一化层后面引入了一个混合注意力模块;
所述判别器,采用WGAN(Wasserstein GAN)中判别器的结构;
步骤S4,获取正常样本,采用基于梯度权重的类激活映射(grad‑CAM)方法生成正常样本的注意力图;将其输入检测模型中,得到重建的注意力图;计算重建的注意力图与输入的正常样本的注意力图之间的差异,以均方误差作为损失函数进行优化,在无监督训练过程中,检测模型将学习到正常样本的注意力图的特征分布;
步骤S5,将待检测的注意力图输入训练好的检测模型,得到重建的注意力图;然后计算重建的注意力图与输入的待检测的注意力图之间的差异,如果大于设定的阈值,则将其对应的原始样本判定为对抗样本,否则为正常样本。
2.根据权利要求1所述的一种基于注意力图差异的对抗样本检测方法,其特征在于,所述步骤S3,包括:所述混合注意力模块,由通道注意力模块和空间注意力模块串联组合构成;
所述通道注意力模块,首先将特征图分别输入最大池化层和平均池化层处理,然后汇合到由第一个3*3的卷积层和批量归一化层、PReLU激活函数、第二个3*3的卷积层和批量归一化层的串联组合,再对串联组合的输出特征图进行加和操作,最后经Sigmoid函数激活输出;
所述空间注意力模块,首先将特征图输入一个3*3的卷积层,然后经过批量归一化层处理,之后再分别经过最大池化层和平均池化层处理,得到两个特征向量,将这两个特征向量按照通道拼接在一起,再经过一个3*3的卷积层处理,最后经Sigmoid函数激活得到权重向量。
3.一种基于注意力图差异的对抗样本检测系统,其特征在于,包括:
样本获取模块,用于获取原始样本,所述原始样本包括正常样本、对抗样本,为图像样本;
注意力图生成模块,采用基于梯度权重的类激活映射(grad‑CAM)方法生成原始样本的注意力图,得到待检测的注意力图;
对抗样本检测模块,构建检测模型,包括自编码器、判别器;所述自编码器,包括编码器、解码器;所述编码器采用改进的ResNet18残差网络结构,残差层共有4层,每层网络中包含2个残差块,每个残差块由第一个3*3的卷积层和批量归一化层、第二个3*3的卷积层和批量归一化层串联组合构成;在残差块的第二个批量归一化层后面引入了一个混合注意力模块;所述解码器,采用改进的ResNet18残差网络结构,残差层共有4层,每层网络中包含2个残差块,每个残差块由第一个上采样层(Upsampling)和1*1卷积层以及批量归一化层、第二个上采样层(Upsampling)和1*1卷积层以及批量归一化层串联组合构成;在残差块的第二个批量归一化层后面引入了一个混合注意力模块;所述判别器,采用WGAN(Wasserstein GAN)中判别器的结构;将待检测的注意力图输入训练好的检测模型,得到重建的注意力图;
然后计算重建的注意力图与输入的待检测的注意力图之间的差异,如果大于设定的阈值,则将其对应的原始样本判定为对抗样本,否则为正常样本;
模型训练模块,获取正常样本,采用基于梯度权重的类激活映射(grad‑CAM)方法生成正常样本的注意力图;将其输入检测模型中,得到重建的注意力图;计算重建的注意力图与输入的正常样本的注意力图之间的差异,以均方误差作为损失函数进行优化,在无监督训练过程中,检测模型将学习到正常样本的注意力图的特征分布。
4.根据权利要求3所述的一种基于注意力图差异的对抗样本检测系统,其特征在于,所述混合注意力模块,包括:由通道注意力模块和空间注意力模块串联组合构成;所述通道注意力模块,首先将特征图分别输入最大池化层和平均池化层处理,然后汇合到由第一个3*3的卷积层和批量归一化层、PReLU激活函数、第二个3*3的卷积层和批量归一化层的串联组合,再对串联组合的输出特征图进行加和操作,最后经Sigmoid函数激活输出;所述空间注意力模块,首先将特征图输入一个3*3的卷积层,然后经过批量归一化层处理,之后再分别经过最大池化层和平均池化层处理,得到两个特征向量,将这两个特征向量按照通道拼接在一起,再经过一个3*3的卷积层处理,最后经Sigmoid函数激活得到权重向量。
5.一种包括计算机可读指令的计算机可读存储介质,其特征在于,所述计算机可读指令在被执行时,使处理器执行权利要求1‑2任一所述方法中的步骤。
6.一种电子设备,其特征在于,包括:
存储器,存储程序指令;
处理器,与所述存储器相连接,执行存储器中的程序指令,实现权利要求1‑2任一所述方法。