利索能及
我要发布
收藏
专利号: 2021101195149
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,包括以下步骤:(1)将用于识别任务或分类任务的深度学习模型的每一层看作节点,层与层之间的连接关系看作连边,依此将深度学习模型建模成图网络,其中,所述分类任务包括图像分类任务,语音识别任务以及文本分类任务,当用于图像分类任务时,采用的样本数据为图像,当用于语音识别任务时,采用的样本数据为语音数据,当用于文本分类任务时,采用的样本数据为文本数据;

(2)采用图卷积神经网络提取图网络的嵌入向量;

(3)将图网络每个节点的当前嵌入向量作为强化学习的环境状态,采用强化学习预测基于环境状态采取的动作值,并依据动作值实现模型当前层的修剪,直到模型的每一层修剪完成,实现深度学习模型的一轮压缩;

(4)根据经过一轮压缩后的深度学习模型对用于识别任务或分类任务的样本数据的预测结果计算压缩后深度学习模型的错误率和安全性;

(5)根据压缩后深度学习模型的错误率和安全性计算采用强化学习进行一轮深度学习模型压缩的回报值;

(6)基于回报值,重复步骤(3)~步骤(5),直到迭代终止,实现深度学习模型的压缩。

2.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,步骤(1)中,将深度学习模型建模成图网络时,针对深度学习模型的当前层,将当前层的输入样本维度、卷积核维度、卷积核滑动步长以及计算量,前面所有层减少的计算总量,后面所有层剩余的计算总量,上一层采取的修剪策略组成当前层的特征向量;

当两层之间存在连接关系时,则这两层之间的连边为1,否则为0,依此构建图网络的邻接矩阵。

3.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,步骤(2)中,将节点的特征向量组成的特征矩阵和图网络的邻接矩阵作为图卷积神经网络的输入,采用至少2层图卷积神经网络提取每个节点的嵌入向量,每个节点的嵌入向量与特征向量的维度相同。

4.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,步骤(3)中,依据动作值实现每个节点的嵌入向量的修剪包括:首先,依据动作值确定修改策略,当动作值处于 则采用最大相应选择修剪策略;

当动作值处于 则采用贪婪搜索修剪策略;当动作值处于 则采用根据特征图的损失来选择修剪通道的修剪策略;

然后,依据修剪策略确定修剪的稀疏率,使修剪策略对应的稀疏率为[0,1];

最后,依据采用的修剪策略和对应的稀疏率对当前节点的嵌入向量进行修剪,实现对节点对应的深度学习模型层结构的压缩。

5.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,依据修剪策略确定修剪的稀疏率包括:将修剪策略对应的动作值范围的最小值与计算的动作值之差的3倍作为稀疏率。

6.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,深度学习过程中,采用动作网络预测基于当前环境状态的当前动作值后,采用决策网络基于当前环境状态、当前动作以及下一邻接节点对应的下一环境状态计算决策值,并依据决策值和基线奖励值来构建损失函数来更新决策网络的网络参数,进而更新动作网络的网络参数,用于基于下一环境状态预测下一动作值;

其中,损失函数Loss为:

Q

yi=ri‑b+γQ(si+1,u(si+1)|θ)

Q Q

其中,Q(si,ai|θ)表示参数为θ的决策网络对提取的N个样本中第i个样本的环境状态si和动作值ai的评价值,N表示从经验缓冲区中选取的用于更新决策网络参数的连续转移样本,b表示基线奖励值,是先前回报值的指数移动平均值,ri表示第i个样本中记录的回报Q Q值,为一幕的回报值R除以一幕的步数T,γ表示折扣因子,Q(si+1,u(si+1)|θ)为参数为θ 的决策网络根据第i+1个样本的环境状态si+1和动作依据环境状态si+1产生的动作值u(si+1)的评价值。

7.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,步骤(4)中,计算压缩后深度学习模型的错误率和安全性包括:将用于识别任务或分类任务的样本数据输入至压缩后深度学习模型得到预测结果,依据预测结果确定正确分类的样本数量,并依据正确分类的样本数量和总样本数量的占比计算压缩后深度学习模型的预测准确率,然后再依据预测准确率计算压缩后深度学习模型的错误率;

采用用于识别任务或分类任务的样本数据和压缩后深度学习模型计算的CLEVER分数作为安全性。

8.如权利要求1所述的基于强化学习的深度学习模型安全性保障压缩方法,其特征在于,步骤(5)中,回报值R的计算公式为:R=‑Error·log(FLOPs)+λu

其中,Error表示错误率,FLOPs表示压缩后深度学习模型的计算总量,λ表示超参数,u表示安全性指数。

9.一种基于强化学习的深度学习模型安全性保障压缩装置,包括存储器、处理器以及存储在所述存储器中并可在所述计算机处理器上执行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1~8任一项所述的基于强化学习的深度学习模型安全性保障压缩方法。