利索能及
我要发布
收藏
专利号: 2021106525111
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种面向深度学习模型偏见中毒攻击的防御方法,其特征在于,所述方法包括以下步骤:

(1)获取原始数据集,并且标记原始数据集中的敏感属性标签和任务标签,构建原始样本数据集T;

(2)对原始样本数据集T进行分块划分,划分为k个子训练集Pi(i∈1,2,3,…,k),使用散列函数h使样本数据x被分配到子训练集Pi中;

(3)在子训练集Pi上,使用基本分类器对其进行训练;

(4)在深度学习模型训练的推理阶段,逐一评估每个基本分类器的输入,并计算每个基本分类器分类正确的数量;

(5)依据步骤(4)筛选出分类准确度最高的基本分类器,利用该分类器对深度学习模型再次进行训练,最终得到新训练的深度学习模型。

2.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法,其特征在于,步骤(2)中,所述的分配方法为:Pi:={x∈T∣h(x)≡i(modk)}。

3.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法,其特征在于,所述的每个子训练集Pi中包含的样本个体数量相等。

4.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法,其特征在于,步骤(3)中,所述的训练方式为:在每个子训练集上均使用基本分类器进行独立训练,所述的基本分类器只能访问自己所在子训练集的数据的类标。

5.根据权利要求1所述的面向深度学习模型偏见中毒攻击的防御方法,其特征在于,步骤(5)中,筛选方法为:定义新的分类器g(T,x),该分类器用于统计每个基本分类器分类正确的数量nc(x),g(T,x):=argmaxnc(x)。