1.一种基于强化学习的联邦系统偏见中毒防御方法,其特征在于,所述方法包括:服务器调用全局模型,分发给各个客户端,客户端接收中央服务器下发的全局模型,并利用本地数据基于平等机会偏差指标检测全局模型对敏感属性是否有偏见;
若检测全局模型存在偏见,则利用基于强化学习的联邦学习方法进行去偏,得到去偏模型;使用本地数据训练去偏模型,并将训练后的去偏模型上传至中央服务器;
若检测全局模型不存在偏见,则使用本地数据训练全局模型,并将训练后的全局模型上传至中央服务器;
将训练后的全局模型和训练后去偏模型进行聚合,得到新的全局模型,并将新的全局模型下发到客户端;
重复上述步骤,直至基于强化学习的联邦学习结束;
其中,若检测全局模型存在偏见,则利用基于强化学习的联邦学习方法进行去偏,得到去偏模型的过程包括:如果检测到全局模型具有偏见,复制全局模型并使用无偏数据集进行训练,直到全局模型的偏见值降低到小于自定义的平等机会偏差指标阈值,将训练得到的全局模型作为低偏见模型;
查找偏见神经元:将训练得到的低偏见模型输入一批样本中,将一批样本中的数据敏感属性标签翻转,对比神经元在数据敏感属性翻转前后激活值的差异,确定低偏见模型上与敏感属性相关的神经元,即偏见神经元;
参考低偏见模型中的偏见神经元参数,通过马尔可夫决策过程修改全局模型中对应的偏见神经元参数,全局模型的偏见神经元进行微调,直到全局模型的偏见值小于自定义的平等机会偏差指标阈值,得到去偏模型;
其中,偏见值即平等机会偏差指标,计算公式如下:
;
其中, 代表模型预测的结果的概率, 代表模型的真实预测结果, 为样本的敏感属性, 为样本的真实标签;
其中,查找偏见神经元的过程具体为:
查找偏见神经元:将训练得到的低偏见模型输入同一批样本中,其神经元的激活值是相同的,将其中一部分样本中的数据敏感属性标签翻转,即将数据敏感属性标签S=1变化为S=0,由于数据敏感属性标签的更改使得两批样本下神经元的激活值产生差异,其中某些神经元的激活值变化幅度明显大于其他神经元,表现出与敏感属性的强相关性,将激活值变化幅度明显大于其他神经元的神经元作为偏见神经元;
其中,通过马尔可夫决策过程修改偏见神经元的过程中使用Q‑Learning算法,偏见神经元参数的放大或缩小被作为强化学习的动作A,修改后的模型的偏见和模型精度设计奖励R,偏见的增加或减少以及模型精度的增加或减少的四种组合作为状态S搭建强化学习。
2.根据权利要求1所述的基于强化学习的联邦系统偏见中毒防御方法,其特征在于,自定义的平等机会偏差指标阈值设为0.1。
3.一种基于强化学习的联邦系统偏见中毒防御装置,其特征在于,包括一个或多个处理器,用于实现权利要求1‑2中任一项所述的基于强化学习的联邦系统偏见中毒防御方法。
4.一种计算机可读存储介质,其上存储有程序,其特征在于,该程序被处理器执行时,用于实现权利要求1‑2中任一项所述的基于强化学习的联邦系统偏见中毒防御方法。