1.一种联邦学习防御方法,其特征在于,所述方法包括:
从联邦学习的各参与方获取局部模型参数,根据所述局部模型参数构建攻击模型参数,根据所述局部模型参数及所述攻击模型参数得到训练数据集,包括:从所述各参与方获取的m组局部模型参数中随机选取c组局部模型参数W1 ,W2 ,...,Wc,对所述c组局部模型参数进行随机扰动处理后得到c组攻击模型参数,将所述c组攻击模型参数作为负类样本,并将所述m组局部模型参数作为正类样本,得到c+m的训练数据集;
利用所述训练数据集训练预构建的判别器,得到攻击判别器;
利用所述攻击判别器接受所述各参与方的待检测局部模型参数,利用所述攻击判别器对所述待检测局部模型参数进行判断,若判断为攻击模型参数,则丢弃该局部模型参数,若判断为善意模型参数,则保留该局部模型参数,得到善意局部模型参数;
对所述善意局部模型参数进行聚合运算,得到全局模型参数,并将所述全局模型参数发送给所述各参与方。
2.如权利要求1所述的联邦学习防御方法,其特征在于,所述随机扰动的方式为:对选取的第 组所述局部模型参数的第 个参数通过均值 ,方差 的绝对值的 的高斯分布进行随机扰动。
3.如权利要求1所述的联邦学习防御方法,其特征在于,所述利用所述训练数据集训练预构建的判别器,得到攻击判别器,包括:利用所述预构建的判别器中的神经网络计算所述训练数据集中每个参数的识别概率;
根据所述识别概率计算所述训练数据集中正类样本的预测概率;
根据所述预测概率计算损失值,直至所述损失值小于预设阈值,得到所述攻击判别器。
4.如权利要求3所述的联邦学习防御方法,其特征在于,在所述利用所述训练数据集训练预构建的判别器,得到攻击判别器之后,还包括:根据从所述各参与方获取的T次局部模型参数构建得到验证数据集;
利用所述验证数据集对所述攻击判别器进行性能评估。
5.如权利要求1所述的联邦学习防御方法,其特征在于,所述若判断为善意模型参数,则保留该局部模型参数,得到善意局部模型参数,包括:对从联邦学习的各参与方获取的局部模型参数进行预测,得到所述局部模型参数为善意模型参数的预测概率;
在所述预测概率大于等于预设阈值时,保留所述局部模型参数,得到所述善意局部模型参数。
6.如权利要求1所述的联邦学习防御方法,其特征在于,所述对所述善意局部模型参数进行聚合运算,得到全局模型参数,并将所述全局模型参数发送给所述各参与方,包括:利用预设的聚合规则,采用下述公式对所述善意局部模型进行聚合,得到全局模型:其中, 为聚合规则,为攻击判别器, 为第 个善意局部模型参数,为所述善意局部模型参数的数量, 为所述全局模型;
将所述全局模型的参数发送给各参与方。
7.一种联邦学习防御装置,其特征在于,所述装置包括:
训练集构建模块,用于从联邦学习的各参与方获取局部模型参数,根据所述局部模型参数构建攻击模型参数,根据所述局部模型参数及所述攻击模型参数得到训练数据集,包括:从所述各参与方获取的m组局部模型参数中随机选取c组局部模型参数W1 ,W2 ,...,Wc,对所述c组局部模型参数进行随机扰动处理后得到c组攻击模型参数,将所述c组攻击模型参数作为负类样本,并将所述m组局部模型参数作为正类样本,得到c+m的训练数据集;
判别器训练模块,用于利用所述训练数据集训练预构建的判别器,得到攻击判别器;
模型判断模块,用于利用所述攻击判别器接受所述各参与方的待检测局部模型参数,利用所述攻击判别器对所述待检测局部模型参数进行判断,若判断为攻击模型参数,则丢弃该局部模型参数,若判断为善意模型参数,则保留该局部模型参数,得到善意局部模型参数;
联邦学习模块,用于对所述善意局部模型参数进行聚合运算,得到全局模型参数,并将所述全局模型参数发送给所述各参与方。
8.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序指令,所述计算机程序指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至6中任意一项所述的联邦学习防御方法。
9.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被电子设备的处理器执行时实现如权利要求1至6中任意一项所述的联邦学习防御方法。