利索能及
我要发布
收藏
专利号: 2020114630007
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种联邦学习的模型中毒攻击检测方法,其特征在于,所述方法包括:接收参与联邦学习的至少一个终端设备发送的终端设备侧模型的模型参数;

根据各所述终端设备侧模型的模型参数进行聚合处理,得到服务器侧的聚合模型;

对所述聚合模型进行反演,得到所述聚合模型的反演数据集,包括:使用预设的第一目标函数,对聚合模型进行反演,得到聚合模型的反演数据集,其中,采用的预设的第一目标函数,如下:t+1

其中,f为服务器端的聚合模型G 被分类为τ的概率;

根据所述聚合模型的反演数据集生成中毒补丁;

根据所述中毒补丁,确定所述聚合模型是否是正常模型。

2.根据权利要求1所述的方法,所述根据所述聚合模型的反演数据集生成中毒补丁,包括:根据所述聚合模型的反演数据集,以及所述聚合模型中的受损神经元生成中毒补丁。

3.根据权利要求2所述的方法,所述根据所述聚合模型的反演数据集,以及所述聚合模型中的受损神经元生成中毒补丁之前,还包括:采用预设的第二目标函数,得到所述聚合模型中的受损神经元;其中,所述受损神经元在特定的输入下会被异常激活。

4.根据权利要求1‑3中任一所述的方法,所述根据各所述终端设备侧模型的模型参数进行聚合处理,得到服务器侧的聚合模型,包括:采用预设的模型聚合函数,对各所述终端设备侧模型的模型参数进行聚合处理,得到服务器侧的聚合模型。

5.根据权利要求1‑3中任一所述的方法,所述根据所述中毒补丁,确定所述聚合模型是否是正常模型,包括:确定所述中毒补丁的补丁评价指标值;

根据所述补丁评价指标值,确定所述聚合模型是否是正常模型。

6.根据权利要求5所述的方法,所述根据所述补丁评价指标值,确定所述聚合模型是否是正常模型,包括:若所述补丁评价指标值小于预设阈值,则确定所述聚合模型是正常模型。

7.根据权利要求5所述的方法,其特征在于,所述根据所述补丁评价指标值,确定所述聚合模型是否是正常模型,包括:若所述补丁评价指标值大于或等于预设阈值,则确定所述聚合模型是中毒模型。

8.一种联邦学习的模型中毒攻击检测装置,其特征在于,所述装置包括:接收模块、聚合模块、反演模块、生成模块及确定模块;

所述接收模块,用于接收参与联邦学习的至少一个终端设备发送的终端设备侧模型的模型参数;

所述聚合模块,用于根据各所述终端设备侧模型的模型参数进行聚合处理,得到服务器侧的聚合模型;

所述反演模块,用于对所述聚合模型进行反演,得到所述聚合模型的反演数据集,包括:使用预设的第一目标函数,对聚合模型进行反演,得到聚合模型的反演数据集,其中,采用的预设的第一目标函数,如下:t+1

其中,f为服务器端的聚合模型G 被分类为τ的概率;

所述生成模块,用于根据所述聚合模型的反演数据集生成中毒补丁;

所述确定模块,用于根据所述中毒补丁,确定所述聚合模型是否是正常模型。

9.一种电子设备,其特征在于,包括:处理器、存储介质和总线,所述存储介质存储有所述处理器可执行的机器可读指令,当所述电子设备运行时,所述处理器与所述存储介质之间通过总线通信,所述处理器执行所述机器可读指令,以执行如权利要求1‑7任一所述方法的步骤。