利索能及
我要发布
收藏
专利号: 2024111042603
申请人: 南京信息工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-04
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于异构和长尾数据的联邦学习方法,其特征在于,包括,在每一个迭代训练轮次中:客户端从服务器端接收全局模型和重训练模型,以及获取异构和长尾数据集;其中,异构和长尾数据集为图像数据集的子集合;

客户端基于所述异构和长尾数据集,采用特征表示学习方法对所述全局模型进行本地训练,得到本地模型,以及利用所述重训练模型提取所述异构和长尾数据集的真实特征,并计算出所述真实特征的梯度;

客户端将所述本地模型和所述真实特征的梯度发送到服务器端;

服务器端对来源于多个客户端的所述本地模型和所述真实特征的梯度分别进行聚合,得到聚合后的全局模型以及类C的聚合特征梯度,其中,类C表示所有客户端的异构和长尾数据集中的任意一类;

服务器端构建类C的虚拟特征,根据所述类C的虚拟特征计算虚拟特征梯度,采用梯度匹配损失监督法获取所述类C的聚合特征梯度和虚拟特征梯度之间的差异,根据特征梯度之间的差异选择一个最优的虚拟特征梯度,根据所述最优的虚拟特征梯度获得对应的最新虚拟特征;其中,基于类C的聚合特征梯度和虚拟特征梯度的差值,采用梯度匹配损失监督构建最小损失函数;通过所述最小损失函数调整模型参数,使得所述类C的聚合特征梯度和虚拟特征梯度的差异最小;根据梯度的最小差异,获得最优的虚拟特征梯度;所述最小损失函数的计算表达式,包括:;

其中, 表示基于模型 的最小损失函数; 表示使用全

局模型权重 和输入 x 的模型输出; 表示全局模型权重;x表示原始输入数据;y 是真实标签; 表示监督对比损失函数; 表示对增强后的输入数据 x' 的模型输出; 表示第一次数据增强后的输入数据;表示对增强后的输入数据 x'' 的模型输出; 表示第二次数据增强后的输入数据; 表示交叉熵损失函数;

表示模型的预测结果;表示平衡因子;r表示轮数;表示准确率;C表示全局模型的分类器; 表示客户端k的本地模型的分类器; 表示一个依赖于轮数 r 和准确率 a 的动态调整的平衡因子; 表示全局模型的分类器C与局部模型的分类器 之间的距离;

服务器端利用所述最新虚拟特征重新训练所述聚合后的全局模型中的分类器,得到更新的重训练模型;服务器端将所述聚合后的全局模型和更新的重训练模型发送至客户端,完成当前迭代轮次的训练;

当达到预设的迭代轮次,得到联邦学习训练完成的模型。

2.根据权利要求1所述的基于异构和长尾数据的联邦学习方法,其特征在于,所述客户端从服务器端接收全局模型之后,将所述全局模型分为特征提取器和分类器,将其中的分类器更新为本地模型的分类器,并对本地模型进行训练。

3.根据权利要求2所述的基于异构和长尾数据的联邦学习方法,其特征在于,所述计算出所述真实特征的梯度,包括:客户端利用所述特征提取器提取出所述异构和长尾数据集中的真实特征;

从服务器端接收到的重训练模型中的分类器计算出所述真实特征的梯度。

4.根据权利要求3所述的基于异构和长尾数据的联邦学习方法,其特征在于,所述真实特征的梯度的计算表达式,包括:;

其中, 表示客户端k为类C生成的真实特征的梯度; 表示客户端k中c类的数量;

表示对变量 的梯度; 表示预测标签与真实标签的损失; 表示真

实特征梯度 在分类器 下的预测标签; 表示第i个数据的真实标签; 表示客户端k为类C生成的真实特征;i表示第i个数据。

5.根据权利要求1所述的基于异构和长尾数据的联邦学习方法,其特征在于,对来源于多个客户端的所述本地模型和所述真实特征的梯度分别进行聚合,得到全局模型,计算表达式,包括:;

其中, 表示所有本地模型聚合后生成的全局模型; 表示第t轮被选择的客户端的集合; 表示客户端k的数据量; 表示更新后的客户端k的本地模型;k表示客户端;

所述得到类C的聚合特征梯度的表达式,包括:

其中, 表示类C的聚合特征梯度; 表示包含类C的客户端集合; 表示客户端k为类C生成的真实特征的梯度。

6.根据权利要求1所述的基于异构和长尾数据的联邦学习方法,其特征在于,根据所述类C的虚拟特征计算虚拟特征梯度,表达式为:;

其中, 表示虚拟特征梯度;n表示每个类的虚拟特征的数量; 表示

预测标签与虚拟标签的损失; 表示虚拟特征梯度 在重训练分类器 下的预测标签; 表示客户端k为类C生成的虚拟特征的梯度; 表示第i个数据的真实标签。

7.根据权利要求1所述的基于异构和长尾数据的联邦学习方法,其特征在于,所述服务器端利用所述最新虚拟特征重新训练所述全局模型中的分类器,表达式为:;

其中, 表示重训练后的重训练模型中的分类器;表示全局模型中的分类器;表示学习率; 表示利用重训练的分类器与虚拟特征计算出的损失; 表示第i个虚拟特征; 表示第i个数据的真实标签。

8.一种基于异构和长尾数据的联邦学习系统,其特征在于,包括客户端和服务器端,客户端包括获取模块、本地训练模块、发送模块,服务器端包括聚合模块、虚拟特征选取模块、重训练模块,获取模块,用于接收全局模型和重训练模型,以及获取异构和长尾数据集;其中,异构和长尾数据集为图像数据集的子集合;

本地训练模块,用于基于所述异构和长尾数据集,采用特征表示学习方法对所述全局模型进行本地训练,得到本地模型,以及利用所述重训练模型提取所述异构和长尾数据集的真实特征,并计算出所述真实特征的梯度;

发送模块,用于从服务器端将所述本地模型和所述真实特征的梯度发送到服务器端;

聚合模块,用于对来源于多个客户端的所述本地模型和所述真实特征的梯度分别进行聚合,得到全局模型以及类C的聚合特征梯度,其中,类C表示所有客户端的异构和长尾数据集中的任意一类;

虚拟特征选取模块,用于构建类C的虚拟特征,根据所述类C的虚拟特征计算虚拟特征梯度,采用梯度匹配损失监督法获取所述类C的聚合特征梯度和虚拟特征梯度之间的差异,根据特征梯度之间的差异选择一个最优的虚拟特征梯度,根据所述最优的虚拟特征梯度获得对应的最新虚拟特征;服务器端构建类C的虚拟特征,根据所述类C的虚拟特征计算虚拟特征梯度,采用梯度匹配损失监督法获取所述类C的聚合特征梯度和虚拟特征梯度之间的差异,根据特征梯度之间的差异选择一个最优的虚拟特征梯度,根据所述最优的虚拟特征梯度获得对应的最新虚拟特征;其中,基于类C的聚合特征梯度和虚拟特征梯度的差值,采用梯度匹配损失监督构建最小损失函数;通过所述最小损失函数调整模型参数,使得所述类C的聚合特征梯度和虚拟特征梯度的差异最小;根据梯度的最小差异,获得最优的虚拟特征梯度;所述最小损失函数的计算表达式,包括:;

其中, 表示基于模型 的最小损失函数; 表示使用全

局模型权重 和输入 x 的模型输出; 表示全局模型权重;x表示原始输入数据;y 是真实标签; 表示监督对比损失函数; 表示对增强后的输入数据 x' 的模型输出; 表示第一次数据增强后的输入数据;表示对增强后的输入数据 x'' 的模型输出; 表示第二次数据增强后的输入数据; 表示交叉熵损失函数;

表示模型的预测结果;表示平衡因子;r表示轮数;表示准确率;C表示全局模型的分类器; 表示客户端k的本地模型的分类器; 表示一个依赖于轮数 r 和准确率 a 的动态调整的平衡因子; 表示全局模型的分类器C与局部模型的分类器 之间的距离;

重训练模块,用于利用所述最新虚拟特征重新训练所述聚合后的全局模型中的分类器,得到更新的重训练模型,并将所述聚合后的全局模型和更新的重训练模型发送至客户端,完成当前迭代轮次的训练。