1.一种基于联邦学习的个性化交通标志判别方法,其特征在于,包括如下步骤:步骤1、在服务器设置预训练的初始化模型参数,将初始化模型参数发送至各个客户端;
步骤2、在各个客户端接收来自服务器端的初始化模型参数,利用初始化模型参数搭建模型,基于联邦学习算法对模型进行优化;
步骤2具体包括如下步骤:
步骤2.1、使用LeNet5卷积神经网络搭建模型;
步骤2.2、初始化LeNet5卷积神经网络模型的架构、设置损失函数和超参数,选择个性化联邦学习算法作为优化器,学习率设为0.005;
所述个性化联邦学习算法的目标是得到一个最小化损失的模型,其数学形式如公式(1)和(2):(1)
(2)
其中,其中 表示服务器模型的损失, 是客户端本地的损失函数,在服务器模型中,N是客户端数量, 是当前客户端的数据量的大小,服务器根据各个客户端的数据量比例进行模型聚合,在客户端本地,在其计算损失函数时加入一项修正项 ,其具体描述见公式(3):(3)
修正项通过迭代记录以往的梯度信息来保证模型更新时不会偏离于初始值;其中为当前客户端的当前梯度信息, 为当前客户端的上一轮的梯度信息, 为以往的批次信息;
步骤3、获取个性化交通标志图片,并在各个客户端对个性化交通标志图片进行预处理;
步骤4、以预处理后的个性化交通标志图片作为输入,以图片类别作为输出,在客户端训练模型,基于客户端算力等级动态校准项设定计算轮次,在计算时加入修正项,利用梯度信息更新修正项,获得本地模型参数;
步骤5、服务器聚合各个客户端的本地模型参数后发至各个客户端;
步骤6、各个客户端接收到服务器聚合后的本地模型参数,将其加载进本地模型;
步骤7、根据梯度信息与修正项更新本地模型参数并判断训练是否达到预计目标或最大轮数,若没有,则返回步骤4继续训练模型,直到达到迭代次数输出模型,获得训练后的模型,并应用训练后的模型判别个性化交通标志。
2.根据权利要求1所述的一种基于联邦学习的个性化交通标志判别方法,其特征在于,所述超参数设置具体为:将本地批量大小设为32,本地迭代最大次数为20,本地模型松弛度为0.1,全局迭代次数为10,客户端数量为100,客户端采样比0.2。
3.根据权利要求1所述的一种基于联邦学习的个性化交通标志判别方法,其特征在于,步骤3具体包括如下步骤:步骤3.1、客户端对大小不同的交通标志的图片宽高缩放至64×64,然后对64×64大小的图片从中心裁剪至大小为32×32,最终保证所有的图片大小均是32×32;
步骤3.2、客户端对图片进行标准归一化处理,标准归一化如公式(4)所示:(4)
其中,将输入样本数据减去均值数据,并将结果除以标准差以获得标准归一化后的结果;
逐通道的对图像进行标准归一化,使得均值变为0,标准差变为1,使图片的每个元素在[‑1,1]范围内。
4.根据权利要求1所述的一种基于联邦学习的个性化交通标志判别方法,其特征在于,步骤3中,所述个性化交通标志图片是通过BelgiumTS和GTSRB数据集中采集获得。
5.根据权利要求1所述的一种基于联邦学习的个性化交通标志判别方法,其特征在于,步骤4具体包括如下步骤:步骤4.1、将各个客户端根据其本地算力大小分为四个等级,一次设有l0‑‑‑l3四个算力等级,其算力大小依次减弱,客户端根据算力等级动态调整其本地迭代次数,最大不超过
20次;然后各个客户端接收一个来自服务器的模型,在本地进行预训练,利用训练结果初始化修正项;
步骤4.2、遵循FedAvg的算法步骤,首先本地循环训练时,会通过算力等级l来设置本地训练最大轮数,在客户端本地达到预期结果或最大轮数时,会自动结束训练;在每轮训练中,首先随机抽取样本并计算样本梯度信息,在拥有梯度信息后会对梯度进行信息裁剪,并利用梯度信息更新修正项;
步骤4.3、客户端发送本地模型参数给服务器。
6.根据权利要求1所述的一种基于联邦学习的个性化交通标志判别方法,其特征在于,步骤5中服务器聚合各个客户端的本地模型参数,聚合方式如公式(1):(1)
其中, 是各个客户端持有的数据集总数,为所有客户端持有的数据集的总和,为当前参与模型聚合的客户端总数,聚合后再下发至下轮参与训练的客户端。