1.一种基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,包括:步骤1,中心服务器将预训练后的主故障检测模型作为初始模型与训练任务分派至各个智能电网区域的客户端;
步骤2,各客户端根据所述训练任务对采集的本地数据进行粗粒度打标后进行特征提取,得到全局提示池并上传至所述中心服务器,包括:各客户端将所述本地数据进行打标,得到带粗粒度提示的本地数据;
在各客户端中预置预训练后的Vision Transformer模型作为基础模型,并为各客户端构建初始化全局提示池;
将带粗粒度提示的本地数据输入所述基础模型进行特征提取,得到嵌入特征,并通过所述基础模型计算带粗粒度提示的本地数据中每个数据的输入键;
计算所述初始化全局提示池中每个提示的键与每个输入键的相似度;
选择相似度大于预设阈值的多个提示的索引,并将与索引对应的提示和所述嵌入特征进行拼接,得到拼接后的嵌入特征;
利用拼接后的嵌入特征对所述基础模型进行分类训练,得到全局提示池并上传至所述中心服务器;
步骤3,所述中心服务器选择任意一个客户端上传的全局提示池作为学生池,利用所述学生池对所有全局提示池进行知识蒸馏,得到聚合后的全局提示池并分发至各客户端;
步骤4,各客户端根据聚合后的全局提示池对实时采集的本地数据进行相似度判定,得到判定结果,并将实时采集的本地数据输入所述初始模型,根据本地智能电网区域的特征和所述判定结果对所述初始模型进行训练,得到本地模型;
步骤5,各客户端将所述本地模型的模型参数输入所述中心服务器进行聚合,得到全局模型参数,并利用所述全局模型参数对所述初始模型的模型参数进行更新,得到用于对目标智能电网进行故障检测的全局故障检测模型;
步骤6,所述中心服务器将所述全局故障检测模型的模型参数分派至各个智能电网区域的客户端,对各客户端的本地模型进行优化后作为初始模型,并返回执行步骤2,直至当各客户端停止收集新数据时停止训练。
2.根据权利要求1所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,选择相似度大于预设阈值的多个提示的表达式为:其中, 表示选择的提示集合, 表示距离函数,用于计算相似度,距离越小,相似度越大, 表示数据 的输入键, 表示第 个提示的键,表示选择的数量。
3.根据权利要求2所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,各客户端根据聚合后的全局提示池对实时采集的本地数据进行相似度判定,得到判定结果,包括:各客户端计算当前次输入的本地数据的特征与前一次输入的本地数据的特征之间的相似度值,相似度值的计算表达式为:;
其中, 表示相似度值, 表示当前次输入的本地数据的特征, 表示前一次输入的本地数据的特征;
设定相似度阈值,当相似度值大于或等于相似度阈值时,判定结果为当前次输入的本地数据与前一次输入的本地数据重复;
当相似度值小于相似度阈值时,判定结果为当前次输入的本地数据为非重复数据。
4.根据权利要求3所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,各客户端将所述本地模型的模型参数输入所述中心服务器进行聚合之前,还包括:在各客户端为所述本地模型的模型参数添加高斯噪声,得到带噪的模型参数,并将带噪的模型参数输入所述中心服务器。
5.根据权利要求4所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,中心服务器在上传的模型参数中选择多个相似的模型参数进行知识聚合。
6.根据权利要求5所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,所述中心服务器进行知识聚合的损失函数为:其中, 表示预测值与真实标签之间的交叉熵损失, 表示散度函数, 表示中心服务器的预测值, 表示第 个客户端的预测值, 、 表示中心服务器的超参数,表示KL 散度, 、 分别表示第 个客户端和中心服务器的预测概率。
7.根据权利要求6所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,对各客户端的本地模型进行优化的损失函数为:其中, 、 表示客户端的超参数。
8.根据权利要求7所述的基于联邦学习的智能电网故障检测模型训练优化方法,其特征在于,所述模型参数包括:模型权重、偏置、训练过程中的关键指标。