1.一种基于联邦学习的电力数据异常检测方法,其特征在于,包括以下步骤:(1)故障检测数据预处理:建立多维时间序列客户端;数据预处理;构建时间窗口;
(2)基于时域卷积神经网络、自注意力机制,建立本地模型:模型输入初始化;单层融合编码器运算;解码运算;构建模型损失函数;进行异常评分;更新局部模型参数;
(3)服务器端采用联邦学习模型实现联合训练:构建模型损失函数;更新局部模型参数;通过上述的过程更新局部模型参数之后,上传到终端服务器中,进行聚合生成全局模型。
2.根据权利要求1所述的一种基于联邦学习的电力数据异常检测方法,其特征在于,所述步骤(1)具体为:(1.1)建立多维时间序列客户端;
一个多维时间序列是等时间间隔采样多维时间变量形成的长度为T的时间戳序列,X=m(x1,x2,...,xt);时间观测点xt是在时间戳t下获取的多维数据,xt∈R ,t∈{1,2,...,T},m为数据的维度,所述多维数据都从不同层面反映了设备状态信息;在客户端中,给定一个时间序列X,需要给出对应的异常标签序列,至此,多维时间序列异常检测的客户端建立完成;
(1.2)数据预处理;
对于客户端的多维时间序列数据采用最大值最小值标准化,将数据映射到[0,1]之间,标准化函数如下:其中,xt是t时刻的收集到的配电站的相关特征参数,xmax是收集到的样本参数中的最大值,xmin是是收集到的样本参数中的最小值, 是t时刻收集到的配电站的相关特征参数标准化结果,α是为了避免分母为0而设置的一个很小的常向量;
(1.3)构建时间窗口;
考虑到时间观测点xt和历史时间点的依赖关系,构建一个长度为N的时间窗口:wt=(xt‑N+1,xt‑N+2,…,xt) (2)式中,xt是t时刻的收集到的配电站的相关特征参数,xt‑N+1为该时间窗口的起始位置;
为了避免短时序窗口对模型序列正常模式重构的影响,对于t<N的时间观测点xt,由于没有足够的信息判断其异常程度,将其视为正常时间点,将多维时间序列X转化为滑动窗口序列W为模型输入。
3.根据权利要求1所述的一种基于联邦学习的电力数据异常检测方法,其特征在于,所述步骤(2)具体为:(2.1)模型输入初始化;
多层融合编码器的堆积有利于学习到更深层次的潜在时间序列关联性;假定存在L层m的融合编码器,输入长度为N的时间序列窗口w∈R ,对于第l层的计算过程以及模型初始输入用方程形式化如下:式中, 分别为融合编码器的2个输入,表示第l+1层融合编码器的输入,其中l∈{1,2,…,L},dmodel表示特征空间向量的维, 是 经过融合编码器处理后的值,FusionEncoder代表融合编码器,LayerNorm函数代表归一化, 是融合编码器输入解码器前馈网络的值,Convld代表卷积操作,FeedForward代表前馈网络;
(2.2)单层融合编码器运算;
将时间滑动窗口W作为模型的2个相同输入Z1、Z2,此时,对于融合编码器而言分别存在2个输入和2个输出;通过时域卷积神经网络和自注意力机制进行矩阵乘法获取每个时间点相较于其他时间点的注意力权重;由公式(3)得到第l层编码器的输入,进而通过时域卷积网络和自注意力进行信息提取,并通过十字绣单元进行提取特征的信息融合;具体公式如(4)所示:式中,Q、K、V分别代表自注意力计算中的查询、键值以及值,由自注意力模块的输入Z2和
3个线性变换矩阵WQ、WK、WV进行线性变换得到;M代表自注意力矩阵;Softmax函数代表归一化处理,TemporalBlock函数代表时域卷积操作;I1是时域卷积在添加自注意力矩阵信息后的隐层表示,I2是时域卷积在添加自注意力模块处理后的隐层表示,O1和O2是Z1和Z2经过单层融合编码器的结果;γ11、γ12、γ21、γ22为权重参数;
(2.3)解码运算;
解码器由2个解码部分分别对第L层融合编码器最后输出的2个隐层特征进行解码;第1个解码部分为反时域卷积层,通过采用转置卷积替换时域卷积残差块中的膨胀因果卷积实现,第2个解码部分由单层的前馈神经网络层以及函数sigmoid组成;十字绣单元对侧重提取局部数据依赖和侧重提取全局数据关联的2种特征表示进行信息融合;
(2.4)构建模型损失函数;
重构误差损失,模型损失函数为:
α×||w‑C1||+β×||w‑C2|| (5)式中,α和β为超参数,且α+β=1,,C1和C2是解码器的最后输出结果;
(2.5)进行异常评分;
通过公式(5)计算异常评分,评分越高代表该时间点异常的可能性越大;
(2.6)更新局部模型参数;
由公式(5)能够得出第k个参与方的损失函数,进而根据Adam优化器更新各局部模型的模型参数θ,具体如公式(6)所示,公式(7)为参数更新公式;
式中,m为梯度的一阶矩估计即梯度的均值,v为梯度的二阶矩估计即梯度的有偏方差,g为梯度,t表示当前学习的迭代次数, ⊙是一种同位元素相乘的乘法;γ1,γ2∈[0,1)是一组超参数 和 是修正后的梯度的均值和有偏方差;η为学习率;通过上述的过程更新局部模型参数之后,上传到终端服务器中,进行聚合生成全局模型。
4.根据权利要求1所述的一种基于联邦学习的电力数据异常检测方法,其特征在于,所述步骤(3)具体为:(3.1)构建模型损失函数;
重构误差损失,模型损失函数为:
式中,μ和 为超参数,且 在模型测试阶段,通过模型获取输入w的重构表示D1和D2;
(3.2)更新局部模型参数;
由公式(8)能够得出第k个参与方的损失函数,进而根据Adam优化器更新各局部模型的模型参数θ,具体如公式(9)所示;公式(10)为参数更新公式;
式中,m为梯度的一阶矩估计即梯度的均值,v为梯度的二阶矩估计即梯度的有偏方差,g为梯度,t表示当前学习的迭代次数, ⊙是一种同位元素相乘的乘法;γ1,γ2∈[0,1)是一组超参数 和 是修正后的梯度的均值和有偏方差;η为学习率;通过上述的过程更新局部模型参数之后,上传到终端服务器中,进行聚合生成全局模型;
(3.3)通过上述的过程更新局部模型参数之后,上传到终端服务器中,进行聚合生成全局模型;
在可信的服务器端聚合上述步骤中生成的局部模型参数,将局部模型相关层的参数作为特征,通过一个Resnet残差神经网络来提取特征,进而自适应的生成全局模型对应层参数;Resnet的输入层神经元个数与局部模型对应层的神经元个数一致,输出层的神经元个数为U,对应着全局模型相关层神经元个数,局部模型本地训练迭代次数为localep,通信次数为R;局部模型利用本地数据充分训练之后客户端将模型参数上传至终端服务器,当各层的局部模型参数达到一定数量时开始训练Resnet来提取特征从而生成全局模型,即如公式(11)所示:其中ResNet(·)表示ResNet网络; 为全局神经网络参数,l表示层数。
5.一种计算机存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1‑4中任一项所述的一种基于联邦学习的电力数据异常检测方法。
6.一种计算机设备,包括储存器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1‑4中任一项所述的一种基于联邦学习的电力数据异常检测方法。