1.一种基于自编码器的垂直联邦学习防御方法,其特征在于,包括以下步骤:步骤1,终端利用本地数据对边缘模型进行训练,训练过程中,同时聚合边缘模型内每层相邻节点的嵌入特征;
步骤2,终端构建并训练包含编码器和解码器的自编码器,获得编码器参数和解码器参数,同时利用编码器对嵌入特征进行编码得到编码信息;
步骤3,终端上传解码器参数至服务端,服务端依据解码器参数构建解码模型后,与终端进行消息验证后,终端上传编码信息至服务端;
步骤4,服务端利用解码模型对接收的编码信息解码获得解码信息后,聚合所有解码信息得到嵌入信息后,利用嵌入信息对全局模型进行训练,训练后反馈梯度信息至各终端,以使各终端对依据反馈的梯度信息对边缘模型再训练;
其中,所述自编码器采用全连接网络,其中,对嵌入特征的编码过程和解码过程为:hi=f(xi)=Sf(Wxi+B1)
yi=g(hi)=Sg(Wahi+B2)
其中,W和B1分别表示编码器的权重参数和偏置参数,Wa和B2分别表示解码器的权重参T数和偏置参数,Wa=W,xi表示输入的第i个嵌入特征,hi表示编码信息,yi表示解码信息,Sf(·)和Sg(·)均表示激活函数,f(·)表示经过编码器的编码信息,g(·)表示经过解码器的解码信息;
所述自编码器的训练过程中,采用以下损失函数:
其中,xi为编码器的输入的第i个嵌入特征,E‖·‖表示能量,W表示编码器参数, 表示L2范数,λ表示正则化强度项,S表示保证每个嵌入特征通过编码器生成尽可能相似的编码信息的目标函数,Ei和Ej分别表示第i个嵌入特征的编码向量和第j个嵌入特征的编码向量,β表示控制系数惩罚项的权重,ρ为抑制参数, 表示所有输入特征在隐含层神经元j上的平均激活值,aj(xi)表示输入嵌入特征xi在隐含层神经元j上的激活值,m表示嵌入特征总数,h表示隐含层神经元个数,KL(·)表示KL散度,
2.如权利要求1所述的基于自编码器的垂直联邦学习防御方法,其特征在于,服务端与终端的消息验证过程为:服务端依据解码器参数构建解码模型后,向终端发送第一响应信息,终端接收到第一响应信息后,再向服务端上传编码信息,服务端接收到编码信息后反馈第二响应信息至终端。
3.如权利要求1所述的基于自编码器的垂直联邦学习防御方法,其特征在于,服务端与终端的消息验证过程中,当终端未收到第一响应信息时,以固定间隔上传唤醒信息以唤醒服务端接收状态。
4.如权利要求1所述的基于自编码器的垂直联邦学习防御方法,其特征在于,采用两种方式聚合所有解码信息得到嵌入信息:方式一,采用拼接的方式拼接所有解码信息得到嵌入信息;
方式二,对所有解码信息进行加权求和以获得嵌入信息。
5.如权利要求1所述的基于自编码器的垂直联邦学习防御方法,其特征在于,利用嵌入信息对全局模型进行训练时,采用嵌入信息的标签值与预测置信度的交叉熵为损失函数,依据该损失函数来优化全局模型参数。
6.如权利要求1所述的基于自编码器的垂直联邦学习防御方法,其特征在于,所述边缘模型采用图卷积神经网络,所述全局模型采用多层感知机。