利索能及
我要发布
收藏
专利号: 202311104879X
申请人: 南京信息工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,包括以下步骤:采集患者病变部位的医疗图像;

将采集的医疗图像输入预置在本地客户端内的融合了多家医院的医疗数据的本地模型中,输出识别结果;

融合了多家医院的医疗数据的本地模型的构建方法,包括:a、客户端构建本地模型,设置本地模型的超参数和损失函数;

b、客户端将本地模型传输至服务器;

c、服务器获取各个客户端的本地模型,对各个客户端的本地模型进行聚合维护后为每个客户端生成个性化云模型;

d、服务器将个性化云模型传输至对应的各个客户端;

e、客户端获取本地数据及个性化云模型,将个性化云模型作为损失函数的近端项的邻近中心,利用损失函数及本地数据对本地模型进行训练,直至训练次数达到本地迭代次数,得训练好的本地模型,包括:客户端获取个性化云模型;

使用个性化云模型参数作为邻近中心,即用 代替最小损失函数中的近端项 ,对本地模型进行训练,表达式如下:;

其中, 为个性化云模型参数, , 为第 次迭代的本地模型参数,, 表示最小损失函数, 表示最小交叉熵损失函数,为正则化参数, , 为第 次迭代中算法学习率, 为本地模型参数;

重复上述训练过程,直至训练次数达到本地迭代次数,得训练好的本地模型;

还包括客户端对算法学习率进行调整,具体为:客户端对本地图像数据样本进行随机采样,以获取当前算法学习率;

利用采样数据对本地模型连续执行两次步长为当前学习率一半的梯度裁剪和梯度下降,得到两个一半步长的梯度矩阵;

利用采样数据对本地模型进行当前的完整的学习率的梯度裁剪和梯度下降,得到完整步长的梯度矩阵,然后更新本地模型;

评估本地模型的梯度矩阵和两个一半步长的梯度矩阵之间的梯度误差;

根据梯度误差调整算法学习率,表达式如下:;

其中, 为梯度误差, 为梯度误差预值, , ;

f、重复步骤b e,直至训练次数达到全局迭代次数,输出融合了多家医院的医疗数据的~本地模型。

2.根据权利要求1所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,所述本地模型采用深度卷积神经网络,所述深度卷积神经网络采用RELU函数作为激活函数,其由2个卷积层、2个池化层、1个dropout层、3个批处理层和2个全连接层组成,所述卷积层的卷积核大小为5;

所述本地模型的超参数包括本地批量大小、本地迭代次数、全局迭代次数、客户端数量、每轮的客户端选择比例值、全局隐私预算、差分隐私的松弛度、梯度裁剪阈值以及算法学习率。

3.根据权利要求1所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,所述损失函数采用最小损失函数,最小损失函数由交叉熵损失函数和注意力诱导函数组成;

交叉熵损失函数用于判定模型输出的结果与正确的输出值的接近程度;

注意力诱导函数用于反复鼓励相似的客户端进行更多协作来自适应地促进客户之间潜在的成对协作;

所述最小损失函数的表达式为:

其中, 表示最小损失函数, , 为正则化参数, ;

表示交叉熵损失函数, 表示第 个客户端, 为客户端数量,为第 个客户端的损失函数, 为第 个客户端的本地模型参数;

表示注意力诱导函数, 表示负指数函数, 表示第 个客户端, 为第 个客户端的本地模型参数。

4.根据权利要求1所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,服务器获取各个客户端的本地模型,对各个客户端的本地模型进行聚合维护后为每个客户端生成个性化云模型,包括:服务器获取各个客户端的本地模型;

在第 次迭代中,通过梯度下降对本地模型损失函数中的注意力诱导函数 进行优化,得第 次迭代的个性化云模型参数,表达式如下:;

其中, 为第 次迭代的个性化云模型参数, 表示求导, 为第 次迭代的本地模型参数, 为第 次迭代的算法学习率;

对所有客户端的本地模型进行线性组合运算,生成各个客户端的个性化云模型,其表达式如下:;

其中, 为第 次迭代中第 个客户端的个性化云模型参数, 为第 次迭代中第 个客户端的本地模型参数, 为第 次迭代中第 个客户端的本地模型参数,表示 的导数, 为本地模型参数集,为 的线性组合权值;

对生成的个性化云模型进行初始化。

5.根据权利要求1所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,所述本地图像数据需进行标准化处理,所述标准化处理包括:将本地图像数据转化为图像矩阵;

逐通道地对图像矩阵进行标准化,图像矩阵平均值变为0,图像矩阵标准差变为1,使图像矩阵的元素均在[‑1,1]范围内,表达式如下:;

其中,channel为图像矩阵通道数,input[channel]为输入的图像矩阵,mean[channel]为图像矩阵平均值,std[channel]为图像矩阵标准差,output[channel]为输出的图像矩阵。

6.根据权利要求1所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,还包括根据客户端设置的隐私偏好对本地模型进行个性化隐私保护,具体为:获取当前本地模型参数,客户端根据隐私保护等级 ,产生高斯噪声,并添加到本地模型参数中,表达式如下:;

其中, 为添加噪声后的本地模型参数, 为添加噪声前的本地模型参数, 为灵敏度,取值为 , 为相邻数据集训练的未添加噪声的本地模型参数, 为常数,取值范围为 。

7.根据权利要求6所述的基于差分隐私的学习率自适应医疗图像识别方法,其特征在于,所述隐私保护等级 包括三个,其分别表示为 ,隐私保护等级 由客户端设置的隐私偏好决定。