利索能及
我要发布
收藏
专利号: 2023103452315
申请人: 南通大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-12-30
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.基于模糊逻辑的跳跃式注意力肺部病理图像分类方法,其特征在于,包括以下步骤:S1:读取肺部病理图像数据集,对图像进行预处理,将RGB图像转化为肺部病理图像集合S=(r1,r2,...,ri,...,rn),其中ri=(R1×256,G1×256,B1×256)表示肺部病理图像数据集像素点的非空有限集合,其中i=1,2,...n,n表示样本总数,(R1×256,G1×256,B1×256)表示每个样本的R,G,B三个通道依次拼接成的一个768维张量,R、G、B分别表示图像的红、绿、蓝颜色通道;

S2:构造区间二型模糊隶属度函数,引入隶属度μik和非隶属度υik以及犹豫指数πvar,ik和πc,ik,其中var表示方差,c是前提参数,采用区间二型直觉隶属函数实现模糊化,对于第i个肺部病理图像输入矩阵和第k个规则,该直觉隶属函数的不确定性足迹用带有犹豫指数的上隶属函数 和带有犹豫指数的下隶属函数μik的有界区间 来描述肺部病理图像的模糊性,同理,非隶属函数的不确定性足迹用区间 来描述肺部病理图像的模糊性;

S3:搭建跳跃式多头自注意力神经网络,跳跃式多头自注意力神经网络有12次循环,首j先将输入的肺部病理图像张量模糊化之后的特征矩阵展开,表示为X ,并且加入二维位置编码Epos,其中pos表示位置,j表示第j个模块,再将得到的肺部病理图像张量依次经过一个j j标准化层LN(X),一个多头自注意力层MSA(LN(X)),在第一到第六次循环中,多头自注意力j j j层采用了普通连接,表示为(X)′=MSA(LN(X))+X ,在第六到第十二次循环中,多头自注意j j j‑6力层采用了跳跃连接,表示为(X )′=MSA(LN(X ))+X ,最后再经过一个标准化层LNj((X)′),一个多层感知机层 得出结果表示为

经过12轮计算,最终提取出进行肺部病理图像分类的特

征:肺部病理图像隶属度函数表示为 肺部病理图像非隶属度函表示为 其中μ表示隶属度,υ表示非隶属度;

S4:模糊推理系统使用加权取平均值的方法将肺部病理图像去模糊化,最终的系统输出结果为每条规则的结果的加权平均,其中权重为规则的归一化触发程度,也即计算期望,对于第j个输出肺部病理图像,计算得到的肺部病理图像隶属输出 和非隶属度输出其中 和 是上隶属度函数循环节点 下隶属度函数循环节点 和上非隶属度函数循环节点 下非隶属度函数循环节点 的权重,M表示规则k的个数,计算公式如下:S5:提取出去模糊化过后的特征矩阵 和 分别取出肺部病理图像矩阵中第一维度上的张量xclass,然后传入多层感知机中,其中的神经元采取了全连接方式,该MLP网络的输入为xclass的维度,输出为肺部病理图像分类的类别数Cnum,在输出时使用了SoftMax函数,该函数将数值向量转换为概率分布,最终得到每种类别的肺部病理图像的概率,取概率最高的为肺部病理图像分类结果。

2.根据权利要求1所述的基于模糊逻辑的跳跃式注意力肺部病理图像分类方法,其特征在于,所述步骤S2的具体步骤如下:步骤S2.1:将肺部病理图像集合S=(r1,r2,...,rn)作为输入,每个节点采用高斯激活函数,引入隶属度μik和非隶属度υik以及犹豫指数πvar,ik和πc,ik,采用区间二型直觉隶属函数实现肺部病理图像模糊化;

步骤S2.2:采用基于近似密度中心递归计算的动态聚类方法选择模糊规则的中心,使得具有均值的不确定性更有利于规则的描述,对于第i个肺部病理图像输入特征和第k个规则,该直觉隶属函数的不确定性足迹用带有犹豫指数的上隶属函数 和带有犹豫指数的下隶属函数μik的有界区间来描述肺部病理图像的模糊性,计算公式如下所示:步骤S2.3:具有肺部病理图像犹豫指标的上下非隶属度函数表示如下所示,其中xi是输入的参数,πvar,ik和πc,ik分别表示方差和中心的肺部病理图像犹豫程度,参数 和 是模糊规则的中心和方差,其中,r表示中心,l表示方差,σik和c是前提参数;

步骤S2.4:第i个输入肺部病理图像特征的输出和第k条规则被表示成一个隶属度区间和一个非隶属度区间步骤S2.5:将第i个输入肺部病理图像特征的隶属度区间拆分为上隶属度 下隶属度μi,同理得上非隶属度 下非隶属度υi,并分别将所有的n个肺部病理图像特征向量重新拼接为模糊化的肺部病理图像特征矩阵。

3.根据权利要求1所述的基于模糊逻辑的跳跃式注意力肺部病理图像分类方法,其特征在于,所述步骤S3的具体步骤如下:步骤S3.1:将肺部病理图像展开成D维,且在张量头部拼接上特殊字符xclass,该字符作为最后MLP层的输出,输出(N+1)×D维张量,同时加入一维的位置编码,得到肺部病理图像Xorig,计算公式如下:其中N表示图块个数,xi表示每一个块所对应的一维张量,其中i=1,...,N,E表示块的嵌入投影变换,Epos表示每一个块的一维位置编码,P表示图块的大小,C表示通道的个数,表示向量空间;

步骤S3.2:采用最大最小标准化对肺部病理图像Xorig进行处理,得到归一化后的数据LN(X),采用计算公式(8)如下:步骤S3.3:在第一到第六次循环中,多头自注意力层采用了普通连接,将归一化后的数据使用多头自注意力算法,计算方法采用公式(8),在第七到第十二次循环中,多头自注意力层采用了跳跃连接,将归一化后的肺部病理图像矩阵使用跳跃式多头自注意力算法,再j‑6将之前的数据项X 跳跃连接至当前MSA函数中,函数计算公式如(10)和(11)所示,j表示当j前循环的次数,采用计算公式(9)如下,其中(X)′表示计算结果;

j j j

(X)′=MSA(LN(X))+X ,j=1,2,...6    (8)

j j j‑6

(X)′=MSA(LN(X))+X ,j=7,8,...,12     (9)步骤S3.4:计算多头自注意力,使用高斯分布随机初始化权重矩阵Q,K,V并用得到的权重矩阵计算输入的多个表示空间,使得输入中包含的不同的语义由不同的表征子空间来学习得出,所用公式如下:其中 是一组随机初始

化的可学习的权重矩阵,被用来对输入序列中的每个位置进行线性变换,Concat()函数将多个head的输出连接起来,每个headi都从不同的角度去关注输入序列中的信息,其中i=

1,...,h,h表示注意力机制的个数,dmodel是超参数,代表了词嵌入空间的维数,dk代表了和输入序列中每个位置的注意力向量的维数,Attention()表示注意力计算结果,MultiHead()表示多头注意力计算结果;

步骤S3.5:构建MLP网络,该网络输入为(N+1)×D维肺部病理图像张量,放大倍率为4,j隐藏层神经元个数为4D,最后再压缩回(N+1)×D维张量,同时再加上之前的数据项(X)′,j(X)″表示计算结果,公式如下:

j j j

(X)″=MLP(LN((X)′))+(X)′      (12)

步骤S3.6:分别对每一张肺部病理图像的上隶属度 下隶属度μi,上非隶属度 下非隶属度υi重复以上步骤,然后将上下隶属度和上下非隶属度合并,最终提取出进行肺部病理图像分类的特征:隶属度函数矩阵表示为 非隶属度函矩阵表示为