利索能及
我要发布
收藏
专利号: 2024111060565
申请人: 成都信息工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-11-13
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,包括以下步骤:S1、基于EEG采集设备采集目标脑电活动的原始数据,并对原始数据进行预处理,得到处理后的脑电信号;

S2、对处理后的脑电信号进行两次二维卷积操作,并在时间维度上对两次二维卷积操作后的脑电信号进行基于卷积的滑动窗口处理,得到多个窄时间序列;

S3、结合自适应多尺度时间卷积网络和时间注意力机制,提取多个窄时间序列中的时间特征;

S4、将提取的时间特征输入多层感知机分类层,得到EEG数据时间分支的脑认知任务的分类结果;

S5、基于fNIRS采集设备采集目标大脑组织近红外光强变化量,并对该近红外光强变化量进行处理,得到处理后的氧合血红蛋白浓度变化量和脱氧血红蛋白浓度变化量;

S6、采用等距方位角投影将处理后的氧合血红蛋白浓度变化量和脱氧血红蛋白浓度变化量从一维时间序列转化为三维空间张量,并通过池化操作在时间维度上对三维空间张量进行降维;

S7、结合深度空间卷积和空间注意机制提取降维后三维空间张量中的关键空间特征;

S8、将提取的关键空间特征输入多层感知机分类层,得到fNIRS空间分支的脑认知任务的分类结果;

S9、采用决策融合策略融合EEG数据时间分支的脑认知任务的分类结果和fNIRS空间分支的脑认知任务的分类结果,得到目标脑认知任务分类结果。

2.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S1具体包括以下分步骤:S11、采用EEG采集设备持续监测目标脑电活动的变化量,采集得到目标脑电活动的原始数据EEG;

S12、对原始数据EEG进行滤波、第一次分段、基线校正和第二次分段处理,得到处理后的脑电信号 。

3.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S2具体包括以下分步骤:S21、对处理后的脑电信号 进行第一次二维卷积操作:其中, 为脑电信号 中第 个元素的卷积结果; 为脑电信号中的元素; 为卷积核的第 个元素;A为第一次二维卷积操作中的卷积核的第一维度的长度大小; 分别为第一次卷积操作中的卷积核的行索引和列索引; 分别为当前信号行索引和列索引;

S22、对脑电信号 中第 个元素的卷积结果 进行第二次二维卷积操作:

其中, 为 中第 个元素的卷积结果; 为卷积核的第个元素; 分别为第二次二维卷积操作中的卷积核的行索引和列索引; 分别为第二次二维卷积操作中的卷积核的第一维度和第二维度的大小;

S23、在时间维度上对卷积操作后的卷积结果进行基于卷积的滑动窗口处理:其中, 为结束时间点; 为 的原始时间序列数据长度; 为窄时间序列的数量; 为一个窄时间序列的起始时间点; 为一个窄时间序列的长度;将 的原始时间序列数据截获为 ,以获得多个窄时间序列 。

4.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S3具体包括以下分步骤:S31、计算S个试次的窄时间序列 的时变功率的潜伏期:其中, 为第S个试次的时变功率,tm为时间索引,pw为频率索引;

为第 个窄时间序列; 为汉宁窗函数;为窄样本序列的索引;

为用于傅里叶变换的复指数项;

S32、选择S个试次中潜伏期的最小值、众数值和最大值作为三组TCN块的核尺度;

S33、将每个窄时间序列 分别输入到三组核尺度不同的TCN块中,输出不同尺度的EEG时间特征;

S34、将不同尺度的EEG时间特征输入到TA块,自适应地获取TA块中每个通道的全局时间信息,输出三组精炼后的EEG时间特征:其中, 为第 组TA块的输出结果; 为第 组TCN块的输出结果;

为全局平均池化函数; 为一维卷积网络;为Sigmoid激活函数;

S35、将输出的三组精炼后的EEG时间特征进行拼接:其中, 为三组TA块的拼接结果; 为矩阵连接操作; 、、 分别为第1、2、3组TA块的输出结果;

S36、将多个窄时间序列 对应输出的多个精炼后的EEG时间特征进行拼接:其中, 为 个窄时间序列输出的拼接结果; 为第 个窄时间序列经过时间注意力的输出,为窄时间序列的数量。

5.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S5具体包括以下分步骤:S51、采用fNIRS采集设备持续测量目标大脑组织吸收或散射的近红外光强变化量;

S52、采用修正的比尔朗伯定律将近红外光强变化量转化为氧合血红蛋白浓度变化量和脱氧血红蛋白浓度变化量:其中, 和 分别为氧合血红蛋白浓度和脱氧血红蛋白浓度;∆HbO和∆HbR分别为氧合血红蛋白浓度变化量和脱氧血红蛋白浓度变化量; 为差分路径长度因子;为光源与探测器之间的距离; 和 为不同的光照波长; 和 分别为HbO和HbR两个发色团的消光系数, 和 分别表示 和 的光密度的变化;

S53、对氧合血红蛋白浓度变化量和脱氧血红蛋白浓度变化量进行滤波、第一次分段、基线校正和第二次分段操作,分别得到处理后的氧合血红蛋白浓度变化量 和处理后的脱氧血红蛋白浓度变化量 。

6.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S6具体包括以下分步骤:S61、选择处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 的所有光源与探测器之间的路径的中心点作为参考点;

其中, 为参考点; , , 分别表示参考点的x,y,z坐标; ,, 分别表示处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 的第 个通道的x,y,z坐标; 表示fNIRS采集设备通道的数量;

S62、计算处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 的任意通道与参考点之间的欧氏距离 :S63、计算处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 每个通道在二维坐标上的位置:其中, , 分别为第 个通道在x和y坐标上的位置; 为余弦函数;

为反正切函数; 为正弦函数; 为圆周率;

S64、计算处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 的每个通道在 的二维空间矩阵上的位置:其中, , 分别为第 个通道在二维空间矩阵上的列和行的位置; 表示映射的二维矩阵大小, 表示最小值函数, 表示最大值函数;

S65、按照时间维度的大小,将处理后的氧合血红蛋白浓度变化量 或处理后的脱氧血红蛋白浓度变化量 的二维空间矩阵分别堆叠为三维空间张量 和;

S66、将三维空间张量 和 通过时间池化块在时间维度上进行降维,分别得到降维后的三维空间张量 和 。

7.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S7具体包括以下分步骤:S71、将降维后的三维空间张量 和 堆叠在一起,得到融合特征 ;

S72、将融合特征 按时间维度的大小将其分为M个分支,记第 个分支的融合特征为 ;

S73、将每个分支的融合分支 输入深度空间卷积网络中,输出得到空间特征 :

其中, 为第 个分支的融合特征中深度空间卷积网络的输出结果;,, 为融合特征第一、二、三个维度的位置索引; 为深度空间卷积网络中的卷积核的大小,、、 分别为深度空间卷积网络中的卷积核的第一、二、三个维度的长度;

为深度空间卷积网络中的卷积核的第 个元素;

S74、将空间特征 输入到空间注意力块,得到关键空间特征 。

8.根据权利要求7所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S74具体包括以下分步骤:S741、将深度空间卷积网络的输出结果输入到通道注意力模块中,得到基于通道分配的权重特征 :其中,为Sigmoid激活函数;MLP为多层感知机;MaxPool为最大池化;AvgPool为平均池化; 为深度空间卷积网络的输出结果;

S742、将权重特征 输入到空间注意力模块中,得到基于空间分配的权重特征 :其中,基于空间分配的权重特征 即为关键空间特征; 为二维卷积网络,为基于卷积通道的最大池化和平均池化的拼接映射。

9.根据权利要求1所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S4和S8中的多层感知机分类层的分类结果表示为:其中, 为多层感知机分类层输出的独立分支的脑认知任务的分类概率,即为EEG时间分支或fNIRS空间分支的分类概率; 为权重矩阵;为偏置; 为经过处理后的特征输出,即为 个窄时间序列输出的拼接结果 或关键空间特征 ;

为归一化指数函数。

10.根据权利要求9所述的基于自适应时空卷积注意力网络的双模态信号融合方法,其特征在于,所述S9中采用决策融合策略融合EEG数据时间分支的脑认知任务的分类结果和fNIRS空间分支的脑认知任务的分类结果,得到目标脑认知任务分类结果,包括:其中, 为融合并行双分支的脑认知任务分类概率;N为模态分支数量; 为不同模态分支的权重。