利索能及
我要发布
收藏
专利号: 2022106060405
申请人: 中国矿业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-10-22
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于自适应注意力与时空关联的面部动作单元识别方法,其特征在于:包括如下步骤:

S01:从视频中抽取训练所需要的原始连续图像帧组成训练数据集;

S02:对原始连续图像帧进行预处理,获得扩增图像帧序列;

S03:构建卷积神经网络模块I提取扩增图像帧序列中各帧的分层多尺度区域特征;

S04:利用步骤S03提取的分层多尺度区域特征,构建卷积神经网络模块II进行AU的全局注意力图回归并提取AU特征,并通过AU检测损失对卷积神经网络模块II进行监督;AU表示面部动作单元;

S05:利用步骤S04提取的AU特征,构建自适应时空图卷积神经网络模块III,推理每个AU的特定模式、不同AU之间的时空关联性,从而学习每个AU的时空关联特征;

S06:利用步骤S05提取的各AU的时空关联特征,构建一个全连接模块IV实现AU识别;

S07:使用训练数据集对由卷积神经网络模块I、卷积神经网络模块II、自适应时空图卷积神经网络模块III和全连接模块IV构成的整体AU识别网络模型进行训练,以基于梯度的优化方法对整体AU识别网络模型的参数进行更新;

S08:将给定任意帧数的视频序列输入到训练完成的整体AU识别网络模型,预测AU的出现概率。

2.根据权利要求1所述的基于自适应注意力与时空关联的面部动作单元识别方法,其特征在于:所述步骤S03中,采用卷积神经网络模块I来学习不同尺度下每个局部块的特征,卷积神经网络模块I包括两层结构相同的分层多尺度区域层,卷积神经网络模块I的输入作为第一层分层多尺度区域层的输入,第一层分层多尺度区域层的输出经过最大池化运算后作为第二层分层多尺度区域层的输入,第二层分层多尺度区域层的输出经过最大池化运算后作为卷积神经网络模块I的输出;卷积神经网络模块I的输出即为扩增图像帧序列的分层多尺度区域特征;

每层分层多尺度区域层均包括卷积层I‑I、卷积层I‑II‑I、卷积层I‑II‑II和卷积层I‑II‑III,在卷积层I‑I内,对输入整体进行一次卷积,将卷积结果作为卷积层I‑I的输出;将卷积层I‑I的输出作为卷积层I‑II‑I的输入,在卷积层I‑II‑I内,先将输入均匀划分为8×8尺度的局部块分别进行卷积,再对所有卷积结果进行拼接形成卷积层I‑II‑I的输出;将卷积层I‑II‑I的输出作为卷积层I‑II‑II的输入,在卷积层I‑II‑II内,先将输入均匀划分为4×4尺度的局部块分别进行卷积,再对所有卷积结果进行拼接形成卷积层I‑II‑II的输出;

将卷积层I‑II‑II的输出作为卷积层I‑II‑III的输入,在卷积层I‑II‑III内,先将输入均匀划分为2×2尺度的局部块分别进行卷积,再对所有卷积结果进行拼接形成卷积层I‑II‑III的输出;对卷积层I‑II‑I、卷积层I‑II‑II和卷积层I‑II‑III的输出进行通道级串联后与卷积层I‑I的输出进行加和,结果作为分层多尺度区域层的输出。

3.根据权利要求1所述的基于自适应注意力与时空关联的面部动作单元识别方法,其特征在于:所述步骤S04中,采用卷积神经网络模块II预测各AU的全局注意力图和AU的出现概率,AU的全局注意力图在AU检测损失的监督下自适应回归到预定义的注意力图,同时提取AU特征;AU检测损失采用的损失函数为:其中:La表示全局注意力图回归的损失函数, 表示AU识别的加权交叉熵损失函数,LAA表示卷积神经网络模块I和卷积神经网络模块II整体的总损失函数;λa表示全局注意力图回归损失的权重;t表示扩增图像帧序列的长度;m表示每帧图像中AU的个数;l/4×l/4表示全局注意力图的大小;Mijab表示第i帧图像的第j个AU在坐标位置(a,b)处的真实注意力权值;Mijab表示第i帧图像的第j个AU在坐标位置(a,b)处的预测注意力权值;pij表示第i帧图像的第j个AU出现的真实概率; 表示第i帧图像的第j个AU出现的预测概率;ωj表示第j个AU的权重;vj表示第j个AU出现时的权重。

4.根据权利要求1所述的基于自适应注意力与时空关联的面部动作单元识别方法,其特征在于:所述步骤S05中,采用自适应时空图卷积神经网络模块III提取每个AU的特定模式和不同AU之间的时空关联性,从而学习每个AU的时空关联特征;自适应时空图卷积神经网络模块III的输入为步骤S04提取的所有t帧图像的所有AU特征,每帧图像包含m个AU特征,共t×m个AU特征,每个AU特征的维数为c',c'=12c,c是与整体AU识别网络模型相关的设定参数;自适应时空图卷积神经网络模块III包含两层结构相同的时空图卷积层,两层时空图卷积层的参数各自独立学习,每层时空图卷积层均由空间图卷积和门控循环单元结合构成,时空卷积层的定义为:其中: 表示T时刻的输入,hT表示T时刻的最终隐藏状态, 表示T时刻的初始隐藏状态;zT用于决定T时刻需要保留的hT‑1的数量,rT用于决定T时刻 与hT‑1的组合方式;

表示单位矩阵,m是每帧图像中AU的个数; 表示自适应学习针对AU关

T e

系图的矩阵,U表示U的转置; 表示自适应学习的解离矩阵,c 是为Q设定的列数;

和 分别表示自适应学习针对zT、rT和 的权重矩

阵,c'表示AU特征的维数,c'=12c,c是与整体AU识别网络模型相关的设定参数;

R(X)表示对二维矩阵X中每一索引位置处的元素进行去负数处理,去负数处理后,二维矩阵X中(a,b)索引位置处的元素Xab更新为Xab=max(0,Xab);

N(X)表示对二维矩阵X中每一索引位置处的元素进行归一化处理,归一化处理后,二维矩阵X中(a,b)索引位置处的元素Xab更新为Z=X⊙Y表示对二维矩阵X和三维矩阵Y进行函数运算得到二维矩阵Z,二维矩阵Z中(a,b)索引位置处的元素 Xak表示二维矩阵X中(a,k)索引位置处的元素,Yakb表示三维矩阵Y中(a,k,b)索引位置处的元素;

“★”表示元素级相乘,C(·)表示拼接操作,σ(·)表示Sigmoid函数,tanh(·)表示双曲正切激活函数。

5.根据权利要求1所述的基于自适应注意力与时空关联的面部动作单元识别方法,其特征在于:所述步骤S06中,采用一个全连接模块IV对每帧图像的AU进行识别,对步骤S05输出的t帧图像包含的所有AU的时空关联特征 将其中包含第i帧图像的第j个AU的时空关联特征 输入到全连接模块IV,全连接模块IV对 采用第j个一维

全连接层后紧跟一个Sigmoid激活函数的方式,预测第i帧图像的第j个AU的最终出现概率,全连接模块IV对不同帧图像的同一个AU采用相同的全连接层;AU识别采用的损失函数为:其中: 表示AU识别的损失函数;t表示扩增图像帧序列的长度;pij表示第i帧图像的第j个AU出现的真实概率; 表示第i帧图像的第j个AU出现的最终预测概率;ωj表示第j个AU的权重;vj表示第j个AU出现时的权重。

6.一种用于实现1~5所述的任一基于自适应注意力与时空关联的面部动作单元识别装置,其特征在于:包括图像帧序列获取单元、分层多尺度区域学习单元、自适应注意力回归与特征提取单元、自适应时空图卷积学习单元、AU识别单元和参数优化单元;

所述图像帧序列获取单元,用于从视频数据中抽取训练所需要的原始连续图像组成训练数据集,并对原始连续图像帧进行预处理,获得扩增图像帧序列;

所述分层多尺度区域学习单元,包括卷积神经网络模块I,采用分层多尺度区域层来学习每帧输入图像不同尺度下每个局部块的特征,并对每个局部块进行独立滤波;

所述自适应注意力回归与特征提取单元,包括卷积神经网络模块II,用于生成图像的全局注意力图,并在预定义的注意力图与AU检测损失的监督下进行自适应回归,同时精确地提取AU特征。

所述自适应时空图卷积学习单元,包括自适应时空图卷积神经网络模块III,进行每个AU的特定模式学习、不同AU间的时空关联性学习,并提取每个AU的时空关联特征;

所述AU识别单元,包括全连接模块IV,利用每个AU的时空关联特征,可以有效地进行AU识别;

所述参数优化单元,计算由卷积神经网络模块I、卷积神经网络模块II、自适应时空图卷积神经网络模块III和全连接模块IV构成的整体AU识别网络模型的参数和损失函数值,并基于梯度优化方法对参数进行更新。