1.基于视觉传感器采集光流特征的精神疾病识别系统,其特征在于:包括依次连接的精神疾病专家问诊视频数据预处理模块、面部应激单元提取模块、光流变化特征单元构建模块、分类模型构建模块、患者的精神疾病类别识别模块,精神疾病专家问诊视频数据预处理模块将患者面部图片馈送到面部应激单元提取模块,面部应激单元提取模块将光流计算方法和患者面部图片序列馈送到光流变化特征单元构建模块,光流变化特征单元构建模块将光流变化特征单元分别馈送到分类模型构建模块和患者的精神疾病类别识别模块,分类模型构建模块将分类模型馈送到患者的精神疾病类别识别模块:精神疾病专家问诊视频数据预处理模块,具体包括:
(1.1)整理使用视觉传感器采集而来的精神疾病专家的问诊视频,通过HOG特征描述算子从问诊视频中按每帧提取出患者的面部图片;
(1.2)使用仿射变化对患者的面部图片进行对齐,并统一患者面部图片的大小为128×
128像素;
(1.3)通过OpenFace工具箱对患者的面部图片进行清洗,定义置信度为0.98,置信度低于0.98的患者面部图片删除处理,保留置信度大于等于0.98的患者面部图片;
步骤2)、面部应激单元提取模块,具体包括:
(2.1)选取患者面部图片中无表情变化的面部图片作为参照帧;
(2.2)计算每一帧患者面部图片和参照帧的光流,光流的水平分量和垂直分量通过TV‑L1光流方法来计算;
(2.3)对每一帧患者面部图片求解出的光流进一步处理,从而求出光学应变,光学应变的定义如(2‑1)所示;其中,中∈xx和∈yy为正切应变分量,∈xy和∈yx为剪切应变分量,∈为光学应变;
(2.4)对患者面部图片定义三块矩形的ROI区域,分别为左眼左眉区域、右眼右眉区域和嘴部区域;使用面部标志点区分这三块区域,并将其截取出来,截取时在每个区域的四个方向都扩展12个像素,保证信息不丢失;
(2.5)将左眼左眉区域大小调整为27×27像素,右眼右眉区域的大小调整为27×27像素,嘴部区域调整为27×52像素;
(2.6)将左眼左眉区域、右眼右眉区域和嘴部区域按照面部拓扑结构关系拼接在一起,得到大小为54×54的兴趣区域图;
(2.7)对照兴趣区域图的位置关系,从原始的患者面部图片中求取对应区域的光学应变;
(2.8)按照(2.7)中的方法,计算出每一帧患者面部图片兴趣区域的光学应变;
(2.9)统计每一帧的光学应变,得到一个光学应变集合,通过Savitzky‑Golay滤波进行去噪,使用孤立森林算法进行离群值检测;
(2.10)对(2.9)中得到的光学应变集合进行峰值检测,统计所有峰值的持续时间,得到峰值时间的集合;
(2.11)对(2.10)中得到的峰值时间集合进行K‑Means聚类,得到一个聚类中心,作为划分患者面部图片的单元长度;
(2.12)按照(2.11)中得到的单元长度对患者面部图片进行划分,得到多个指定长度的患者面部图片序列,作为训练集;
步骤3)、光流变化特征单元构建模块,具体包括:
(3.1)使用(2.2)中的光流计算方法对(2.12)中得到的患者面部图片序列进行处理,得到患者面部图片序列所对应的多个光流,将光流的水平分量、垂直分量和光学应变三个矩阵进行堆叠,得到一张54×54×3大小的光流特征图;
(3.2)对(3.1)中得到的光流特征图使用HSV色彩空间进行归一化,然后以每秒16帧的规格将其拼接成一段视频,即为一个光流变化特征单元;
(3.3)对(3.2)节中得到的光流变化特征单元,使用伪标签函数生成对应的标签,伪标签函数如公式(3‑1)所示;
g(label)=label (3‑1)分类模型构建模块,具体包括:
(4.1)基于时序位移模块构建分类模型,模型的输入为(3.3)中的光流变化特征单元,将输入的光流变化特征单元分割成16个大小相等的片段,使用PyAV作为解码器;
(4.2)将(4.1)中采样得到的16个片段送入光流提取头进行特征提取,光流提取头对输入的图片进行分流提取特征,进行一次卷积和一次最大池化,以保持每组特征的独立性,然后拼接高维度的特征,再进行一次最大池化,输出到时序位移模块之中;
(4.3)时序位移模块在时间通道上进行位移,整合输入片段的时间维度特征和空间维度特征,进行训练学习,保存分类模型;
患者的精神疾病类别识别模块,具体包括:
(5.1)选择要诊断的患者问诊视频进行切割,划分为8秒一段的视频,将视频按照(3.1)和(3.2)中的方法转化为光流变化特征单元;
(5.2)加载步骤4中保存的分类模型,输入(5.1)中得到的光流变化特征单元,得到多个光流变化特征单元模型输出分值;
(5.3)对(5.2)中得到的多个光流变化特征单元的分值进行聚合,得到整体分值;
(5.4)根据(5.3)中得到的整体分值,输出患者的精神疾病类别。