1.一种基于模型融合的化工过程故障诊断方法,其特征在于:通过对原始的transform模型进行改进优化,并与膨胀卷积网络结合,加强模型特征提取的效果;对故障数据使用正交位置编码获取位置信息,将获得的位置编码信息与原始故障数据融合,提高模型对故障诊断的精度;化工故障诊断方法的具体步骤包括:步骤1:获取化工历史时序数据,并将其作为训练样本集和测试样本集;
步骤2:对于获取的化工历史时序数据进行正交位置编码操作,获取数据的位置编码信息;通过如下公式构造对称矩阵:|i‑j|
D=[dij]=r i,j=1,2,…,l3 0
计算矩阵D的特征向量并将其表示为:
最后,位置编码通过如下公式来设计:
其中u是化工时序数据中每一个变量的位置,一般为正整数; 是计算得到的特征向量,由特征向量v1,u到 组成的p(u)就是最后获得的位置编码;将获得的位置编码信息与原始化工数据融合,得到可用于模型训练的数据;
步骤3:构建神经网络模型并进行模型训练,神经网络模型结构包括transformer block模块和膨胀卷积模块两个部分;
步骤3.1:构建transformer block块;每个block块中包括多头自注意力机制、层归一化层和前馈层,前馈层使用卷积层代替全连接层,层与层之间引入稠密连接增强模型的特征复用能力;
步骤3.2:利用transformer block块对步骤2得到的可用于模型训练的数据进行特征提取;
步骤3.3:构建膨胀卷积网络模型来提取原始化工时序数据的数据特征,膨胀卷积网络模型包括膨胀卷积层、池化层、全局池化层、和批量归一化层;
步骤3.4:利用膨胀卷积网络模型对步骤2得到的可用于模型训练的数据进行特征提取;
步骤4:使用Concat函数将transformer block块和膨胀卷积网络模型提取到的特征进行融合;
步骤5:在训练过程中采用Adam梯度优化器优化网络使其损失函数的总体损失最小,损失函数采用交叉熵损失函数,公式如下:式中,y为输出实际值,为输出预测值;
步骤6:使用softmax函数进行最后故障的分类。
2.根据权利要求1所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:步骤1所述的训练样本集用于建立本方法的故障诊断模型,测试样本集用于验证本方法的诊断精度。
3.根据权利要求1所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:步骤2中所述的对角矩阵,其中的对角元素为特征值λi,i=1,2,…,l3, 是正交矩阵,正交矩阵中的列 是特征值λi对应的特征向量。
4.根据权利要求1所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:步骤3.2所述的利用transformer block块对步骤2得到的可用于模型训练的数据进行特征提取,其具体的方式为:将可用于模型训练的数据输入到多头自注意力机制进行特征提取,多头自注意力机制由自注意力机制构成,自注意力机制通过下式进行计算:T
式中,Q为query向量,K为key向量,V为value向量,K为K向量的转置, 为缩放因子;
通过下式计算多个自注意力机制组成的多头自注意力机制:0
MultiHead(Q,K,V)=Concat(head1,…,headH)W式中,Q为query向量,K为key向量,V为value向量,h eadH为第H个自注意力机制的结果,0
W为权重矩阵, 为query权重矩阵, 为key权重矩阵, 为value权重矩阵,Concat为特征拼接函数;
可用于模型训练的数据经过多头自注意机制进行特征提取后进入层归一化层,对数据进行归一化操作;然后数据进入前馈层。
5.根据权利要求1或4所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:所述的前馈层使用两层卷积神经网络对数据特征进行进一步的提取;层与层之间使用稠密连接增强模型的特征复用能力。
6.根据权利要求1所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:步骤3.4所述的利用膨胀卷积网络模型对步骤2得到的可用于模型训练的数据进行特征提取,其具体的方式为:可用于模型训练的数据进入膨胀卷积层提取数据的特征信息,膨胀卷积通过下式计算:其中,x为输入的时序数据,f为卷积滤波器,为膨胀系数为d的卷积运算符号,k为卷积核大小,s‑d·i为卷积计算进行的方向;
通过使用膨胀卷积扩大感受野,捕获非相邻数据的相关性特征;其次捕获多尺度信息,在膨胀卷积中,设置膨胀系数,当设置不同膨胀系数时,具有不同的感受野,能获取对应数据的多尺度信息;
在经过膨胀卷积层提取特征后,数据特征进入批量归一化层,即为BN层,通过BN层的使用减少协变量偏移,加快网络训练的收敛速度,提高网络泛化能力;
使用Relu函数进行非线性变换,公式如下:
g(x)=max(0,x)
式中,x为输入的时序数据;
然后对数据进行下采样,使用最大池化操作,其运算可描述为:式中, 为池化后第i个特征图中第j个神经元的输出值, 为第l层第i个特征图中第t个神经元的输入值,w为池化核的宽度。
7.根据权利要求1或6所述的一种基于模型融合的化工过程故障诊断方法,其特征在于:所述膨胀卷积网络模型的最后一层使用全局池化层,改变数据的维度。