利索能及
我要发布
收藏
专利号: 2024102214846
申请人: 南京信息工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-12-30
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于图神经网络的多变量时序异常检测方法,其特征在于,包括:获取待检测的时序输入数据,将时序输入数据输入至预设的时序异常检测模型获得检测输出序列,基于检测输出序列和时序输入数据计算时序异常分数,通过比较时序异常分数与预设的时序异常判断阈值输出判断结果;

所述时序异常检测模型的构建过程包括:获取样本集合后利用样本集合对时序异常检测模型进行训练,所述时序异常检测模型包括时序重构模块、编码器、解码器;

基于样本集合中单位样本构建图结构G(V,E);将单位样本输入至时域扩张卷积获得时间序列 ;将时间序列 和图结构G(V,E)同时输入至图注意力影响网络,获得融合时间序列 ;

将融合时间序列 输入至编码器输出中间特征 的过程包括:将融合时间序列 输入至编码器,所述编码器依次包括多分支注意力机制、层归一化B1、前馈神经网络和层归一化B2;

将融合时间序列 输入至多分支注意力机制,所述多分支注意力机制包括Vaswani自注意力机制、密集综合注意力机制和动态卷积神经网络;

将融合时间序列 输入至Vaswani自注意力机制获得特征序列 ,表达公式为:;

公式中, 为Vaswani Self Attention机制;WQ表示为权重矩阵,用以将输入序列线性映射至查询矩阵;WK表示为权重矩阵,用以将输入序列线性映射至键矩阵;WV表示为权重矩阵,用以将输入序列线性映射至值矩阵;datt为注意力机制输出序列的特征维度;

将融合时间序列 输入至密集综合注意力机制获得特征序列output2,表达公式为:;

公式中,W1表示为可学习权重矩阵;W2表示为可学习权重矩阵;b1表示为可学习偏差参数;b2表示为可学习偏差参数;

将融合时间序列 输入至动态卷积神经网络获得特征序列output3,表达公式为:预设卷积神经网络 ,利用融合时间序列 对卷积神经网络训练学习注意力权重 ,表达公式为:

其中,AvgPool为平均池化层,FC为全连接层,ReLU为非线性激活函数,Softmax为归一化函数;WAvg表示为可学习权重矩阵;

预设卷积神经网络ConvNet参数 ,将注意力权重 输入至卷积神经网络ConvNet获得特征序列output3,表达公式为:;

将特征序列output1、特征序列output2和特征序列output3进行加权求和获得特征序列output;表达公式为:;

其中, 为可学习权重;

将特征序列output输入至层归一化B1获得时间序列 ,表达公式为:;

将时间序列 输入至前馈神经网络获得时间序列 ,表达公式为:;

将时间序列 输入至层归一化B2获得中间特征 ,表达公式为:;

公式中, 表示为归一化函数; 表示为前馈神经网络;

将融合时间序列 和中间特征 输入至解码器获取训练输出序列,基于训练输出序列计算训练损失值,根据训练损失值对时序异常检测模型的参数进行优化;重复迭代时序异常检测模型的训练过程直至损失值收敛,设定时序异常判断阈值并输出训练后的时序异常检测模型。

2.根据权利要求1所述的多变量时序异常检测方法,其特征在于,基于样本集合中单位样本构建图结构G(V,E)的过程包括:以单位样本 为输入数据,构建节点信息,其中节点 , 表示为可学习

的权重矩阵, 表示为时间序列的单位属性特征表示,T为序列长度,N为特征数;

构建节点 和节点 之间的边信息 ;其中,连接边, ,\为节点编号去除操作;

根据边信息选择每个节点相关性最高的K个连接边,基于节点信息V和边信息E构建图结构G(V, E)。

3.根据权利要求2所述的多变量时序异常检测方法,其特征在于,将单位样本输入至时域扩张卷积获得时间序列 的过程包括:将单位样本x拆分为N组长度为T的一维序列 后输入至时域扩张卷积,其中,对应的卷积核为 ;膨胀因子为df;感受野为 ;k表示为卷积核层数,用以抽象出更深层次的时域特征表示;

最后,在序列位置t、卷积核长度为K、特征通道n上施加空洞卷积操作得到时间序列,定义为 。

4.根据权利要求3所述的多变量时序异常检测方法,其特征在于,将时间序列 和图结构G(V,E)输入至图注意力影响网络获得融合时间序列 的过程包括:对时间序列 按时域维度抽取子序列 后再按属性维度分割成;

计算各连接边的权重 ,其中: 表示为可学习的权重矩阵, 为单层全连接层,基于各连接边的权重 计算注意力系数,表达公式为:;

其中: 为激活函数, 表示矩阵连接, 为权重向量;

表示为目标节点 的邻接节点集合;

根据注意力系数对目标节点 进行更新获得新节点 ,表达公式为:;

其中, 表示多层感知机; 表示为注意力系数;通过时空关系学习获得新节点信息 ;使经过了时域学习后的时间序列 处理为经过了空域关系学习后的时间序列 。

5.根据权利要求1所述的多变量时序异常检测方法,其特征在于,将融合时间序列 和中间特征 输入至解码器获取训练输出序列的过程包括:将融合时间序列 输入至解码器的自注意力机制获得中间特征 ,表达公式为:;

公式中, 为Vaswani Self Attention机制;WQ表示为权重矩阵,用以将输入序列线性映射至查询矩阵;WK表示为权重矩阵,用以将输入序列线性映射至键矩阵;WV表示为权重矩阵,用以将输入序列线性映射至值矩阵;datt为注意力机制输出序列的特征维度;T为序列长度;

将中间特征 输入至解码器的层归一化D1获得中间特征 ,表达公式为:;

将中间特征 和中间特征 输入至解码器的交叉注意力机制获得中间特征,表达公式为:

将中间特征 输入至解码器的层归一化D2获得中间特征 ,表达公式为:;

将中间特征 输入至解码器的前馈神经网络FFN获得训练输出序列,表达公式为:;

公式中, 表示为训练输出序列, 表示为归一化函数;

表示为前馈神经网络。

6.根据权利要求5所述的多变量时序异常检测方法,其特征在于,基于训练输出序列计算训练损失值的过程包括:;

公式中, 表示为训练输出序列中重构信号, 表示为单位样本中输入信号。

7.根据权利要求1所述的多变量时序异常检测方法,其特征在于,基于检测输出序列和时序输入数据计算时序异常分数,通过比较时序异常分数与预设的时序异常判断阈值输出判断结果的过程包括:;

公式中, 表示为时序异常分数; 表示为时序输入数据; 表示为检测输出序列数据, 表示为判断结果;anomal表示为数据异常;nomal表示为数据正常。

8.一种基于图神经网络的多变量时序异常检测系统,其特征在于,包括:检测单元,用于获取待检测的时序输入数据,将时序输入数据输入至预设的时序异常检测模型获得检测输出序列,基于检测输出序列和时序输入数据计算时序异常分数,通过比较时序异常分数与预设的时序异常判断阈值输出判断结果;

获取单元,获取样本集合后利用样本集合对时序异常检测模型进行训练,所述时序异常检测模型包括时序重构模块、编码器、解码器;基于样本集合中单位样本构建图结构G(V,E);将单位样本输入至时域扩张卷积获得时间序列 ;将时间序列 和图结构G(V,E)同时输入至图注意力影响网络,获得融合时间序列 ;

训练单元,用于将融合时间序列 输入至编码器输出中间特征 ;将融合时间序列 和中间特征 输入至解码器获取训练输出序列,基于训练输出序列计算训练损失值,根据训练损失值对时序异常检测模型的参数进行优化;重复迭代时序异常检测模型的训练过程直至损失值收敛,设定时序异常判断阈值并输出训练后的时序异常检测模型;

所述训练单元将融合时间序列 输入至编码器输出中间特征 的过程包括:将融合时间序列 输入至编码器,所述编码器依次包括多分支注意力机制、层归一化B1、前馈神经网络和层归一化B2;

将融合时间序列 输入至多分支注意力机制,所述多分支注意力机制包括Vaswani自注意力机制、密集综合注意力机制和动态卷积神经网络;

将融合时间序列 输入至Vaswani自注意力机制获得特征序列 ,表达公式为:;

公式中, 为Vaswani Self Attention机制;WQ表示为权重矩阵,用以将输入序列线性映射至查询矩阵;WK表示为权重矩阵,用以将输入序列线性映射至键矩阵;WV表示为权重矩阵,用以将输入序列线性映射至值矩阵;datt为注意力机制输出序列的特征维度;

将融合时间序列 输入至密集综合注意力机制获得特征序列output2,表达公式为:;

公式中,W1表示为可学习权重矩阵;W2表示为可学习权重矩阵;b1表示为可学习偏差参数;b2表示为可学习偏差参数;

将融合时间序列 输入至动态卷积神经网络获得特征序列output3,表达公式为:预设卷积神经网络 ,利用融合时间序列 对卷积神经网络训练学习注意力权重 ,表达公式为:

其中,AvgPool为平均池化层,FC为全连接层,ReLU为非线性激活函数,Softmax为归一化函数;WAvg表示为可学习权重矩阵;

预设卷积神经网络ConvNet参数 ,将注意力权重 输入至卷积神经网络ConvNet获得特征序列output3,表达公式为:;

将特征序列output1、特征序列output2和特征序列output3进行加权求和获得特征序列output;表达公式为:;

其中, 为可学习权重;

将特征序列output输入至层归一化B1获得时间序列 ,表达公式为:;

将时间序列 输入至前馈神经网络获得时间序列 ,表达公式为:;

将时间序列 输入至层归一化B2获得中间特征 ,表达公式为:;

公式中, 表示为归一化函数; 表示为前馈神经网络。