1.一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,方法包括以下步骤:采集日志序列,对日志序列进行解析,将解析后的日志序列输入预先建立的BERT模型内,得到有语义信息和位置信息的日志序列特征编码;
将带有语义信息和位置信息的日志序列特征编码输入预先建立的基于变种
Transformer的日志异常检测模型中进行训练,得到未来可能出现的日志序列,使用得到的日志序列进行精准预测,得到检测结果。
2.根据权利要求1所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,所述BERT模型使用BERT BASE版本1进行设计,Transformer Encoder的block为12个,隐藏层大小为768,自注意力的头数为12,总的参数大小为110M。
3.根据权利要求2所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,所述BERT模型如下:BERTBASE(L=12,H=768,A=12,TotalParam=110M)。
4.根据权利要求1所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,所述日志序列通过token分词技术得到分词后的文本序列;再为文本序列的开头添加特殊标记[CLS],[CLS]表示文本序列的结果标记,能够放在开头或尾部,不同句子间用标记[SEP]分隔。
5.根据权利要求4所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,所述日志序列的每个词的输出Embedding由三部分组成,包括:Token Embedding、Segment Embedding和Position Embedding。
6.根据权利要求5所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,将含有三种Embedding的序列向量输入到BERT网络中进行特征提取,最后输出得到含有丰富语义特征的序列向量,不同词之间的关联程度来决定权重矩阵来对词进行表征:式中,Q,K,V是词向量矩阵, 是词嵌入的维度。
7.根据权利要求6所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,将多个不同的线性变化在Q,K,V进行投影,最后将不同头的注意力输出结构进行Concat拼接,公式如下所示:O
MultiHead(Q,K,V)=Concat(head1,...,headn)WQ K V
headi=Attention(QWi ,KWi ,VWi)
式中,W为权重矩阵。
8.根据权利要求1所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,所述异常检测模型使用10个时间步的日志序列特征编码作为输入,来预测未来5个时间步的日志序列输出。
9.根据权利要求8所述的一种融合BERT特征编码与变种Transformer的日志异常检测方法,其特征在于,将10个时间步的日志编码序列输入模型的Encoder中,并在输入之前与位置编码进行累加,使用额外的位置编码反映元素的位置,使用Sin和Cos函数编码位置信息,其中pos表示相关位置,j是编码维度,dmodel表示向量的长度,如果pos位置为偶数使用公式(4)中第一个,若为奇数选择第二个;
然后在编码过程中,进入注意力层进行向量的注意力操作,首先将输入维度分成两份,其中一份会经过一个1×1的卷积,另外一份会经过正常的自注意力层,然后将输出进行拼接得到检测结果,编码操作完成,然后在解码操作中加入mask操作,解码的注意力层与编码注意力层相同。
10.一种融合BERT特征编码与变种Transformer的日志异常检测系统,其特征在于,包括:日志编码模块:用于接收日志序列,对日志序列进行解析,将解析后的日志序列输入预先建立的BERT模型内,得到有语义信息和位置信息的日志序列特征编码;
预测模块:用于将带有语义信息和位置信息的日志序列特征编码输入预先建立的基于变种Transformer的日志异常检测模型中进行训练,得到未来可能出现的日志序列,使用得到的日志序列进行精准预测,得到检测结果。