1.一种基于Transformer的自适应时空图神经网络交通流预测方法,其特征在于,包括以下步骤:获取历史数据,包括前一个小时交通流量、一天前交通流量和一周前交通流量,将历史数据拼接后得到的交通流特征矩阵以及路网中节点的邻接矩阵作为输入数据;当天交通流量、一天前交通流量和一周前交通流量拼接在一起的数据表示为:r d w
X=concat(X ,X ,X);
N
其中,X为当天交通流量、一天前交通流量和一周前交通流量拼接在一起的数据,X∈R×M r N×M′表示N个节点M个时间片的特征;X∈R 表示交通流量几个小时前N个节点M′个时间片的d N×M′ w N×M′数据;X∈R 表示交通流量一天前N个节点M′个时间片的的周期数据;X∈R 表示交通流量一周前N个节点M′个时间片的周期数据;
根据路网的连通性、邻接矩阵和交通流特征矩阵,提取节点自身的时间相关性、不同节点间之间的时空相关性获得第一交通流特征矩阵,并根据路网结构中的隐藏的空间相关性,获得第二交通流特征矩阵;
第一交通流特征矩阵的获取包括:
考虑路网中节点之间的距离和连通性,将位置信息注入到输入数据的特征中,即:G=(V,E,A);
N×N
其中, 表示空间信息的嵌入矩阵;A∈R 是根据传感器之间的欧氏距离构建2
的路网结构图G的邻接矩阵,σ 为路网结构图G所有节点两点之间的欧氏距离的标准差;V表示N个节点集合,节点为道路卡口部署的检测器;E是节点之间边的集合,N为节点个数;
利用加入交通流时间位置编码和节点间的空间位置编码的Transformer网络获取交通流与节点间的长期依赖关系和动态的时空相关性的特征,即:M S
X′=Conv(concat(X,D ,D));
C×N×M
其中,X′∈R 表示交通流与节点间的长期依赖关系和动态的时空相关性的特征;
Conv()表示卷积操作;concat()表示拼接操作;X表示输入数据;
M N×M×M S M×N×N
D∈R 表示嵌入时间信息的输入数据的特征;D∈R 表示嵌入位置信息的输入数据的特征;C是通道数,N是节点个数,M为输入的节点历史时间片数;
交通流与节点间的长期依赖关系和动态的时空相关性的特征进行并行化处理后,并利用多头注意力机制从中获取交通流动态的时空相关性,即:通过前馈神经网络将输入数据的特征投影到3个高维潜在子空间;
投影的3个潜在子空间分别为query子空间 key子空间 和value子M×C
空间V∈R ,通过三个子空间计算节点间的动态依赖关系,三个子空间表示为:C×C
其中, WV∈R 分别是Q、K、V的权重矩阵, 表示并行化处理后的交通流与节点间的长期依赖关系和动态的时空相关性的特征;M为输入的节点历史时间片数,C是通道数,dk为矩阵K的维度;
采用softmax函数用于对获取交通流动态的时空相关性的特征进行归一化,将每个节点进行归一化后的特征按照空间轴拼接起来形成第一交通流特征矩阵,即:其中, 表示采用softmax函数用于对特征进行归一化后,再更新value子空间V的值,得到的输出;
将第一交通流特征矩阵与第二交通流特征矩阵进行融合,得到最终的交通流特征,将该特征输入预测模型进行预测得到预测结果。
2.根据权利要求1所述的一种基于Transformer的自适应时空图神经网络交通流预测方法,其特征在于,第二交通流特征矩阵由路网结构中所有时间片下节点的隐藏的空间相关性构成,路网结构中单个时间片下节点的隐藏的空间相关性表示为:其中, 表示路网结构中的隐藏的空间相关性;Aadp为自适应邻接矩阵,Aadp=N×b b×Nsigmoid(E1E2),E1∈R 、E2∈R 为随机初始化的可学习参数;k是切比雪夫多项式的阶数,C×Ck=1,2,3,4...K;Wk∈R 为模型公式第k阶的权重矩阵,θk为可学习参数;Tk(L~)为关于拉普拉斯矩阵的切比雪夫多项式,N是节点个数,C是通道数,b为远小于N的正整数;
为时间并行化处理后的特征输入。
3.根据权利要求1所述的一种基于Transformer的自适应时空图神经网络交通流预测方法,其特征在于,将第一交通流特征矩阵与第二交通流特征矩阵进行融合包括:将第一交通流特征矩阵和第二交通流特征矩阵拼接在一起采用权重矩阵进行初步融合,表示为:F Gt
Y=Y WF;
将初步融合的结果,输入softmax激活函数得到门控,表示为:F
RT=softmax(Y);
F
将初步融合结果Y与门控RT做点乘得到,输出最终融合的特征信息Y,表示为:F
Y=Y*RT;
Gt N×M×C
其中,Y 为由第一交通流特征矩阵和第二交通流特征矩阵拼接形成的矩阵;Y∈RF表示最终融合的特征信息,RT为门控,Y 是初步融合结果,*表示点乘,N是节点个数,M为输入的节点历史时间片数,C是通道数;WF为权值矩阵。
4.一种基于Transformer的自适应时空图神经网络交通流预测系统,其特征在于,该系统用于实现权利要求1所述的一种基于Transformer的自适应时空图神经网络交通流预测方法,该系统包括特征表示模块、Transformer模块、GCN模块、Gate模块,其中:特征表示模块,用于根据历史数据得到表征路网空间特征的邻接矩阵和交通流特征矩阵;
Transformer模块,用于根据交通流特征矩阵、邻接矩阵和one‑hot编码矩阵捕获动态空间相关性、时空相关性和时间相关性;
GCN模块,用于根据交通流特征矩阵、邻接矩阵和自适应邻接矩阵捕获显式和隐式的空间相关性;
Gate模块,用于融合Transformer模块和GCN模块提取的交通流特征,后续将融合的交通流特征输入卷积层得到预测结果;
其中当天交通流量、一天前交通流量和一周前交通流量拼接在一起的数据表示为:r d w
X=concat(X ,X ,X);
N
其中,X为当天交通流量、一天前交通流量和一周前交通流量拼接在一起的数据,X∈R×M r N×M′表示N个节点M个时间片的特征;X∈R 表示交通流量几个小时前N个节点M′个时间片的d N×M′ w N×M′数据;X∈R 表示交通流量一天前N个节点M′个时间片的的周期数据;X∈R 表示交通流量一周前N个节点M′个时间片的周期数据;
第一交通流特征矩阵的获取包括:
考虑路网中节点之间的距离和连通性,将位置信息注入到输入数据的特征中,即:G=(V,E,A);
N×N
其中, 表示空间信息的嵌入矩阵;A∈R 是根据传感器之间的欧氏距离构建2
的路网结构图G的邻接矩阵,σ 为路网结构图G所有节点两点之间的欧氏距离的标准差;V表示N个节点集合,节点为道路卡口部署的检测器;E是节点之间边的集合,N为节点个数;
利用加入交通流时间位置编码和节点间的空间位置编码的Transformer网络获取交通流与节点间的长期依赖关系和动态的时空相关性的特征,即:M S
X′=Conv(concat(X,D ,D));
C×N×M
其中,X′∈R 表示交通流与节点间的长期依赖关系和动态的时空相关性的特征;
Conv()表示卷积操作;concat()表示拼接操作;X表示输入数据;
M N×M×M S M×N×N
D∈R 表示嵌入时间信息的输入数据的特征;D∈R 表示嵌入位置信息的输入数据的特征;C是通道数,N是节点个数,M为输入的节点历史时间片数;
交通流与节点间的长期依赖关系和动态的时空相关性的特征进行并行化处理后,并利用多头注意力机制从中获取交通流动态的时空相关性,即:通过前馈神经网络将输入数据的特征投影到3个高维潜在子空间;
投影的3个潜在子空间分别为query子空间 key子空间 和value子M×C
空间V∈R ,通过三个子空间计算节点间的动态依赖关系,三个子空间表示为:C×C
其中, WV∈R 分别是Q、K、V的权重矩阵, 表示并行化处理后的交通流与节点间的长期依赖关系和动态的时空相关性的特征;M为输入的节点历史时间片数,C是通道数,dk为矩阵K的维度;
采用softmax函数用于对获取交通流动态的时空相关性的特征进行归一化,将每个节点进行归一化后的特征按照空间轴拼接起来形成第一交通流特征矩阵,即:其中, 表示采用softmax函数用于对特征进行归一化后,再更新value子空间V的值,得到的输出。