利索能及
我要发布
收藏
专利号: 2024101473576
申请人: 山东科技大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-10-27
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于时空嵌入注意力网络的交通流量预测方法,其特征在于,包括如下步骤:步骤1、从公开网站上获取现有交通流量数据集,对现有交通流量数据集进行滑动窗口采样,得到用于训练的历史交通流量数据、时间信息、空间信息和未来交通流量标签数据;

步骤2、根据设定的时间周期长度和传感器节点分别构建时间和空间的位置编码矩阵;

步骤3、使用空间位置编码矩阵计算传感器节点间的余弦相似度,得到空间掩码矩阵;

步骤4、使用时间和空间的位置编码矩阵、空间掩码矩阵构建基于时空嵌入注意力网络的交通流量预测模型,并对交通流量预测模型进行训练;

步骤5、采集前一个时间段的交通流量数据,输入训练完成的交通流量预测模型,对未来一个时间段的交通流量数据进行预测;

所述步骤1中,将历史交通流量数据视作一个时空序列

其中,N表示传感器节点的数量;Th表示历史数据的时间点总数,对应历史交通流量的输入长度;x1,1表示第一个传感器节点的历史数据在第一个时间点的交通流量;

表示第一个传感器节点的历史数据在第Th个时间点的交通流量;xN,1表示第N个传感器节点的历史数据在第一个时间点的交通流量; 表示第N个传感器节点的历史数据在第Th个时间点的交通流量;

将时间信息定义为Xt∈(1,T),由周几XDiW、时间点XTiD、是否为节假日XifH和每天的时间切片数Ttimes构成;其中T=8×Ttimes,T表示设定周期内的时间点总数;时间信息的具体公式如下:Xt=XTiD+(XDiW(1‑XifH)+7×XifH)×Ttimes (1);

将空间信息定义为Xs∈(1,N);

将交通流量预测问题定义为一个时空序列预测问题,使用历史交通流量数据X、时间信息Xt和空间信息Xs,学习一个f(·)映射函数,得到未来时刻的交通流量数据其中Tp表示预测交通流量的输出长度,具体公式如下:所述步骤2的具体过程为:

T F

步骤2.1、在时间上构建一个时间嵌入矩阵Et∈R×,其中F表示嵌入向量的维度;使用时间信息Xt从时间嵌入矩阵中取出对应的时间位置向量对序列中提取的趋势信息进行时间位置编码,进而得到时间位置编码矩阵 时间位置编码过程描述为下列公式:其中, 为设定周期内第T个时间点的时间嵌入向量;

N×F

步骤2.2、在空间上构建一个空间嵌入矩阵Es∈R ,使用空间信息Xs从空间嵌入矩阵中取出对应的空间位置向量对序列提取的趋势信息进行空间位置编码,进而得到空间位置编码矩阵 空间位置编码过程描述为下列公式:其中, 为在第N个传感器节点的空间嵌入向量;

所述步骤3中,空间掩码矩阵Smask的构建过程表示为:

其中,Scos为空间嵌入向量间的余弦相似度矩阵;‑inf为负无穷;threshold为空间掩码矩阵的余弦相似度阈值;余弦相似度矩阵中大于等于阈值的位置掩码赋值为0,小于阈值的位置掩码赋值为负无穷;

所述步骤4中,构建的交通流量预测模型包含多个时间趋势层、一个时空位置编码器和一个空间掩码注意力层;每个时间趋势层包括两个一维时间卷积层和一个残差连接;堆叠多个时间趋势层,底层的时间趋势层提取局部的走势,顶层的时间趋势层则汇总全局的走势;使用处理得到的历史交通流量数据和未来交通流量标签数据训练交通流量预测模型;

所述步骤4中,交通流量预测模型的工作过程为:

步骤4.1、将历史交通流量数据X输入第一个时间趋势层,历史交通流量数据首先经过两个并行的一维卷积层提取特征,随后经过门控单元控制信息的流动,最后使用残差连接来避免梯度消失,整个过程描述为下列公式:其中,Xi表示第i个时间趋势提取层输出的时间趋势信息;⊙表示哈达玛积;tanh(·)表示Tanh激活函数;σ(·)表示Sigmoid激活函数; 分别是两个时间卷积层的权重;

b1、b2分别为两个时间卷积层的偏置;

步骤4.2、使用跳跃连接将不同尺度的时间趋势信息进行融合,得到最终的时间趋势信息,整个过程描述为下列公式:其中,L表示使用的时间趋势提取层的层数,Xtrend表示最终的时间趋势特征;

步骤4.3、堆叠多个时间趋势层得到多个尺度的时间趋势信息;

步骤4.4、通过时空位置编码器将时间位置编码矩阵 空间位置编码矩阵 与最终的时间趋势信息Xtrend级联在一起,对时间趋势信息进行时空位置编码,得到时空位置编码后的时间趋势信息 时空位置编码过程描述为下列公式:其中, 为级联操作,将Xtrend、 和 进行拼接;

步骤4.5、将时空位置编码后的时间趋势信息 输入空间掩码注意力层进行融合,得到融合后的时空特征Xst,融合过程表示为:其中,SoftMax(·)为softmax函数;Wq、Wk和Wv分别为查询、键和值的参数矩阵,dk为Wq的特征维度;

步骤4.6、将Xst经过一个多层感知机进行特征维度变换,得到最终预测结果,即未来时刻的交通流量数据Y,计算公式如下:Y=MLP(Xst) (12);

其中,MLP(·)为多层感知机。