利索能及
我要发布
收藏
专利号: 2023108514233
申请人: 华侨大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-10-14
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于时空注意力网络的交通流量预测方法,其特征在于,包括以下步骤:获取历史交通流量数据和路网结构数据,分别对所述历史交通流量数据和路网结构数据进行处理,得到处理后的历史交通流量数据和邻接矩阵;

基于所述处理后的历史交通流量数据得到交通流量时间序列;

构建时空注意力网络并训练,得到交通流量预测模型,所述时空注意力网络包括GRU层、空间特征提取层、时间自注意力模块和输出层;

将所述交通流量时间序列和所述邻接矩阵输入所述交通流量预测模型,所述交通流量时间序列输入所述GRU层,得到输出特征,所述输出特征和所述邻接矩阵输入所述空间特征提取层,得到空间特征,所述空间特征提取层包括GAT层和空间自注意力模块,将所述输出特征输入GAT层,通过下式计算出注意力系数:;

其中,表示两个向量的拼接操作,、 为待训练参数,表示所述输出特征中目标节点i的特征, 和 分别为所述输出特征中目标节点i的临近节点的特征;

将所述输出特征中某个时间步的第i个节点的空间特征进行更新,得到静态空间特征:;

其中,表示激活函数;

将所述邻接矩阵和所述输出特征输入所述空间自注意力模块,所述空间自注意力模块包括以下步骤:初始化一个线性层 ;

将邻接矩阵 输入到所述线性层 ,得到 ;

对 进行维度扩增与变换,得到空间位置编码,其中, ,代表batch 大小;代表训练所用的 个时间步; 传感器数量;代表编码后的特征维度;

将 与所述输出特征加和,得到包含token位置信息的第一输入数据 ;

将包含token位置信息的第一输入数据 输入改进的多头注意力机制层,在改进的多头注意力机制层中,所述第一输入数据 利用前馈神经网络投影到高维潜在子空间,映射公式如下所示:;

;

;

其中,  、 、 分别为 向量、 向量、 向量的权重矩阵;

对所有token对应的 向量进行采样,采样个数的计算公式为:;

其中,为预先设置的超参数;为token序列的长度;

计算第 个token对应的 向量的评价得分,公式如下所示:;

将评价得分最高的 个 向量设为Active Query,其余均为Lazy Query,其中,公式如下所示:;

计算Active Query的自注意力运算结果,公式如下所示:;

其中, 为 向量的特征维度;

计算Lazy Query的自注意力运算结果,公式如下表示:;

其中, 为 向量的长度;

最后,将Active Query和Lazy Query的自注意力运算结果经一系列残差连接、正则化及前馈神经网络处理后,得到动态空间特征;

将所述静态空间特征和动态空间特征经门控机制融合,得到空间特征;

具体包括:静态空间特征 与动态空间特征 线性映射 后再经过激活函数得到门,计算公式如下所示:;

采用下式计算所述空间特征:

;所述空间特征输入所述时间自注意力模块,得到时空特征,所述时空特征输入所述输出层,预测得到交通流量数据。

2.根据权利要求1所述的基于时空注意力网络的交通流量预测方法,其特征在于,所述分别对所述历史交通流量数据和路网结构数据进行处理,得到处理后的历史交通流量数据和邻接矩阵,具体包括:采用Z‑Score标准化对所述历史交通流量数据进行处理,得到处理后的历史交通流量数据;

基于改进的高斯核函数对路网结构数据 进行处理,得到邻接矩阵 ,计算公式如下:;

其中, 表示邻接矩阵 中的 元素, 表示路网结构数据 中的 元素, 表示路网结构数据 中所有非零元素对应的标准差。

3.根据权利要求1所述的基于时空注意力网络的交通流量预测方法,其特征在于,所述基于所述处理后的历史交通流量数据得到交通流量时间序列,具体包括:根据所述处理后的历史交通流量数据中对应的近期数据R、昨日同一时间的数据D和上周同一时间的数据W构成所述交通流量时间序列,所述交通流量时间序列的格式为:,其中, ,表示使用

的近期的 组数据, 表示传感器数量, 表示每个传感器采集到的特征数量,Q表示时间窗口, , 表示使用的 组日周期性流量数据,其数值与预测时间步长度保持一致, 表示预测第一个时间步对应昨日同一时间点的数据,依次类推, 表示预测最后一个时间步对应昨日同一时间点的数据,, 表示使用的 组周周期性流量数据,其数值与预测时间步长度保持一致, 表示预测第一个时间步对应上周同一时间点的数据,依次类推, 表示预测最后一个时间步对应上周同一时间点的数据。

4.根据权利要求3所述的基于时空注意力网络的交通流量预测方法,其特征在于,所述GRU层包括短GRU层和长GRU层,将所述近期数据输入所述短GRU层,得到近期数据的隐藏状态向量,将昨日同一时间的数据和上周同一时间的数据分别输入所述长GRU层,分别得到昨日数据的隐藏状态向量和上周数据的隐藏状态向量;将每个时间步的所述近期数据的隐藏状态向量、昨日数据的隐藏状态向量和上周数据的隐藏状态向量拼接得到所述输出特征。

5.根据权利要求1所述的基于时空注意力网络的交通流量预测方法,其特征在于,所述空间特征输入所述时间自注意力模块,得到时空特征,具体包括:将所述空间特征进行reshape操作,得到重构特征;

分别对所述重构特征进行正余弦编码和时间编码,分别得到正余弦编码结果和时间编码结果,将所述重构特征与正余弦编码结果和时间编码结果相加,得到包含时间位置信息的第二输入数据,将所述第二输入数据输入所述改进的多头注意力机制层,再经一系列残差连接、正则化及前馈神经网络处理后,得到时空特征。

6.根据权利要求1所述的基于时空注意力网络的交通流量预测方法,其特征在于,所述输出层包括依次连接的第一卷积层和第二卷积层,将所述时空特征输入所述第一卷积层和第二卷积层,采用以下公式计算得到所述交通流量数据:;

其中, 表示所述时空特征, ,Y表示预测得到的所述交通流量数据,,表示待预测时间步长,1表示预测得到的是交通流量数据属性。

7.一种基于时空注意力网络的交通流量预测装置,其特征在于,包括:数据处理模块,被配置为获取历史交通流量数据和路网结构数据,分别对所述历史交通流量数据和路网结构数据进行处理,得到处理后的历史交通流量数据和邻接矩阵;

时间序列构建模块,被配置为基于所述处理后的历史交通流量数据得到交通流量时间序列;

模型构建模块,被配置为构建时空注意力网络并训练,得到交通流量预测模型,所述时空注意力网络包括GRU层、空间特征提取层、时间自注意力模块和输出层;

预测模块,被配置为将所述交通流量时间序列和所述邻接矩阵输入所述交通流量预测模型,所述交通流量时间序列输入所述GRU层,得到输出特征,所述输出特征和所述邻接矩阵输入所述空间特征提取层,得到空间特征,所述空间特征提取层包括GAT层和空间自注意力模块,将所述输出特征输入GAT层,通过下式计算出注意力系数:;

其中,表示两个向量的拼接操作,、 为待训练参数,表示所述输出特征中目标节点i的特征, 和 分别为所述输出特征中目标节点i的临近节点的特征;

将所述输出特征中某个时间步的第i个节点的空间特征进行更新,得到静态空间特征:;

其中,表示激活函数;

将所述邻接矩阵和所述输出特征输入所述空间自注意力模块,所述空间自注意力模块包括以下步骤:初始化一个线性层 ;

将邻接矩阵 输入到所述线性层 ,得到 ;

对 进行维度扩增与变换,得到空间位置编码,其中, ,代表batch 大小;代表训练所用的 个时间步; 传感器数量;代表编码后的特征维度;

将 与所述输出特征加和,得到包含token位置信息的第一输入数据 ;

将包含token位置信息的第一输入数据 输入改进的多头注意力机制层,在改进的多头注意力机制层中,所述第一输入数据 利用前馈神经网络投影到高维潜在子空间,映射公式如下所示:;

;

;

其中,  、 、 分别为 向量、 向量、 向量的权重矩阵;

对所有token对应的 向量进行采样,采样个数的计算公式为:;

其中,为预先设置的超参数;为token序列的长度;

计算第 个token对应的 向量的评价得分,公式如下所示:;

将评价得分最高的 个 向量设为Active Query,其余均为Lazy Query,其中,公式如下所示:;

计算Active Query的自注意力运算结果,公式如下所示:;

其中, 为 向量的特征维度;

计算Lazy Query的自注意力运算结果,公式如下表示:;

其中, 为 向量的长度;

最后,将Active Query和Lazy Query的自注意力运算结果经一系列残差连接、正则化及前馈神经网络处理后,得到动态空间特征;

将所述静态空间特征和动态空间特征经门控机制融合,得到空间特征;

具体包括:静态空间特征 与动态空间特征 线性映射 后再经过激活函数得到门,计算公式如下所示:;

采用下式计算所述空间特征:

;所述空间特征输入所述时间自注意力模块,得到时空特征,所述时空特征输入所述输出层,预测得到交通流量数据。

8.一种电子设备,包括:

一个或多个处理器;

存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1‑6中任一所述的方法。

9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1‑6中任一所述的方法。