利索能及
我要发布
收藏
专利号: 2022111133622
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于Transformer‑WGAN的车辆跟驰行为建模方法,其特征在于含有以下步骤:步骤1:获取跟驰场景中多组跟驰车和其前车的状态序列数据,数据包括:跟驰车的速度,跟驰车的加速度,前车的加速度,前车和跟驰车的速度差,将数据进行预处理使其符合模型输入的数据格式的步骤;

步骤2:建立Transformer网络模型,利用Transformer网络模型中多头自注意力机制学习跟驰场景中车辆状态序列数据中复杂的时序依赖关系,提取驾驶数据中潜在时间特征的步骤;

步骤3:构建生成对抗网络WGAN,使用时间特征数据实现跟驰场景中车辆未来状态预测的步骤:生成对抗网络WGAN主要包含两部分:生成器和判别器;将Seq2Seq网络模型作为WGAN的生成器,将Transformer网络输出的时间特征数据作为Seq2Seq网络的输入,并根据当前输入计算对应的预测结果;将预测结果和真实结果作为由全连接网络构成的判别器的输入,判别器的目的是将预测结果和真实结果区分开,将预测的结果判断为假;通过生成器与判别器的对抗训练后,使判别器难以判定预测的结果为假,使得最小化预测结果和真实结果之间的误差,实现模型准确预测跟驰场景中车辆未来状态的步骤。

2.如权利要求1所述的一种基于Transformer‑WGAN的车辆跟驰行为建模方法,其特征在于:获取跟驰场景中多组跟驰车和其前车的状态序列数据,数据包括:跟驰车的速度,跟驰车的加速度,前车的加速度,前车和跟驰车的速度差,将数据进行预处理使其符合模型输入的数据格式,所述过程如下:步骤1.1:获取跟驰场景中第j组跟驰车的驾驶状态序列数据;

其中j∈[1:N],N是获取的总的跟驰行为车辆组数;s表示跟驰车;Xjs(t)表示在跟驰场景中获取的第j组跟驰车的驾驶状态序列数据;T表示采样的第j组跟驰行为车辆数据总时长;vjs(t+i)是t+i时刻第j组跟驰车的速度;ajs(t+i)是t+i时刻第j组跟驰车的加速度;pjs(t+i)是t+i时刻第j组跟驰车的纵向位置,其中i∈[0:T];

步骤1.2:获取跟驰场景中第j组前车的驾驶状态序列数据;

其中j∈[1:N],N是获取的总的跟驰行为车辆组数;l表示前车;Xjl(t)表示在跟驰场景中获取的第j组前车的驾驶状态序列数据;T表示采样的第j组跟驰行为车辆数据总时长;vjl(t+i)是t+i时刻第j组前车的速度;ajl(t+i)是t+i时刻第j组前车的加速度;pjl(t+i)是t+i时刻第j组前车的纵向位置;其中i∈[0:T];

为表征由于传感器损坏造成采集的前车数据缺失的情况,创建0‑1掩膜矩阵Mjl(t)={mjl(t+i)}i=[0:T],其中mjl(t+i)表示在t+i时刻采集的第j组前车数据值是否缺失,即掩膜矩阵Mjl(t)中随机分布连续的|Mjl(t)|×k个0,表示数据随机缺失的位置,其中|Mjl(t)|为掩膜矩阵的行数,k表示数据随机连续缺失的比例;因此实际获取的第j组前车状态序列数据为:Xjl′(t)=Xjl(t)⊙Mjl(t)    (4)

其中⊙表示矩阵点乘;

步骤1.3:对获取的跟驰场景中N组跟驰车和其前车的驾驶数据进行预处理使其符合模型输入的数据格式;

融合获取的跟驰场景中每组跟驰车驾驶数据Xjs(t)和其前车的驾驶数据X′jl(t):其中j∈[1:N],N是获取的总的跟驰行为车辆组数; 表示第j组跟驰车和其前车融合的驾驶数据;T表示采样的第j组跟驰行为车辆数据总时长;vjs(t+i)是t+i时刻第j组跟驰车的速度;ajs(t+i)是t+i时刻第j组跟驰车的加速度;ajl(t+i)是t+i时刻第j组前车的加速度;Δvj(t+i)=vjl(t+i)‑vjs(t+i),表示t+i时刻第j组前车速度和其跟驰车速度的差值,其中i∈[0:T];

对于获取的N组跟驰行为车辆,每组跟驰车和其前车融合的驾驶数据构成的总集合为步骤1.4:将融合的驾驶数据总集合Xmerge构建成符合模型输入的数据样本形式,由于驾驶员的决策通常依赖于历史驾驶行为和过去的交通状态,将驾驶记忆融入到跟驰模型中能够更好的描述交通流特性,因此考虑a秒的历史驾驶时长信息来预测未来b秒车辆的状态;

其中基于 构建的模型单个输入样本xi(t)形式如下:

ax4

其中xi(t)∈R ;

与单个输入样本xi(t)对应的标签即未来b秒车辆的状态yi(t)形式如下:bx4

其中yi(t)∈R ;

因此基于Xmerge构成的模型输入样本总集合X=[x1(t),x2(t),…,xi(t),…,xn(t)],与之对应的标签总集合为Y=[y1(t),y2(t),…,yi(t),…,yn(t)],其中n是样本总数;基于构成的输入样本总集合X和对应的标签总集合Y,划分训练集和测试集,划分比例为c:d,即X和Y中c%的样本用于模型训练,d%的样本用于测试模型性能;为保证模型能够充分训练,在模型训练的过程中与每个输入样本对应的标签是完整的。

3.如权利要求1所述的一种基于Transformer‑WGAN的车辆跟驰行为建模方法,其特征在于:建立Transformer网络模型,利用Transformer网络模型中多头自注意力机制学习跟驰场景中车辆状态序列数据中复杂的时序依赖关系,提取驾驶数据中潜在时间特征,所述过程如下:根据权力要求2所述的对于获取的跟驰场景中车辆状态序列数据构成的输入样本总集合X,搭建Transformer网络模型,将X作为Transformer网络模型的输入,计算驾驶数据中潜在的时间特征,如下所示:步骤2.1:使用一层全连接网络,将输入样本xi(t)编码成d维,即:xd(t)=fc(xi(t))   (8)

axd

其中xd(t)∈R ;

步骤2.2:由于Transformer网络模型主要依赖于自注意力机制来实现序列建模任务的优异性能,因此基于获得的编码后输入样本xd(t),Transformer模型中多头自注意力机制计算过程如下:首先编码后的输入样本xd(t)通过三个权值矩阵得到计算注意力值所需的query矩阵、key矩阵和value矩阵,即:u

Q(xd)=Wu,q·xd(t)      (9)

u

K(xd)=Wu,k·xd(t)     (10)

u

V(xd)=Wu,v·xd(t)    (11)

u u u

其中·表示矩阵叉乘;Q 、K、V 分别是第u个注意力头的query,key和value函数;Wu,q、Wu,k、Wu,v分别是对应的权值矩阵;

基于上述获得的query矩阵、key矩阵和value矩阵,计算多头自注意力中第u头的注意u u u力Att(Q ,K ,V),计算如下:

其中softmax是归一化指数函数,dk是key向量的维度;

因此对于全部的h头自注意力,计算如下:

u u u

headu=Attu(Q ,K ,V)               (14)其中fc是一个全连接层,融合h头自注意力机制提取的特征;headu是第u个头的自注意力;

通过计算不同时间步嵌入之间的自注意力,能够关注来自不同位置的表示信息,学习驾驶数据中复杂的时序依赖关系;

步骤2.3:基于h头自注意力机制提取的特征,通过残差连接和层规范化,使模型加速收敛和防止训练过程中梯度消失,计算过程如下:z″i(t)=LayerNorm(xd(t)+MultiHead(Qu,Ku,Vu);β)   (15)其中β∈R,是层规范化学习的参数;

步骤2.4:基于步骤2.3的输出,最后经过一层全连接前向传播层以及残差连接和层规范化后,提取的时间特征zi(t)表示如下:zi(t)=LayerNorm(z′i(t)+z″i(t);α)    (17)其中z′i(t)是全连接前向传播层的输出;relu是激活函数,即relu(x)=max(x,0);

是权值矩阵,α∈R是层规范化学习的参数;zi(t)是Transformer网络模型基于输入样本xi(t)提取的潜在时间特征;

故基于上述过程,对于输入样本总集合X,利用Transformer网络模型提取的潜在时间特征为Z=[z1(t),z2(t),…,zi(t),…,zn(t)]。

4.如权利要求1所述的一种基于Transformer‑WGAN的车辆跟驰行为建模方法,其特征在于:构建生成对抗网络WGAN,使用时间特征数据实现跟驰场景中车辆未来状态的预测;生成对抗网络WGAN主要包含两部分:生成器和判别器;将Seq2Seq网络模型作为WGAN的生成器,将Transformer网络输出的时间特征数据作为Seq2Seq网络的输入,并根据当前输入计算对应的预测结果;将预测结果和真实结果作为由全连接网络构成的判别器的输入,判别器的目的是将预测结果和真实结果区分开,将预测的结果判断为假;通过生成器与判别器的对抗训练后,使判别器难以判定预测的结果为假,使得最小化预测结果和真实结果之间的误差,实现模型准确预测跟驰场景中车辆未来状态的步骤,所述过程如下:步骤3.1:构建生成对抗网络WGAN的生成器部分,如下所示:

将Seq2Seq网络模型作为WGAN的生成器部分,Seq2Seq网络是一种基于编码‑解码结构的网络模型,其中编码器是GRU网络,解码器同样使用GRU网络;GRU网络是一种用于处理序列任务的神经网络,其能够有选择性的保留历史信息并用于下一时刻的计算,GRU网络主要由多个记忆单元构成,记忆单元中有两个门用于控制信息的流动,分别是更新门s(t)和重置门r(t),当输入序列数据zi(t)到GRU网络时,其记忆单元内的信息传播过程如下:其中·表示矩阵叉乘;⊙表示矩阵点乘; 是GRU网络当前时间步的输入;Wsh、Wsx、Wrh、Wrx、Whh、Whx为权值矩阵;bs、br、bh为偏置;σ表示sigmoid激活函数;tanh是双曲正切激活函数;h(t)是t时刻记忆单元的输出,包含过去信息h(t‑1)和现在信息(候选状态) 由更新门s(t)分配重要性,更新门s(t)控制当前时刻的状态h(t)要从上一时刻的状态h(t‑1)保留的信息量以及从候选状态 中接收的新的信息量;重置门r(t)控制当前时刻的候选状态要保留的上一时刻状态h(t‑1)的信息量;

GRU网络通过上述方式不断吸收新的重要信息并丢弃不相关的信息以捕获序列数据中的依赖关系;

因此在Seq2Seq网络模型中,对于输入样本序列zi(t),首先通过编码器GRU网络将输入样本序列zi(t)编码为固定长度的上下文信息向量C,编码过程表示如下:C=h(t+τ)    (23)

其中 是GRU网络当前时间步的输入;h(t‑1)是上一时间步的状态;h(t)是当前时间步的状态;h(t+τ)是输入样本序列中最后一个时间步的状态,作为编码的上下文信息向量C,表示对输入序列信息的总结,t+τ表示序列zi(t)中最后一个时间步;

获得上下文信息向量C后,通过解码器GRU网络将学习到的上下文信息向量C进行解码作为Seq2Seq网络模型的输出,即预测的未来b秒车辆状态 解码过程表示如下:p(y′(t+b)|y′(t+1),y′(t+2),...,y′(t+b‑1);C)=GRUdec[y′(t+b‑1),h(t+b‑1),C]  (24)其中上下文信息向量C作为解码器的初始状态;y′(t+b)是当前时间步的输出;

y′(t+b‑1)是上一时间步的输出;h(t+b‑1)是上一时间步的状态;

Seq2seq网络模型的本质是学习以一个可变长度序列为条件的另一个序列的条件分布,可以描述为如下形式:即训练Seq2seq网络模型使解码阶段最大化条件概率p(y′(t+1),y′(t+2),...,y′(t+b)|zi(t));

故基于上述过程,对于Transformer网络的输出,即包含时间特征的输入样本Z,Seq2seq网络模型的最终输出为:其中

步骤3.2:构建生成对抗网络WGAN的判别器部分,如下所示:

将具有Ld层的全连接网络模型作为WGAN的判别器部分,模型计算过程如下:G

其中l=1,2,…,LD;Hl是第l层全连接网络提取的特征;σ是leakyrelu激活函数,即:G G

其中ε=0.2;fc是第LD层全连接层;Wl 、bl 是第l层需要训练的权重和偏差参数;

是输出层即第LD层需要训练的权值和偏差参数; 是全连接网络的输出;

步骤3.3:定义生成对抗网络WGAN的损失函数,记生成器的损失函数为LossG,判别器的损失函数为LossD,表示如下:通过生成器与判别器的对抗训练后,最小化预测结果 和真实结果yi(t)之间的误差,实现模型准确预测跟驰场景中车辆未来状态的目的。