1.一种基于超图神经网络和扩散模型的地点推荐方法,其特征在于:构建兴趣点推荐模型,所述兴趣点推荐模型依次包括局部轨迹流超图模块、时空特征编码、多维特征融合网络、全局超图表征学习模块、特征优化模块、聚合层、频域学习层和线性预测层;
S1:采用局部轨迹流超图模块获得类别感知的用户意图表征Xl:获取若干用户的轨迹序列构成数据集,为每个用户的轨迹序列构建基于POI的超图Gp=(Vp,Ep)和基于POI地点类别的POI类别超图Gc=(Vc,Ec),其中Vp代表Gp的签到地点的集合,Vc代表Gc中的签到地点类别的集合,Ep和Ec分别代表Gp和Gc中超边的集合,表示两种超图的加权关联矩阵和 的定义如下:其中,r表示超边中POI的签到次数,n表示在滑动窗口下POI地点在超边上面出现的次数;
采用双阶段信息传递聚合计算方法对POI超图Gp计算POI的意图表征Xv,对POI类别超图Gc计算POI类别的意图表征Xc;再通过Xv和Xc计算每条轨迹序列对应的初步用户意图表征Xcv,最后计算每条轨迹序列对应的位置感知的用户意图表征Xl;
采用时空特征编码计算每条轨迹序列对应的时空表征ef;
采用多维特征融合网络得到每条轨迹序列对应的最终用户意图表征Xf;
将每个用户的轨迹序列分割为以24小时为界限的短轨迹,基于所有用户的多条短轨迹构建一个全局短轨迹交互超图Gtra=(Vtra,Etra);其中Vtra代表超图的节点集合,而Etra是超边集合,表示该超图拓扑结构的关联矩阵 的定义如下:其中,关联矩阵中元素为1的实际意义为该行代表的地点出现在该列代表的短轨迹上;
针对代表用户这条轨迹的超边e∈Etra,它的度为该超边连接的节点数,表示了用户轨迹覆盖的地点数量,因此其表示为 所有超边的度构成对角超边度矩阵Dtrae;分配权重We给每一条超边,所有超边权重共同构成了一个对角矩阵 其中,每一个节点v∈Vtra,该节点的度由对角矩阵以及超边权重的矩阵乘法获得所有节点的度构成对角节点度矩阵Dtrav;
设计全局超图卷积网络,计算每条轨迹的全局视角下的用户意图表征γtra,使用自注意力机制将ef、γtra和Xl进行融合得到Xf;
所述S1中,计算Xl的过程如下:
对于POI超图采用双阶段信息传递聚合计算方法计算POI的意图表征Xv;
对数据集中的POI地点进行浅层神经网络的嵌入,通过一个嵌入层E将输入的POI地点映射成一个维度为dτ的嵌入向量Xn,同时通过如下公式对超边的表征初始化得到超边初始化后特征v
其中|e|表示每一条超边e∈Ep上的节点数;
开始两阶段传播的超图卷积操作,首先是“节点到超边”的过程,运作机制如下:其中 为一个特征变换矩阵,使用了LeakyReLU为激活函数,并且使用softmax函数对超边中所有节点的系数进行归一化处理,Xe表示超边嵌入表征;
其次,沿着“超边到节点”的路径传播学习到高级意图信息到每个节点,利用全局信息更新节点表征,丰富节点蕴含的高阶用户意图的协同信号,过程如下:其中E(v)是包含所有POI点v的超边集合, 为一个特征变换矩阵,使用了LeakyReLU为激活函数,并且使用softmax函数对包含节点vi的所有超边进行归一化;
通过N层超图卷积计算,初步获得对POI地点和POI类别的意图表征,然后将两者相连接,得到轨迹序列对应的初步用户意图表征Xcv,如下所示:其中Xc表示POI类别的意图表征;
采用基于反向位置编码的软注意机制对一个用户轨迹序列中各个POI的重要性进行建模得到位置感知的用户意图表征Xl;
其中 为一个特征变换矩阵, 为一个特征变换矩阵,为一个特征变换矩阵, 为偏置项,使用了tanh为激活函数;Pt‑i+1表示第i个时间步长对应的位置嵌入, 表示最后一个POI的意图表征, 第i个POI对应的意图表征;
所述S1中,计算每条轨迹序列对应的时空表征ef的过程如下:对于时间信息,使用Time2Vector方式对轨迹序列中的时间进行编码,对于空间信息,采用简单线性的方法,并将两者连接:其中 是一个可以学习的矩阵,Time2Vec是一种时间编码方time distance u
式,v 是时间信息,v 是空间信息,v是POI,S是轨迹序列;S2:采用全局超图表征学习模块得到最终全局端表征Xglobel:构建全局用户交互超图Gg=(Vg,Eg),其中Vg代表超图的节点集合也就是签到地点的集合;而Eg是用户的超边集合;使用计算γtra一样的运作机制,得到用户的行为模式表征Xg;
所述Gtra根据时间阈值24小时划分得到,以此得到全局时间超图表征Xtem;
构造一个基于空间阈值的全局空间超图,并利用Haversine Formula计算了点间的空间距离Δs;当Δs小于空间阈值时候说明两个签到点在一条超边上,由此构建全局空间超图Gspa=(Vspa,Espa),其中Vspa代表超图的节点集合也就是签到地点的集合;而Espa是空间区域的超边集合;使用计算γtra一样的运作机制,得到用户全局空间超图表征Xspa;
最后,通过嵌入层根据用户ID嵌入用户表征 然后融合入Xg、Xtem、Xspa和Xuser得到每条轨迹序列对应的最终全局表征Xglobel,如公式所示:其中, 代表着向量拼接的操作,ωglobel可学习权重矩阵;
S3:特征优化模块中使用改进的扩散模型得到每条轨迹序列对应的使用全局表征特征优化后的意图表征Xdif;
S4:在聚合层,将Xdif与Xglobel和Xl进行相加得到每条轨迹序列对应的综合表征Xfinal:S5:在频域学习层将Xfinal转换到频域后得到序列表示 并对 进行编码得到 将作为在线性预测层的输入,输出为预测的每条轨迹序列对应的用户的下一个兴趣点兴趣点的访问时间 和兴趣点的类别计算损失 并根据 更新兴趣点推荐模型中的所有参数,当损失不再下降即得到最优兴趣点推荐模型;
S6:对于一个新用户,获取该新用户的历史轨迹序列,将新用户的历史轨迹序列输入最优兴趣点推荐模型,输出为该新用户可能访问的下一个兴趣点,下一兴趣点的访问时间和下一个兴趣点的类别。
2.如权利要求1所述的一种基于超图神经网络和扩散模型的地点推荐方法,其特征在于:所述S1中,计算Xf的过程为:先对数据集中的地点进行浅层神经网络的嵌入,通过嵌入矩阵 将长度为|V|的地点集嵌入到维度为d的特征空间中,此时输入超图神经网络第一层的地点嵌入为然后全局超图卷积网络的运作机制如下:其中 代表着全局短轨迹交互超图第k+1层的地点嵌入向量;Htra是超图的关联矩阵, 是Htra的转置,Wtra是超边权重对角矩阵、Dtrae是超边度矩阵、Dtrav是节点度矩阵、 是第k层的地点嵌入向量、 是归一化的节点度矩阵;
为进行归一化操作,这样得到该条轨迹的表征Xtra,采用对超边上的所有地点表征进行累加求平均的操作 得到全局视角下,该条轨迹的用户意图表征γtra;
使用三个可学习权重矩阵 去学习查询向量Q,键向量K以及值向量V;
Q=Drop(LeakyReLu(efWQ)) (10)K=Drop(LeakyReLu(γtraWK)) (11)V=Drop(LeakyReLu((ωlXl)WV)) (12)是可学习的权重矩阵,LeakyReLu是激活函数;
其中dk是与dτ有相同值的尺度参数,σ为Softmax函数。
3.如权利要求2所述的一种基于超图神经网络和扩散模型的地点推荐方法,其特征在于:所述S3中,计算Xdif的过程如下:扩散阶段:
先对局部轨迹意图表征Xf进行特征归一化得到 具体实现如公式(15)所示;
2
其中σ(Xf) 表示求Xf的方差,μ(Xf)表示求Xf的均值;
随机选择一组扩散步数 然后在每一个扩散步t进行高斯噪声采样并计算噪声数据
设置 表示用于执行维度变换的可训练参数并将 作为时间嵌入矩阵;扩散过程中的训练过程如下:
输入:归一化后的表征 扩散步集合s、Xglobel、神经网络fθ;
输出:扩散损失
从s中选取t:
1)计算维度转换后的表征
2)采样一个扩散步t时刻的随机高斯噪声εt;
3)通过公式(16)计算t时刻的噪声数据xt:其中 αt=1‑βt,xt是t时刻的噪声数据,x0是归一化后的表征,βt表示噪声规划因子,用于控制每一个扩散步骤中添加的噪声比重, 表示从第1步到第t步的累积因子,I是一个单位矩阵;
t T
4)计算t的嵌入表征e=E(t);
t
5)将 和e 相加得到c;
6)通过fθ预测t时刻的噪声
7)通过公式(17)计算损失
其中 是变分下界函数, 表示期望,εθ表示预测的噪声, 是扩散步骤t处的高斯噪声;
8)循环执行2)~7),直至 不再变化;
反向过程的流程如下:
输入: 扩散步T、Xglobel和fθ;
输出:
Ⅰ)计算维度转换后的表征
Ⅱ)采样T时刻的随机高斯噪声εT;
Ⅲ)计算T时刻的噪声数据xT;
Ⅳ)t=T‑1,...,1;
t T
Ⅴ)计算t的嵌入表征e=E(t);
t
Ⅵ)将 和e 相加得到c;
Ⅶ)通过fθ预测t时刻的噪声
Ⅸ)通过公式(18)计算xt的均值μθ(xt,t):其中 是均值, 是方差,ε表示预测的噪声;
Ⅷ)采样t时刻的随机高斯噪声εt;
Ⅹ)计算t‑1时刻的数据分布xt‑1=μθ(xt,t)+βtεt;
在恢复原始数据后,使用了特征逆归一化操作,将数据分布逆变换到原本的分布,如公式(20)所示;由此得到的结果是通过扩散恢复的融合了全局特征的扩散增强的意图表征Xdif;
其中, 是求 均值, 是求 方差,λ作为温度系数为超参数。
4.如权利要求3所述的一种基于超图神经网络和扩散模型的地点推荐方法,其特征在于:所述S5中,计算 和 的过程如下:给定可学习矩阵 频域学习建模为:
在频域中滤除噪声后,得到序列表示 对 进行编码:其中 以及 是可学习权重向量,使用GELU高斯误差线性单元作为激活函数,dδ表示最终的序列表征维度;
其中Wpoi,Wtime,Wcat是可以学习的参数,bp,bt,bc是对应的偏置。
5.如权利要求4所述的一种基于超图神经网络和扩散模型的地点推荐方法,其特征在于:所述S5中,计算 的过程如下:其中,μ是一个用来平衡优化目标的超参数。