利索能及
我要发布
收藏
专利号: 2024107521431
申请人: 重庆大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-04
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于语义增强的地点推荐方法,其特征在于:包括如下步骤:S1:获取多个用户根据签到时序排列的完整长轨迹构成用户轨迹序列集 ,然后以完整长轨迹作为超边,签到地点作为节点构建全局超图 ,第 个用户的第 个签到地点与一个独特的元组相对应,该独特的元组包括纬度 ,经度 ,签到时间 ,地点类别 ,地点类别编号和签到点编号;

将每条完整长轨迹以时间阈值 截断,得到对应的多条短轨迹,设第 个用户的第 条短轨迹为 ,其中 为该条短轨迹长度,将所有短轨迹作为超边,签到地点作为节点构建局部超图 ,所有短轨迹构成短序列集 ;

所述S1中 构建过程为:

表示超图拓扑结构的关联矩阵 的构建方法如下:(1)

其中,e为超边,v为节点,  , 为全局超图的超边集合和节点集合,超边的度为该超边连接的节点数,表示了用户轨迹覆盖的地点数量,因此其公式为,所有超边的度构成对角超边度矩阵 ;分配权重 给每一条超边,所有超边权重共同构成了一个对角矩阵 ;其中,每一个节点 ,该节点的度由对角矩阵以及超边权重的矩阵相乘获得 ,所有节点的度构成对角节点度矩阵 ;

所述S1中 的构建过程为:局部超图 的关联矩阵 定义与公式(1)相同,采用与全局超图同样的方式分配权重给每一条超边构成对角矩阵 ,并通过对角矩阵构建对角超边度矩阵 以及对角节点度矩阵 ;

S2:将 输入超图卷积网络得到全局用户表征和全局地点表征, 输入超图卷积网络得到局部用户表征和局部地点表征;

所述S2中,得到全局用户表征和全局地点表征以及局部用户表征和局部地点表征的步骤为:通过嵌入矩阵 ,将长度为 的签到地点序列嵌入到维度为 的特征空间中,此时输入超图神经网络第一层的地点嵌入为 ,全局超图卷积网络的运作机制如下:

(2)

其中 为全局超图卷积网络第 层的地点嵌入集向量,双阶段的信息传递聚合的细节为:通过 来表示第一阶段地点表征从节点汇聚到超边的过程,而在超边用户全局轨迹信息聚合后,通过 传递回地点表征节点上,利用全局信息更新全局地点表征,其中 为进行归一化操作;

将 输入超图卷积网络得到局部用户表征和局部地点表征的步骤为:局部超图卷积网络的运作机制如下:

(3)

其中 为局部超图卷积网络第 层的地点嵌入向量集,双阶段的信息传递聚合的细节与全局超图卷积网络相同, 为局部超图卷积网络第 层的地点嵌入集向量,双阶段的信息传递聚合的细节为:通过 来表示第一阶段节点表征汇聚到超边的过程,而在超边用户局部轨迹信息聚合后,通过 传递回地点表征节点上,利用局部信息更新局部地点表征,其中 为进行归一化操作;

通过 层的超图卷积计算,获得经过全局信息聚合的全局地点表征集以及经过局部信息聚合的局部地点表征集 ;

从 中获取用户表征,通过 ,采用对超边上的所有地点表征进行累加求平均的操作得到全局用户表征 ,其表示为:(4)

从 中获取用户表征,通过 ,采用对超边上的所有地点表征进行累加求平均的操作得到局部用户表征 ,其表示为:(5);

S3:将长轨迹中的语义信息进行提示词构建,然后使用预训练语言模型对构建的提示词进行编码得到全局用户行为语义表征,将短轨迹中的语义信息进行提示词构建,然后使用预训练语言模型对构建的提示词进行编码,得到局部用户行为语义表征;

将地点类别进行独热编码得到 ,至于用户的签到时间,将一天24小时分割为若干个时间戳,并将签到时间投影到每个时间戳,得到时间的嵌入 ;

使用现有方法将 和 进行嵌入得到对应的得到时间表征 和类别表征 ;

S4:全局用户行为语义表征和局部用户行为语义表征通过神经网络Ⅰ进行降维得到对应的全局语义表征和局部语义表征;

全局用户表征、全局语义表征和用户编号嵌入拼接输入到神经网络Ⅱ降维后,再与全局地点表征拼接输入融合网络得到最终轨迹端表征 ;

局部语义表征和局部地点表征拼接输入到神经网络Ⅲ降维得到矩阵K,时间表征和类别表征拼接输入到神经网络Ⅳ降维得到矩阵Q,局部用户表征作为矩阵V,K、Q和V分别经过线性层处理后进入注意力机制得到最终用户端表征 ;

S5:将 和 拼接得到序列表征 ,根据得到 进行序列建模,将建模所得最终特征输入神经网络Ⅴ预测下一个签到时间,签到地点和签到类别;

S6:冻结预训练模型的参数,计算总损失,并根据总损失反向传播更新所有神经网络的参数,直至总损失不再下降,此时所有神经网络的参数最优;

S7:将一个用户的完整长轨迹按照S1‑S4的方法进行处理得到该用户的序列表征,期间使用参数最优的神经网络,将该用户的序列表征输入参数最优的神经网络Ⅴ,输出该用户的下一个签到地点。

2.如权利要求1所述的一种基于语义增强的地点推荐方法,其特征在于:所述S3中获得全局用户行为语义表征和局部用户行为语义表征的步骤为:首先,全局提示词的构建方法为,根据第i个用户的轨迹 轨迹中每个地点的类别文字构建全局地点类别序列 ,在 的基础上,滤掉冗余类别,使类别序列 为唯一值序列;获取到用户的类别序列后,将其与两部分进行拼接,首先拼接语句“This user visited”在类别序列前来描述编码任务,再通过拼接特殊符号 在句首方便句向量的提取,在公式(6)中用分号表示文字的拼接,用分号代表文本的拼接,代表全局语义信号的全局提示词表示为:(6)

局部提示词构建时,将构建的地点类别序列最后一个元素去除,再在局部地点类别序的基础上滤掉冗余类别,使局部类别序列 为唯一值序列,然后首先拼接语句“This user recently visited” 在局部类别序列前,再通过拼接特殊符号 在句首,代表局部语义信号的局部提示词表示为:(7)

全局语言提取模型编码全局提示词得到全局用户行为语义表征,全局语言提取模型编码局部提示词得到局部用户行为语义表征:(8)

(9)

其中 , 为该全局语言提取模型和局部语言提取模型最终隐藏层中与符号相对应的全局用户行为语义表征和局部用户行为语义表征。

3.如权利要求2所述的一种基于语义增强的地点推荐方法,其特征在于:所述S4中得到最终轨迹端表征 的步骤为:使用公式(10) 对全局用户行为语义表征 进行维度:(10)

其中 为可学习的权重矩阵, 为该线性层的偏置,并且使用了激活函数;

(11)

其中 代表着向量拼接的操作, 为可学习权重矩阵,将拼接后的 维向量融合到 维的最终用户端表征 中;通过与短序列 中的全局地点表征 进行融合,初步构建用户端视角下最终轨迹端表征:(12)

其中, 是从全局地点表征Zg中选取相应的地点表征, 为可学习权重矩阵。

4.如权利要求3所述的一种基于语义增强的地点推荐方法,其特征在于:所述S4得到最终用户端表征 的步骤为:使用三个可学习权重矩阵 , , 去学习查询向量 ,键向量 以及值向量 :

(16)

(17)

(18)

其中,在构建 、 、 向量过程中, 为可学习的权重矩阵, 为该线性层的偏置, 表示短序列 中的局部地点表征 ;

(19)

其中, 是与 有相同值的尺度参数。

5.如权利要求4所述的一种基于语义增强的地点推荐方法,其特征在于:所述S5中对进行序列建模,将建模所得最终特征输入神经网络Ⅴ预测下一个签到时间,签到地点和签到类别的步骤为:对序列表征 的建模展现为:

(20)

其中,F为建模好的特征, 为可学习权重矩阵;

(21)

(22)

其中, 以及 是可学习权重向量,使用 高斯误差线性单元作为其激活函数;

 为神经网络第一层的编码表征, 为神经网络的最终编码表征;

(23)

(24)

(25)

其中 , , 为可学习参数, , , 为其对应的偏置, , 和 分别表示预测的签到地点,预测的签到时间和预测的签到类别。

6.如权利要求5所述的一种基于语义增强的地点推荐方法,其特征在于:所述S6中计算总损失的步骤为:根据兴趣点预测损失 ,时间预测损失 和类别预测损失 得到的总损失函数为:(26)

其中,  和 采取交叉熵来计算, 使用均方根进行计算。