利索能及
我要发布
收藏
专利号: 2023106357346
申请人: 西安工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-04-10
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.基于时空注意力机制的用户兴趣预测方法,其特征在于,包括以下步骤:步骤1、获取用户信息和时空信息并进行预处理;预处理方式为将用户信息和时空信息转化为矩阵形式;

步骤2、基于步骤1所得用户信息和时空信息获取用户访问记录之间的时间间隔和空间间隔,进而分别得到用户访问记录的时间关系和空间关系矩阵;步骤2具体为:将步骤1预处T L理所得矩阵进行建模,设置成两个关系矩阵W和W,分别存储用户访问记录的时间信息和空间信息,将时间间隔和空间地理距离建模为两个访问地点之间明确的时空关系,用户相邻两次访问记录之间的时间间隔 由用户历史访问记录与相邻的下一个访问记录的时间差得到,表示为|ti‑tj|;用户访问记录的空间间隔 由用户历史访问记录与相邻的下一个访问记录的距离相减得到,空间间隔 利用Haversine距离函数进行计算,如公式(3)所示:式(3)中,r为地球的半径,la和lb分别为经度差和纬度差,分别如下公式所示:la=latj‑lati

lb=lonj‑loni

其中,lati,loni,latj与lonj分别为第i次和第j次访问记录的经纬度值;

T L

则用户访问记录的时间关系矩阵W 和用户访问记录的空间关系矩阵W ,如公式(4)所示:步骤3、采用时空注意力机制对步骤2所得时间关系和空间关系矩阵进行嵌入表示,得到融合时空特征的用户轨迹表示序列;具体为:在计算时空间隔真实差值的基础上,将时间t l间隔 与空间间隔 分别与以一小时和一千米为基本单元的单位嵌入向量e 和e相乘得T L到时空信息的嵌入表示E(W)和E(W),如公式(5)所示:式(5)中, 分别如公式(6)和公式(7)所示:

给定用户非零填充的信息嵌入表示E(ui),通过线性转换分别获得查询矩阵Wq、键矩阵Wk和值矩阵Wv,进而将Wq、Wk、Wv输入到一个注意力层,采用缩放点积注意力评分函数计算注意力分布权重,得到一个融合时空特征的用户轨迹表示序列,如公式(8)所示:T L

A(ui)=Att(E(ui)Wq,E(ui)Wk,E(ui)Wv,E(Wi),E(Wi))       (8)式(8)中,

T L T L

Att(q,k,v,Wi ,Wi)=softmax(s(q,Wi ,Wi))v            (9)式(9)中,Att表示缩放点积注意力,q表示查询,k表示键,v表示值,s表示缩放点积注意力分布函数, 表示尺度因子;

步骤4、通过softmax函数判断步骤3所得用户轨迹表示序列,计算权重得分来对用户兴趣进行预测;步骤4包括:基于用户历史访问记录的相关性更新步骤3所得用户轨迹表示序

1 2 L

列A(ui),根据给定的访问地点集合L的嵌入表示EL={El ,El ,...,El},通过时空注意力机制自顶向下的选择机制来过滤无用的信息,为不同的访问地点分配不同的权重,从而挑选描述用户兴趣的代表性访问地点信息;步骤4具体为:首先根据公式(11)计算注意力分数a(A(ui),EL),然后根据公式(12)使用softmax函数进行归一化计算注意力权重得分α(ui),计算公式如下:α(ui)=soft max(a(A(ui),EL))              (12)最后根据权重得分α(ui)对用户兴趣进行预测,权值得分α(ui)越大,就证明用户越感兴趣。