1.一种基于广义神经注意力的物品推荐方法,其特征在于,包括以下步骤:步骤1、将广义矩阵因子分解模型GMF和神经注意相似度模型NAIS相结合建立广义神经注意力推荐模型GNAS;
所述广义矩阵因子分解模型GMF如下公式:
其中, 表示用户u对目标物品i的喜好程度,j为用户u以前交互过的历史物品,pi和qj分别代表要预测的目标物品向量和用户交互过的历史物品向量,⊙表示向量之间的点积,Th是一个卷积层,用来抽取更多的用户和物品之间的特征信息,提高泛化能力,防止自推荐;
步骤1.1、构建广义神经注意力推荐模型;
通过one‑hot独热编码生成目标物品的稀疏潜在向量,然后将用户u交互过的历史物品j通过multi‑hot编码生成用户的潜在向量;将二者经过嵌入层得到用户和物品嵌入向量;
让广义矩阵因子分解模型GMF和神经注意相似度模型NAIS共享用户和物品嵌入向量,得到广义神经注意力推荐模型GNAS,如下公式所示:其中, 是一个卷积层,其目的是防止将点积结果直接添加到广义神经注意力推荐模型GNAS中所导致的梯度消失,aij是注意力权重,用来计算交互过的历史物品j在用户u预测目标物品i的喜好时所做的贡献,它被参数化为一个关于注意力函数f的softmax函数变种,如下公式所示:其中,β为惩罚系数,其取值范围是[0,1],用来减轻模型对历史交互物品超过阈值的活跃用户的惩罚;
所述注意力函数f通过广义矩阵因子分解模型GMF和MLP两个模型相结合,并通过向量映射到输出层,如下公式所示:其中,注意力函数f的输入为pi和qj的逐元素乘积,W和b分别代表权重矩阵和偏置向量,ReLU是激活函数, 是需要训练的一组向量,目的是将结果从隐藏层投影到输出层,权重矩T阵W维度与h的维度相对应;
步骤1.2、对构建的广义神经注意力推荐模型进行预训练;
在预训练过程中,使用因式分解物品相似度模型FISM训练的物品嵌入向量初始化广义神经注意力推荐模型GNAS中的物品向量来代替随机初始化;其他需要学习的参数Th、W、b用高斯分布初始化;
步骤2、在模型中使用GMF与多层感知机MLP集成的注意力机制对模型进行优化;
步骤2.1、建立模型的目标函数,如下公式所示:
+ ‑
其中,L为损失,σ为sigmoid函数,目的是将预测结果 的范围限制到(0,1),R 和R 代表用户交互过的物品构成的正例集和用户没有交互过的物品构成的负例集,正例集和负例T集的总和为训练实例数N,Θ代表所有的训练参数,包括pi、qj、 h 、W、b,λ为控制L2正则化的程度来防止过拟合的超参数;
步骤2.2、为了最小化目标函数,采用自适应梯度算法Adagrad自动调整训练中参数的学习速率;对于每个正例(u,i),在没有观察到的交互中随机抽取一定比例的负例与之配对;
步骤3、对模型进行优化后,通过优化的广义神经注意力推荐模型预测用户对目标物品的喜好程度,为用户生成个性化推荐列表。