利索能及
我要发布
收藏
专利号: 2023102470956
申请人: 重庆邮电大学
专利类型:发明专利
专利状态:授权未缴费
更新日期:2025-07-25
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于深度多行为网络的广告点击率预测方法,其特征在于,包括:获取用户和广告的相应数据信息,该相应数据信息包括用户与广告基本信息数据、广告曝光数据以及用户行为日志数据;对相应数据信息数据信息进行预处理;提取预处理后数据信息的特征,该特征包括序列特征、用户特征、广告特征以及上下文特征;将数据信息特征输入到训练好后的基于深度多行为网络的广告点击率预测模型中,得到广告点击率预测结果;

对基于深度多行为网络的广告点击率预测模型进行训练的过程包括:

S1:获取用户历史广告点击数据,并数据进行预处理;其中用户历史广告点击数据包括用户行为序列特征、广告特征、用户特征以及环境特征;

S2:将户行为序列特征、广告特征、用户特征以及环境特征输入到特征嵌入层,生成户行为序列特征向量表示、广告特征向量表示、用户特征向量表示以及环境特征向量表示;

S3:将户行为序列特征向量表示输入到深度多行为网络中,提取用户的行为特征;

S4:将深度多行为网络的输出的多种用户行为特征输入到多行为融合模块中,得到用户行为融合特征;

S5:将广告特征向量表示、用户特征向量表示以及环境特征向量表示输入到深度交叉网络中,得到广告上下文融合特征;

S6:将用户行为融合特征和广告上下文融合特征进行融合后输入到全连接层,得到广告点击率预测结果;

S7:根据广告点击率预测结果计算模型的损失函数,并采用Adam优化算法对模型的参数进行优化,当损失函数收敛时完成模型的训练。

2.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,户行为序列特征包括长期点击后行为序列、长期点击行为序列、短期点击行为序列以及短期曝光行为序列。

3.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,对数据进行预处理包括:将数据中的点击后行为按照映射改为<浏览,加购,喜欢,购买,…><1,2,3,4,...>;将数据中的连续型特征经过分桶处理改为离散型特征。

4.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,深度多行为网络包括长期点击后行为序列建模模块、长期点击行为序列建模模块、短期点击行为序列建模模块以及短期曝光新闻个序列建模模块;

长期点击后行为序列建模模块对输入数据进行处理的过程包括:长期点击后行为序列与候选广告特征向量输入到稀疏多头注意力层进行注意力特征提取;将提取的特征与输入序列金加和以及归一化处理;将归一化处理的数据输入到全连接层,得到融合特征;将融合特征与输入特征进行加和归一化处理,得到用户长期点击兴趣表征;

长期点击行为序列建模模块处理输入数据包括:将短期点击行为序列输入到编码器中进行编码处理,将编码后的数据联合候选广告特征向量输入到解码器中进行解码,得到长期点击后兴趣表征;

短期曝光行为序列建模模块对输入数据进行处理的过程包括:将短期序列和候选广告特征向量输入到多头注意力层,对多头注意力层的输出结果与输入数据进行加和归一化处理;将归一化处理结果输入到多层二维卷积网络,得到短期曝光兴趣表征;

短期点击行为序列建模模块对输入数据进行处理的过程包括:将长期点击后行为序列和候选广告特征向量输入到稀疏多头注意力层进行注意力特征提取;将提取的特征与输入序列金加和以及归一化处理;将归一化处理的数据输入到全连接层,得到融合特征;将融合特征与输入特征进行加和归一化处理,得到短期点击兴趣表征。

5.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,多行为融合模块对用户行为特征进行融合的过程包括:将用户长期点击兴趣表征、长期点击后兴趣表征、短期点击兴趣表征和短期曝光兴趣表征分别输入到四个Dropout层中,并融合类型嵌入向量;将融合类型嵌入向量的特征输入到全连接层,生成最终的融合兴趣向量。

6.根据权利要求5所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,Dropout层的单调函数表达为:其中,S为序列的真实长度,θ1,θ2为控制单调性和斜率的超参数,p(S)为所得Dropout比例。

7.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,采用深度交叉网络对广告特征向量表示、用户特征向量表示以及环境特征向量表示进行处理的过程包括:深度交叉网络包括深度网络和交叉网络;其中深度网络由多层全连接层组成,交叉网络由多层交叉层组成;其中全连接层用于获取广告特征向量表示、用户特征向量表示以及环境特征向量表示的深层特征信息,交叉层用于获取广告特征向量表示、用户特征向量表示以及环境特征向量表示的交叉特征信息;将深度网络提取的特征信息与交叉网络提取的交叉特征信息与多类型兴趣向量融合模块输出的融合兴趣向量拼接后输入至全连接层得到最终的结果。

8.根据权利要求1所述的一种基于深度多行为网络的广告点击率预测方法,其特征在于,模型的损失函数表达式为:其中,y为真实值,为预测的概率值,n为样本数。