利索能及
我要发布
收藏
专利号: 2024119501477
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于知识感知提示微调的视频媒体平台对话推荐方法,其特征在于,首先,使用对比学习方法对齐历史对话和历史实体的语义空间,进而生成统一的提示模板;在提示模版设计中增加了增强的相似用户表示,以缓解数据稀疏和冷启动问题;然后,将提示向量和历史对话向量输入预训练语言模型,并在对话任务和推荐任务下进行联合训练;最后,通过微调好的预训练语言模型分别生成预测的回复语句和推荐项目,进而得到视频媒体平台当前的自然语言响应。

2.如权利要求1所述的一种基于知识感知提示微调的视频媒体平台对话推荐方法,其特征在于,所述方法包括以下步骤:步骤一、一个视频媒体平台通过与用户对话,为用户推荐可能感兴趣的视频项目;其中用户集合表示为A={a1,a2,…aN},视频项目集合表示为I={i1,i2,…iM},视频相关的实体集合表示为 视频媒体知识图谱 由实体集合 和实体之间的关系集合组成;平台与用户的第t轮之前的历史对话集合表示为 其中sj表示平台与用户的第j轮对话,第t轮的对话st作为当前的回复标签;历史实体集合表示为E={E1,E2,…Ej},其中Ej={ej1,ej2,…,ejH},Ej表示第j轮对话中出现的实体集合,eji表示第j轮对话中出现的第i个实体;

步骤二、将历史对话集合C中的每个sj的按对话时间顺序连接成一个长句s,并用项目掩码替换对话中出现的视频名称;使用XLM‑RoBERTa模型将长句s编码为一个单词嵌入矩阵S,再通过残差连接和自注意力神经网络得到历史对话的嵌入表示其中 WSA和b是可学习的参数矩阵和向量;

步骤三、基于视频媒体知识图谱 将历史对话中的实体进行实体连接,然后使用R‑GCN模型对实体和它们之间的关系进行编码,得到实体节点在R‑GCN模型的第(l+1)层的表示(l)其中 表示在关系r下e的邻居实体节点, 和W 是可学习的参数矩阵,Ze,r是正则化系数;随着历史对话中实体节点的累积,得到一个实体嵌入矩阵,再通过残差连接和自注意力神经网络得到历史实体的嵌入表示rE;

步骤四、将同一段对话中得到的对话表示rC和实体表示rE设为正例,反之则设为负例,计算对比学习损失函数+ ‑

进行预训练,其中h和h分别是对于h而言的正、负样本,sim(h1,h2)表示余弦相似度,τ是温度超参数;

步骤五、将预训练后得到的历史实体表示作为用户表示u,进而得到训练集中的全体用户表示矩阵U;使用k近邻搜索算法,检索与用户表示u的最相似的k个用户表示U′=[u1′,…,u′k];将相似用户集合U′中的每个ui′以概率ρ替换为随机选择的用户表示其中Aug()表示随机替换函数;

步骤六、计算将相似用户表示与目标用户表示融合后得到的表示

其中x是可学习的参数,Sigmoid(x)是相似用户表示的权重;遍历相似用户集合U′中的每个ui′,以此方法得到增强的相似用户表示矩阵步骤七、随机初始化软标记提示向量ST=[st1,…,stk];组合基于视频媒体知识图谱的用户表示、增强的相似用户表示以及软标记,得到提示模版其中k1,k2和k3分别是用户表示、相似用户表示和软标记的长度;

步骤八、将提示模板输入给一个前馈神经网络,得到提示向量 并与历史对话C和回复标签R相组合,得到预训练语言模型PLM的输入向量步骤九、将提示向量 和历史对话C输入PLM以生成预测的回复;

步骤十、计算对话任务的损失

其中N是训练的批次大小,mi是第i句目标回复的长度,Pr(w)表示计算Softmax分数,Θprompt表示提示编码器中可训练的参数,ΘPLM表示PLM中的可训练参数;

步骤十一、将PLM输入向量TPLM和推荐任务特殊标记输入PLM,得到PLM对应特殊标记的输出向量步骤十二、计算推荐任务的损失

其中N是训练的批次大小,M是项目的总数,yi,j表示第i轮时项目j的二元真实标签(0或

1), 表示由Softmax函数计算第i轮时项目j的预测概率;

步骤十三、计算联合损失函数

其中λ1和λ2是分别是对话任务和推荐任务的训练损失的权重;

步骤十四、重复执行步骤六至步骤十三,当Loss小于指定的最小损失值后,结束计算;

步骤十五、将提示向量 和历史对话C输入PLM以生成预测回复语句,将PLM输入向量TPLM和推荐任务特殊标记输入PLM得到推荐项目,用推荐项目的视频名称替换预测回复语句中的项目掩码,得到视频媒体平台对话推荐的当前的自然语言响应。

3.如权利要求2所述的一种基于知识感知提示微调的视频媒体平台对话推荐方法,其特征在于,所述步骤一中,所述视频相关的实体包括演员、导演、题材和风格。