利索能及
我要发布
收藏
专利号: 2022100498187
申请人: 华南师范大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-10-10
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于回复感知反馈机制的语言处理方法,其特征在于,包括如下步骤:K X

S10:根据背景知识K和对话上下文X,获得背景知识表征H 、对话上下文表征H和上下文感知的背景知识表征WX→K;

S20:根据上下文感知的背景知识表征WX→K,选择一段背景知识段hX→K;

S30:根据背景知识段hX→K,逐个生成回复词,并在生成每一个回复词后,利用感知反馈机制,对所述背景知识段hX→K进行修正,以生成下一个回复词;

所述步骤S30包括如下步骤:

S31:生成第一个回复词;

其中,所述步骤S31,首先通过如下公式,根据计算第一个解码状态X

其中, 为初始解码状态;Ws和b为可训练参数; 为对话上下文表征H的最后一个元素;回复初始端r0为[BOS],表示回复生成的开始,e(r0)为r0的词向量;

接着,根据第一个解码状态 通过如下公式,训练第一个解码引导向量接着,根据第一个解码引导向量 通过以下公式,计算背景知识注意力 从而获得引导感知的背景知识表示K

其中, 属于所述背景知识表征H,

接着,根据第一个解码引导向量 通过以下公式,计算对话上下文注意力 从而获得引导感知的对话上下表示X

其中, 属于所述对话上下文表征H,

接着,根据引导感知的背景知识表示 和引导感知的对话上下表示 通过如下公式,获得原有词汇的特征向量接着,基于上述原有词汇特征向量 通过如下公式,计算第一个回复词r1从原有词汇V中生成的概率P(r1):

其中,Wvocab代表的是原有词汇;

接着,根据第一个解码引导向量 通过如下公式,计算所述第一个回复词r1从背景知K识K中选择的概率P(r1):

V

接着,根据第一个回复词r1从原有词汇中生成的概率P (r1)和从背景知识K中选择的概K率P(r1),通过如下公式,得到最终的词表概率分布P(r1):V K

P(r1)=pgenP(r1)+(1‑pgen)P(r1),V K

其中,Wgen和n均为可训练的参数,σ为Softmax激活函数;pgen是介于P(r1)和P(r1)之间的可训练门控;

根据算得的最终词表概率分布P(r1),选择一个词汇生成所述第一个回复词r1;

S32:检查本轮对话回复内容是否生成完毕;若本轮对话回复内容生成完毕,输出本轮对话回复内容,否则,执行步骤S33;

S33:计算已生成的回复词与背景知识段的相关度,获得感知结果;

S34:根据步骤S33获得的感知结果,对背景知识段hX→K进行修正;

S35:根据步骤S34修正后的背景知识段hX→K生成第下一个回复词,然后返回步骤S32;

所述步骤S33和步骤S34的计算方式如下:在所述步骤S33中,首先获取已生成的t‑1(t≥2)个回复词的集合F={r1,…,rt‑1},通过如下公式,计算表征序列F

其中,Wf和b为可训练函数,e(rt‑1)为rt‑1的词向量, 为表征序列H的初始元素;

F

接着,根据所述表征序列H的最后一个元素 通过如下公式,计算一个反馈特征矩阵G:T

其中,WX→K为所述上下文感知的背景知识表征WX→K的转置,接着,根据所述反馈特征矩阵G,通过如下公式,计算出一个回复感知反馈权重向量Z:T

A=SelfAttn(WX→K)=softmax(WX→KWX→K);

T

Z=(G⊙A)WX→K;

接着,在所述步骤S34中,基于所述回复感知反馈权重向量Z,通过以下公式,获得背景知识校正段其中,Wg1、Wg2和b均为可训练的参数;Wg1和Wg2分别为所述回复感知反馈权重向量Z和所述背景知识段hX→K的软开关;

接着,将背景知识校正段 作为现阶段背景知识段hX→K,以修正现阶段背景知识段hX→K:所述步骤S35中,生成第t个回复词rt的过程如下:根据上一个回复词rt‑1,通过如下公式,获得第t个解码状态其中,e(rt‑1)是rt‑1的词向量表示, 为第t‑1个解码状态;

接下来,根据第t个解码状态 通过如下公式,训练第t个解码引导向量接着,根据第t个解码引导向量 通过以下公式,计算一个引导感知的背景知识表示K其中, 属于所述背景知识表征H,

接着,根据第t个解码引导向量 通过以下公式,计算一个引导感知的对话上下文表示X

其中, 属于所述对话上下文表征H,

接着,根据引导感知的背景知识表示 和引导感知的对话上下文表示 通过如下公式,计算原有词汇特征向量接着,根据原有词汇特征向量 通过如下公式,计算回复词汇rt从原有词汇中生成的V概率P(rt):

K

接着,根据第t个解码引导向量 计算所述回复词汇rt从背景知识K中选择的概率P(rt):V K

接着,根据回复词汇rt从原有词汇中生成的概率P (rt)和从背景知识K中选择的概率P(rt),通过如下公式,得到最终的词表概率分布P(rt):V K

P(rt)=pgenP(rt)+(1‑pgen)P(rt),根据所述最终词表概率分布P(rt),选择一个词汇生成所述回复词rt。

2.根据权利要求1所述的基于回复感知反馈机制的语言处理方法,其特征在于:所述步骤S10中,包括如下步骤:S11:利用BIGRU神经网络模型,对背景知识K的每一个元素进行表征编码,得到背景知K X识表征H,和对对话上下文X的每一个元素进行表征编码,得到对话上下文表征H;

K K

S12:对所述背景知识表征H进行聚合计算,得到聚合后的背景知识表征H,和对所述对X X K话上下文表征H进行聚合计算,聚合后的对话上下文表征H;根据聚合后的背景知识表征HX和聚合后的对话上下文表征H,计算出匹配矩阵M,再对所述匹配矩阵M进行最大池化计算,获得上下文感知的背景知识表征WX→K。

3.一种基于回复感知反馈机制的语言处理系统,其特征在于:包括背景知识与对话上下文感知模块、背景知识段选择模块和回复生成模块、以及对话记录库和背景知识段库;所述背景知识与对话上下文感知模块从背景文本库中调用背景知识K并获得背景知识表征K XH,和从对话记录库中调用对话上下文X并获得对话上下文表征H,以及获得上下文感知的背景知识表征WX→K;所述背景知识段选择模块,根据所述上下文感知的背景知识表征WX→K,选择一段背景知识段hX→K,储存在所述背景知识段库;所述回复生成模块根据储存在所述背景知识段库的背景知识段hX→K,逐个生成回复词,并在生成每一个回复词后,利用感知反馈机制,对所述背景知识段hX→K进行修正,以生成下一个回复词;

其中,所述回复生成模块包括第一个回复词生成子模块、对话回复查验子模块、回复词相关度计算子模块、背景知识段修正子模块和下一个回复词生成子模块,以及本轮对话回复储存器;

所述第一个回复词生成子模块调用所述背景知识段库的背景知识段hX→K,计算获得第一个回复词,将所述第一个回复词储存在所述以及本轮对话回复储存器本轮对话回复储存器中;所述本轮对话回复储存器每新增一个回复词,所述对话回复查验子模块便调用本轮对话回复储存器中的所有回复词,检查本轮对话回复内容是否生成完毕,若本轮对话回复内容生成完毕,输出回复对话,否则,将已生成的回复词传输至所述回复词相关度计算子模块;所述回复词相关度计算子模块接收所述已生成的回复词,计算其与背景知识段hX→K的相关度,获得感知结果;所述背景知识段修正子模块接收所述感知结果,对背景知识段hX→K进行修正,以更新所述背景知识段库;所述下一个回复词生成子模块调用更新后的所述背景知识段库中的背景知识段hX→K,生成一个回复词,并将新生成的回复词储存至本轮对话回复储存器中;

所述回复词相关度计算子模块和背景知识段修正子模块执行如下的计算:所述回复词相关度计算子模块从所述本轮对话回复储存器中调用已生成的t‑1(t≥2)个回复词的集合F={r1,…,rt‑1},通过如下公式,计算表征序列F

其中,Wf和b为可训练函数,e(rt‑1)为rt‑1的词向量, 为表征序列H的初始元素;

F

接着,根据所述表征序列H的最后一个元素 通过如下公式,计算一个反馈特征矩阵G:T

其中,WX→K为所述上下文感知的背景知识表征WX→K的转置;

接着,根据所述反馈特征矩阵G,通过如下公式,计算出一个回复感知反馈权重向量Z:T

A=SelfAttn(WX→K)=softmax(WX→KWX→K);

T

Z=(G⊙A)WX→K;

所述背景知识段修正子模块接收所述回复感知反馈权重向量Z,通过以下公式,获得背景知识校正段其中,Wg1、Wg2和b均为可训练的参数;Wg1和Wg2分别为所述回复感知反馈权重向量Z和所述背景知识段hX→K的软开关;

接着,以背景知识校正段 的内容替换所述背景知识段库的内容,作为现阶段背景知识段hK→K,以修正现阶段背景知识hX→K:其中,所述第一个回复词生成子模块执行如下的计算:首先通过如下公式,根据计算第一个解码状态X

其中, 为初始解码状态;Ws和b为可训练参数; 为对话上下文表征H的最后一个元素;回复初始端r0为[BOS],表示回复生成的开始,e(r0)为r0的词向量;

接着,根据第一个解码状态 通过如下公式,训练第一个解码引导向量接着,根据第一个解码引导向量 通过以下公式,计算背景知识注意力 从而获得引导感知的背景知识表示K

其中, 属于所述背景知识表征H,

接着,根据第一个解码引导向量 通过以下公式,计算对话上下文注意力 从而获得引导感知的对话上下表示X

其中, 属于所述对话上下文表征H,

接着,根据引导感知的背景知识表示 和引导感知的对话上下表示 通过如下公式,获得原有词汇的特征向量接着,基于上述原有词汇特征向量 通过如下公式,计算第一个回复词r1从原有词汇V中生成的概率P(r1):

其中,Wvocab代表的是原有词汇;

接着,根据第一个解码引导向量 通过如下公式,计算所述回复词r1从背景知识K中选K择的概率P(r1):

V

接着,根据第一个回复词r1从原有词汇中生成的概率P (r1)和从背景知识K中选择的概K率P(r1),通过如下公式,得到最终的词表概率分布P(r1):V K

P(r1)=pgenP(r1)+(1‑pgen)P(r1),V K

其中,Wgen和b均为可训练的参数,σ为Softmax激活函数;pgen是介于P(r1)和P(r1)之间的可训练门控;

根据算得的最终词表概率分布P(r1),选择一个词汇生成所述第一个回复词r1,并将所述第一个回复词r1储存至本轮对话回复储存器中。