利索能及
我要发布
收藏
专利号: 2021104501127
申请人: 内蒙古工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2024-12-09
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种面向多轮对话中回复情感的动态决策方法,其特征在于,基于情感导向决策单元实现,所述情感导向决策单元以LSTM为基础模型,包括两个外部输入、两个内部隐藏状态U和四个门控机制,所述两个外部输入为用于提供用户当前情感信息的用户当前对话情感eTU和用于提供引导目标情感信息的用户目标情感极性S,e T∈{happiness,like,none,disgust,sadness,anger},S∈{positive,negative},所述两个内部隐藏状态为上一时刻的单元状态CT‑1和上一时刻的隐藏状态hT‑1,其中CT‑1代表长期的情感记忆,hT‑1代表短期的情感记忆,所述四个门控机制为:遗忘门fT,决定需要保留的历史情感记忆;输入门iT,决定需要增加的当前情感记忆;情感导向门gT,控制用户目标情感对当前情感决策的影响程度;

输出门oT,决定需要输出的情感决策信息,其中:U

fT=σ(Wf·[hT‑1,eT,S]+bf)U

iT=σ(Wi·[hT‑1,eT]+bi)

U

gT=σ(Wg·[eT,S]+bg)

U

oT=σ(Wo·[hT‑1,eT]+bo)

式中,σ为非线性激活函数,Wf、Wi、Wg和Wo为可训练的神经网络权重,bf、bi、bg和bo为可训练的神经网络偏差。

2.根据权利要求1所述面向多轮对话中回复情感的动态决策方法,其特征在于,所述非线性激活函数为Sigmoid函数。

3.根据权利要求1所述面向多轮对话中回复情感的动态决策方法,其特征在于,所述情感导向决策单元通过如下方法训练:U R U R U R U

以多轮对话的情感类别序列{e1,e1,e2,e2…,ej,ej,…,eT}和对应的目标情感极性US作为输入,决策出当前回复情感类别进行输出,其中e j表示第j轮用户语句的情感类别,Rej表示第j轮回复语句的情感类别。

4.根据权利要求3所述面向多轮对话中回复情感的动态决策方法,其特征在于,所述情R U R U R U R U感导向决策单元的目标函数为:O(θ)=P(e T|e1,e1,e2,e 2…,e j,ej,…,eT,S),并通过最小化交叉熵损失函数使得模型决策准确率最优化,其中,θ代表模型参数,O(θ)表示的是U R U R U R U在情感类别序列和目标情感极性{e1,e1,e2,e2…,ej,ej,…,eT,S}的条件下生成回复情R感eT的概率。

5.根据权利要求4所述面向多轮对话中回复情感的动态决策方法,其特征在于,所述最小化交叉熵损失函数为: 其中,c为情感类别索引,yic为指示变量,ei为回复语句i的真实情感类别索引,即,如果决策情感类别和回复语句i的真实情感类别相同则为1,否则为0;pic为对于回复语句i应为情感类别c的决策概率。

6.根据权利要求1所述面向多轮对话中回复情感的动态决策方法,其特征在于,最终决R策的情感类别即回复情感类别eT的计算公式为:R

eT=hT=oT*tanh(VT)

其中VT表示将长期情感信息、当前情感信息和引导目标情感信息进行融合,VT=CT+gT*QT;CT是当前单元状态,通过遗忘门fT、上一单元状态CT‑1、输入门iT以及PT计算得到,表示更U新长期的情感记忆,CT=fT*CT‑1+iT*PT;QT是计算当前用户情感类别e T和目标情感极性S分U布的结果,表示当前情感信息和引导目标情感信息进行压缩,QT=tanh(WQ·[eT,S]+bQ);PTU是计算上一时刻隐藏状态hT‑1和用户当前对话情感eT向量拼接后的结果,表示对短期内的U情感信息进行压缩,PT=tanh(WP·[hT‑1,eT]+bP);Wp、WQ和bP、bQ分别为可训练的神经网络权重矩阵和偏移项,tanh表示激活函数tanh。