利索能及
我要发布
收藏
专利号: 201710239556X
申请人: 广东工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-09-16
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种嵌入逻辑规则的循环神经网络文本情感分析方法,其特征在于,包括以下步骤:S1)、运用数据采集工具抓取用于训练的文本语料,将文本语料进行情感类别标记,然后将情感标记的文本语料分为训练集语料、测试集语料两个集合,S2)、结合文本语料相关的词典和Ansj分词工具对步骤S1)中的训练集语料和测试集语料做分词处理,以及去停用词处理;

S3)、采用word2vec算法对步骤S2)中做分词处理、去掉停用词后的训练集语料和测试集语料进行训练,得到相应的词向量;

S4)、将步骤S2)中做分词处理、去掉停用词后的训练集语料和测试集语料输入到现有的知识库进行分析处理,输出得到由元素(εk,xi,xj)组成的三元组集合triple,并结合概率图模型得到节点xi与xj之间的概率关系p(xj|xi),其中,xi与xj表示由一条有向边xi→xj连接的节点对,每个词表示为一个节点,p(xj|xi)表示节点xi到节点xj且xj发生的概率,并且记该逻辑规则为εk;

S5)、在t时刻,将三元组集合triple的元素(εk,xi,xj)向量化后得到 将xt输入Logic-LSTM网络与Logic-RNN网络构建得到嵌入一阶逻辑规则的循环神经网络中训练出情感分析模型,所述的Logic-LSTM网络具体如下:h(t)=o(t)⊙tanh(c(t));

其中,δ为sigmoid激活函数,操作符⊙表示乘积操作,it、ict表示输入门,ft、fct表示忘记门,ot、oct表示输出门, 表示更新门;

隐含层的输出向量ht∈RH,传递到下一个时刻的隐含层向量为hct∈RH,Wi(Wi′)、Wf(W′f)、Wo(W′o)、Wc(Wc′)∈RH×d,Ui(+′i)、Uf(U′f)、Uo(U′o)、Uc(U′c)∈RH×H为模型的训练参数,其中H、d分别表示隐含层的维度以及输入的维度;

所述的Logic-RNN网络具体如下:

其中,f为非线性激活函数,U(U′)、W(W′)∈RH×d为模型的训练参数,st、 st表示隐含层的输出, 表示传递到下一个时刻的隐含层输出,Mask为1*d的屏蔽矩阵,CEM(xt,Mask)表示两个相同维度矩阵xt,Mask对应元素相乘;

S6)、将步骤S4)生成的训练集语料的逻辑规则结合步骤S3)训练好的词向量输入到步骤S5)构建的嵌入一阶逻辑规则的循环神经网络中,通过将Logic-LSTM网络和Logic-RNN网络的输出连接到softmax函数,从而训练出情感分析模型,通过softmax函数输出概率值向量作为模型输出结果;

S7)、将步骤S4)生成的测试集语料的逻辑规则结合步骤S3)训练好的词向量输入到步骤S6)训练好的情感分析模型中,对测试集语料进行情感分类。

2.根据权利要求1所述的一种嵌入逻辑规则的循环神经网络文本情感分析方法,其特征在于:所述的知识库为知识图谱或者句法依存树,所述的句法依存树可以采用Stanford Parser或者LTP-Cloud生成。