1.基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,包括:预处理待识别的裁判文书,获得具有文本语义联系的待识别标签特征P,通过以下步骤实现:预先获取文本一及文本一对应的标签组成的数据对Data1和文本二及文本二对应的标签组成的数据对Data2;
将文本一及文本一对应的标签组成的数据对Data1和文本二及文本二对应的标签组成的数据对Data2输入到文本表征神经网络,获得文本表征M;将预先获取的标签邻接矩阵和标签向量矩阵输入图注意力神经网络,得到标签特征;
对文本表征M与标签特征 关联的相似特征进行提取,获得基于文本语义联系的待识别标签特征P;
将待识别标签特征P输入预先训练获得的网络模型,网络模型输出预测的标签集合;
输出预测的标签集合就是裁判文书争议焦点;
预先获取文本一及文本一对应的标签组成的数据对Data1和文本二及文本二对应的标签组成的数据对Data2,通过以下步骤实现:步骤1,待识别的裁判文书包括裁判文书的文本编号、案情描述、预先定义的标签类别和标签的个数;
案情描述包括诉请和答辩内容;
将列表形式的案情描述拼接成文本形式,获得文本;
将文本中低于设定字数且包含的标签个数大于设定标签个数的文本剔除,得到裁判文书 ,Ci表示第i个裁判文书,yi为第i个裁判文书包含的标签类别, ,k表示所有预先定义的所有标签类别总数;
基于诉辩双方,将第i个裁判文书拆分成文本一Ci1和文本二Ci2,文本一和文本二的标签相同;
文本一及文本一对应的标签组成数据对
,文本二及文本二对应的标签组成数据
对 ;
将文本一及文本一对应的标签组成的数据对Data1和文本二及文本二对应的标签组成的数据对Data2输入到文本表征神经网络,获得文本表征M,通过以下步骤实现:文本表征网络包括孪生网络BERT模型和双向长短时记忆网络;
步骤2,将Data1和Data2输入到孪生网络BERT模型中,生成Data1对应的文本向量TCLS1、Data1对应的具有上下文语义信息的词向量 、Data2对应的文本向量TCLS2和Data2对应的具有上下文语义信息的词向量 ;
将词向量T1输入到双向长短时记忆网络中,得到涵盖文本双向语义信息的文本H1={h11,h21,…,hn1};
将词向量T2输入到双向长短时记忆网络中,得到涵盖文本双向语义信息的文本H2={h12,h22,…,hn2};
将最大池化后的文本向量TCLS1和文本H1拼接,得到文本TH1;
将最大池化后的文本向量TCLS2和文本H2拼接,得到文本TH2;
将TH1和TH2拼接,得到完整的句子TH;
利用自注意力机制处理完整的句子TH,获得文本表征M。
2.根据权利要求1所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,将预先获取的标签邻接矩阵和标签向量矩阵输入图注意力神经网络,得到标签特征,通过以下步骤实现:步骤3,构建标签图G=(V,E),V是标签图的节点,E是标签图的边;
将预先获取的标签邻接矩阵和标签向量矩阵输入图注意力神经网络,利用图注意力神经网络聚合每个标签图的节点V来自领域标签图的节点的信息,得到标签特征 。
3.根据权利要求2所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,对文本表征M与标签特征 关联的相似特征进行提取,获得基于文本语义联系的待识别标签特征P,通过以下步骤实现:步骤4,利用交互注意力机制对文本表征M与标签特征 关联的相似特征进行提取,获取基于文本语义联系的待识别标签特征 , 为预先获取的交互注意力向量。
4.根据权利要求3所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,预先获取交互注意力向量,通过以下步骤实现:将文本表征M与标签特征 进行点乘运算,得到信息交互矩阵Q:,
式中,Qaj是矩阵Q的第a个词对第j个标签的元素,m为矩阵Q的总行数,n为矩阵Q的总列数;
分别对Q的行与列作归一化处理,获得αaj和βaj:,
,
αaj表示上下文中第a个词对第j个标签的注意力权重,βaj表示第a个标签对上下文中第j个词的注意力权重; 利用αaj,构建矩阵A:;
利用βaj,构建矩阵B:
;
对矩阵B按列求平均值,得到矩阵 , 的转置矩阵为 ;
计算交互注意力向量γ:
。
5.根据权利要求4所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,将待识别标签特征P输入预先训练获得的网络模型,网络模型输出预测的标签集合。
6.根据权利要求5所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,预先训练获得的网络模型,包括:利用交叉熵损失函数反向传播迭代更新网络模型的参数,直到交叉熵损失函数收敛,获得最终的网络模型。
7.根据权利要求6所述的基于BERT和GAT的裁判文书争议焦点识别方法,其特征在于,交叉熵损失函数为:,
式中, 为交叉熵损失值,k为所有预先定义的所有标签类别总数,c为文档数, 为第b个文档中标签j的真实值, 为多层感知器输出的第b个文档中标签j的预测值。
8.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至6中任一项所述方法的步骤。