1.一种院前急救信息处理装置,其特征在于,包括:
文本信息获取模块,用于获取院前急救病历的文本信息;
分类模块,用于将所述文本信息输入至预先训练的语言处理模型中进行分类处理,获得病症类型;
所述语言处理模型包括BERT模型和分类模型;
其中,包括以下步骤:
S21、将文本信息输入至BERT模型中,获得BERT模型输出的所述文本信息的词向量集合;BERT模型包括依次串联的输入结构、第一Transformer结构、第二Transformer结构和输出结构;
S22、将词向量集合输入至分类模型中,获得分类模型输出的病症类型;其中分类模型包括TextCNN层、Attention层、FastText层、全连接层和Softmax层;
将BERT模型输出的词向量集合输入至分类模型中,获得分类模型输出的病症类型,包括:S221、将BRET模型层输出的词向量集合输入至TextCNN层,获得TextCNN层对词向量进行多次卷积和池化处理后输出的文本信息的特征信息;
S222、将词向量集合输入至Attention层,获得Attention层对词向量进行赋值处理后输出的词向量集合中的关键词向量;
S223、将关键词向量输入至FastText层,获得FastText层对关键词向量进行2‑gram处理后输出的所述文本信息中关键词向量的特征信息;
S224、将文本信息的特征信息和关键词向量的特征信息输入至全连接层进行全连接处理,获得全连接层输出的融合特征信息;
S225、将融合特征信息输入至Softmax层,获得Softmax层输出的病症类型。
2.根据权利要求1所述的院前急救信息处理装置,其特征在于,所述分类模块包括:
词向量获取子模块,用于将所述文本信息输入至所述BERT模型中,获得所述BERT模型输出的所述文本信息的词向量集合;
分类子模块,用于将所述词向量集合输入至所述分类模型中,获得所述分类模型输出的所述病症类型。
3.根据权利要求1所述的院前急救信息处理装置,其特征在于,所述分类子模块,包括:
文本特征单元,用于将所述词向量集合输入至所述TextCNN层,获得所述TextCNN层对所述词向量集合进行多次卷积和池化处理后输出的所述文本信息的特征信息;
关键词向量单元,用于将所述词向量集合输入至所述Attention层,获得所述Attention层对所述词向量进行赋值处理后输出的所述词向量集合中的关键词向量;
特征信息单元,用于将所述关键词向量输入至所述FastText层,获得所述FastText层对所述关键词向量进行2‑gram处理后输出的所述关键词向量的特征信息;
融合单元,用于将所述文本信息的特征信息和所述关键词向量的特征信息输入至所述全连接层进行全连接处理,获得所述全连接层输出的融合特征信息;
分类单元,用于将所述融合特征信息输入至所述Softmax层,获得所述Softmax层输出的所述病症类型。
4.根据权利要求1所述的院前急救信息处理装置,其特征在于,所述TextCNN层包括至少两个并联的子模型,每个子模型包括至少两个串联的特征提取模块,所述特征提取模块包括至少两层卷积层、残差处理层和池化层,其中,每个子模型中的所有卷积层的卷积核大小相同,且不同子模型间的卷积层的卷积核大小不同。
5.根据权利要求4所述的院前急救信息处理装置,其特征在于,所述文本特征单元,包括:继承输入子单元,用于对于每个子模型中的特征提取模块,将所述特征提取模块的上一层神经网络的输出作为所述特征提取模块的输入;
残差处理子单元,用于将所述特征提取模块中最后一层卷积层的输出与所述特征提取模块的输入,输入至所述特征提取模块的残差处理层进行残差运算,获得所述残差处理层的输出;
池化子单元,用于将所述残差处理层的输出,输入至所述特征提取模块的池化层,将所述池化层的输出作为所述特征提取模块的输出;
变平子单元,用于将所述子模型中最后一个特征提取模块的输出作为所述子模型的输出,根据所有子模型的输出进行flatten处理,将flatten处理结果作为所述文本信息的特征信息。
6.根据权利要求1所述的院前急救信息处理装置,其特征在于,所述BERT模型包括至少两层串联的Transformer结构;
其中,每层所述Transformer结构预先均通过MLM任务和NSP任务进行预训练。
7.根据权利要求1所述的院前急救信息处理装置,其特征在于,所述文本信息获取模块包括:去噪子模块,用于对所述院前急救病历中的文本信息进行去噪处理,获取去噪后的文本信息;
标签子模块,用于将所述去噪后的文本信息设置标签,所述标签用于表示对于文本信息的病症类型。