1.一种基于深度学习的单细胞RNA测序数据分类方法,其特征在于,包括以下步骤:
步骤1:对单细胞RNA测序数据进行预处理后,获得训练数据集;
步骤2:构建基于改进Transformer的多尺度神经网络,利用训练数据集对基于改进Transformer的多尺度神经网络进行训练后,获得RNA测序数据分类模型;
步骤3:对待检测的单细胞RNA测序数据预处理后再输入到RNA测序数据分类模型中,模型输出对应的分类结果;
所述基于改进Transformer的多尺度神经网络包括依次相连的第一线性层、改进的Transformer模型、平均池化层、第一归一化层和第二线性层,基于改进Transformer的多尺度神经网络的输入作为第一线性层的输入,第二线性层的输出作为基于改进Transformer的多尺度神经网络的输出;
所述改进的Transformer模型包括编码器和门控前馈网络,改进的Transformer模型的输入作为编码器的输入,编码器的输出与可学习的位置编码相加后再输入到门控前馈网络中,门控前馈网络的输出作为改进的Transformer模型的输出;
所述编码器包括多尺度的多头注意力机制、随机失活层和第二归一化层,根据所述编码器的输入生成多个不同尺度的输入序列,接着将每个尺度的输入序列作为对应尺度的多头注意力机制的输入,然后将编码器的输入与所有尺度的多头注意力机制的输出拼接后再输入到随机失活层中,随机失活层和第二归一化层相连,第二归一化层的输出作为编码器的输出。
2.根据权利要求1所述的一种基于深度学习的单细胞RNA测序数据分类方法,其特征在于,所述预处理包括数据清洗和标准化处理。
3.根据权利要求1所述的一种基于深度学习的单细胞RNA测序数据分类方法,其特征在于,所述门控前馈网络,用于对门控前馈网络的输入进行非线性化处理。
4.一种基于深度学习的单细胞RNA测序数据分类系统,其特征在于,包括:
数据预处理单元,用于对单细胞RNA测序数据进行预处理;
训练数据集生成单元,用于根据预处理后的数据生成训练数据集;
数据分类单元,用于存储基于改进Transformer的多尺度神经网络以及对应的网络参数,以及利用基于改进Transformer的多尺度神经网络对输入的预处理后的测序数据进行分类,输出对应的分类结果;
网络训练单元,用于利用训练数据集对基于改进Transformer的多尺度神经网络进行训练,直至训练结束并将最终的网络参数发送给数据分类单元;
所述基于改进Transformer的多尺度神经网络包括依次相连的第一线性层、改进的Transformer模型、平均池化层、第一归一化层和第二线性层,基于改进Transformer的多尺度神经网络的输入作为第一线性层的输入,第二线性层的输出作为基于改进Transformer的多尺度神经网络的输出;
所述改进的Transformer模型包括编码器和门控前馈网络,改进的Transformer模型的输入作为编码器的输入,编码器的输出与可学习的位置编码相加后再输入到门控前馈网络中,门控前馈网络的输出作为改进的Transformer模型的输出;
所述编码器包括多尺度的多头注意力机制、随机失活层和第二归一化层,根据所述编码器的输入生成多个不同尺度的输入序列,接着将每个尺度的输入序列作为对应尺度的多头注意力机制的输入,然后将编码器的输入与所有尺度的多头注意力机制的输出拼接后再输入到随机失活层中,随机失活层和第二归一化层相连,第二归一化层的输出作为编码器的输出。
5.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至3中任一项所述基于深度学习的单细胞RNA测序数据分类方法的步骤。
6.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至3中任一项所述基于深度学习的单细胞RNA测序数据分类方法的步骤。
7.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1至3中任一项所述基于深度学习的单细胞RNA测序数据分类方法的步骤。