欢迎来到利索能及~ 联系电话:18621327849
利索能及
我要发布
收藏
专利号: 2022103811421
申请人: 齐鲁工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-10-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于多头自注意力卷积神经网络的遥感场景分类方法,其特征在于,包括:获取原始遥感图像数据的训练集、验证集和测试集;

构建基于多头自注意力卷积神经网络的遥感场景分类模型,利用训练集对所述模型进行训练;

利用验证集对所述模型的训练权重进行验证,根据验证表现选择出最优权重;

根据所述最优权重对测试集进行测试,得到遥感场景分类结果;

所述模型包括特征提取网络、多头自注意力模块以及分类网络;所述特征提取网络采用VGG19网络的前12层卷积层,并加入批标准化;利用多头自注意力层对卷积神经网络学习到的卷积特征图进一步编码;多头自注意力模块包括两个级联的多头自注意力层,每个所述的多头自注意力层后面都跟有一个批归一化层和一个ReLu函数;所述多头自注意力模块包括残差网络结构。

2.根据权利要求1所述的方法,其特征在于,所述方法还包括:从训练集中随机选择部分图像进行多个预设角度的旋转;

向训练集中的每一张图像加入高斯噪声。

3.根据权利要求1所述的方法,其特征在于,所述方法还包括:将训练集、验证集和测试集中所有遥感图像的像素点的值收缩至固定区间内;

将训练集、验证集和测试集中所有遥感图像数据调整为同均值、同方差的分布状态;

将训练集、验证集和测试集中所有遥感图像缩放至统一尺寸。

4.根据权利要求1所述的方法,其特征在于,所述构建基于多头自注意力卷积神经网络的遥感场景分类模型,利用训练集对所述模型进行训练,包括:构建交叉熵损失函数;

通过软独热编码向交叉熵损失函数加入噪声,得到标签平滑的交叉熵损失函数。

5.根据权利要求4所述的方法,其特征在于,所述构建基于多头自注意力卷积神经网络的遥感场景分类模型,利用训练集对所述模型进行训练,还包括:通过所述标签平滑的交叉熵损失函数训练所述遥感场景分类模型,其中,所述损失函数通过随机梯度下降算法进行最小化。

6.根据权利要求1所述的方法,其特征在于,所述利用训练集对所述模型进行训练,包括:从零开始对所述模型进行训练或基于ImageNet数据集的预训练权重进一步微调;

测试从零开始训练的方式下和微调训练的方式下的模型的准确率,比较从零开始训练的方式下和微调训练的方式下的准确度的大小,确定微调方式训练与从零开始训练相比的增益。