1.基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,构建由DWTResNet网络、双模态融合模块、RPN网络、ROI池化和分类器组成的CW R‑CNN目标检测模型,使用标注好的水下大坝裂缝的光学图像和声学图像组成的水下大坝裂缝双模态数据集训练CW R‑CNN目标检测模型;实时采集水下大坝的光学图像和声学图像,输入训练后的CW R‑CNN目标检测模型中进行水下大坝裂缝检测,输出检测结果;
利用离散小波变换构建DWTResNet网络,用于分别提取光学图像特征图和声学图像特征图;所述DWTResNet网络包括RESNET50和两个DWT模块;所述RESNET50依次由第1卷积块、第1层瓶颈块、第2层瓶颈块、第3层瓶颈块和第4层瓶颈块组成;第2层瓶颈块的输出连接一个DWT模块,该DWT模块再连接第2卷积块,第3层瓶颈块的输出连接另一个DWT模块,该DWT模块再连接第3卷积块;第4层瓶颈块的输出经上采样后与第3卷积块的输出融合,所得第一融合特征图再经上采样后与第2卷积块的输出融合,得到第二融合特征图,第二融合特征图再经全局平均池化和全连接层处理,得到DWTResNet网络的输出;
通过双模态融合模块将光学图像特征图和声学图像特征图融合为双模态融合特征图,双模态融合特征图通过RPN网络、ROI池化和分类器进行目标类别分类;
将光学图像特征图和声学图像特征图融合为双模态融合特征图的过程如下:使用DICE函数计算光学图像特征图和声学图像特征图的相似性指数 :;
其中,为相似性指数, 表示两个元素的相似性, 为标准差函数, 为光学图像特征图的层级信息, 为声学图像特征图的层级信息;
根据相似性指数调节融合比例,进行融合:
;
其中, 为光学图像特征图, 为声学图像特征图, 为两种模态的互补信息特征,为双模态融合特征图;
在CW R‑CNN目标检测模型训练过程中,将水下大坝裂双模态数据集按比例划分为训练集和验证集,正向传播过程中,输入图像首先经过DWTResNet网络提取光学图像特征图和声学图像特征图,再通过双模态融合模块将光学图像特征图和声学图像特征图进行融合,得到双模态融合特征图;在双模态融合特征图上,使用RPN网络来生成候选边界框,通过GIOU和软NMS算法过滤得到包含目标的候选边界框,对于每个包含目标的候选边界框,将其映射到固定大小的双模态融合特征图上,ROI池化为固定大小的特征向量;将特征向量输入到分类器,进行目标类别的分类和边界框的回归;利用分类结果和边界框的回归输出以及真实标签信息,计算损失函数,包括分类损失和边界框回归损失;最后通过反向传播算法更新网络参数,使得损失函数最小化。
2.根据权利要求1所述的基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,DWT模块首先对输入的声学图像或光学图像进行离散小波变换;离散小波变换过程为:对于输入的特征图 ,为特征图的像素横坐标,b为特征图的像素纵坐标,首先对b方向做高通滤波 、低通滤波 以及降频处理:;
;
表示特征图 的水平分量, 表示特征图 的垂直分量,
表示输入函数,K为滤波器的长度,k为滤波器的系数;
接着对 和 沿着a方向做高通、低通以及降频处理:
;
;
;
;
式中, 表示特征图 的水平分量, 表示特征图
的垂直分量, 表示特征图 的低频分量, 表示特征图
的垂直高频分量, 表示特征图 的水平高频分量, 表示特征
图 的对角线高频分量;
经DWT模块处理后得到特征图的低频分量 、水平高频分量 、垂直高频分量 和对角线高频分量 ,然后将水平高频分量 和垂直高频分量 聚合后用Softmax函数进行归一化,得到细节特征,再与低频分量 相乘得到详细特征图,最后将低频分量加入进来生成完整特征图。
3.根据权利要求1所述的基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,所述软NMS算法的流程为:输入一组候选边界框,每个候选边界框有对应的置信度得分;将所有候选边界框按照其置信度得分从高到低排序;从置信度得分最高的候选边界框开始,逐个遍历每个边界框;对于当前遍历的候选边界框,计算其与其他候选边界框的重叠区域;根据重叠区域的大小,使用一个衰减函数来更新候选边界框的置信度得分;对于更新后的置信度得分,如果置信度得分低于设定阈值,则将其丢弃,否则保留;继续遍历下一个候选边界框,直到所有候选边界框都被处理;得到一组经过软NMS算法处理后的候选边界框。
4.根据权利要求1所述的基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,所述损失函数 由两部分组成:分类损失 和边界框回归损失 , 为类别数量, 回归目标数量,λ为权重参数;
;
其中, 表示预测目标边界框的概率, 表示真实目标边界框的概率,表示预测边界框的偏移量, 表示相对于真实边界框的偏移量。
5.根据权利要求4所述的基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,分类损失 计算公式如下:。
6.根据权利要求4所述的基于声光图像融合的双模态水下大坝裂缝检测方法,其特征在于,边界框回归损失 计算公式如下:;
式中, 代表平滑 L1 损失函数;σ表示平滑 L1 损失函数的参数。