1.一种基于双学习网络的立体图像视觉显著提取方法,其特征在于包括以下步骤:步骤一:选择一个包含有人类注视图及其对应的立体图像的数据库;然后将数据库中的每幅人类注视图缩放至80×60尺寸,将数据库中的每幅人类注视图对应的立体图像的左视点彩色图像和对应的立体图像的左视差图像均缩放至640×480尺寸;再将所有80×60尺寸的人类注视图、所有640×480尺寸的左视点彩色图像、所有640×480尺寸的左视差图像构成训练集,将训练集中的第k幅80×60尺寸的人类注视图记为 将训练集中的第k幅左视点彩色图像记为 将训练集中的第k幅左视差图像记为与 和 对应;其中,k为正整数,1≤k≤K,
K表示数据库中包含的人类注视图的总幅数,也为数据库中包含的立体图像的总幅数,K≥
50, 表示 中坐标位置为(x80,y60)的像素点的像素值, 表示中坐标位置为(x640,y480)的像素点的像素值, 表示中坐标位置为(x640,y480)的像素点的像素值,1≤x80≤80,1≤y60≤60,1≤x640≤640,1≤y480≤480;
步骤二:利用VGG网络模型中的特征提取技术构建深度学习模型,记为MS,其中,深度学习模型的第1个网络块至第5个网络块用于提取彩色特征、第6个网络块至第8个网络块用于提取视差特征、第9个网络块用于融合彩色特征和视差特征、第10个网络块用于进行位置偏好学习、第11个网络块用于进行卷积学习、第12个网络块用于视觉显著特征融合;
所述的步骤二的具体过程如下:
步骤A:构建深度学习模型的第1个网络块至第5个网络块,第1个网络块至第5个网络块用于提取彩色特征;
第1个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 最大池化层的输入
为 将最大池化层的输出记为 其中, 表示
中坐标位置为(x640,y480)的像素点的像素值, 表示中坐标位置为(x640,y480)的像素点的像素值, 表示中坐标位置为(x320,y240)的像素点的像素值,1≤x320≤320,1≤y240≤240,第一卷积层和第二卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为64、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
第2个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 最大池化层的输
入为 将最大池化层的输出记为 其中, 表示
中坐标位置为(x320,y240)的像素点的像素值, 表示中坐标位置为(x320,y240)的像素点的像素值, 表示中坐标位置为(x160,y120)的像素点的像素值,1≤x160≤160,1≤y120≤120,第一卷积层和第二卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为128、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
第3个网络块包括四层,第一层为第一卷积层、第二层为第二卷积层、第三层为第三卷积层、第四层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为第二卷积层的输入为 将第二卷积层的输出记为第三卷积层的输入为 将第三卷积层的输出记为
最大池化层的输入为 将最大池化层的输出记为
其中, 表示 中坐标位置为(x160,y120)的像素点的像素值, 表示 中坐标位置为(x160,y120)的像素点的像素值,表示 中坐标位置为(x160,y120)的像素点的像素值,表示 中坐标位置为(x80,y60)的像素点的像素值,1≤x80≤80,1≤y60≤60,第一卷积层、第二卷积层和第三卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为256、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
第4个网络块包括四层,第一层为第一卷积层、第二层为第二卷积层、第三层为第三卷积层、第四层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为第二卷积层的输入为 将第二卷积层的输出记为第三卷积层的输入为 将第三卷积层的输出记为
最大池化层的输入为 将最大池化层的输出记为
其中, 表示 中坐标位置为(x80,y60)的像素点的像素值,表示 中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值,第一卷积层、第二卷积层和第三卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为512、激活函数均为relu,最大池化层的步长为(1,1),1≤k≤K;
第5个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为第三卷积层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 第三卷积层的输入为
将第三卷积层的输出记为 其中, 表示
中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值,第一卷积层、第二卷积层和第三卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为512、激活函数均为relu,1≤k≤K;
步骤B:构建深度学习模型的第6个网络块至第8个网络块,第6个网络块至第8个网络块用于提取视差特征;
第6个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 最大池化层的输
入为 将最大池化层的输出记为 其中, 表示
中坐标位置为(x640,y480)的像素点的像素值, 表示中坐标位置为(x640,y480)的像素点的像素值, 表示中坐标位置为(x320,y240)的像素点的像素值,1≤x320≤320,1≤y240≤240,第一卷积层和第二卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为64、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
第7个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 最大池化层的
输入为 将最大池化层的输出记为 其中, 表示
中坐标位置为(x320,y240)的像素点的像素值, 表示中坐标位置为(x320,y240)的像素点的像素值, 表示中坐标位置为(x160,y120)的像素点的像素值,1≤x160≤160,1≤y120≤120,第一卷积层和第二卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为128、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
第8个网络块包括四层,第一层为第一卷积层、第二层为第二卷积层、第三层为第三卷积层、第四层为最大池化层,第一卷积层的输入为 将第一卷积层的输出记为第二卷积层的输入为 将第二卷积层的输出记为第三卷积层的输入为 将第三卷积层的输出记为
最大池化层的输入为 将最大池化层的输出记为
其中, 表示 中坐标位置为(x160,y120)的像素点的像素值, 表示 中坐标位置为(x160,y120)的像素点的像素值,表示 中坐标位置为(x160,y120)的像素点的像素值,表示 中坐标位置为(x80,y60)的像素点的像素值,1≤x80≤80,1≤y60≤60,第一卷积层、第二卷积层和第三卷积层的卷积核的大小均为(3,3)、卷积步长均为(1,1)、卷积核的数目均为256、激活函数均为relu,最大池化层的步长为(2,2),1≤k≤K;
步骤C:构建深度学习模型的第9个网络块,第9个网络块用于融合彩色特征和视差特征;
第9个网络块包括连接层,连接层通过通道数叠加的方式融合彩色特征和视差特征,连接层的输入为 将连接层的输出记为 其中, 表示 中坐标位置为(x80,y60)的像素点的像素值,1≤k≤K;
步骤D:构建深度学习模型的第10个网络块,第10个网络块用于进行位置偏好学习;
第10个网络块包括三层,第一层为第一卷积层、第二层为第二卷积层、第三层为位置偏好学习层,第一卷积层的输入为 将第一卷积层的输出记为 第二卷积层的输入为 将第二卷积层的输出记为 位置偏好学习层的
输入为 将位置偏好学习层的输出记为 的获取过程
为:将8×6尺寸的可学习参数图记为{Ipm(x8,y6)};然后利用双线性插值方法将{Ipm(x8,y6)}经学习后得到的参数图放大到80×60尺寸,得到偏好参数图,记为{Ipa(x80,y60)};再将{Ipa(x80,y60)}中的每个像素点的像素值逐像素乘以 中对应像素点的像素值,得到 其中, 表示 中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值,表示 中坐标位置为(x80,y60)的像素点的像素值,第一卷积层的卷积核的大小为(3,3)、卷积步长为(1,1)、卷积核的数目为320、激活函数为relu,第二卷积层的卷积核的大小为(3,3)、卷积步长为(1,1)、卷积核的数目为1、激活函数为relu,Ipm(x8,y6)表示{Ipm(x8,y6)}中坐标位置为(x8,y6)的像素点的像素值,1≤x8≤8,1≤y6≤6,Ipa(x80,y60)表示{Ipa(x80,y60)}中坐标位置为(x80,y60)的像素点的像素值,1≤k≤K;
步骤E:构建深度学习模型的第11个网络块,第11个网络块用于进行卷积学习;
第11个网络块包括十二层,第一层为Dropout层、第二层为第一卷积层、第三层为第一最大池化层、第四层为第二卷积层、第五层为第二最大池化层、第六层为第三卷积层、第七层为第四卷积层、第八层为第五卷积层、第九层为第一上采样层、第十层为第六卷积层、第十一层为第二上采样层、第十二层为第七卷积层,Dropout层的输入为 将Dropout层的输出记为 第一卷积层的输入为 将第一卷积层的输出记为 第一最大池化层的输入为 将第一最大池化层的输出
记为 第二卷积层的输入为 将第二卷积层的输出记为
第二最大池化层的输入为 将第二最大池化层的输出记为
第三卷积层的输入为 将第三卷积层的输出记为
第四卷积层的输入为 将第四卷积层的输出记为 第五卷积层
的输入为 将第五卷积层的输出记为 第一上采样层的输入为
第一上采样层采用双线性插值方法,将第一上采样层的输出记为
第六卷积层的输入为 将第六卷积层的输出记为
第二上采样层的输入为 第二上采样层采用双线性插值方法,
将第二上采样层的输出记为 第七卷积层的输入为 将第七卷
积层的输出记为 其中, 表示 中坐标位置为(x80,y60)的像素点的像素值,Dropout层的连接参数为0.5, 表示 中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x40,y30)的像素点的像素值,1≤x40≤40,1≤y30≤30, 表示 中坐标位置为(x40,y30)的像素点的像素值, 表示 中坐标位置为(x20,y15)的像素点的像素值,1≤x20≤20,1≤y15≤15, 表示 中坐标位置为(x20,y15)的像素点的像素值, 表示 中坐标位置为(x20,y15)的像素点的像素值, 表示 中坐标位置为(x20,y15)的像素点的像素值,表示 中坐标位置为(x40,y30)的像素点的像素值, 表示中坐标位置为(x40,y30)的像素点的像素值, 表示
中坐标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值,第一卷积层、第二卷积层、第三卷积层、第四卷积层、第五卷积层、第六卷积层、第七卷积层的卷积核的大小为(5,5)、卷积步长为(1,1)、卷积核的数目为64、激活函数为relu,第一最大池化层和第二最大池化层的步长为(2,2),第一上采样层和第二上采样层的上采样放大比例为(2,2),1≤k≤K;
步骤F:构建深度学习模型的第12个网络块,第12个网络块用于视觉显著特征融合;
第12个网络块包括两层,第一层为特征融合层、第二层为卷积层,特征融合层的输入为和 将特征融合层的输出记为 卷积层的输入为将卷积层的输出记为 其中, 表示 中坐
标位置为(x80,y60)的像素点的像素值, 表示 中坐标位置为(x80,y60)的像素点的像素值,卷积层的卷积核的大小为(1,1)、卷积步长为(1,1)、卷积核的数目为1、激活函数为relu,1≤k≤K;
至此构建得到深度学习模型MS;
步骤三:以训练集中的人类注视图为监督,以训练集中的左视点彩色图像和左视差图像为输入参数,对MS进行训练,将训练得到的模型记为MT;其中,训练过程中使用的loss函数为mse函数,使用SGD方法进行MS的梯度下降训练,学习率设置为0.0005;
步骤四:将待视觉显著提取的立体图像的左视点彩色图像和左视差图像对应记为{ILt(xLt,yLt)}和{IDt(xDt,yDt)};然后将{ILt(xLt,yLt)}缩放至640×480尺寸,将得到的图像记为{Ilt(x640,y480)};同样,将{IDt(xDt,yDt)}缩放至640×480尺寸,将得到的图像记为{Idt(x640,y480)};其中,ILt(xLt,yLt)表示{ILt(xLt,yLt)}中坐标位置为(xLt,yLt)的像素点的像素值,IDt(xDt,yDt)表示{IDt(xDt,yDt)}中坐标位置为(xDt,yDt)的像素点的像素值,1≤xLt≤W',1≤yLt≤H',1≤xDt≤W',1≤yDt≤H',W'表示{ILt(xLt,yLt)}或{IDt(xDt,yDt)}的宽度,H'表示{ILt(xLt,yLt)}或{IDt(xDt,yDt)}的高度,Ilt(x640,y480)表示{Ilt(x640,y480)}中坐标位置为(x640,y480)的像素点的像素值,Idt(x640,y480)表示{Idt(x640,y480)}中坐标位置为(x640,y480)的像素点的像素值;
步骤五:将{Ilt(x640,y480)}和{Idt(x640,y480)}作为输入参数,输入到MT中,得到待视觉显著提取的立体图像的视觉显著图像,记为{IOt(x80,y60)};其中,IOt(x80,y60)表示{IOt(x80,y60)}中坐标位置为(x80,y60)的像素点的像素值,1≤x80≤80,1≤y60≤60。