1.一种基于卷积层间关系的注意力机制方法,其特征在于,所述实施方法包括以下步骤:
H×W×C H×W×C
1)输入为前一层卷积神经网络的输出A∈R 和当前层的输出A'∈R1 ,分别对两
1×1×C 1
个卷积层的输出进行全局平均池化获分别得到各自的通道权重信息,即x∈W 和x'∈W1×1×C
,其中H和W分别为特征图feature maps的高和宽,C表示通道的数量;
2)对获取的两个通道权重信息x,x'进行关系计算,利用矩阵乘法计算当前层每个通道与前一层全部通道的线性关系,当前层的权重向量与前一层的权重向量转置相乘得到卷积T
层间关系矩阵 即x'×x=M,其中C为通道的数量;
3)将关系矩阵M输入到两层卷积神经网络中进一步训练,得到 其中C为通道的数量;
4)对训练获得的M'进行列平均处理,得到 即将关系矩阵M进行训练再对其列平均得到当前层每个通道关于前一层的全局信息,其中C为通道的数量;
5)将最终的通道权重向量x”再作用于当前层的输出A',得到 其中H和W分别为特征图feature maps的高和宽,C表示通道的数量。