1.一种图像分类的利用多层卷积层信息的注意力机制方法,其特征在于,所述方法包括以下步骤:
1)输入当前卷积层与在它之前两层的卷积层的输出A、A',利用全局平均池化分别获得A和A'的通道信息X、X';
2)利用1×1的卷积将X、X'进行压缩以进一步减少计算量,得到 和 ;
3)将 做转置,在 和 之间做矩阵乘法得到 与 的点乘关系,生成 的权值矩阵M ;
4)使用RELU函数,滤除M中小于0的元素;
5)利用1×1卷积,将A映射到M的维度,得到A的映射特征 ;
6)M与 做矩阵乘法进行特征更新生成新特征图y,y中的每个元素是 中每个通道对应位置元素的加权和,权值是 中每个元素与 中每个元素的关系;
7)用1×1的卷积将y映射到A的维度,得到新特征图映射后的特征 ;
8)将 与A做残差连接,保证注意力模块嵌入已经预训练好的模型时不会破坏它的初始参数。