利索能及
我要发布
收藏
专利号: 2021107680025
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-07-29
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种图像分类的利用多层卷积层信息的注意力机制方法,其特征在于,所述方法包括以下步骤:

1)输入当前卷积层与在它之前两层的卷积层的输出A、A',利用全局平均池化分别获得A和A'的通道信息X、X';

2)利用1×1的卷积将X、X'进行压缩以进一步减少计算量,得到 和 ;

3)将 做转置,在  和 之间做矩阵乘法得到 与 的点乘关系,生成 的权值矩阵M ;

4)使用RELU函数,滤除M中小于0的元素;

5)利用1×1卷积,将A映射到M的维度,得到A的映射特征 ;

6)M与 做矩阵乘法进行特征更新生成新特征图y,y中的每个元素是 中每个通道对应位置元素的加权和,权值是 中每个元素与 中每个元素的关系;

7)用1×1的卷积将y映射到A的维度,得到新特征图映射后的特征 ;

8)将 与A做残差连接,保证注意力模块嵌入已经预训练好的模型时不会破坏它的初始参数。