1.一种通过构建全局嵌入式注意力残差网络对图像分类的方法,包括如下步骤:S100:将待分类的图像数据进行预处理;
S200:构建含有全局嵌入式注意力模块的全局嵌入式注意力残差网络,所述全局嵌入式注意力残差网络包括1个输入层、1个卷积核大小为7×7的卷积层、1个最大池化层、全局嵌入式注意力模块、2个全连接层和1个输出层,其中,所述全局嵌入式注意力模块包括基于全局上下文的空间注意力子模块和基于坐标的通道注意力子模块;
所述基于全局上下文的空间注意力子模块包括:
第一子单元,用于将预处理后的训练样本、验证样本和测试样本输入卷积层和池化层处理后进行全局平均池化操作,以获得包含全局信息的特征矩阵;
第二子单元,通过采用卷积核大小为1×1的卷积和reshape函数对包含全局信息的特征矩阵进行线性变换,以获得经过维度变换处理的特征矩阵;
第三子单元,通过使用so,max函数对经过维度变换处理的特征矩阵进行自适应选择,获得该特征矩阵上每个不同元素的对应权重,将每个不同元素的对应权重与包含全局信息的特征矩阵相乘,以获得包含全局上下文特征信息的特征矩阵;
第四子单元,用于对包含全局上下文特征信息的特征矩阵利用批归一化和ReLU激活函数进行非线性变换及利用1×1的卷积进行维度变换;所述基于全局上下文的空间注意力子模块表示为:其中,x表示为全局平均池化的输出,y表示全局上下文特征的输出,H和W分别表示输入图像的高度和宽度,X表示输入图像,K表示1×1卷积,ReLU表示ReLU激活函数,BN表示批归一化函数,N表示特征矩阵中元素的数量,e表示自然对数函数的底数,i、j、m分别表示特征矩阵中所有元素可能的位置,xj、xm分别表示特征矩阵中元素信息的值,t表示x矩阵的权重,txj和txm表示经过全局平均池化操作后的特征矩阵进行计算处理得到的输出值;
所述基于坐标的通道注意力子模块包括:
第五子单元,用于对完成非线性变换及维度变换后的包含全局上下文特征信息的特征矩阵分别沿W’和H’方向采用平均池化进行分解,获得沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵,其中,沿W’方向的一维特征矩阵包含通道的局部位置信息,沿H’方向的一维特征矩阵包含长期依赖信息;
第六子单元,用于将沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵进行级联并用1×1的卷积进行特征变换,获得经过维度变换的特征矩阵;
第七子单元,通过利用softmax函数对经过维度变换的特征矩阵进行权重分配获得具有不同权重的特征矩阵,对具有不同权重的特征矩阵分别利用1×1的卷积进行特征变换,获得全局嵌入式注意力模块的输出;
S300:将预处理后的待分类图像数据输入全局嵌入式注意力残差网络进行分类。
2.根据权利要求1所述的方法,其中,在完成全局嵌入式注意力残差网络构建后,需要选取训练样本并进行预处理以对该网络进行网络训练,需要选取验证样本并进行预处理以对训练后的网络的参数进行调整,需要选取测试样本对训练后的网络进行性能测试。
3.根据权利要求1所述的方法,其中,对完成非线性变换及维度变换后的包含全局上下文特征信息的特征矩阵分别沿W’和H’方向采用平均池化进行分解,获得的沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵分别表示为:其中,H’和W’表示全局上下文的空间注意力子模块输出图像的高度和宽度,ZH和ZW分别表示沿H’方向和沿着W’方向的一维特征矩阵,i和j分别表示第i行的H’和第j行的W’。
4.根据权利要求1所述的方法,其中,所述将沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵进行级联通过以下方式进行:g=K(zw+zh)
其中,g表示级联操作的输出,K表示1×1的卷积。
5.根据权利要求1所述的方法,其中,所述全局嵌入式注意力模块的输出表示为:z=X(i,j)×ac+X(i,j)×bc
且
其中,A和B表示随机数,Ac和Bc表示初始值,ac和bc表示具有不同权重的特征矩阵所对H W应的权重,e表示自然对数,g和g 是由步骤S306中的经过维度变换的特征矩阵经过ReLU激活函数处理后,再沿着空间维度切分为两个矩阵而得,步骤S306中经过维度变换的特征矩C×(W+H) H W C×H C×W阵维度为R ,经过切分的g和g特征矩阵维度分别为R 和R 。
6.根据权利要求2所述的方法,其中,对待分类的图像数据以及对训练样本、验证样本和测试样本按照以下步骤进行预处理:S201:对待分类的图像数据以及训练样本、验证样本和测试样本中的图像数据进行水平和垂直翻转;
S202:对翻转后的图像数据沿顺时针或逆时针旋转;
S203:对旋转后的图像数据进行缩放;
S204:对缩放后的图像数据进行减均值处理。
7.根据权利要求6所述的方法,其中,步骤S204中,对缩放后的图像数据进行减均值处理通过下式进行:其中,Z为减均值处理后的图像,vi为n个图像中的第i个图像的像素矩阵,n为100000整数个图像。