利索能及
我要发布
收藏
专利号: 2018113659871
申请人: 西安理工大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-12-30
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于头脑风暴自动调整自编码网络的声呐识别方法,其特征在于,按照以下步骤实施:步骤1、对收集到的声呐数据进行处理,处理成网络能够识别的输入信号,确定待识别样本类的个数以及每一类样本的特征数即样本维度,同时确定网络的训练样本和测试样本;

步骤2、选择深度神经网络作为网络模型,具体过程是:

2.1)模型确定为自动编码机,

采用自动编码机对声呐数据特征进行提取;

2.2)确定采用softmax分类器,(1) (1) (m)

分类器采用softmax分类器,当声呐数据训练样本集合为{(x ,y ),...,(x ,y(m))},利用softmax分类器按下式对待识别物体特征进行分类:(i) (i) (i) (i)

其中,假设向量hθ(x )的每一个元素p(y =j|x ;θ)代表样本待识别物体特征x 属(i)于第j类的概率,概率越大,待识别物体特征x 属于第j类的概率就越大,θ1,θ2,...,θk为模型参数向量;

步骤3、对网络模型进行优化及确定,

自编码网络模型主要由自动编码机和分类器两部分组成,其中,输入层个数为待分类物体特征个数,输出层个数为声呐数据中待识别物体类的个数,对于网络模型的优化主要是对自动编码机结构的优化,既然自动编码机由输入层、隐藏层和输出层组成,因此,自动编码机结构的确定分为输入层节点数、输出层节点数、隐藏层层数及节点数优化三个方面,具体过程是:

3.1)确定输入层节点数,

自动编码机输入层也是网络的输入层,输入层节点数的个数与待识别物体数据维度d有关,是待识别物体特征数的输入;

3.2)确定输出层节点数,

对于自动编码机来说,输出层节点数与输入层节点数个数相同,具有相同维度;而对于整个自编码网络模型,输出层节点数为待识别样本的类的个数k;

3.3)隐藏层层数及节点数优化及确定,采用一种新的基于头脑风暴自动调整的自编码网络算法,该创新的头脑风暴算法优化隐藏层层数及节点数的具体过程是:

3.3.1)初始化,

引入头脑风暴算法,设置种群规模NP,最大迭代次数I,算法参数;

3.3.2)产生可行隐藏层层数及节点数的集合,为减少模型参数,各隐藏层节点数个数相同;因此,取自编码网络的隐藏层数和隐藏层i节点为决策变量,每个个体的维数就是决策变量的个数即L,N的个数,种群中第i个个体p如式(2)所示:i i i

p=[L ,N]    (2)

由于种群规模为NP即随机的产生NP个个体,其中每个个体的产生如式(3)所示:i

L=randint(1,max_L)i

N=randint(1,max_N)i i i

p=[L ,N]    (3)

i

式中,最大层数max_L=10,最大节点数max_N=300,p是第i个个体,最小层数及最小节点数均为1;即随机产生NP个个体,每个个体层数值在1到10之间,节点数在1到300之间;

3.3.3)确定个体评价指标,

由于隐藏层层数及节点数共同影响着网络模型的精度,因此对个体的评价指标即是网络模型总的评价标准;

3.3.4)对个体评价与聚类,

将步骤3.3.2)中产生的NP个个体集合分别代入自编码网络模型中,以自编码网络模型的总的评价标准作为个体的评价指标,对种群中每一个个体进行评价,对个体进行评价后,对个体按目标空间进行聚类,随机选择m个个体作为聚类中心,并计算个体到每个聚类中心的欧氏距离,将其聚到欧氏距离最小的类中,再计算每个类中所有点坐标的平均值,将平均值作为新的聚类中心,并不断迭代,最终得到聚成的m个类;

3.3.5)对种群与聚类中心进行更新,对隐藏层层数及节点数以很小的概率用任意解替代聚类中心,并以一定规则产生新个体,对新个体的产生采用高斯变异的方式,产生的新个体,见式(4):其中, 是新产生个体的第d维, 是选择个体的第d维,n(μ,σ)是以μ为均值、σ为方差的高斯随机函数,ξ是衡量高斯随机值的贡献的系数,*是指乘法运算;

3.3.6)判断是否达到迭代次数I,判断迭代次数t是否达到设定的最大迭代次数I,若否,设置迭代次数t=t+1,返回

3.3.4重新进行个体评价与聚类;若是,则进入步骤3.3.7);

3.3.7)输出最优个体,

输出针对该自编码网络模型的最优个体即隐藏层层数及节点数,并将最优隐藏层层数及节点数作为网络模型的最优结构,代入后续的网络训练;

步骤4、对自动编码机进行分层训练,

对自动编码机的分层训练分为初始化、编码解码、分层训练的目标函数建立、以及计算梯度变量更新;

步骤5、对网络模型进行微调,

将训练的网络隐藏层输出y即权值阈值作为自动编码机学习到的待分类的物体的特征,用于分类器的输入,并对网络模型进行微调;

步骤6、判断停止条件,

设定最大迭代次数,判断是否满足最大迭代次数,若不满足,返回步骤3;若满足,则进入步骤7;

步骤7、待识别样本输入分类,

将待识别声呐数据样本输入到已经训练好的网络模型,利用训练好的网络对待识别样本进行分类;

步骤8、计算识别率,

网络模型总体评价标准能够精确地表示网络识别率,但为更直观的表示网络对待识别样本的分类效果,表达式见式(12):其中,p为待识别样本总数,ɑ为分类正确的待识别样本,则利用式(12)能够直观的计算出声呐数据最优识别准确率。

2.根据权利要求1所述的基于头脑风暴自动调整自编码网络的声呐识别方法,其特征在于,所述的步骤4中,具体过程是:

4.1)初始化,

初始化自编码网络模型的权值、阈值,并设置迭代次数及权重下降参数;

4.2)编码解码,

对自动编码机的输入层、隐藏层和输出层,运用逐层贪婪的训练法则依次训练每一层网络;因此,从输入层待识别物体特征数据x到隐藏层的数据y进行编码,编码公式见式(5):y=Sf(W1x+b)    (5)从隐藏层的数据y重新恢复出输入层数据即输出层数据z进行解码,解码公见式(6):z=Sg(W2y+d)    (6)式(5)和式(6)中,w1是输入层与隐藏层的权值矩阵,w2是隐藏层和输出层的权值矩阵,b为隐藏层的偏置向量,d为输出层的偏置向量,Sf及Sg均为sigmoid函数,表达式见式(7):同时为了减少参数,将输入层与隐藏层之间的权值矩阵w1取为隐藏层与输出层的权值矩阵的转置w'2,表达式见式(8):W1=W’2=W    (8)

将隐藏层输出y作为网络学习到的待分类的物体的特征,并将其用于分类器的输入或者自编码网络模型中下层AE的输入;

4.3)建立分层训练的目标函数,

自动编码机的目的是通过编码解码使得自动编码机的输入与输出之间的差异最小化,因此,训练目标表达式见式(9):自动编码机输出z在声呐数据输入x给定的情况下由w,b,d来调节,而c(x,z)是每个训练样本的训练目标,则分层训练的目标函数变换为式(10):m为训练样本的数量,利用式(10)计算分层训练的目标函数即输出误差;

4.4)计算梯度变量及更新,

利用反向传播计算梯度变量,对权值阈值进行更新优化。

3.根据权利要求2所述的基于头脑风暴自动调整自编码网络的声呐识别方法,其特征在于,所述的步骤5中,具体过程是:

5.1)确定网络模型总体评价标准,

分层训练的目标函数是针对自动编码机而言的,在加入分类器后利用分类器对权值阈值参数进行微调,分类器目的是对输入的特征进行分类,输出为确定待分类物体的类,因此,分类器的分类效果的评价即为网络模型总体评价标准,对识别精度的评价标准,见式(11):其中,1{·}表示指示函数,当花括号中的表达式为真即预测结果与实际结果相同,则指示函数值为1,否则为0;同时,为了解决参数冗余所带来的数值问题,引入了权重衰减项,λ为权值衰减系数,利用式(11)对网络模型进行总体评价,当评价函数值越小,识别精度越高;

5.2)优化权值阈值参数,

与步骤4.4)相同,利用反向传播对权值阈值进行优化,得到网络模型最优的权值阈值。