利索能及
我要发布
收藏
专利号: 2023103064358
申请人: 广西师范大学
专利类型:发明专利
专利状态:已下证
更新日期:2025-10-14
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.基于验证的前馈神经网络单层权重修复方法,其特征是,包括步骤如下:步骤1、利用验证器对训练好的机载防碰撞系统的前馈神经网络进行验证,验证其是否满足给定的安全属性,并将不满足安全属性的前馈神经网络的输入作为反例,通过反向传播法找出前馈神经网络的出错层;即:步骤1.1、将反例输入前馈神经网络,并将其传递到前馈神经网络的输出层,记录前馈神经网络的输出值;

步骤1.2将前馈神经网络的输出层的输出与真实标签进行比较,并利用均方误差损失函数计算出前馈神经网络的总误差;

步骤1.3、从前馈神经网络的输出层开始,使用链式法则计算得出前馈神经网络的每个权重的梯度,并将其传播回前馈神经网络的每一层;其中每个权重的梯度 为:其中, 表示前馈神经网络的总误差, 表示第 层第 个神经元的第 个权重;

,表示前馈神经网络的层数; ,表示前馈神经网络的第 层的神经

元个数; ,表示前馈神经网络的第 层的第 个神经元的权重数;

步骤1.4、计算前馈神经网络的每一层的所有神经元的所有权重的梯度的绝对值的总和,并将总和梯度最大的层确定为前馈神经网络的错误层;

步骤2、根据验证器提供的反例设置惩罚函数,其中惩罚函数 为:

式中,为前馈神经网络的出错层的权重, 为前馈神经网络的损失函数,为惩罚项的系数, 为惩罚项, , 为验证器提供的前馈神经网络的反例, 为输入为 时前馈神经网络的输出,i ,为验证器提供过的反例的数量, 为满意度函数,满意度函数是给定的由前馈神经网络表示的函数与定义的前馈神经网络的安全属性相结合的目标函数;

步骤3、将惩罚函数作为优化目标,将前馈神经网络出错层的权重作为粒子,利用粒子群优化算法对目标函数进行优化得到最优解,并将最优解作为前馈神经网络出错层的新的权重,此时完成训练好的前馈神经网络的修复。

2.根据权利要求1所述的基于验证的前馈神经网络单层权重修复方法,其特征是,步骤

3的具体过程如下:

步骤3.1、将步骤2所设置的惩罚函数作为粒子群优化算法的目标函数;

步骤3.2、初始化粒子群:设定搜索空间的上限和下限、每个粒子速度的上限和下限、局部学习因子C1和全局学习因子C2、算法的最大迭代次数T;将前馈神经网络出错层的权重看作一个粒子所在的位置,并在给定一个范围内随机生成初始种群,且随机初始种群中每个粒子的位置和速度;

步骤3.3、根据目标函数计算每个粒子的适应值,保存每个粒子的最优位置、个体最佳适应度值、群体的最优位置和群体最佳适应度值;

步骤3.4、根据速度和位置更新公式来更新每个粒子的速度和位置;

步骤3.5、计算更新后的每个粒子的适应值,将每个粒子的当前适应度值与其历史的最优位置时的适应度值比较:如果当前适应度值优于历史的最优位置时的适应度值,则将更新后的位置作为该粒子的最优位置;否则,将更新前的位置作为该粒子的最优位置;

步骤3.6、遍历种群的每个粒子,将它的最优位置对应的适应度值与种群最佳适应度值对比:如果粒子的最优位置对应的适应度值优于种群最佳适应度值,则将该粒子的最优位置作为种群的最优位置,并更新群体最佳适应度值;否则,保持种群最优位置和群体最佳适应度值不变;

步骤3.7、判断搜索到的结果是否满足停止条件,即达到最大迭代次数或满足精度要求:若满足停止条件则输出种群最优位置作为前馈神经网络出错层的新的权重;否则转到步骤3.4继续运行直到满足条件为止。