利索能及
我要发布
收藏
专利号: 2024113005670
申请人: 南京信息工程大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-12
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.代理模型辅助的演化生成对抗网络架构搜索方法,其特征在于,包括以下步骤:

步骤1,构建一个生成对抗网络;

步骤2,初始化生成生成对抗网络架构并进行训练,以生成训练数据集,并训练代理模型;

步骤3,初始化粒子种群,设置每个个体的历史最优解,并使用非支配排序挑选出全局最优解;

步骤4,使用代理模型挑选出种群中有潜力的网络架构,并对挑选出的网络架构进行训练,同时使用非支配排序和粒子群算法更新种群;

步骤5,更新代理模型训练数据集并重新训练代理模型;

步骤6,重复步骤4、步骤5直至粒子群算法达到目标代数,并挑选出网络架构进行重训练;

步骤1中,所述生成对抗网络的网络架构包括一个全连接层和3个堆叠的单元Cell,每个单元Cell包含5个节点和7条边,其中所述7条边分为2个上采样边和5个卷积边,上采样边将从3种上采样操作中进行挑选,而卷积边将从7种卷积操作中进行挑选;每一个单元Cell看作是一种有向无环图,边表示候选操作,节点表示处理得到的特征图;

第i个单元Cell表示为 其中i取值为1~3, 代表两个

上采样边对应的操作, 代表第一个卷积边对应的操作;将3个单元Cell进行堆叠得到生成对抗网络的网络架构的对应编码N=[X1,X2,X3];

步骤2中,随机生成m个生成对抗网络架构,并对m个网络架构进行训练,组成代理模型数据集set=[N1,N2,...,Nm];Nm表示第m个生成对抗网络架构;

将数据集set随机划分为训练数据集settrain和测试数据集settest;

采用如下方法将任意两个生成对抗网络架构进行两两组合:将训练数据集settrain和测试数据集settest中的网络架构编码以独热编码One‑hot编码形式进行重新编码,独热编码oOne‑hot编码后的网络架构为N =One_hot(N),随机抽取训练数据集settrain任意两个生成对抗网络架构 和 将 和 直接拼接,形成代理模型输入数据 通过比较两个生成对抗网络架构 和 的弗雷歇指数距离FID和图像质量评分IS值,以对输入数据打上标签label,如果label值为1,表示第一个网络架构的弗雷歇指数距离FID和图像质量评分IS均优于第二个网络架构,如果label值为0,表示第二个网络架构的弗雷歇指数距离FID和图像质量评分IS均优于第一个网络架构;

通过所述方法对训练数据集settrain中的任意两个生成对抗网络架构进行两两组合,并训练支持向量机SVM,得到代理模型;使用所述方法将测试数据集settest的数据进行组合对代理模型性能进行测试,如果代理模型分类准确度大于阈值,则使用代理模型预测网络架构的性能。

2.根据权利要求1所述的方法,其特征在于,步骤3中,初始化粒子种群P0=[N1,N2,...,Nn],Ni代表第i个神经网络架构,n为种群个体数量;同时随机初始化Ni的位置和速度,Ni的位置表示为 xid为第i个个体在第d维上的位置;Ni的速度vid为第i个个体在第d维上的速度;

对初始化的个体进行训练得到适应值fitnessi=[FIDi,ISi],FIDi、ISi分别为网络架构对应的FID和IS值;

同时第i个神经网络架构Ni的历史最优解为pbesti,初始化为pbesti:fitnessi,采用非支配排序对粒子种群P0中的个体进行排序,将种群中处于第一前沿的个体集合设置为当前种群的全局最优解gbest=[pbest1,pbest2,...,pbestn]。

3.根据权利要求2所述的方法,其特征在于,步骤4包括:

步骤4.1,使用种群更新公式对种群进行迭代;

步骤4.2,使用代理模型预测性能优异的网络架构,并进行训练;

步骤4.3,更新种群的每个个体的历史最优解和全局最优解。

4.根据权利要求3所述的方法,其特征在于,步骤4.1中,根据如下公式对种群进行迭代:其中,ω为惯性因子;k表示当前迭代的次数;c1,c2是加速系数;rand1、rand2为0~1之间的随机数; 为第k代第i个粒子在第d维上的速度, 为第k代第i个粒子在第d维上的位置;pbestid是第i个粒子在第d维的个体极值点的位置,gbestd是整个群在第d维的全体极值点的位置。

5.根据权利要求4所述的方法,其特征在于,步骤4.2中,遍历当前种群中的全部个体,对于任意个体Ni,将Ni和pbesti所对应的网络架构分别进行one‑hot编码,得到的编码结构分别为 根据步骤2中的方法将 进行组合,构成代理模型输入将代理模型输入inputi送入代理模型中得到对应的输出,如果输出

结果为1,则说明Ni的网络架构性能优于pbesti架构,并对Ni的网络架构进行训练,得到真实精度fitnessi;如果输出结果为0,则说明Ni网络架构性能差于pbesti架构,fitnessi值设置为0;同时记录当代所有进行训练的网络架构,构建新训练网络架构集合setnew=[N1,N2,...,Nt],t为新训练网络架构个数,Nt表示第t个新训练网络架构。

6.根据权利要求5所述的方法,其特征在于,步骤4.3包括:根据步骤4.2得到当前种群更新后的每个个体所对应的适应值,通过使用非支配排序对种群个体的历史最优解和全局最优解进行更新,对于个体Ni,如果个体Ni的fitnessi完全支配pbesti,即个体Ni的网络架构的FID和IS值均优于历史最优解的对应值,则pbesti=fitnessi;如果fitnessi和pbesti为互不支配关系,则pbesti=rand(fitnessi,pbesti);如果fitnessi被pbesti支配,则pbesti保持不变;将新训练的个体并入全局最优解gbest,通过非支配排序挑选出其中处于第一前沿位的个体,构成新的全局最优解gbest。

7.根据权利要求6所述的方法,其特征在于,步骤5中,将新训练网络架构集合setnew中的网络架构增添到代理模型数据集set中,根据步骤2中的操作,重新划分代理模型的训练数据集和测试数据集,并重新训练和测试代理模型;

步骤6中,在种群迭代至目标代数后,将对处于全局最优解gbest中的全部个体进行重新训练,并最终挑选出符合任务需求的生成对抗网络。

8.根据权利要求1~7任一项所述的方法实现的代理模型辅助的演化生成对抗网络架构搜索系统,其特征在于,包括编码模块、训练模块和优化模块;

所述编码模块用于构建一个生成对抗网络,初始化生成生成对抗网络架构并进行训练,以生成训练数据集,并训练代理模型;初始化粒子种群,设置每个个体的历史最优解,并使用非支配排序挑选出全局最优解;

所述训练模块使用代理模型挑选出种群中有潜力的网络架构,并对挑选出的网络架构进行训练,同时使用非支配排序和粒子群算法更新种群;更新代理模型训练数据集并重新训练代理模型;

所述优化模块重复训练模块执行的步骤直至粒子群算法达到目标代数,并挑选出网络架构进行重训练。