1.一种生成对抗网络架构搜索方法,其特征在于,包括:根据参数量约束范围,对预构建的生成器超网进行单路径采样,得到有效子网;
根据有效子网的复杂度获得有效子网的自适应学习率,将有效子网的自适应学习率作为生成器超网的损失权重系数,更新生成器超网的损失,对生成器超网的共享权重进行联合优化,得到预训练的生成器超网;对生成器超网和判别器进行对抗训练,得到预训练的判别器;所述有效子网的自适应学习率表示为:;
;
;
其中, 表示有效子网 的指数衰减指数; 表示仿射变换系数; 表示有效子网 的复杂度; 表示有效子网的目标衰减最大值、最小值; 表示有效子网的复杂度最大值、最小值; 表示训练步为 时有效子网 的自适应学习率;表示总训练步数; 表示最小缩放系数;
将预训练的生成器超网作为初始种群,在进化阶段前期通过遗传算法,生成第一生成器超网候选架构;
将预训练的生成器超网作为初始种群,在进化阶段后期通过协方差矩阵自适应进化策略,生成第二生成器超网候选架构;
对生成器超网候选架构执行多目标非支配排序,更新有效子网并保持帕累托最优解,得到搜索到的最优生成器架构;所述生成器超网候选架包括第一生成器超网候选架构和第二生成器超网候选架构;
根据搜索到的最优生成器架构和预训练的判别器,得到搜索到的最优生成对抗网络架构。
2.根据权利要求1所述的生成对抗网络架构搜索方法,其特征在于,根据参数量约束范围,对预构建的生成器超网进行单路径采样,得到有效子网,包括:计算预构建的生成器超网中最大子网的参数量 ,根据最大子网的参数量 ,设定 目 标 参 数 量 及 其 允 许 的 浮 动 范 围 ,得 到 参 数 量约 束 范 围 [];其中, 表示偏差区间;
在生成器超网的候选操作池中,采用单路径采样方式生成候选子网,候选子网的节点分别从对应操作集合中随机选取操作,生成候选子网的基因型表示;
计算所述基因型表示的参数量,将参数量满足参数量约束范围的候选子网作为有效子网,直至满足预设最大采样次数。
3.根据权利要求1所述的生成对抗网络架构搜索方法,其特征在于,将有效子网的自适应学习率作为生成器超网的损失权重系数,更新生成器超网的损失,对生成器超网的共享权重进行联合优化,得到预训练的生成器超网,包括:将有效子网的自适应学习率作为生成器的损失权重系数,更新生成器的损失函数,所述生成器的损失函数表示为:;
其中, 表示有效子网 对应生成器的损失函数; 表示有效子网 的自适应学习率; 表示噪声向量 服从先验噪声分布 的数学期望; 表示判别器对伪样本的评分; 表示生成器以噪声向量 生成的伪样本;
将有效子网的路径梯度累积到生成器超网的共享权重上,公式为:;
其中, 表示对生成器超网络的共享超网络参数 的梯度算子; 表示有效子网生成器损失的总损失函数;表示搜索迭代中参与训练的有效子网数量; 表示第 i个有效子网 的生成器损失函数; 表示第t个训练步对应的基础学习率;
对生成器超网的共享权重进行联合优化,得到预训练的生成器超网;
对生成器超网和判别器进行对抗训练,得到预训练的判别器,包括:采用合页损失函数更新判别器的损失函数,得到预训练的判别器,所述判别器的损失函数表示为:;
其中, 表示判别器的损失函数; 表示真实样本 服从真实数据分布的数学期望; 表示判别器对真实样本 的评分; 表示合页操作。
4.根据权利要求1所述的生成对抗网络架构搜索方法,其特征在于,将预训练的生成器超网作为初始种群,在进化阶段前期通过遗传算法,生成第一生成器超网候选架构,包括:将预训练的生成器超网作为初始种群,生成初始父代个体;
从初始父代个体中选取两个基因型矩阵,对两个基因型矩阵执行逐位均匀交叉,交换上采样操作编码及普通操作编码,得到交叉基因型矩阵;
对交叉基因型矩阵中的位置随机进行离散变异,生成第一生成器超网候选架构。
5.根据权利要求1所述的生成对抗网络架构搜索方法,其特征在于,将预训练的生成器超网作为初始种群,在进化阶段后期通过协方差矩阵自适应进化策略,生成第二生成器超网候选架构,包括:将预训练的生成器超网作为初始种群,初始化种群中心、步长、协方差矩阵;
通过高斯采样生成子代个体,公式为:
;
其中, 表示第k个子代个体; 表示第g次迭代的种群中心、步长、协方差矩阵; 表示随机向量; 表示高斯分布;
根据生成器超网的共享权重评估子代个体的性能,计算子代个体的适应度函数,公式为:;
其中, 表示第k个子代个体的适应度函数; 表示第k个子代个体的感知相似度指数; 表示第k个子代个体的弗雷歇距离;表示调节适应度函数的权衡系数;
根据子代个体的适应度函数更新种群中心、步长、协方差矩阵,生成第二生成器超网候选架构。
6.根据权利要求5所述的生成对抗网络架构搜索方法,其特征在于,通过适应度函数值最大的前 个子代个体更新分布参数,所述分布参数包括种群中心、步长、协方差矩阵;
种群中心的更新公式为:
;
步长的更新公式为:
;
协方差矩阵的更新公式为:
;
其中, 表示第g+1次迭代的种群中心、步长、协方差矩阵; 表示均值更新的学习率;表示在当前代中用于更新分布参数的子代个体数量; 表示包含按适应度函数值排序后的子代个体 的种群中心的权重;表示当前种群规模; 表示在 中按适应度函数值排序后的第 个子代个体; 表示与 对应的随机向量; 表示累积因子; 表示自适应阻尼因子; 表示表示进化路径; 表示标准正态分布随机向量范数的数学期望值,表示单位矩阵; 表示基于进化路径长度的步长自适应缩放因子; 分别表示根据历史有效搜索方向来调整协方差矩阵时的学习率、根据当前代适应度函数值最大的前 个子代个体的分布来调整协方差矩阵时的学习率;
分别表示第g次迭代根据历史有效搜索方向来调整协方差矩阵、根据当前代适应度函数值最大的前 个子代个体的分布来调整协方差矩阵。
7.根据权利要求1所述的生成对抗网络架构搜索方法,其特征在于,对生成器超网候选架构执行多目标非支配排序,更新有效子网并保持帕累托最优解,得到搜索到的最优生成器架构,包括:计算生成器超网候选架构中每个有效子网的感知相似度指数和弗雷歇距离;
以最大化感知相似度指数、最小化弗雷歇距离为目标,构建多目标优化问题并求解;
根据求解结果,使用NSGA‑II对有效子网进行非支配层级排序,构建多个帕累托前沿;
在各帕累托前沿内计算有效子网在其目标上的拥挤距离,对各帕累托前沿的有效子网按照拥挤距离进行排序;
按照帕累托前沿的层级从低到高选取有效子网,若多个有效子网处于同一层帕累托前沿,则按照该层帕累托前沿中拥挤距离从大到小选取有效子网,直至达到预设的精英数目,得到搜索到的最优生成器架构。
8.一种生成对抗网络架构搜索系统,其特征在于,包括:路径采样模块,用于:根据参数量约束范围,对预构建的生成器超网进行单路径采样,得到有效子网;
网络训练模块,用于:根据有效子网的复杂度获得有效子网的自适应学习率,将有效子网的自适应学习率作为生成器超网的损失权重系数,更新生成器超网的损失,对生成器超网的共享权重进行联合优化,得到预训练的生成器超网;对生成器超网和判别器进行对抗训练,得到预训练的判别器;所述有效子网的自适应学习率表示为:;
;
;
其中, 表示有效子网 的指数衰减指数; 表示仿射变换系数; 表示有效子网 的复杂度; 表示有效子网的目标衰减最大值、最小值; 表示有效子网的复杂度最大值、最小值; 表示训练步为 时有效子网 的自适应学习率;表示总训练步数; 表示最小缩放系数;
前期进化模块,用于:将预训练的生成器超网作为初始种群,在进化阶段前期通过遗传算法,生成第一生成器超网候选架构;
后期进化模块,用于:将预训练的生成器超网作为初始种群,在进化阶段后期通过协方差矩阵自适应进化策略,生成第二生成器超网候选架构;
网络搜索模块,用于:对生成器超网候选架构执行多目标非支配排序,更新有效子网并保持帕累托最优解,得到搜索到的最优生成器架构;所述生成器超网候选架包括第一生成器超网候选架构和第二生成器超网候选架构;
网络生成模块,用于:根据搜索到的最优生成器架构和预训练的判别器,得到搜索到的最优生成对抗网络架构。
9.一种图像生成方法,其特征在于,包括:
获取待生成图像;
将所述待生成图像输入生成对抗网络,输出图像生成结果;
其中,所述生成对抗网络采用权利要求1至7任一项所述的生成对抗网络架构搜索方法获取。