1.一种更新参数的方法,其特征在于,所述方法应用在深度学习同步数据并行训练过程中,所述方法包括:
获取每个训练节点的性能参数,所述性能参数包括中央处理器CPU型号、CPU个数、图形处理器GPU型号、处理预设数目个训练样本所耗时长中的至少一个参数;
根据所述每个训练节点的性能参数,分别确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize,其中,BatchSize是指训练节点一次训练过程中同时处理训练样本的数目;
将确定出的BatchSize,分别发送给对应的训练节点。
2.根据权利要求1所述的方法,其特征在于,所述根据所述每个训练节点的性能参数,分别确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize,包括:根据预先存储的性能参数与单位时长内处理训练样本的数目的对应关系,以及所述每个训练节点的性能参数,确定对应的单位时长内处理训练样本的数目,根据所述单位时长内处理训练样本的数目,确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize。
3.根据权利要求1所述的方法,其特征在于,所述将确定出的BatchSize,分别发送给对应的训练节点之后,还包括:
接收所述每个训练节点发送的梯度数据;
计算接收到的梯度数据的平均值;
根据所述平均值,确定待训练的模型的更新参数;
将所述更新参数发送给每个训练节点。
4.一种更新参数的方法,其特征在于,所述方法应用在深度学习同步数据并行训练过程中,所述方法包括:
接收中心节点发送的本训练节点对应的BatchSize,所述BatchSize是所述中心节点采用如权利要求1‑3任一项所述的方法确定出的;
根据所述BatchSize,获取对应数目的训练样本;
根据获取的训练样本,对待训练的模型进行训练处理。
5.根据权利要求4所述的方法,其特征在于,所述训练样本包括样本输入数据和输出参考数据;
所述根据获取的训练样本,对待训练的模型进行训练处理,包括:将获取的训练样本中的样本输入数据输入待训练的模型,得到所述训练样本对应的输出数据;
根据所述训练样本中的输出参考数据和所述输出数据,确定所述待训练的模型中的每个待训练参数对应的梯度数据;
将所述梯度数据发送给所述中心节点;
接收所述中心节点发送的更新参数,根据所述更新参数,对所述待训练的模型中的每个待训练参数进行参数更新。
6.一种更新参数的装置,其特征在于,所述装置用于执行深度学习同步数据并行训练,所述装置包括:
获取模块,用于获取每个训练节点的性能参数,所述性能参数包括中央处理器CPU型号、CPU个数、图形处理器GPU型号、处理预设数目个训练样本所耗时长中的至少一个参数;
确定模块,用于根据所述每个训练节点的性能参数,分别确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize,其中,BatchSize是指训练节点一次训练过程中同时处理训练样本的数目;
发送模块,用于将确定出的BatchSize,分别发送给对应的训练节点。
7.根据权利要求6所述的装置,其特征在于,所述确定模块,用于:根据预先存储的性能参数与单位时长内处理训练样本的数目的对应关系,以及所述每个训练节点的性能参数,确定对应的单位时长内处理训练样本的数目,根据所述单位时长内处理训练样本的数目,确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:接收模块,用于将确定出的BatchSize,分别发送给对应的训练节点之后,接收所述每个训练节点发送的梯度数据;
计算模块,用于计算接收到的梯度数据的平均值;
所述确定模块,还用于根据所述平均值,确定待训练的模型的更新参数;
所述发送模块,还用于将所述更新参数发送给每个训练节点。
9.一种更新参数的装置,其特征在于,所述装置用于执行深度学习同步数据并行训练,所述装置包括:
接收模块,用于接收中心节点发送的本训练节点对应的BatchSize,所述BatchSize是所述中心节点采用如权利要求1‑3任一项所述的方法确定出的;
获取模块,用于根据所述BatchSize,获取对应数目的训练样本;
训练模块,用于根据获取的训练样本,对待训练的模型进行训练处理。
10.根据权利要求9所述的装置,其特征在于,所述训练样本包括样本输入数据和输出参考数据;
所述训练模块,用于:
将获取的训练样本中的样本输入数据输入待训练的模型,得到所述训练样本对应的输出数据;
根据所述训练样本中的输出参考数据和所述输出数据,确定所述待训练的模型中的每个待训练参数对应的梯度数据;
将所述梯度数据发送给所述中心节点;
接收所述中心节点发送的更新参数,根据所述更新参数,对所述待训练的模型中的每个待训练参数进行参数更新。
11.一种更新参数的系统,其特征在于,所述系统用于执行深度学习同步数据并行训练,所述系统包括中心节点和训练节点,其中:所述中心节点,用于获取每个训练节点的性能参数,所述性能参数包括中央处理器CPU型号、CPU个数、图形处理器GPU型号、处理预设数目个训练样本所耗时长中的至少一个参数;根据所述每个训练节点的性能参数,分别确定所述每个训练节点在预设时长内能够处理的训练样本的数目,作为所述每个训练节点对应的样本数据批次数目BatchSize,其中,BatchSize是指训练节点一次训练过程中同时处理训练样本的数据;将确定出的BatchSize,分别发送给对应的训练节点;
所述训练节点,用于接收中心节点发送的本训练节点对应的BatchSize;根据所述BatchSize,获取对应数目的训练样本;根据获取的训练样本,对待训练的模型进行训练处理。