利索能及
我要发布
收藏
专利号: 202010614853X
申请人: 西南大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-06-16
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种考虑通信时延的基于方差缩减技术的分布式投影方法,包括如下步骤:步骤1、针对同时具备本地集合约束和本地等式约束的多智能化系统提出原始优化问题模型(1);

步骤2、将步骤1所得的原始优化问题模型(1)进行等价转换成便于分布处理的凸优化问题模型(2);

步骤3、提出基于方差缩减技术的分布式投影算法(3)解决带约束的凸优化问题模型(2),即采用局部随机平均梯度无偏地估计局部全梯度,以此来减轻在每次迭代中计算所有局部目标函数的全梯度而导致的沉重的计算负担;

步骤4、对步骤3提出的基于方差缩减技术的分布式投影算法(3)进行收敛性分析。

2.根据权利要求1所述的一种考虑通信时延的基于方差缩减技术的分布式投影方法,其特征在于:所述步骤1中原始优化问题模型(1)的具体构建过程以及形式如下:首先:定义一个智能体集群V={1,…,m},通信网络边集 和邻接矩阵的无向通信网络 并且简单网络G没有自循环;

当智能体(i,j)∈E时,aij=aji>0,否则aij=aji=0;

智能体i的度表示为

对于对角矩阵D=diag{d1,d2,...,dm},无向网络G的拉普拉斯矩阵定义为如果无向网络G是连通的,那么拉普拉斯矩阵 就是对称的并且是半正定的;

其次,原始优化问题模型(1)的具体形式如下在上式中,所述目标函数 表示实际问题中需要处理的样本,所述 表示决策向量,qi表示分配给智能体i的局部问题总数;

同时在上式中将局部目标函数进一步分解为 其中为第h个局部目标函数的子函数;

基于上式,定义 为闭凸集,并且交集X是非空的,定义一个列满秩矩阵和 定义带约束凸优化问题(1)的最优解为

3.根据权利要求2所述的一种考虑通信时延的基于方差缩减技术的分布式投影方法,其特征在于:所述步骤2中凸优化问题模型(2)的具体形式如下:其中xi为智能体i对决策向量 的估计值;

定义矩阵B为一个列满秩的对角矩阵,对角元素为{B1,...,Bm},即堆叠向量 令

为笛卡儿积;记 其中 表示克罗内克积符号;qi的最大值和最小值分别表示为qmax和qmin(其中qmin≥1,即:每个智能体至少处理一个样本);根据以上陈述,可得到λmin(BTB)qmin>0;

基于上述凸优化问题模型(2)进行如下假设和定义:假设1:每个局部子目标函数fih都是强凸的,并且都有利普希茨连续梯度。即:对于所有的i∈V,h∈{1,...,qi},和 都有下列式子成立:其中0<μ≤Lf;

则,在假设一成立的条件下,带约束凸优化问题(2)的全局最优解是唯一存在的,并表示为假设2:无向网络G是连通的;

假设3:对于 和 存在

其中B0为一个正的整数。

定义1:定义全局向量去收集局部变量xi,k,yi,k,wi,k,gi,k和 如下:以及全局向量xk和wk局部延迟的版本:则,在第k次迭代时,通信时延 由智能体i和智能体j同时决定,因此,全局延迟向量xk[i]和wk[i]仅被智能体i所持有。

4.根据权利要求3所述的一种考虑通信时延的基于方差缩减技术的分布式投影方法,其特征在于:所述步骤3中基于方差缩减技术的分布式投影算法(3)的具体迭代过程如下:初始化:对于所有的智能体i∈V,初始化设置:k=0

对于智能体i=1,...,m,执行

1:从集合{1,...,qi}中任意选择一个样本

2:计算局部随机平均梯度如下

3:设置 并且存储

4:更新变量xi,k+1如下

5:更新变量yi,k+1如下

yi,k+1=yi,k+Bixi,k+1-bi

6:更新变量wi,k+1如下

wi,k+1=wi,k+βxi,k+1循环结束

设置k=k+1,重复上述循环直到满足停止条件;

其中,所述 为局部目标函数的子函数 在第k次迭代处的迭代值,表示n维实列向量。

5.根据权利要求4所述的一种考虑通信时延的基于方差缩减技术的分布式投影方法,其特征在于:所述 的迭代规则如下:

在迭代k处,对智能体i,定义局部随机平均梯度:其中 可以利用如下迭代进行计算:令Fk表示由局部随机平均梯度在迭代k产生的σ代数,则可得如下等式:

6.根据权利要求5所述的一种考虑通信时延的基于方差缩减技术的分布式投影方法,其特征在于:所述步骤4中的收敛分析过程如下:首先进行如下定义:

定义2:对于0<α<1/λmax(L),定义一个半正定矩阵P为:其中W=I-αL为一个正定矩阵,于是有:其中向量 和U*=[(x*)T,(y*)T,(w*)T]T;

则结合假设1-3以及定义1-2可得:在假设1-3成立的条件下,考虑基于方差缩减技术的分布式投影算法(3)和定义2中Uk与U*的定义,如果参数η,φ和ξ满足:

0<φ<2μ           (2]b)则,常数步长α和算法参数β满足:那么序列{Uk}k≥0是有界且收敛的,那么序列{xk}k≥0是唯一收敛于x*的。