利索能及
我要发布
收藏
专利号: 2021115787151
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
更新日期:2026-08-19
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于分布式深度强化学习的微电网能量在线优化方法,其特征在于,所述基于分布式深度强化学习的微电网能量在线优化方法,包括:步骤1、初始化环境,包括:

步骤11、建立一个包含n个独立的发电单元、m个负载单元、实时充放电的储能单元以及进行电力交互的主电网的微电网系统模型;

步骤12、收集多智能体环境下的训练数据,为每个智能体设计本地的动作空间、状态空间、约束条件以及奖励值;

步骤13、为每个智能体创建两个独立的网络,基于动作的动作估计网络和基于价值的状态估计网络,并且创建两个独立网络各自对应的目标网络,动作现实网络和状态现实网络;

步骤14、为每个智能体建立一个经验池,存储智能体本地的状态参数、动作参数、奖励值,以及微电网系统模型中其他智能体的状态参数;

步骤2、获取环境参数输入Actor网络,根据Actor网络所选动作,更新下一个时刻的状态参数,所述环境参数包括本地负载单元的负载需求、本地发电单元的发电功率、本地发电单元与主电网的电力交互功率,以及储能单元的荷电量;

步骤3、根据当前时刻与下一时刻的状态参数进行约束条件判断,若满足约束条件则计算代价函数作为奖励值;否则计算惩罚函数作为奖励值;

步骤4、Actor网络从经验池获取本地的状态参数和动作参数进行学习,Critic网络从经验池获取全局参数进行学习,所述全局参数包括全局负载单元的负载需求、各发电单元的发电功率、各发电单元与主电网的电力交互功率,以及储能单元的荷电量;

步骤5、将当前时刻与下一时刻的状态参数、动作参数、奖励值存储至经验池中,并将下一时刻的状态参数赋予当前时刻;

步骤6、判断时刻是否达到最大值,若时刻达到最大值则回合结束输出各发电单元发电计划优化结果,否则返回步骤2继续执行。

2.如权利要求1所述的基于分布式深度强化学习的微电网能量在线优化方法,其特征在于,所述发电单元的动作为发电单元发电功率增减步长,所述主电网从整个动作区间内选择动作,所述动作区间范围为单位时间内发电单元发电功率最大增减量,则根据Actor网络当前时刻所选动作更新更新发电单元下一时刻的发电功率以及与主电网的电力交互功率如下:

PG,i(t+1)=PG,i(t)+ai·ΔPPgrid(t+1)=ai·δ

式中,PG,i(t+1)为发电单元i∈I[1,n]在时刻t+1的发电功率,PG,i(t)为发电单元i∈I[1,n]在时刻t的发电功率,ai为Actor网络当前时刻所选择的发电单元i∈I[1,n]的动作,ΔP为发电单元发电功率增减步长,Pgrid(t+1)为发电单元在时刻t+1与主电网的电力交互功率,δ为主电网的功率扩展系数,用于将选出的动作ai扩展到主电网功率范围。

3.如权利要求1所述的基于分布式深度强化学习的微电网能量在线优化方法,其特征在于,所述约束条件的设计如下:

1)功率平衡约束:在时刻t,微电网系统模型的功率平衡约束可以表示为:式中,PG,i(t)为发电单元i∈I[1,n]在时刻t的发电功率,Pess(t)为储能单元在时刻t与各发电单元的电量交互之和,Pd,j(t)为负载单元j∈J[1,m]在时刻t的负载需求,Pgrid(t)为主电网在时刻t的电力交互功率;

2)爬坡约束:在时刻t爬坡约束表示为:CLmin,i≤PG,i(t+1)‑PG,i(t)≤CLmax,iCLess,min≤Pess(t)≤CLess,max式中,CLmax,i,CLmin,i分别为发电单元i∈I[1,n]的爬坡功率上下限,CLess,max,CLess,min分别为储能单元的爬坡功率上下限,PG,i(t+1)为发电单元i∈I[1,n]在时刻t+1的发电功率;

3)功率上下限约束:在时刻t功率上下限约束表示为:Pmin,i≤PG,i(t)≤Pmax,iPgridmin≤Pgrid(t)≤Pgridmax式中,Pmax,i,Pmin,i分别为发电单元i∈I[1,n]的发电功率上下限,Pgridmax,Pgirdmin分别为主电网的电力交互功率上下限;

4)储能单元的荷电状态约束:在时刻t储能单元荷电状态约束表示为:SoCmin≤SoC(t)≤SoCmax式中,SoCmax,SoCmin分别为储能单元的荷电量上下限,SoC(t)为储能单元在时刻t的荷电量。

4.如权利要求1所述的基于分布式深度强化学习的微电网能量在线优化方法,其特征在于,所述代价函数的设计如下:

1)在满足负载需求,确保功率平衡的条件下,找到最优运行策略,降低发电单元的发电成本,使整体电力系统成本最低,其中发电成本代价函数表示为:式中,F1(t)为时刻t发电成本代价函数,PG,i(t)为发电单元i∈I[1,n]在时刻t的发电功率,αi,βi,γi为发电单元i∈I[1,n]的发电成本参数;

2)发电单元工作功率与储能单元寿命代价函数表示为:2

F2(t)=(PG,i(t)‑Popt,i) +|Pess(t)|/ESScap式中,F2(t)为发电单元工作功率与储能单元寿命代价函数,Popt,i为发电单元i∈I[1,n]的最优工作功率,Pess(t)为储能单元在时刻t与各发电单元的电量交互之和,ESScap为储能单元最大寿命;

3)储能单元荷电状态代价函数表示为:2

F3(t)=(SoC(t+1|t)‑SoCopt)式中,F3(t)为储能单元荷电状态代价函数,SoC(t+1|t)为储能单元在时刻(t+1|t)的荷电量,SoCopt为储能单元寿命与理想储电状态值;

4)主电网电力交易代价函数表示为:F4(t)=Pgrid(t)·Pricelevel(t)式中,F4(t)为主电网电力交易代价函数,Pgrid(t)为主电网在时刻t的电力交互功率,Pricelevel(t)为时刻t的电力交易电价。