1.基于可变时间常数梯度算法的综合能源系统优化调度方法,建立综合能源系统模型,将针对该模型的优化调度过程描述为一个马尔可夫决策过程,其特征在于:以运行综合能源系统运行成本最小为目标,应用双延迟深度确定性策略梯度算法训练神经网络,在对目标网络进行软更新前,对当前回合的奖励值rt与上一轮软更新时的奖励值rt‑3进行比较,设置可变时间常数τt:其中τt‑3为上一轮更新使用的可变时间常数,τ0=0.005,ρ为时间常数变化量;t表示目标网络当前回合的更新时刻,t‑3表示目标网络上一回合的更新时刻;
根据可变时间常数τt进行目标策略网络和目标价值网络的更新:
φ’t=τtφ’t‑3+(1‑τt)φ’t
θ’i_t=τtθ’i_t‑3+(1‑τt)θ’i_t
其中,φ’t、θ’i_t分别表示当前轮次更新后的目标策略网络参数和目标价值网络参数,φ’t‑3、θ’i_t‑3分别表示上一轮次更新的目标策略网络参数和目标价值网络参数;
使用训练后的神经网络进行综合能源系统日内调度,从而实现综合能源系统最优经济成本运行。
2.如权利要求1所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:设定目标函数为各个机组的运行成本,建立如下优化目标函数:其中CE(t)、CCHP(t)、CESS(t)、CGB(t)分别为t时刻的购电成本、热电联产成本、储能系统、燃气锅炉运行成本,单位为$;T为单个调度周期的时间步数;
约束条件包括电功率平衡约束、热功率平衡约束、热电联产机组运行约束、储电系统运行约束、储热系统运行约束、主电网购电约束、电锅炉约束和燃气锅炉约束。
3.如权利要求1所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:将综合能源系统的优化调度过程描述为一个马尔可夫决策过程,定义智能体在每个时刻t的状态空间集合S(t)、动作空间集合A(t),以及在每个状态st下采取动作at获得的奖励值rt:S(t)={PPV(t),PLoad(t),HLoad(t),t,cGrid(t),SOC(t),SOT(t),PCHP(t)}A(t)={PCHP(t),HEB(t),PESS(t),HTSS(t),HGB(t)}rt=‑βcC(t)‑βgG(t)
其中PPV(t)为t时刻时光伏机组出力、PLoad(t)为t时刻时用户电负荷、HLoad(t)为t时刻时用户的热负荷、cGrid(t)为实时电价、SOC(t)为t时刻的储电状态、SOT(t)为t时刻的储热状态、PCHP(t)为t时刻时热电联产机组电功率出力;HEB(t)为t时刻电锅炉出力功率、PESS(t)t时刻储电系统放电功率、HTSS(t)为t时刻储热系统放热功率、HGB(t)为t时刻燃气锅炉出力功率;C(t)代表每个调度时段t的所有成本总和,G(t)代表为系统在每个调度时段t失约束的成本总和,βc和βg为成本函数和惩罚函数的系数。
4.如权利要求1或3所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:初始化策略网络π(s|φ)、第一价值网络Q(s,a|θ1)和第二价值网络Q(s,a|θ2)的参数,并将赋值给目标网络;
设置一个四元组(st,at,rt,st+1),用于存放智能体与环境交互产生的状态st、动作at、奖励rt和下一状态st+1;采用探索性初始化填充经验池,定义动作选择方法为:其中μ是探索概率,初始值设定为1,并随着时间t逐渐减小。
5.如权利要求4所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:在网络训练过程中更新3次价值网络 后更新1次策略网络π(s|φ)。
6.如权利要求5所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:价值网络的更新方法为:从经验池中随机选取一组数据(st,at,rt,st+1),使用目标策略网络π'(s|φ ')网络计算出状态为st+1时对应的动作at+1:at+1=π'(st+1|φ')
向动作at+1需要添加噪声:
at+1=at+1+ε
其中ε为动作噪声,其数值不超过动作的最大值且随着训练轮数逐渐减小至0;
计算两个价值网络 和 的输出与y的均方误差之和,作为损耗函数Qloss:
y=rt+γmini=1,2Qi'(st+1,at+1|θi')其中,mini=1,2Qi'(st+1,at+1|θi')表示两个目标价值网络Q1'(st+1,at+1|θ1')和Q'2(st+1,at+1|θ2')输出的最小值,γ为权重系数;利用梯度下降算法更新两个价值网络的参数。
7.如权利要求5所述基于可变时间常数梯度算法的综合能源系统优化调度方法,其特征在于:策略网络的更新方法为:策略网络π(s|φ)根据当前状态st输出新动作at+1:
at+1=π(st|φ)
通过价值网络 计算新动作at+1的价值qi_t+1:
qi_t+1=Qi(st,at+1|θi)
计算两个价值网络输出的均值并取相反数作为策略网络的损耗函数πloss:使用梯度上升算法,完成对策略网络π(s|φ)的更新。