欢迎来到利索能及~ 联系电话:18621327849
利索能及
我要发布
收藏
专利号: 2021109812264
申请人: 武汉科技大学
专利类型:发明专利
专利状态:授权未缴费
专利领域: 计算;推算;计数
更新日期:2024-09-06
缴费截止日期: 暂无
联系人

摘要:

权利要求书:

1.一种基于CNN‑LSTM及深度学习的时空组合预测方法,其特征在于,包括如下步骤:S1、通过MI互信息算法对原始数据集的时间和空间相关性进行分析,消除数据间的冗余信息,对原始数据进行降维;

S2、建立MI‑CNN‑LSTM模型,对步骤S1降维后的数据进行预测,其中,CNN网络用于提取各站点空间信息,LSTM网络用于获取时间序列数据间的依赖信息;

S3、在LSTM网络的LSTM层与输出层之间增加AT层,得到MI‑CNN‑ALSTM模型,并对训练集数据进行模型学习;

S4、引入PSO算法对训练参数寻优,得到MI‑CNN‑ALSTM‑PSO模型;

S5、通过MI‑CNN‑ALSTM‑PSO模型对测试集进行预测,得到最终的预测值。

2.根据权利要求1所述的方法,其特征在于,步骤S1中,原始数据集是采集的过去t小时内n个站点的m维特征的风电数据,表示为:

1 2 m n×t n×m×t

X=(X,X ,...,X) =(X1,X2,...,Xt)∈R上式中,n为观测站点编号,t为观测时间序列的窗口长度,m为数据特征维度;

则t时刻特征数据描述为:

上式中,WP为风电功率,WS为风速,WD为风向,TE为温度,PA为气压,DE为空气密度,i为站点编号。

3.根据权利要求2所述的方法,其特征在于,步骤S2中,将n个站点的m维特征数据组成n行m列矩阵,并将t个时刻的矩阵构造为时间分布层;

CNN网络的输入层维度为n×m×t,卷积层特征图的输出 为:上式中,Xi+n,j+m是输入矩阵的第n行m列的值,fcov(.)是选择激活函数,wn,m为卷积核n行m列的权重,bn,m是卷积核偏差,k为滑动窗口大小,输入矩阵使用多个卷积核进行卷积操作;

CNN池化层通过滤波器和滑动窗口步长进行降维下采样,再通过展平层将数据展平为一维阵列 其中 作为时间序列输入到LSTM网络的LSTM层。

4.根据权利要求3所述的方法,其特征在于,步骤S2中,LSTM网络内部包括三个门结构和一个用于存储记忆的状态模块;

设Ct为本LSTM单元存储的状态信息,xt为输入层的输入,ht为本单元隐含层的输出,ft为遗忘门,it为输入门, 为当前时刻信息,ot为输出门,“×”表示矩阵元素相乘,“+”表示相加运算,σ为sigmoid函数;

遗忘门:用于控制上一单元状态Ct‑1被遗忘的程度,其表达式如下:ft=σ(Wf*[ht‑1,xt]+bf)输入门:用于控制哪些信息被加入到本单元中,其表达式如下:it=σ(Wi*[ht‑1,xt]+bi)单元存储的状态信息:用于根据ft和it将新信息有选择的记录到Ct中,其表达式如下:输出门:用于将Ct激活,并控制Ct被过滤的程度,其表达式如下:ot=σ(Wo*[ht‑1,xt]+bo)ht=ot*tanh(Ct)

其中,Wf、Wi、 Wo分别为ft、it、 ot对应的权重矩阵,bf、bi、 bo分别为ft、it、ot对应的偏置项,tanh为双曲正切激活函数,定义如下:‑x

σ(x)=1/(1+e )

x ‑x x ‑x

tanh(x)=(e‑e )/(e+e )传统的LSTM网络结构包括输入层、LSTM层和输出层,输出层则依据下式将ht经过一个全连接层得到最终预测值yt:

yt=σ(Wy*ht+by)

上式中,Wy和by分别为权重矩阵和偏置项。

5.根据权利要求4所述的方法,其特征在于,步骤S3中,在LSTM网络的LSTM层与输出层之间增加AT层之后,通过下式得到注意力机制矢量Gt:上式中, 为softmax激活函数,Wh为权重向量,bh为偏置项;

依据下式将Gt与ht作元素乘,得到AT层的输出根据步骤S2中的yt=σ(Wy*ht+by),将 作为后续LSTM输出层的输入,并得到预测值yt:

6.根据权利要求1所述的方法,其特征在于,步骤S4具体包括如下步骤:S41、初始化:随机初始化粒子参数Pξ,并定义初始种群的粒子,赋予其初始速度和位置;

S42、迭代:每个粒子在探索空间中单独的搜寻最优解,将其记录为当前个体极值,迭代函数如下:

vξ+1=vξ+c1*rand()*(pbestξ‑xξ)+c2*rand()*gbestξ‑xξ)xξ+1=xξ+vξ+1

上式中,vξ是第ξ次迭代的速度,c1和c2是学习因子,rand()是介于(0,1)之间的随机数,粒子通过追寻局部最优解pbest(Pξ)和全局最优解gbest(Pξ)来确定后续位置,xξ是第ξ次迭代的位置;

S43、寻优:每个粒子单独进行寻优,并将个体极值与整个粒子群里的其他粒子共享,找到最优的那个个体极值作为整个粒子群的当前全局最优解;

S44、评估:每次迭代过程均对组合模型进行训练并计算出预测值及评价指标RMSE;

S45、停止迭代:MI‑CNN‑ALSTM‑PSO模型在搜索过程中达到最大迭代次数且满足RMSE最优则停止,否则返回步骤S42继续更新粒子。