1.一种基于Transformer的综合负荷预测方法,其特征在于,包括:
获取检测日历数据、负荷检测数据和气象检测数据,并输入至预训练的综合负荷预测模型获得实时热能预测值、实时冷能预测值和实时电能预测值;
所述综合负荷预测模型的构建过程为:
由历史综合负荷数据集中获取日历数据、负荷历史数据和气象历史数据,将负荷历史数据进行预处理获得负荷训练数据,对负荷训练数据与气象历史数据以及日历数据进行相关性分析和筛选获得气象训练数据和日历训练数据;由日历训练数据、负荷训练数据和气象训练数据构建训练集;
基于Transformer深度学习模型构建综合负荷预测模型,将所述训练集输入至所述综合负荷预测模型进行多尺度分解操作,得到趋势性特征和季节性特征;将所述趋势性特征和所述季节性特征分别进行序列划分操作;对序列划分操作后的所述季节性特征进行第一特征提取操作得到电负荷、冷负荷、热负荷的季节性预测值,对序列划分操作后的所述趋势性特征进行第二特征提取操作得到电负荷、冷负荷、热负荷的趋势性预测值;将所述电负荷、冷负荷、热负荷的季节性预测值和电负荷、冷负荷、热负荷的趋势性预测值分别对应相加,最终得到所述训练集的训练预测结果,基于训练预测结果计算训练损失值,根据训练损失值对综合负荷预测模型的参数进行优化,重复迭代综合负荷预测模型的训练过程获得训练后的所述综合负荷预测模型。
2.根据权利要求1所述的基于Transformer的综合负荷预测方法,其特征在于,将负荷历史数据进行预处理获得负荷训练数据,过程包括:对所述负荷历史数据的缺省值插值处理、异常值修补处理、平滑处理和对所述历史综合负荷数据集的归一化处理;
其中,所述缺省值插值处理的具体步骤为用当前缺省值的前一个非缺省值和后一个非缺省值数据的均值进行填充;
若某一时刻的所述负荷数据与当天负荷数据均值的差值超过当天负荷数据均值的预设百分比,则将该负荷数据视为异常值;所述异常值修补处理采用线性样条插值法,其公式如下所示:;
其中,表示当前时刻,表示在当前时刻需要估算的待异常值修补处理的负荷数据值,表示上一时刻, 表示上一时刻的负荷数据值; 表示下一时刻, 表示下一时刻的负荷数据值;
使用Savitzky‑Golay滤波器实现所述平滑处理操作。
3.根据权利要求1所述的基于Transformer的综合负荷预测方法,其特征在于,对负荷训练数据与气象历史数据进行相关性分析和筛选获得气象训练数据,过程包括:计算负荷训练数据和所述气象历史数据以及日历数据中不同变量之间的Person相关系数,选取Person相关系数大于预设阈值的所述气象历史数据和日历数据作为辅助变量,得到气象训练数据和日历训练数据。
4.根据权利要求1所述的基于Transformer的综合负荷预测方法,其特征在于,综合负荷预测模型的构建过程还包括:由日历训练数据、负荷训练数据和气象训练数据构建构建验证集和测试集;
在每个训练周期结束后,使用所述验证集评估训练后的所述综合负荷预测模型,并对所述综合负荷预测模型进行更新,得到最佳的所述综合负荷预测模型;
将所述测试集输入至最佳的所述综合负荷预测模型,输出所述测试集的热能预测值、冷能预测值和电能预测值,利用所述测试集的热能预测值、冷能预测值和电能预测值计算综合负荷预测模型的评价指标。
5.根据权利要求4所述的基于Transformer的综合负荷预测方法,其特征在于,所述评价指标包括均方根误差、平均绝对误差和平均绝对百分误差。
6.根据权利要求4所述的基于Transformer的综合负荷预测方法,其特征在于,对所述综合负荷预测模型进行更新是指根据所述验证集得到的所述评价指标调整所述综合负荷预测模型的超参数,通过重复的训练和验证的过程,找到最优的参数配置,得到最佳的所述综合负荷预测模型。
7.根据权利要求4所述的基于Transformer的综合负荷预测方法,其特征在于,所述多尺度分解操作指的是将所述训练集分解为趋势性特征和季节性特征,所述尺度分解包括线性分支和池化层分支,具体步骤如下:所述线性分支流程为将所述训练集复制三份,复制后的相同的所述训练集分别与线性层中尺寸为(15,15)的权重矩阵相乘,得到第四特征向量、第五特征向量和第六特征向量,并对所述特征向量进行数据归一化操作,得到线性层分支结果;
所述池化层分支流程为将所述训练集复制三份,复制后的相同的所述训练集分别输入池化窗口为6、12、24的1维平均池化函数,得到不同趋势程度的第一特征向量、第二特征向量和第三特征向量,得到池化层分支结果;
将所述线性层分支结果和所述池化层分支结果进行元素相乘,具体为特征向量1与特征向量4逐元素相乘,特征向量2与特征向量5逐元素相乘,特征向量3与特征向量6逐元素相乘,得到三个新的不同的特征向量,再对所述三个新的不同的特征向量进行相加操作,得到所述趋势性特征;
将所述训练集与所述趋势性特征相减,得到所述季节性特征。
8.根据权利要求4所述的基于Transformer的综合负荷预测方法,其特征在于,所述序列划分操作的具体步骤为:将所述季节性特征进行所述序列划分操作,分得到包含电负荷的季节性特征数据、包含冷负荷的季节性特征数据、包含热负荷的季节性特征数据,所述包含电负荷的季节性特征数据包括电负荷、气象数据和日历数据;所述包含冷负荷的季节性特征数据包括冷负荷、气象数据和日历数据;所述包含热负荷的季节性特征数据包括热负荷、气象数据和日历数据;所述季节性特征和所述趋势性特征的序列划分规则相同,将所述趋势性特征进行序列划分操作,分别得到包含电负荷的趋势性特征数据、包含冷负荷的趋势性特征数据和包含热负荷的趋势性特征数据。
9.根据权利要求8所述的基于Transformer的综合负荷预测方法,其特征在于,将序列划分后的包含电负荷的季节性特征数据、包含冷负荷的季节性特征数据和包含热负荷的季节性特征数据分别进行相同的第一特征提取操作,分别得到电负荷、冷负荷、热负荷的季节性预测值;
所述第一特征提取操作包括两个并行结构分支,分别为局部分支和全局分支;
对于所述局部分支,采用线性层从时间维度对所述季节性特征数据进行嵌入编码,从而得到所述季节性特征数据在不同时刻的高维表示,随后通过自注意力机制对编码后的所述季节性特征数据进行特征提取,从而得到局部分支提取的特征,所述自注意力机制的计算公式为:;
其中,表示查询矩阵,表示键矩阵,表示值矩阵,T表示转置,、、为输入的所述季节性特征数据经过三个不同的线性层计算得出的特征矩阵, 表示所述季节性特征数据的特征维数; 表示计算所述查询矩阵 与所述键矩阵 之间的注意力权重,通过计算所述注意力权重得到不同变量之间相关性得分,最后与所述值矩阵 进行加权求和,最终得到所述自注意力机制的输出 ,即所述局部分支提取的特征;
对于所述全局分支,采用快速傅里叶变换实现卷积操作,从而对长时序列进行全局卷积,所述全局卷积的计算公式如下:;
其中,表示所述季节性特征数据, ,表示所述季节性特征数据的长度,表示所述季节性特征数据的特征维度, 表示 大小的实数矩阵, 表示所述全局卷积的可学习全局内核, ,表示所述全局分支提取的特征, , 表示快速傅里叶变换, 表示快速逆傅里叶变换,使用所述全局卷积的计算公式最终得到所述全局分支提取的特征;
将包含电负荷的季节性特征数据的所述局部分支提取特征与包含电负荷的季节性特征数据的所述全局分支提取特征相加,并进行Dropout操作,得到包含电负荷的季节特征向量;将包含冷负荷的季节性特征数据的所述局部分支提取特征与包含冷负荷的季节性特征数据的所述全局分支提取特征相加,并进行Dropout操作,得到包含冷负荷的季节特征向量;将包含热负荷的季节性特征数据的所述局部分支提取特征与包含热负荷的季节性特征数据的所述全局分支提取特征相加,并进行Dropout操作,得到包含热负荷的季节特征向量;
将所述包含电负荷的季节特征向量 使用电负荷解耦线性层 进行处理,
得到电负荷季节性预测值 ,如公式(1);将所述包含冷负荷的季节特征向量使用冷负荷解耦线性层 进行处理,得到冷负荷季节性预测值 ,如公式(2);将所述包含热负荷的季节特征向量 使用热负荷解耦线性层 进行处理,得到热负荷季节性预测值 ,如公式(3): (1);
(2);
(3)。
10.根据权利要求8所述的基于Transformer的综合负荷预测方法,其特征在于,所述第二特征提取操作的具体步骤为:采用相同的解耦多层感知机对输入的包含电负荷的趋势性特征数据 、包含冷负荷的趋势性特征数据 和包含热负荷的趋势性特征数据分别进行处理,分别得到电负荷趋势性预测值 、冷负荷趋势性预测值和热负荷趋势性预测值 ,所述多层感知机前后添加了可逆实例归一化层,计算公式如下:;
;
;
其中, 表示可逆实例归一化层, 表示多层感知机。
11.一种基于Transformer的综合负荷预测系统,其特征在于,包括:
预测模块,获取负荷检测数据和气象检测数据,并输入至预训练的综合负荷预测模型获得热能预测值、冷能预测值和电能预测值;
数据获取模块,由历史综合负荷数据集中获取负荷历史数据和气象历史数据,将负荷历史数据进行预处理获得负荷训练数据,对负荷训练数据与气象历史数据进行相关性分析和筛选获得气象训练数据;由负荷训练数据和气象训练数据构建训练集;
模型构建模块,用于基于Transformer深度学习模型构建综合负荷预测模型,多尺度分解模块,用于所述训练集输入至所述综合负荷预测模型后进行多尺度分解操作,得到趋势性特征和季节性特征;
序列划分模块,将所述趋势性特征和所述季节性特征分别进行序列划分操作;
第一特征提取模块,对序列划分操作后的所述季节性特征进行第一特征提取操作得到电负荷、冷负荷、热负荷的季节性预测值,第二特征提取模块,对序列划分操作后的所述趋势性特征进行第二特征提取操作得到电负荷、冷负荷、热负荷的趋势性预测值;将所述电负荷、冷负荷、热负荷的季节性预测值和电负荷、冷负荷、热负荷的趋势性预测值分别对应相加,最终得到所述训练集的训练预测结果,模型优化模块,基于训练预测结果计算训练损失值,根据训练损失值对综合负荷预测模型的参数进行优化,重复迭代综合负荷预测模型的训练过程获得训练后的所述综合负荷预测模型。