二次分解组合CNN-LSTM的短期负荷预测

短期电力负荷随机性强、波动性大。为提高负荷预测精度,文章提出一种基于二次分解的卷积神经网络（CNN）与长短期记忆（LSTM）神经网络组合的预测模型。其首先采用自适应噪声完备集合经验模态分解（CEEMDAN）方法将原始负荷序列分解为若干固有模态分量和残差;然后,引入样本熵与K均值（SEK-means, SK）,将分解得到的子序列重构为3个序列,并运用变分模态分解方法将重构分量中的强非平稳序列进行二次分解,建立CNN-LSTM模型,对分解得到的各个子序列分别进行预测;最后,将预测的结果叠加,以实现对负荷的有效预测。运用实际负荷数据从确定系数、平均绝对误差、均方根误差和平均绝对百分比误差这4种评价指标角度进行验证,结果表明,该模型与XGBoost、LSTM、CEEMDAN-LSTM和CEEMDANCNN-LSTM模型相比较,具有更高的拟合度和预测精度。     

强化数据预处理的BLSTNet-CBAM短期电力负荷预测

针对负荷数据复杂性、非平稳性以及负荷预测误差较大等问题,提出一种综合特征构建和模型优化的短期电力负荷预测新方法.首先采用最大信息系数(MIC)分析特征变量的相关性,选取与电力负荷序列相关的特征变量,同时,考虑变分模态分解(VMD)方法容易受主观因素的影响,采用霜冰优化算法(RIME)优化VMD,完成原始电力负荷序列的分解.然后改进长短期时间序列网络(LSTNet)作为预测模型,将其递归层LSTM更新为BiLSTM,并引入卷积块注意力机制(CBAM)进行预测.通过对比实验和消融实验的结果表明:经RIME-VMD优化后,LSTM、GRU、LSTNet模型预测的均方根误差(RMSE)均降低20%以上,显著提高模型预测精度,且能够适应于不同预测模型.所提出的BLSTNet-CBAM模型与LSTM、GRU、LSTNet相比, RMSE分别降低了35.54%、6.78%、1.46%,提高了短期电力负荷预测的准确性.     

基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法

短期电力负荷预测是电力系统中的重要问题之一,准确的预测结果可以提高电力市场的灵活性和资源利用效率,对电力系统高效运行具有重要意义.为了提高预测精度,针对电网负荷数据的时序性特征,提出一种基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法.该方法首先针对电力负荷的影响因素(温度、节假日等)提取特征,并使用双向长短期记忆(BiLSTM)神经网络层进行双向时序的特征学习;将双向时序特征作为长短期记忆(LSTM)神经网络层的输入,用LSTM神经网络建模学习时序数据的内部变化规律;使用attention机制计算LSTM隐层状态的不同权重,以对隐层状态进行选择性地关注;结合注意力权重和LSTM神经网络进行负荷预测,最后使用全连接层输出负荷预测结果.使用EUNIT电力负荷数据集进行实验,采用提前单点预测模式,该方法的平均绝对百分比误差(MAPE)达到1.66％,均方根误差(RMSE)达到814.85.通过与单LSTM网络、基于attention机制的LSTM网络(Attention-LSTM)、前馈神经网络(FFNN)、卷积神经网络联合长短期记忆神经网络(CNN-LSTM)等4种典型的负荷预测模型结果对比,验证了Attention-BiLSTM-LSTM神经网络方法更加准确有效.     

基于多尺度跳跃深度长短期记忆网络的短期多变量负荷预测

近年来,以循环神经网络（RNN）为主体构建的预测模型在短期电力负荷预测中取得了优越的性能。然而,由于RNN不能有效捕捉存在于短期电力负荷数据的多尺度时序特征,因而难以进一步提升负荷预测精度。为了捕获短期电力负荷数据中的多尺度时序特征,提出了一种基于多尺度跳跃深度长短期记忆（MSD-LSTM）网络的短期电力负荷预测模型。具体来说,以长短期记忆（LSTM）网络为主体构建预测模型能够较好地捕获长短期时序依赖,从而缓解时序过长时重要信息容易丢失的问题。进一步地,采用多层LSTM架构并且对各层设置不同的跳跃连接数,使得MSD-LSTM的每一层能够捕获不同时间尺度的特征。最后,引入全连接层把各层提取到的多尺度时序特征进行融合,再利用该融合特征进行短期电力负荷预测。实验结果表明,与单层LSTM和多层LSTM相比,MSD-LSTM的均方误差总体下降了10%。可见MSD-LSTM能够更好地提取短期负荷数据中的多尺度时序特征,从而提高短期电力负荷预测的精度。     

基于单步预测LSTM的短期负荷预测模型北大核心

针对目前智能电网下负荷数据存在特征相关性低与序列非平稳性的特点,为达到提高短期负荷预测精度的目的,提出一种单步负荷预测的双层LSTM模型的方法,除了考虑的地理区域的天气数据外,还使用负荷的时间序列。首先采用最大信息系数(MIC)对多源异构特征进行提取,随后使用随机森林和递归特征消除(RFE)用于特征选择,将对异常值敏感、鲁棒性好的Robust标准化方法应用于所选特征的预处理中,最后由单步预测的双层LSTM模型预测结果。文章所搭建的负荷预测模型具有数据强相关性特征、预测精度高的优点。依据数据实验结果,取得了1.38%的MAPE值。并且与其它预测模型相比,基于单步预测LSTM的短期负荷预测方法的预测精度提高效果明显。     

基于注意力机制和生成对抗网络的飞行器短期航迹预测模型

针对单一长短时记忆（LSTM）网络在航迹预测上无法有效提取关键信息以及难以精准拟合数据分布等问题,提出基于注意力机制和生成对抗网络（GAN）的飞行器短期轨迹预测模型。首先,引入注意力机制对航迹赋予不同的权重,以提升航迹中重要特征的影响力;其次,基于LSTM提取航迹序列特征,并经汇聚层汇集时间步长内所有的飞行器特征;最后,利用GAN在对抗博弈下不断优化的特性来优化模型,从而提高模型的准确性。相较于社会生成对抗网络（SGAN）,所提模型在处于爬升阶段的数据集上的平均位移误差（ADE）、最终位移误差（FDE）及最大位移误差（MDE）分别降低了20.0%、20.4%和18.3%。实验结果表明,所提模型能更精确地预测未来航迹。     

基于CNN-LSTM的QAR数据特征提取与预测

针对传统数据驱动的故障诊断方法难以从QAR数据中提取有效特征的问题,提出一种融合卷积神经网络（convolutional neural network,CNN）与长短时记忆网络（long short-term memory,LSTM）的双通道融合模型CNN-LSTM。CNN与LSTM分别作为两个通道,通过注意力机制（attention）融合,从而使模型能同时表达数据在空间维度和时间维度上的特征,并以时间序列预测的方式验证融合模型特征提取的有效性。实验结果表明,双通道融合模型与单一的CNN、LSTM相比,能够更有效地提取数据特征,模型单步预测与多步预测误差平均降低35.3%。为基于QAR数据的故障诊断提供一种新的研究思路。     

基于图注意力网络与双阶注意力机制的径流预报模型

为了提高流域径流量预报的准确率,考虑数据驱动水文模型缺乏模型透明度与物理可解释性的问题,提出了一种使用图注意力网络与基于长短期记忆网络（LSTM）的双阶注意力机制（GAT-DALSTM）模型来进行径流预报。首先,以流域站点的水文资料为基础,引入图神经网络提取流域站点的拓扑结构并生成特征向量;其次,针对水文时间序列数据的特点,建立了基于双阶注意力机制的径流预报模型对流域径流量进行预测,并通过基于注意力系数热点图的模型评估方法验证所提模型的可靠性与透明度。在屯溪流域数据集上,将所提模型与图卷积神经网络（GCN）和长短期记忆网络（LSTM）在各个预测步长下进行比较,实验结果表明,所提模型的纳什效率系数分别平均提高了3.7%和4.9%,验证了GAT-DALSTM径流预报模型的准确性。从水文与应用角度对注意力系数热点图进行分析,验证了模型的可靠性与实用性。所提模型能为提高流域径流量的预测精度与模型透明度提供技术支撑。     

多算法多模型与在线第二次学习结合的短期电力负荷预测方法

为了提高短期电力负荷预测精度,首次提出多算法多模型与在线第二次学习结合的预测方法。首先,利用互信息方法和统计方法对输入变量进行选择;然后,通过Bootstrap方法对数据集进行多样性采样,利用多个不同的人工智能算法和机器学习算法训练得到多个差异化较大的异构预测模型;最后,用每个待预测时刻最近一段时间的实际负荷值、第一次学习生成的多异构预测模型的负荷预测值构成新训练数据集,对新训练数据集进行在线第二次学习,得到最终预测结果。对中国广州市负荷进行预测研究,与最优单模型、单算法多模型和多算法单模型相比,在每日总负荷预测中,全年平均绝对百分误差（MAPE）分别下降了21.07%、7.64%和5.00%,在每日峰值负荷预测中,全年MAPE分别下降了16.02%、7.60%和13.14%。实验结果表明,推荐方法有效地提高了负荷预测精度,有利于智能电网实现节能降耗、调度精细化管理和电网安全预警。     

基于CNN-LSTM及深度学习的风电场时空组合预测模型

为了更好地预测风电场的风电功率,提取风电场相邻站点之间时空信息和潜在联系,提出了一种基于卷积神经网络(CNN)、互信息(mutual information, MI)法、长短时记忆网络(LSTM)、注意力机制(AT)和粒子群优化(PSO)的短期风电场预测模型(MI-CNN-ALSTM-PSO)。CNN用于提取不同站点的空间特征,LSTM则用于获取多个站点的风电数据的时间依赖信息,据此设计CNN-LSTM时空预测模型,并结合深度学习算法,如MI特征选择、 AT注意力机制、 PSO参数优化,对模型进一步改进。通过两个海岛风电场的实验数据分析可知,所提模型具有最优的统计误差,CNN-LSTM模型可以高效提取风电场时空信息并进行时间序列预测,而结合深度学习算法(MI、 AT和PSO)后的组合模型能进一步提高风电功率预测精度和稳定性。     

基于LSTM-XGBoost的短期电力负荷预测研究

随着电力系统的快速发展,针对短期电力负荷预测的人工智能方法研究已经取得了显著成就。由于长短期记忆(LSTM)神经网络能够拟合电力负荷数据时序性和非线性的特点,基于LSTM的短期电力负荷预测效果显著。但基于LSTM的预测方法存在预测精度低、泛化能力差等问题。为此,利用贝叶斯优化后的极限梯度提升(XGBoost)集成学习方法训练得到多个LSTM的强预测模型,提出基于LSTM-XGBoost的短期电力负荷预测的方法,并采用宁夏地区的电力数据进行算例分析。试验结果表明,对比基于LSTM和基于粒子群优化(PSO)-反向传播(BP)的短期电力负荷预测方法,基于LSTM-XGBoost的短期电力负荷模型预测精度、稳定性更高。该方法对于电力系统智能化发展有一定的应用价值。     

基于长-短时序特征融合的资源负载预测模型

高准确率的资源负载预测能够为实时任务调度提供依据,从而降低能源消耗。但是,针对资源负载的时间序列的预测模型,大多是通过提取时间序列的长时序依赖特性来进行短期或者长期预测,忽略了时间序列中的短时序依赖特性。为了更好地对资源负载进行长期预测,提出了一种基于长-短时序特征融合的边缘计算资源负载预测模型。首先,利用格拉姆角场（GAF）将时间序列转变为图像格式数据,以便利用卷积神经网络（CNN）来提取特征;然后,通过卷积神经网络提取空间特征和短期数据的特征,用长短期记忆（LSTM）网络来提取时间序列的长时序依赖特征;最后,将所提取的长、短时序依赖特征通过双通道进行融合,从而实现长期资源负载预测。实验结果表明,所提出的模型在阿里云集群跟踪数据集CPU资源负载预测中的平均绝对误差（MAE）为3.823,均方根误差（RMSE）为5.274,拟合度（R²）为0.815 8,相较于单通道的CNN和LSTM模型、双通道CNN+LSTM和ConvLSTM+LSTM模型,以及资源负载预测模型LSTM-ED和XGBoost,所提模型的预测准确率更高。     

基于迭代误差补偿的核极端学习机模型在短期电力负荷预测中的应用

针对BP神经网络方法制约短期电力负荷预测精度的问题,提出一种基于迭代误差补偿的核极端学习机(KELM-IEC)预测模型。首先,建立短期电力负荷预测模型的输入指标体系,选择月份、日期、星期、周数、是否为节假日、日平均气温、前一日的最大负荷量等影响电力负荷的7个因素作为预测模型的输入;其次,基于新型神经网络模型--核极端学习机(KELM),建立负荷预测模型,引入支持向量机(SVM)的核函数映射作为极端学习机(ELM)的隐含层节点映射,有效结合ELM结构简单、训练简便与SVM泛化能力强的优势,提高负荷预测精度;最后,基于时间序列预测中迭代误差补偿(IEC)技术,建立IEC模型,再次利用KELM对负荷预测模型的预测误差进行学习,从而对预测结果进行补偿和修正,进一步减小模型预测误差,提高预测性能。采用两组实际电力负荷数据进行仿真实验,其中,KELM-IEC模型与BP神经网络模型相比,平均绝对百分误差(MAPE)分别降低了74.39%和34.73%,最大绝对误差(ME)分别降低了58.34%和39.58%;同时与KELM模型相比,平均绝对百分误差分别降低了18.60%和4.29%,最大绝对误差分别降低了0.08%和11.21%,说明误差补偿策略的必要性。实验结果表明,KELM-IEC预测模型能够有效地提高短期电力负荷预测的精度,有利于改善电力系统的计划、运营和管理,保障生产和生活用电,提高经济效益和社会效益。     

基于EEMD-CatBoost的短期电力负荷预测

准确的负荷预测在电力调度、系统可靠性和规划中起着关键作用。针对各种不确定因素造成了电力需求的波动,本文提出了一种基于EEMD-CatBoost的短期负荷预测方法。模型利用集合经验模态分解（EEMD）对非平稳原始序列进行处理,将原始电力负荷数据分解为有限个固有模态函数（Intrinsic Mode Functions,IMF）和一个残差分量,以降低负荷序列的复杂度,再将分解后的各分量分别输入到CatBoost中预测,然后将每个分量的预测值重组,得到最终的负荷预测结果。以某地的实际数据为例,综合比较了该方法与现有电力负荷短期预测技术的性能。与现有基准相比,所提出的方法得到了相当精确的结果。     

日交通流预测的编码器-解码器深度学习模型研究

精准的日交通流预测是智能交通领域的重要研究内容之一。目前已有的日交通流预测模型大多在短期预测模型的基础上通过多步预测或者多目标预测的方式改进而来。这两种改进方案中,前者对误差的传播更为敏感,而后者则忽视了预测结果的时序关系,导致预测模型精度偏低。提出了一种用于日交通流预测的编码器-解码器深度学习模型,首先将长短时记忆网络（long short-term memory,LSTM）作为编码器-解码器模型的基本单元以提高模型捕捉长期依赖关系的能力,其次引入注意力机制调节编码向量的权重以进一步提高模型的预测精度。新的模型是一种典型的序列到序列预测模型,与传统的序列到点的模型相比更加契合日交通流预测的需求。为验证模型的有效性,取美国5号州际公路西雅图段的实际交通流数据进行实验,实验结果表明,提出的预测模型在平均车流密度大于40辆/km的时间段中,其预测结果的平均绝对百分比误差（mean absolute percentage error,MAPE）与LSTM、门控循环单元（gated recurrent unit,GRU）、反向传播（back propagation,BP）神经网络、卷积神经网络...     

基于双重注意力机制和GRU网络的短期负荷预测模型

电力负荷预测对电力系统的部署、规划和运行影响重大,但目前各输入特征对电网负荷情况影响的程度不稳定,且递归神经网络捕获负荷数据的长期记忆能力差,导致预测精度下降。提出一种基于双重注意力机制和GRU网络的预测新模型,利用特征注意力机制自主分析历史信息与输入特征间的关联关系,提取重要特征,并通过时序注意力机制自主选取GRU网络中关键时间点的历史信息,提升较长时间段预测效果的稳定性。在3个公开数据集上的实验结果表明,该模型在预测精度指标上表现良好,对比SVR、KPCA-ELM、DBN、GRU、Attention-GRU、CNN-LSTM、Attention-CNN-GRU模型预测精度分别提高了2.47、1.14、1.93、1.37、1.04、0.74、0.41个百分点。     

基于差异补偿和短期采样对比损失的城市电力负荷预测方法

城市电力负荷预测是城市智能电网规划和调度的一项重要内容。然而,城市电力负荷预测中存在数据不均的问题,给城市电力负荷预测带来了巨大挑战。传统的基于单一模型的方法难以解决数据不均的问题,而现有的基于多模型的预测方法根据电力负荷分布将数据集拆分成多个子数据集,然后分别建立多个预测模型进行预测,该类方案在一定程度上解决了数据不均问题,但存在模型构建成本较高、不同分布样本间共有的电力分布特征发生分离等问题。基于此,提出了一个轻量级城市电力负荷预测模型(Lighten-DCSC-LSTM)。该模型通过在长短期记忆网络的基础上引入差异补偿的思想和短期采样对比损失进行构建,同时构建共享特征提取层来降低模型构建成本。其中,差异补偿思想通过学习不同电力负荷分布样本之间的差异对主序列预测模块的预测结果进行差异补偿,短期采样对比损失通过动态类中心的对比学习损失对模型的训练进行正则化。为了验证模型的性能,进行了参数调优和对比实验。对比实验结果表明,模型在预测电力负荷的任务中取得了良好的性能。     

基于图注意力网络与双阶注意力机制的径流预报模型

为了提高流域径流量预报的准确率,考虑数据驱动水文模型缺乏模型透明度与物理可解释性的问题,提出了一种使用图注意力网络与基于长短期记忆网络（LSTM）的双阶注意力机制（GAT-DALSTM）模型来进行径流预报。首先,以流域站点的水文资料为基础,引入图神经网络提取流域站点的拓扑结构并生成特征向量;其次,针对水文时间序列数据的特点,建立了基于双阶注意力机制的径流预报模型对流域径流量进行预测,并通过基于注意力系数热点图的模型评估方法验证所提模型的可靠性与透明度。在屯溪流域数据集上,将所提模型与图卷积神经网络（GCN）和长短期记忆网络（LSTM）在各个预测步长下进行比较,实验结果表明,所提模型的纳什效率系数分别平均提高了3.7%和4.9%,验证了GAT-DALSTM径流预报模型的准确性。从水文与应用角度对注意力系数热点图进行分析,验证了模型的可靠性与实用性。所提模型能为提高流域径流量的预测精度与模型透明度提供技术支撑。     

基于特征分解的短期电负荷组合预测模型研究北大核心

针对现有模型对于电力数据特征挖掘的不够全面,导致预测精度较低等问题,提出基于特征分解的短期电负荷组合预测模型。先深入挖掘电负荷变化的影响因素,运用小波分解(Wavelet Decomposition, WD)将单一信号分解为多频信号使特征多样化,经过相关度分析进行特征筛选,在分解中引入“影响因子”捕捉影响因素变化,引入“残差”降低分解造成的误差;根据筛选后子序列和残差序列特点分别使用带循环滑窗的时间卷积网络(Time Convolution Network, TCN)和长短时记忆网络(Long Short Term Memory, LSTM)模型预测,并对预测结果分权求和,最终得到组合预测结果。实验结果表明,上述模型有效提高了预测精度,降低了误差;在不同数据集下均表现出良好的优越性,证明了模型具有泛化能力。     

基于多尺度特征和注意力的金融时序预测方法

金融时间序列预测是经济领域中一个非常重要的实际问题,然而,由于金融市场的噪声和波动性,当前存在方法的预测精度尚不能令人满意。为了提高金融时间序列的预测精度,提出了一种融合扩张卷积神经网络（dilated convolutional neural network,DCNN）、长短时记忆神经网络（long short term memory,LSTM）和注意力机制（attention mechanism,AT）的混合预测模型DCNN_LSTM_AT。该模型由两个部分组成：第一部分包含扩张卷积神经网络和基于LSTM的编码器,其功能在于提取原始序列数据中不同时间尺度的有效信息;第二部分由带注意力机制的LSTM解码器构成,其功能在于对第一部分提取的信息进行过滤并利用过滤后的信息进行预测。最后将所提模型在3支股指数据集和3支个股数据集上进行实验,并与其他常见的基准模型进行了对比,实验结果表明该模型相比于其他模型具有更好的预测精度和稳定性。