结合改进残差网络和Bi-LSTM的短期电力负荷预测

为充分挖掘电力负荷历史数据的潜在特征,提高短期负荷预测模型的预测精度,提出了一种由改进残差网络（ResNetPlus）、注意力机制（Attention mechanism,AM）和双向长短期记忆网络（Bi-directional long short-term memory,Bi-LSTM）结合而成的残差AM-Bi-LSTM预测模型。该模型将历史负荷、温度和所预测日期的特征作为输入,在Bi-LSTM模型基础上,引入多层改进残差网络提取输入数据的隐藏特征,有效克服了网络隐藏层数加深导致的网络退化问题,使模型的反向传播能力大幅提升;加入注意力机制,分析网络中输入信息与当前负荷的相关性并突出重要信息的影响,从而提高模型的速度与准确率;使用Snapshot策略集成收敛于不同局部极小值的多个模型,以提升模型的准确率和鲁棒性。最后,使用美国ISO-NE数据集进行模拟预测,测试结果表明:所提模型的平均预测精度达到98.27%;在连续的12个月中采用该模型的平均预测精度相比于LSTM模型提高了2.87%;在不同季节下采用该模型的平均预测精度相比于AM-Bi-LSTM和ResNetPlus模型分别提高了1.05%和1.16%。说明所提模型相较于对比模型具有较高的准确率、鲁棒性以及泛化能力。     

基于二次分解的改进时间序列超短期风速预测研究

提出了一种基于CEEMDAN (complete ensemble empirical mode decomposition with adaptive noise,CEEMDAN)-VMD (variational mode decomposition,VMD)二次分解的ARIMA (autoregressive integrated moving average model,ARIMA)-GARCH (generalized autoregressive conditional heteroskedasticity,GARCH)超短期风速预测方法。首先采用自适应噪声完整集成经验模态分解将原始风速信号分解,产生一系列特征互异的本征模函数(intrinsic mode functions,IMF)。接着计算各本征模函数的样本熵(sample entropy,SE)以量化其复杂性,对复杂性较高的分量采用变分模态分解进行二次分解。然后对各分量分别建立ARIMA模型,引入GARCH模型消除异方差特性。最后将各分量预测结果线性叠加。通过对西北某风电场风速数据进行预测,证明了所提模型的有效性,与CEEMDAN分解和ARMA (autoregressive moving average,ARMA)-GARCH相结合的模型比较,平均绝对误差减少了7. 1%。     

基于PCCLSTMMTL的综合能源系统多元负荷预测

为了保证综合能源系统(IES)的运行效率和可靠性,能源需求的准确预测至关重要。提出了一种基于Pearson相关系数(PCC),长短期记忆(LSTM)神经网络和多任务学习(MTL)的多元负荷预测方法。首先,运用PCC选取与冷热电负荷相关性较大的影响因素作为模型的输入;然后,通过LSTM建立MTL的共享层,实现多元负荷的联合预测;最后,结合亚利桑那州立大学的实测多元负荷数据来测试所提模型的预测精度。结果表明:所提模型具有更高的预测精度。     

基于CEMD-CNN-LSTM的中长期电力负荷预测

针对诸多复杂因素影响电力负荷在中长期运行阶段中的预测准确度的问题,提出一种卷积神经网络（CNN）与长短期记忆网络（LSTM）混合的预测算法,从而达到优化负荷预测性能的目的。CNN-LSTM混合预测算法利用模态分解法将负荷数据进行分解,并将其转化为本征模态分量IMF及残差两个部分。同时,引入k均值聚类方法,确定最优聚类标签,搭建神经网络并完成数据输入。在形成特征向量的过程中,运用神经网络挖掘数据间的各类特征并进行预测。最后,采用线性相加的形式处理预测结果,获取预测负荷。仿真结果表明了CNNLSTM混合预测算法在预测速度与精度上的性能更为优越。     

基于深度残差网络的轻量级指静脉识别算法

提出一种基于深度残差网络的轻量级指静脉识别算法。首先,以ResNet34为基础,使用深度可分离卷积代替传统卷积,加入SE(Squeeze and Excitation)注意力机制模块来提取手指静脉空间域上的细节特征,并引入宽度缩放因子,进一步压缩网络;其次,在训练中引入教师-学生网络模式,对轻量级深度残差网络进行知识蒸馏训练,并使用知识蒸馏损失、CurricularFace和交叉熵损失对网络进行联合监督,解决了轻量级深度残差网络因学习参数量较少引起的性能下降问题。分别在FV-USM数据集、Lab-Normal数据集和Lab-Special数据集上进行仿真实验,结果表明,同基于轻量级网络MobileFaceNet的识别算法相比,提出的算法有效提高了零误识识别率和Top1排序性能。     

基于注意力时序网络的非侵入式负荷分解

非侵入式负荷分解的本质是根据已知的总功率信号分解出单一的负荷设备的功率信号.目前基于深度学习模型大多存在网络模型负荷特征提取不充分、分解精度低、对使用频率较低的负荷设备分解误差大等问题.本文提出一种注意力时序网络模型(Attention Recurrent Neural Network, ARNN)实现非侵入式负荷分解,它将回归网络与分类网络相结合来解决非侵入式负荷分解问题.该模型通过RNN网络实现对序列信号特征的提取,同时利用注意力机制定位输入序列中重要信息的位置,提高神经网络的表征能力.在公开数据集Wiki-Energy以及UK-DALE上进行的对比实验结果表明,本文提出的深度神经网络在所有考虑的实验条件下都是最优的.另外,通过注意力机制和辅助分类网络能够正确检测设备的开启或关闭,并定位高功耗的信号部分,提高了负荷分解的准确性.     

基于动态内并行潜结构投影的故障检测方法

针对实际工业过程故障检测时存在误报警现象及易缺失部分时段质量数据的问题，提出在线监测动态内潜结构投影(OM-DiPLS)模型.该模型通过引入时延的质量数据，使得在缺失部分时段质量数据时能够实现模型的更新.为了更好地监控质量变量中不可预测的信息，基于OM-DiPLS模型提出在线监测动态内并行潜结构投影模型.该模型将过程数据和质量数据投影到输入输出相关的协变子空间、输出无关但过程相关的输入主子空间、输入残差子空间、不可预测的输出主子空间及输出残差子空间，通过对各子空间构造相应的统计量，实现过程监测.田纳西-伊斯曼过程仿真的实验表明，利用所提算法有效提高了质量相关故障的有效检测率，降低了质量无关故障的误报率.     

基于SSA-LSTM的城市轨道交通短时客流预测

为了减小噪声在城市轨道交通短时客流预测中的干扰,提出了 一种基于奇异谱分析(SSA)和长短时记忆网络(LSTM)模型的短时客流预测方法.该模型利用SSA对原始客流数据进行嵌入、分解、分组、重组,重新划分为趋势、周期、残差三部分,其中残差部分即视为噪声,将去噪后的两个部分作为LSTM模型的输入.并利用上海地铁1号线进出站...     

基于CEEMDAN-GRA-PCC-ATCN的短期风电功率预测

为提高风电功率的预测精度, 提出基于数据分解和输入变量选择的短期风电功率预测方法。利用自适应噪声完备集成经验模态分解(complete ensemble empirical mode decomposition with adaptive noise, CEEMDAN)对原始风电功率和风速数据进行分解, 平缓数据波动以提取内部隐藏信息。通过排列熵算法(permutation entropy, PE)将风电功率分量简化重构以降低模型复杂度。为提升输入变量与风电功率之间的关联程度, 剔除冗杂信息, 降低输入数据维度, 结合Pearson相关系数(Pearson correlation coefficient, PCC)和灰色关联分析(grey relation analysis, GRA)对各风电重构功率分量的输入变量进行选择。最后利用基于注意力的时序卷积网络(attention-based temporal convolutional network, ATCN)对各重构功率分量进行预测, 将各预测值叠加得到最终结果。试验结果表明, 基于CEEMDAN-GRA-PCC-ATCN的短期风电功率预测方法能够提取更多风电数据内部的关键信息, 降低输入数据的维度, 强化输入变量与风电功率之间的关联性, 有效提高预测精度。     

基于注意力时间卷积网络的农产品期货分解集成预测

针对农产品期货时间序列数据受多方面因素影响,非线性、非平稳数据特征难以提取而导致预测准确性不高的问题,基于“分解-集成”的预测思想,本文提出一种基于自适应噪声完备经验模态分解(CEEMDAN)与Transformer-Encoder-TCN的农产品期货预测方法.首先,使用CEEMDAN将时间序列分解为多尺度多频率的本征模态分量(IMF)与残差,降低了序列建模复杂度;其次,使用融合多阶段自注意力单元Transformer-Encoder的时间卷积网络(TCN)对各个分量子序列进行特征提取与预测,优化了序列显著特征建模权重;最后,将各个子序列预测值线性相加集成得到最终预测结果.以南华期货公司农产品指数中的大豆期货指数为研究对象,采用时序交叉验证与参数迁移的方式进行模型重训练,消融和对比实验结果表明,提出的新模型在RMSE、MAE和DS三个评价指标上具有良好的效果,验证了该模型对农产品期货预测的有效性.     

基于WTD-CEEMDAN-Bi-LSTM-GRU的共享单车需求预测

对共享单车的需求量预测直接影响到共享单车运营企业的调度运营水平与质量。提出一种基于小波阈值降噪(Wavelet Threshold Denoising, WTD),完全自适应噪声集合经验模态分解(Complete EEMD with Adaptive Noise, CEEMDAN),双向长短时记忆网络(Bi-direction Long Short-Term Memory, Bi-LSTM)与门控循环单元网络(Gated Recurrent Unit, GRU)的组合预测模型。选取上海市共享单车出行数据，通过降噪、分解、高低频识别与重构来降低数据的复杂度，以提高预测精度；并通过与不同基准模型的比较，验证所提出的组合预测模型的有效性。结果表明：所提出模型与其他基准模型相比，其预测效果的MAPE、RMSE、R²参数均表现较好，模型具有较强的竞争力。     

短期负荷预测的MCA与ANN组合模型

针对应用ANN方法时需要处理大量的日负荷数据而影响运算速度的缺点,提出用主成分分析(MainComponent Analysis,MCA)与ANN相结合的组合模型进行预测的方法,在日负荷数据输入神经网络之前用MCA进行处理,“过滤”掉无用的信息成分,以提高负荷预测的效率。仿真结果验证了该组合模型是可行并且高效的。     

基于CNN-ResNet-LSTM模型的城市短时交通流量预测算法

针对交通流量特性和外部因素对交通流量预测结果的影响,提出了一种对城市短时交通流量预测的模型CNN-ResNet-LSTM,将卷积神经网络（CNN）、残差神经单元（ResNet）和长短期记忆循环神经网络（LSTM）集成到一个端到端的网络框架.利用卷积神经网络来捕获城市区域间交通流量的局部空间特征,并在卷积神经网络中加入多个残差神经单元来加深网络深度,可提高预测的准确性;利用长短期记忆循环神经网络来捕获交通流量数据的时间特征;利用相应的权重将2个网络的输出结果融合,得到通过轨迹数据预测的结果;最后与外部因素融合,得到城市区域的交通流量预测值.用北京市轨迹交通数据对该模型进行验证,CNN-ResNet-LSTM模型不仅在准确率方面比传统模型高,而且在保证预测准确率的情况下,模型使用的参数也少.     

基于误差修正的极端天气下风速预测

精确地预测极端天气下的风速能为配电网防灾抗灾提供重要的指导作用.本文提出基于时间卷积网络(Temporal Convolutional Network, TCN)与双向长短期记忆网络(Bi-directional Long Short-Term Memory, BiLSTM)和误差修正的组合模型对极端天气下的风速进行预测.首先对天气数据进行预处理,用TCN提取多特征数据的时间序列特性,将提取信息输入到BiLSTM中进行风速预测.为进一步提高预测精度,引入变分模态分解(Variational Mode Decomposition, VMD)对误差序列进行分解,分别对分解后的误差子序列构建BiLSTM模型进行误差预测,用误差预测值对风速预测值进行误差修正.结合河南省某地实测天气数据进行实验,仿真结果验证了所提方法能有效预测风速,并在极端天气发生时,对风速具有较高的预测精度.     

基于MDM-ResNet的脑肿瘤分类方法

脑肿瘤是世界上最致命的癌症之一.由于脑肿瘤的多样性,其图像分类成为了当代研究的热点.近年来,深度神经网络(DNN)常用于医学图像分类,但随着深度的增加网络会出现梯度消失和过拟合的问题,而残差网络(ResNet)通过引入恒等映射可以缓解这些问题.因此,本文基于ResNet提出了一种MDM?ResNet网络,该网络由多尺寸...     

基于时序分解与误差修正的新能源爬坡事件预测

为了提高以风电、光伏为代表的新能源的爬坡预测的准确性,提出基于主成分分析、时序分解与修正长短期记忆（LSTM）网络预测误差的爬坡预测模型. 为了充分考虑功率的时序特性,采用时序分解方法将功率分解为周期、趋势和余项,结合多个特征因素的主成分建立基于LSTM的趋势和余项预测模型,实现功率的时间特征与影响因素主成分的映射关系刻画. 在采用LSTM对趋势和余项进行初步预测的基础上,引入误差修正算法计算拟合预测模型的动态误差并构建新的非平稳时间序列,获得准度性更佳的趋势和余项预测值. 通过加法模型融合趋势、余项以及利用朴素法获得的周期,得到最终预测功率. 结合风电和光伏爬坡事件定义,运用所提模型分别进行风电和光伏爬坡预测. 实验结果表明,与其他预测方法相比,所提模型在功率直接预测和爬坡事件间接预测上均具有更优的精度,能够为电网调度提供更可靠的依据.     

基于注意力机制的全卷积抓取姿态预测方法

针对机器人抓取姿态预测中准确性和实时性不能平衡的问题，提出一种嵌入空间通道注意力机制(CBAM)的全卷积抓取姿态预测方法。使用深度可分离卷积代替标准卷积以降低模型的参数量；利用残差网络(ResNet)中ResBlock模块的思想，并加入CBAM和Inception模块对ResBlock进行改进，加强模型对特征的多尺度提取，以减少局部信息的丢失；融合浅层特征和深层特征进行反卷积，并引入抓取位置质量作为评价指标，直接预测输入图像中每个像素的抓取姿态，从而提高最终预测的准确性。实验结果表明，提出的抓取姿态预测模型可在满足更高准确率的同时兼顾实时性的要求。     

基于加权残差聚类的建筑负荷预测区间估计

提出基于加权残差聚类的建筑负荷预测区间估计方法,旨在对建筑负荷预测模型的不确定性进行定量评估. 使用Shapley additive explanations方法量化负荷预测模型的每个输入对输出的贡献程度. 基于得到的贡献程度对模型输入进行加权聚类,获得不同聚类簇中的模型历史残差分布. 根据不同聚类簇中的残差分布估计模型的预测区间. 在深圳某办公建筑1 a的冷负荷数据集上进行验证. 结果表明,与传统不对输入进行加权的方法相比,该方法可以显著提高预测区间的估计精度. 期望得到的预测区间与该方法得到的预测区间的平均覆盖误差为1.87%,而传统方法的平均覆盖误差为2.27%. 该方法可以用于估计任何数据驱动的建筑负荷预测模型的不确定性,从而为优化控制和故障诊断提供更可靠的负荷预测模型.     

基于时间模式注意力机制的CNN-BiGRU短期负荷预测

准确的短期负荷预测可以缓解电力供需矛盾，协调负荷管理，保障电力系统安全。短期电力负荷具有很强的非线性和时间依赖性，并与气候变化和实时电价等诸多外部因素有关，给精准预测短期负荷带来了困难。为此，提出一种基于时间模式注意力(temporal pattern attention, TPA)机制的卷积神经网络(convolutional neural network, CNN)-双向门控循环单元(bidirectional gated recurrent unit, BiGRU)短期负荷预测方法。其中，卷积神经网络用于挖掘不同输入变量与当前负荷间的非线性空间联系，双向门控循环单元用于从时间序列中捕获长期依赖关系，时间模式注意力机制引入以自适应加权赋予特征权重，突出重要信息，实现短期负荷预测。以澳大利亚公开负荷数据集作为实例验证所提方法的效果，预测精度达到了97.651%,与CNN-LSTM、RNN预测模型进行对比，精度分别提高了0.531%和5.992%,实验结果表明：所提的TPA-CNN-BiGRU预测方法具有更高的预测精度和普适性。     

基于VMD和TCN的多尺度短期电力负荷预测

准确的电力负荷预测对于保证电力系统的稳定运行起着重要作用。针对传统短期电力负荷预测方法预测精度低,模态分解后未考虑子序列融合等问题,提出一种基于变分模态分解(VMD)和时域卷积网络(TCN)的多尺度短期电力负荷预测方法。首先利用VMD将电力负荷数据分解为若干个子序列,解决电力负荷数据的非线性和随机性等问题;再利用TCN对若干个序列采用不同时间尺度进行训练;最后利用全连接网络(FC)对各时间尺度的子序列进行融合,实现短期电力负荷预测,提升预测精度。实验结果表明,该方法相较于VMD和改进的长短时记忆网络(LSTM)相结合的传统预测方法,其均方根误差下降40%,曲线拟合程度提升1.1%。