基于多变量LSTM神经网络的澳大利亚大火预测研究

长短周期记忆神经网络(LSTM)受益于能够捕获长期依赖关系的特点,在许多实际应用中展现了优异的性能。该文构建了LSTM多变量数据驱动的预测模型,通过多变量输入的方式预测澳大利亚森林大火。首先使用多变量LSTM预测模型对日最高温度进行预测,并与反向传播(BP)神经网络以及ARIMA预测模型的结果进行对比。研究表明:以相关变量为输入的BP神经网络无法考虑时序变化规律,预测误差最大;以温度单变量为输入的ARIMA根据时序变化做出相应预测,预测效果较好;多变量LSTM预测模型综合考虑了多种因素的相互影响,同时结合了时间序列依赖关系,预测效果最好。最后通过多变量LSTM预测模型对某节点是否着火进行了预测,预测结果与实际值契合较好。总体来说,多变量LSTM预测模型对澳大利亚大火的预测结果可信。     

基于改进的LSTM深度神经网络语音识别研究

当前基于LSTM结构的神经网络语言模型中,在隐藏层引入了LSTM结构单元,这种结构单元包含一个信息储存较久的存储单元,对历史信息有良好的记忆功能.但LSTM中当前输入信息的状态不能影响到输出门最后的输出信息,对历史信息的获取较少.针对以上问题,笔者提出了基于改进的LSTM(long short-term memory)网络模型建模方法,该模型增加从当前输入门到输出门的连接,同时将遗忘门和输入门合成一个单一的更新门.信息通过输入门和遗忘门将过去与现在的记忆进行合并,可以选择遗忘之前累积的信息,使得改进的LSTM模型可以学到长时期的历史信息,解决了标准LSTM方法的缺点,具有更强的鲁棒性.采用基于改进的LSTM结构的神经网络语言模型,在TIMIT数据集上进行模型测试,结果表明,改进的LSTM识别错误率较标准的LSTM识别错误率降低了5%.     

基于ARIMA LSTM组合模型的楼宇短期负荷预测方法研究

在楼宇短期负荷预测中,针对单一预测模型难以充分学习负荷时间序列中的特性问题,提出了一种基于自回归差分移动平均-长短期记忆神经网络(ARIMA-LSTM)组合模型的楼宇负荷预测方法。首先,根据灰色关联度选取相似日时间序列数据为训练样本;然后,利用ARIMA模型预测负荷,并将原始数据和ARIM A预测数据之间的误差视为非线性分量;最后,通过LSTM神经网络对误差序列进行校正,得到楼宇短期负荷的最终预测值。通过对上海市某楼宇的预测效果分析,并将其与ARIMA模型、LSTM模型和ARIMASVM组合模型进行对比,验证了所提方法能够有效控制预测误差,提高楼宇负荷预测精度。     

基于RF-LSTM组合模型的股票价格预测

股票数据具有非线性和复杂性等特点,单一模型预测效果不佳,针对此问题,提出一种RF-LSTM组合模型,用于预测股票的收盘价。首先,利用Tushare财经数据包获取股票数据,构建特征集,并对数据进行归一化处理;其次,考虑到多特征之间存在高度的非线性和信息冗余问题,利用随机森林(RF)选择最优特征集,降低数据维度和训练复杂度;最后,利用深度学习中适合处理时间序列的长短期记忆网络(LSTM)对股票价格进行预测,并对预测模型进行参数调优。结果表明,与单一结构的LSTM神经网络模型预测相比,本文提出的RF-LSTM组合模型预测的平均绝对误差(MAE)、均方误差(MSE)和均方根误差(RMSE)分别减小了13.11%,6.70%和12.54%。该组合模型可提高股票价格预测的准确性。     

基于改进SARIMA-LSTM的海上风速预测方法

为了提高海上风速预测的精度,提出了一种基于局部加权回归的周期趋势分解(STL)改进的季节性差分自回归移动平均模型(SARIMA)和长短时记忆(LSTM)神经网络的海上风速预测方法.首先通过STL分解原始风速时间序列,提高SARIMA模型季节性差分步长的准确性,再使用SARIMA模型对观测的风速序列数据进行预测,得到预测值以及预测值与观测值之间的残差;然后用残差样本集训练长短时记忆神经网络并对残差进行预测;最后将两部分得到的预测值求和得到风速序列的预测值.选定3个不同地点分别进行仿真实验并与改进前方法进行比较,结果表明改进后模型的预测精度更高,误差更小.     

基于深度置信网络的时间序列预测

针对传统计算机神经网络存在梯度弥散、局部最小值、非线性时间序列长期预测性能不佳和高维序列数据复杂度高等问题,提出时序深度置信网络模型(timing deep belief network model,T-DBN).该模型预训练阶段采用改进的贪婪预训练算法,在预训练过程中使用梯度修正并行回火(gradient fixing parallel tempering,GFPT)算法,采用重构误差确定网络深度,在反向调整阶段采用拟牛顿法(BFGS算法),以获得更加准确的预测精度.结合相空间重构理论和BP (back propagation)神经网络,对中国江西省2016—2020年农业机械总动力进行了预测.针对高非线性的股票数据,提取同花顺软件1990-12-20—2018-03-30时间段内的上证指数特征信息,分别采用T-DBN、DBN和长短期记忆(long short-term memory,LSTM)模型进行股票预测,预测准确率分别为79. 3%、77. 9%和74. 6%,T-DBN模型的预测准确率高于DBN和LSTM模型.     

改进型LSTM变形预测模型研究

针对传统预测模型处理复杂非线性变形数据能力不足的问题,应用一种深度学习模型——长短期记忆网络(Long Short-Term Memory,LSTM)进行变形预测分析.研究发现LSTM隐藏层受有限变形数据序列长度的影响较大,针对此类问题,文中在LSTM的基础上提出了一种改进模型.改进的模型将具有多个隐藏层的神经网络放在LSTM模型前,采用全连接层将两种网络连接起来,旨在提高预测精度.改进的LSTM模型主要对时间序列数据进行预测,以西南部矿业某矿区自动监测数据为例,将LSTM模型和改进后的LSTM模型进行了对比分析实验.为验证多变量输入是否会对预测精度造成影响,构建基于改进LSTM的多点预测模型,并与改进LSTM的单点预测对比.结果表明,LSTM可用于变形预测,且改进的LSTM模型很好地改善了LSTM存在的问题,预测精度相对更高,适用于多点预测,可批量处理变形数据.     

基于深度学习的LSTM光伏预测

随着对能源利用效率要求的提高及日益激增的光伏数据,传统的光伏预测方法已逐渐丧失优势。为了更加准确地进行光伏预测,采用深度学习的框架,并利用循环神经网络(RNN)中最重要的一个结构——长短时记忆网络(LSTM)对时间序列的强大处理能力进行了智能算法建模。由于LSTM具有"遗忘"与"更新"功能,很好地解决了长序依赖问题,从而使光伏预测在精度上有了质的变化,预测速度也得到显著提升。     

基于改进模式序列匹配的交通运行指数预测研究

北京市交通运行指数是定量反映北京市路网拥堵状态的重要指标,交通运行状态预测是构建智慧交通系统的重要研究内容.在模式序列匹配算法(PSF)基础上优化预测序列权重,针对交通运行指数的时序相关性,增加了基于反距离权重的时间衰减因子,提高了临近序列在交通运行模式匹配计算中的重要性.实验结果表明:与传统时间序列模型(ARIMA)、深度学习模型(LSTM)和标准模式序列匹配算法进行对比分析,改进的模式序列匹配预测算法有着较高的预测精度,且具有较强的自适应性.     

长短期记忆网络在中长期径流预报中的应用

长短期记忆神经网络(long-short term memory neural network,LSTM)是一种适合模拟与预测时间序列长程变化的神经网络,可用于研究中长期水文预报问题。以黄河源区唐乃亥流域为研究区域,根据2000-2009年的日降雨量、蒸发量和流量资料,构建了未来30 d的逐日流量LSTM预报模型,并以2010-2012年的资料进行验证。采用相对误差绝对值平均、确定性系数为评价指标,将LSTM与传统的误差反向传播(back propagation,BP)算法模型进行对比。结果表明,LSTM模型具有精度高、预报效果稳定等特点,特别是随着预见期的增长其精度衰减较BP模型明显变缓。研究成果可供研究区径流中长期预测提供参考。