基于LSTM-LightGBM模型的车站环境温度预测

客运火车站环境温度易受其他环境特征变量如湿度、PM2.5、二氧化碳等影响,传统的单变量预测算法并未考虑其他环境特征变量的影响因素;为进一步准确预测车站环境温度值,提出了结合长短期记忆神经网络LSTM与梯度提升算法LightGBM的组合模型,对客运站环境温度值进行预测;首先将预处理数据输入LSTM模型,对环境特征变量湿度、二氧化碳、PM2.5、PM10进行单变量预测;再将环境特征变量的LSTM输出预测值输入LightGBM模型得出环境温度预测值;根据波形图与均方根误差RMSE对比分析,基于LSTM-LightGBM的组合模型预测方法可以保留LSTM模型对单变量预测的周期性特点,且可表现出环境特征变量输入LightGBM模型后对温度预测的非平稳变化;结果表明基于LSTM-LightGBM的组合模型方法比单纯使用LSTM方法更接近原始波形,具有更低的RMSE。     

基于多传感器-深度长短时记忆网络融合的瓦斯浓度预测研究

为充分利用井下多传感器数据源中的有效信息进一步提升井下瓦斯浓度预测模型的预测性能,提出建立一种基于深度LSTM(long short-term memory,长短时记忆)网络的多传感器瓦斯浓度预测模型,首先利用Pearson(皮尔逊)相关系数法筛选出与瓦斯浓度强关联变量作为模型输入参数,降低输入数据规模与复杂度,并对其进行多变量相空间重构,采用随机搜索算法对LSTM网络超参数进行自动寻优,建立参数最优的多传感器时间序列动态预测模型,通过算例研究表明,相较于常用的时序建模预测算法,所提方法能够更好的追踪瓦斯浓度变化趋势并在单步及多步滚动预测方面,依然具有较好的预测性能.     

数据预处理对LSTM网络大气污染预测精度分析

大气污染物浓度数据具有时序性和非线性的特点,针对时间序列数据中的异常值和缺失值问题,进行异常值和缺失值预处理对长短时记忆神经网络(LSTM)预测精度的影响分析.利用箱线图法判别数据序列中的异常值,以均值替换法、回归插补法和多重插补法进行缺失值的预处理,分别利用原始数据序列和不同预处理方法得到的数据序列,对多变量输入LSTM神经网络的大气污染物预测精度进行对比分析.实验结果表明,三种预处理方法均可明显改善LSTM模型的预测精度,多重插补法精度最高.     

基于LSTM神经网络的区域微网短期负荷预测

针对大电网负荷预测的研究较多而微电网相对较少,因此建立合适的微电网负荷预测模型提高预测的准确度非常重要。本文针对输入变量较少的情况,分析并选用温度、日类型以及多个历史负荷量作为模型的输入变量,选用基于循环神经网络基础下的长短期记忆神经网络进行建模,构建基于LSTM神经网络的微网负荷预测模型。最后,为增强结果的可靠性,采用2组不同时间段的负荷数据分别进行预测,将LSTM神经网络的预测结果与BP神经网络、径向基函数神经网络、Elman神经网络的预测结果进行对比。实验结果表明,LSTM神经网络的预测结果要优于BP神经网络、径向基函数神经网络及Elman神经网络,采用LSTM神经网络负荷预测模型在微电网背景下具有比较好的推广前景。     

基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法

短期电力负荷预测是电力系统中的重要问题之一,准确的预测结果可以提高电力市场的灵活性和资源利用效率,对电力系统高效运行具有重要意义.为了提高预测精度,针对电网负荷数据的时序性特征,提出一种基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法.该方法首先针对电力负荷的影响因素(温度、节假日等)提取特征,并使用双向长短期记忆(BiLSTM)神经网络层进行双向时序的特征学习;将双向时序特征作为长短期记忆(LSTM)神经网络层的输入,用LSTM神经网络建模学习时序数据的内部变化规律;使用attention机制计算LSTM隐层状态的不同权重,以对隐层状态进行选择性地关注;结合注意力权重和LSTM神经网络进行负荷预测,最后使用全连接层输出负荷预测结果.使用EUNIT电力负荷数据集进行实验,采用提前单点预测模式,该方法的平均绝对百分比误差(MAPE)达到1.66％,均方根误差(RMSE)达到814.85.通过与单LSTM网络、基于attention机制的LSTM网络(Attention-LSTM)、前馈神经网络(FFNN)、卷积神经网络联合长短期记忆神经网络(CNN-LSTM)等4种典型的负荷预测模型结果对比,验证了Attention-BiLSTM-LSTM神经网络方法更加准确有效.     

基于TG–LSTM神经网络的非完整时间序列预测

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG–LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG–LSTM单元结构;其次,基于TG–LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG–LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG–LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.     

基于LSTM循环神经网络的PM2.5预测

PM_(2.5)要素对空气质量影响较大。PM_(2.5)浓度变化是多种因素作用的结果,且过程突发、非线性,具有明显的不确定性,难以使用传统的方法进行预测。针对该问题,以气象、大气污染物因素作为PM_(2.5)预测指标,提出基于LSTM循环神经网络的PM_(2.5)预测模型。使用灰色关联度分析方法对多个气象、大气污染指标进行关联强度分析;对数据进行平滑处理,将时间序列问题处理为监督问题;搭建多变量的LSTM循环神经网络PM_(2.5)预测模型,实现PM_(2.5)日值浓度的准确预测。使用北京市2010年-2017年气象数据和大气污染物数据进行仿真实验,结果表明该模型能够较好地预测PM_(2.5)的日值变化趋势。     

基于非负绞杀与长短期记忆神经网络的动态软测量算法

现代工业过程建模中,生产过程的多变量、非线性及动态性会导致模型复杂度增高且建模精度降低.针对这一问题,将非负绞杀算法(NNG)嵌入长短期记忆(LSTM)神经网络,提出一种基于LSTM神经网络及其输入变量选择的动态软测量算法.首先,通过参数优化生成训练好的LSTM神经网络,利用其出色的历史信息记忆能力处理工业过程中的动态、时滞等问题;其次,采用NNG算法对LSTM网络输入权重进行压缩,剔除冗余变量,提高模型精度,并采用网格搜索法与分块交叉验证对其超参数寻优;最后,将算法应用于某火电厂脱硫过程排放烟气SO2浓度软测量建模,并与其它先进算法进行性能比较.实验结果表明所提算法能有效剔除冗余变量,降低模型复杂度并提高其预测性能.     

基于时空相关性的LSTM算法及PM2.5浓度预测应用

现阶段空气污染物粒子浓度演进过程模拟与预测算法忽视了粒子浓度的空间相关性,且没有实现粒子浓度的时间依赖性与空间相关性融合.对此,提出基于时空相关性的LSTM算法(TS_LSTM)并应用于PM2.5浓度预测.该算法提出空间相关性及其相关因子计算方法;将局部区域相关性因子与LSTM算法的遗忘门和记忆门融合,建立基于局部地理信息的LSTM算法(LTS_LSTM);融合LTS_LSTM算法学习结果与全局空间相关性因子,构造基于全局地理信息时空相关的LSTM算法(GTS_LSTM).模拟全局与局部的空气污染物粒子浓度演进过程,并实现离子浓度预测.在全局与局部数据集上,将该算法与回归算法、支持向量机、模糊神经网络、LSTM神经网络、GC-LSTM神经网络、DL-LSTM神经网络比较研究,结果表明:在空气粒子浓度预测上,该算法的预测性能优于各种传统预测算法,接近深度LSTM算法.     

基于深度LSTM网络的多传感器瓦斯浓度预测模型研究

为充分利用井下多传感器数据源中的有效信息进一步提升井下瓦斯浓度预测模型的预测性能,提出建立一种基于深度LSTM（long short-term memory,长短时记忆）网络的多传感器瓦斯浓度预测模型。首先利用Pearson相关系数法筛选出与瓦斯浓度强关联变量作为模型输入参数,降低输入数据规模与复杂度,并对其进行多变量相空间重构,利用随机搜索算法对LSTM网络超参数进行自动寻优,建立参数最优的多传感器时间序列动态时序预测模型。算例研究表明,相较于常用的时序建模预测算法,所提方法能够更好的追踪瓦斯浓度变化趋势并在单步及多步滚动预测方面,依然具有较好的预测性能。     

基于敏感参数发现的区域重点污染物浓度预测

污染物浓度变化趋势对于环境监测工作意义重大.现今各种前馈神经网络预测模型的输出结果仅与当前输入有关,无法研究污染物数据前后依赖关系.且多种污染物具有相同排放源,污染物间往往存在潜在关联关系,一种污染物的变化可能反映另一种污染物变化,所以在预测中需考虑其他敏感参数的影响.针对上述两个问题,提出一种基于敏感参数发现的区域重点污染物浓度预测方法.应用关联规则算法及多元回归分析挖掘出各污染物的敏感参数,构建多变量LSTM预测模型,将待预测污染物及其敏感参数作为预测模型特征变量,进行污染物的浓度预测.实验结果表明本文方法可有效预测污染物浓度变化趋势,预测效果优于未经关系发现的LSTM模型.     

基于LSTM-XGBoost的短期电力负荷预测研究

随着电力系统的快速发展,针对短期电力负荷预测的人工智能方法研究已经取得了显著成就。由于长短期记忆(LSTM)神经网络能够拟合电力负荷数据时序性和非线性的特点,基于LSTM的短期电力负荷预测效果显著。但基于LSTM的预测方法存在预测精度低、泛化能力差等问题。为此,利用贝叶斯优化后的极限梯度提升(XGBoost)集成学习方法训练得到多个LSTM的强预测模型,提出基于LSTM-XGBoost的短期电力负荷预测的方法,并采用宁夏地区的电力数据进行算例分析。试验结果表明,对比基于LSTM和基于粒子群优化(PSO)-反向传播(BP)的短期电力负荷预测方法,基于LSTM-XGBoost的短期电力负荷模型预测精度、稳定性更高。该方法对于电力系统智能化发展有一定的应用价值。     

基于AM-LSTM的风电场内多点位风电功率预测

为了提高大型风电场的风电功率预测的准确性,构建基于多点位的注意力机制(AM)和长短期记忆神经网络(LSTM)混合预测模型.对于风电功率影响因素特征提取模块,利用属性简约方法,在保证不影响原有的分类效果上,去掉多余属性,大幅度提高预测效率.对于风电功率预测模块,首先,利用15分钟数据间隔,不同高度的风速等作为模型输入,然后通过LSTM处理输入的时间序列与风电功率之间的非线性关系,接下来通过AM进一步优化LSTM的权重,最终得到风电功率的预测结果.通过国外某电场数据的验证:将数据集按照季度分开,各个模型预测结果最为优的是第四季度,对于基于多点位的注意力机制和长短期记忆混合预测模型的均方根误差和平均绝对误差分别比前馈神经网络预测模型降低48.8％和17.4％,比单一长短期记忆神经网络预测模型降低37.2％和7.8％.     

基于级联长短期记忆神经网络的轴承复合故障预测

当前对轴承进行健康度评估和剩余寿命预测时通常采用共振解调、包络分析等方法,但仍存在健康度提取困难、故障预测种类单一、缺乏可靠模型等问题.针对这些不足,文章提出一种基于级联长短期记忆(LSTM)神经网络轴承复合故障预测的方法,其通过两级级联LSTM神经网络实现轴承的健康度评估和剩余寿命预测.文中采用西安交通大学的轴承数据...     

基于XGBoost和LSTM加权组合模型在销售预测的应用

针对多变量的商品销售预测问题,为了提高预测的精度,提出了一种ARIMA-XGBoost-LSTM加权组合方法,对具有多个影响因素的商品销售序列进行预测,本文采用ARIMA做单变量预测,将预测值作为新变量同其他变量一起放入XGBoost模型中进行不同属性的挖掘,并将XGBoost的预测值合并到多变量序列中,然后通过将新的多维数据转换为监督学习序列后利用LSTM模型进行预测,将3种模型预测结果进行加权组合,通过多次实验得出最佳组合的权值,以此计算出最终的预测值.数据结果表明,基于XGBoost和LSTM的加权组合的多变量预测方法比单一的预测方法所得到的预测值更为精准.     

基于模糊分析的LSTM交通流量预测

为提高交通流预测模型的准确性及泛化性,提出一种基于模糊分析的LSTM交通流预测方法实现对交通状态的预估分析.对历史数据采用LSTM神经网络进行训练,获取神经网络权值参数,针对交通流时序数据存在周期性,提出基于模糊聚类分析的策略对LSTM模型的历史训练误差进行聚类.根据当前交通流数据与历史数据的相似度预估LSTM预测模型的在线误差.综合LSTM神经网络预测输出以及基于相似度分析的在线误差预测输出预估交通流状态,给出相应的算法步骤.仿真实验验证了提出方法的有效性,其比单一预测预测模型效果更好.     

K-Similarity降噪的LSTM神经网络水质多因子预测模型

针对水质预测问题,以地表水水质监测因子作为研究对象,提出了一种基于长短期记忆（LSTM）神经网络的水质多因子预测模型,同时利用提出的K-Similarity降噪法对模型的输入数据进行降噪,提高模型预测性能.通过与BP神经网络、RNN和传统的LSTM神经网络预测模型进行对比实验,证明了所提出的方法均方误差最小,预测结果更准确.     

基于LSTM神经网络的短期价格趋势预测

本文主要对LSTM模型结构改进及优化其参数,使其预测股票涨跌走势准确率明显提高,同时对美股周数据及日数据在LSTM神经网络预测效果展开研究.一方面通过分析对比两者预测效果差别,验证不同数据集对预测效果的影响;另一方面为LSTM股票预测研究提供数据集的选择建议,以提高股票预测准确率.本研究通过改进后的LSTM神经网络模型使用多序列股票预测方法来进行股票价格的涨跌趋势预测.实验结果证实,与日数据相比,周数据的预测效果表现更优,其中日数据的平均准确率为52.8%,而周数据的平均准确率为58%,使用周数据训练LSTM模型,股票预测准确率更高.     

融合注意力机制的LSTM期货投资策略

近年来,金融量化领域中不断出现基于人工智能算法的量化投资模型,这些模型试图通过人工智能的方法来对金融时间序列建模,从而对数据进行预测并构建投资策略.针对传统的长短时记忆神经网络(Long Short Term Memory,LSTM)对金融时间序列预测不佳的问题,本文提出一种改进的LSTM模型,通过在LSTM层加入注意力机制(attention mechanism)提高神经网络的预测效果,通过遗传算法(Genetic Algorithm,GA)对模型参数调优提高模型泛化能力.使用2019年1月至2020年5月期间国内股指期货数据,我们进行了现有最高水平(state-of-the-art)算法间对比实验,结果显示本文提出的改进的LSTM模型的各方面指标均优于其它模型,显示了该策略模型应用于期货投资的有效性.     

改进PSO-LSTM的水文时间序列预测

为更准确地预测中小河流水文时间序列变化,建立改进粒子群优化算法(PSO)与长短期记忆神经网络(LSTM)结合的预测模型.提出利用非线性惯性权重变化,加入自适应变异等操作的方法,改善PSO的寻优能力;实现LSTM与注意力机制(attention mechanism)的结合,建立PSO-LSTM组合模型,改变传统LSTM在...