基于TG–LSTM神经网络的非完整时间序列预测

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG–LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG–LSTM单元结构;其次,基于TG–LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG–LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG–LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.     

SDAE-LSTM模型在金融时间序列预测中的应用

针对金融时间序列预测的复杂性和长期依赖性，提出了一种基于深度学习的LSTM神经网络预测模型。利用堆叠去噪自编码从金融时间序列的基本行情数据和技术指标中提取特征，将其作为LSTM神经网络的输入对金融时间序列进行预测；通过LSTM神经网络的长期依赖特性来提高金融时间序列的预测精度。利用股价指数数据，与传统的神经网络的预测结果进行比较，结果表明基于深度学习的LSTM神经网络具有比较高的预测精度。     

基于LSTM的短时高速公路交通量预测北大核心CSCD

高速公路交通量预测中原始数据存在大量缺失值,为了挖掘高速公路交通量时间序列中的更多信息,提高交通量预测的精度,构建了缺失值修复方法、Dropout以及长短时记忆网络(long short term memory, LSTM)相结合的高速公路流量混合预测模型。通过缺失值修复方法对高速公路流量数据进行数据修复;在LSTM网络中非循环的部分加入Dropout机制来减少过拟合情况;通过实测交通量数据进行实验,实验结果表明考虑缺失值修复的Dropout-LSTM的高速公路流量预测模型相较于LSTM及常用高速公路预测模型,预测精度更高,验证了该模型在短时高速公路交通量预测中的有效性。     

基于LSTM循环神经网络的PM2.5预测

PM_(2.5)要素对空气质量影响较大。PM_(2.5)浓度变化是多种因素作用的结果,且过程突发、非线性,具有明显的不确定性,难以使用传统的方法进行预测。针对该问题,以气象、大气污染物因素作为PM_(2.5)预测指标,提出基于LSTM循环神经网络的PM_(2.5)预测模型。使用灰色关联度分析方法对多个气象、大气污染指标进行关联强度分析;对数据进行平滑处理,将时间序列问题处理为监督问题;搭建多变量的LSTM循环神经网络PM_(2.5)预测模型,实现PM_(2.5)日值浓度的准确预测。使用北京市2010年-2017年气象数据和大气污染物数据进行仿真实验,结果表明该模型能够较好地预测PM_(2.5)的日值变化趋势。     

一种高精度LSTM-FC大气污染物浓度预测模型

大气污染已经严重影响到人们的生活和健康,大气治理势在必行,探究大气污染物浓度变化的规律,实现污染物浓度预测,对指导大气治理工作具有重要意义.文中构建了一种基于长短期记忆神经网络(Long Short-Term Memory,LSTM)和全连接神经网络(Full Connected,FC)的混合神经网络模型,并提出了数据桶划分的训练方式来解决由于训练数据与预测数据存在较长时间间隔导致精度下降的问题,进而实现大气污染物浓度的预测.该模型具有较好的通用性和精度,充分结合了长短期记忆神经网络和全连接神经网络的优点,能够在多种污染物数据上实现精确预测.以天津市2013-2019年大气污染物数据实现模型的训练和预测,结果表明,混合神经网络模型在PM2.5,PM10,NO2,SO2,O3,CO 6种污染物浓度的预测上均可以达到R2>0.90,平均百分误差小于15％的效果,LSTM-FC模型在大气污染物预测中具有明显的优势,具有较高的实用价值.     

数据预处理方法在移动通信行业中的应用

解决数据本身的质量问题,以某移动通信用户离网原因分析及预测为主题及为数据挖掘模型处理出需要的数据是文章的主要目的.文中运用了数据预处理中,维规约,属性集成与构造,多重插补,离散化,规范化,数据抽样等方法来得到一个完整的、近似真实的数据集.针对所处理数据含有大量缺失值的特点,选取了插补的方法进行处理.包括方法的插补方法的选择,到最后使用多重插补方法对缺失数据进行修正.预处理后的数据应用到具体数据挖掘模型后提高了数据挖掘的效率,降低了数据挖掘复杂度.     

基于改进LSTM的桥梁传感器异常数据的检测方法

桥梁正常与否通常通过传感器来检测,但是庞大的数据量对于传统检测方来说存在很大挑战,因此提出基于长短期记忆模型循环神经网络(Long Short Term Memory、LSTM)的方法进行异常检测.首先利用小波变换与奇异谱分析(Singular Spectrum Analysis、SSA)对传感器数据进行预处理,之后利用两层LSTM对序列进行向量表示、逆序重构,利用贝叶斯优化算法对LSTM网络进行参数优化,最终通过极大似然估计(Maximum Likelihood Estimate、MLE)对该段序列进行异常得分估计,最终通过学习异常报警阈值实现时间序列异常检测并发现潜在异常.采用桥梁某部位的应变数据、风速数据与振动传感器数据进行仿真实验,验证了所提方法相比其他传统方法具有更高的精确性.     

正态模型缺失数据的贝叶斯和Jackknife多重插补法的比较

数据缺失是统计调查中经常存在的问题，若是少量缺失则可以利用删除法；若缺失值较多，利用删除法则会丢失大量有用信息，这时候就需利用插补法来补全数据，从而减少对统计分析的影响。根据统计年鉴上近几年的粮食产量、种植规模、有效灌溉面积等系列数据，分别采用贝叶斯多重插值法和刀切多重插值法展开了模拟研究，通过对两种方法所得数据的比对分析，来进一步掌握实际的插值效果。研究发现，利用这两种方法构建的模型都有较好的估计结果，但是贝叶斯多重插补法更为精确，而Jackknife法在操作方面则更为简单。     

基于单步预测LSTM的短期负荷预测模型北大核心

针对目前智能电网下负荷数据存在特征相关性低与序列非平稳性的特点,为达到提高短期负荷预测精度的目的,提出一种单步负荷预测的双层LSTM模型的方法,除了考虑的地理区域的天气数据外,还使用负荷的时间序列。首先采用最大信息系数(MIC)对多源异构特征进行提取,随后使用随机森林和递归特征消除(RFE)用于特征选择,将对异常值敏感、鲁棒性好的Robust标准化方法应用于所选特征的预处理中,最后由单步预测的双层LSTM模型预测结果。文章所搭建的负荷预测模型具有数据强相关性特征、预测精度高的优点。依据数据实验结果,取得了1.38%的MAPE值。并且与其它预测模型相比,基于单步预测LSTM的短期负荷预测方法的预测精度提高效果明显。     

数据异常情况下遥感影像时间序列分类算法

针对时序遥感图像数据异常时卷积神经网络对其分类性能较差的问题,提出了一种端到端的多模式与多单模架构相结合的网络结构。首先,通过多元时序模型和单变量时间序列模型对多维时间序列进行多尺度特征提取;然后,基于像素空间坐标信息,通过自动编码形式完成遥感图像的时空序列特征的构建;最后,通过全连接层和softmax函数实现分类。在数据异常（数据缺失和数据扭曲）的情况下,提出的算法和一维卷积神经网络（1D-CNN）、多通道深度神经网络（MCDNN）、时序卷积神经网络（TSCNN）和长短期记忆（LSTM）网络等通用时间序列遥感影像分类算法进行分析比较。实验结果表明,所提的利用端到端的多模式与多单模式架构融合的网络在数据异常的情况下分类精度最高,F1值达到了93.40%。