基于LSTM神经网络模型的交通事故预测

道路交通事故是道路交通安全水平的具体体现,为使预测数据更科学地为交通管理系统提供决策。提出建立基于LSTM（Long Short-Term Memory）神经网络的交通事故模型,训练交通事故相关的数据,对交通安全水平的指标进行预测。经过与传统回归模型和传统神经网络模型进行实验对比,实验显示LSTM拟合效果最佳,另外LSTM模型对同一趋势上的预测效果有明显优势。通过使用LSTM模型捕获数据中存在的时序依赖关系,能够更准确地对交通事故安全水平进行预测,使交通管理部门制定更加科学准确的决策。     

基于TG–LSTM神经网络的非完整时间序列预测

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG–LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG–LSTM单元结构;其次,基于TG–LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG–LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG–LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.     

基于LSTM神经网络的短期价格趋势预测

本文主要对LSTM模型结构改进及优化其参数,使其预测股票涨跌走势准确率明显提高,同时对美股周数据及日数据在LSTM神经网络预测效果展开研究.一方面通过分析对比两者预测效果差别,验证不同数据集对预测效果的影响;另一方面为LSTM股票预测研究提供数据集的选择建议,以提高股票预测准确率.本研究通过改进后的LSTM神经网络模型使用多序列股票预测方法来进行股票价格的涨跌趋势预测.实验结果证实,与日数据相比,周数据的预测效果表现更优,其中日数据的平均准确率为52.8%,而周数据的平均准确率为58%,使用周数据训练LSTM模型,股票预测准确率更高.     

基于时空关联分析的采煤工作面顶板压力预测方法

顶板压力一般通过液压支架工作阻力进行度量,基于深度学习的顶板压力预测方法效果受训练样本集影响极大,而训练样本集的构建依赖于时间窗口的选择和紧密关联液压支架群的识别,但现有方法依靠人工经验来确定时间窗口,且忽略了不同液压支架之间的关联性,严重阻碍了顶板压力预测精度的提高。针对上述问题,提出了一种基于时空关联分析的采煤工作面顶板压力预测方法。首先,通过计算同一液压支架工作阻力序列在时间维度上的灰色关联度,选择最优时间窗口。然后,通过计算不同液压支架工作阻力序列在空间维度上的灰色关联度,获得最优辅助矩阵,识别出紧密关联液压支架群。最后,基于最优时间窗口和最优辅助矩阵,确定每个训练样本的标签和对应特征,完成训练样本集构建,以对长短时记忆(LSTM)模型进行训练来预测顶板压力。实验结果表明,与依赖人工经验构建训练样本集完成LSTM模型训练的方法相比,本文方法有效降低了顶板压力预测误差。     

局部加权回归LSTM的带宽异常值预测

CDN带宽异常值的预测和准确告警一直是网络运营的重点和难点,为此在时间序列LSTM(long short term memory network)基础之上,提出并实现了一套新的算法框架——局部加权回归串行LSTM.框架采用时序插值采样方法构造数据集,局部加权算法融入最小二乘回归拟合模型进行初始预测,预测结果串行LSTM...     

基于可变时序移位Transformer-LSTM的集成学习矿压预测方法

现有的矿压预测模型多为依赖固定长度时序序列特征的单一预测模型,难以准确捕捉矿压时序数据的复合特征,影响矿压预测的准确度。针对该问题,提出一种基于可变时序移位Transformer-长短时记忆（LSTM）的集成学习矿压预测方法。基于拉依达准则和拉格朗日插值法,剔除矿压监测数据中的异常值,插入缺失值,并进行归一化预处理;提出可变时序移位策略,划分不同尺度的矿压时序数据,避免固定长度时序序列可能存在的数据偏移问题;在此基础上,构建基于Transformer-LSTM的集成学习矿压预测模型,通过结合注意力机制和准确的时序特征表示能力,多层次捕捉矿压变化规律的动态特征,采用集成学习的投票算法,联合预测矿压数据,克服单一预测模型的局限性。实验结果表明：采用集成学习的投票算法可降低矿压预测平均绝对误差（MAE）和均方根误差（RMSE）的波动性,有效减小不同尺度特征序列对矿压预测结果的敏感性影响;Transformer-LSTM模型在2个综采工作面顶板矿压数据集上预测结果的MAE较Transformer模型分别提高了8.9%和9.5%,RMSE分别提高了12.7%和16.5%,且高于反向传播（BP）神...     

基于注意力机制的CNN-LSTM模型及其应用

时序数据存在时序性，并且其短序列的特征存在重要程度差异性。针对时序数据特征，提出一种基于注意力机制的卷积神经网络（CNN）联合长短期记忆网络（LSTM）的神经网络预测模型，融合粗细粒度特征实现准确的时间序列预测。该模型由两部分构成：基于注意力机制的CNN，在标准CNN网络上增加注意力分支，以抽取重要细粒度特征；后端为LSTM，由细粒度特征抽取潜藏时序规律的粗粒度特征。在真实的热电联产供热数据上的实验表明，该模型比差分整合移动平均自回归、支持向量回归、CNN以及LSTM模型的预测效果更好，对比目前企业将预定量作为预测量的方法，预测缩放误差平均值（MASE）与均方根误差（RMSE）指标分别提升了89.64%和61.73%。     

基于LSTM-RPA音乐流行趋势预测研究

大数据背景下的音乐历史数据蕴含丰富的时间信息和用户行为信息,通过分析音乐艺人和听众行为数据,可以较为精准地预测音乐播放量走势,进而预测音乐流行趋势。传统的时间序列预测模型可以准确预测短趋势,但在长趋势预测中受历史信息衰减的影响,难以获得较好的效果。针对LSTM在音乐长趋势预测中历史信息衰减的问题,提出改进的LSTM滚动预测模型,该模型在预测阶段将前一次输入与当前预测结果相结合,使得历史信息可以沿预测趋势方向流动,从而缓解模型在长趋势预测中的历史信息衰减。实验采用“2016中国高校计算机大赛——大数据挑战赛：阿里音乐流行趋势预测”的比赛数据集,并使用比赛主办方提供的F值进行评估。实验结果显示：在相同条件下预测艺人未来30天的每日音乐播放量,最优LSTM滚动预测模型与LSTM、BiLSTM、GRU、RNN相比F值提高13.03%、16.74%、11.91%、18.52%,平均误差减少39.02%、48.55%、36.02%、52.88%;与传统的时间序列预测模型差分整合滑动平均自回归模型相比F值提高10.67%,平均误差降低32.64%。     

基于长-短时序特征融合的资源负载预测模型

高准确率的资源负载预测能够为实时任务调度提供依据,从而降低能源消耗。但是,针对资源负载的时间序列的预测模型,大多是通过提取时间序列的长时序依赖特性来进行短期或者长期预测,忽略了时间序列中的短时序依赖特性。为了更好地对资源负载进行长期预测,提出了一种基于长-短时序特征融合的边缘计算资源负载预测模型。首先,利用格拉姆角场（GAF）将时间序列转变为图像格式数据,以便利用卷积神经网络（CNN）来提取特征;然后,通过卷积神经网络提取空间特征和短期数据的特征,用长短期记忆（LSTM）网络来提取时间序列的长时序依赖特征;最后,将所提取的长、短时序依赖特征通过双通道进行融合,从而实现长期资源负载预测。实验结果表明,所提出的模型在阿里云集群跟踪数据集CPU资源负载预测中的平均绝对误差（MAE）为3.823,均方根误差（RMSE）为5.274,拟合度（R²）为0.815 8,相较于单通道的CNN和LSTM模型、双通道CNN+LSTM和ConvLSTM+LSTM模型,以及资源负载预测模型LSTM-ED和XGBoost,所提模型的预测准确率更高。     

基于社交媒体文本信息的金融时序预测

针对传统股票趋势预测模型中忽略社交媒体文本信息对股价变化的影响和时间序列的平稳性处理、长期依赖等问题,提出一种融合社交媒体文本信息和LSTM的股票趋势预测模型(BiTCN-LSTM).该模型分为情感分析和金融时序预测两部分.情感分析层将社交媒体文本信息输入到双向时间卷积网络进行特征提取和情感分析,得到积极或者消极的情感分类表示;金融时序预测层使用LSTM神经网络,将差分运算后的股票历史数据和文本情感特征向量加权融合作为网络输入,完成金融时序预测任务.通过上海证券综合指数数据集的实验验证,与传统金融时序预测模型相比,该模型的RMSE指标降低3.44-43.62.     

基于长短期神经网络的遥测参数趋势预测

时间序列分析的主要目的是根据已有的历史数据对未来进行预测。传统的时间序列预测主要依靠基于模型的方法，比如季节性差分整合移动平均自回归模型（SARIMA）和指数平滑法（EXP）等。此类方法的参数选择严重依赖于专家经验，适用性并不广泛。针对周期性遥测参数，采用长短期记忆网络（LSTM），学习长时序依赖关系并给出多步预测值。试验通过将预测问题转化为监督学习问题建立半实时仿真环境，并重点研究了观测窗口、预测窗口、网络结构等对性能指标的影响。对比LSTM、SARIMA、EXP，结果表明LSTM具备优异的线性拟合能力和良好的非线性关系映射能力。LSTM预测方法摆脱了传统方法受制于专家经验和模型精度低等问题，为开展实时遥测参数预测奠定了基础。     

基于灰色加权马尔可夫SCGM(1,1)c的交通事故预测

交通事故预测是交通安全评价、规划和决策的基础。基于灰色系统理论和马尔可夫链理论,应用系统云灰色模型SCGM(1,1)c拟合道路交通时序数据的总体趋势,所得拟合指标是随机波动的。马尔可夫链原理适合处理波动性大的系统过程,因此选用能更好解决随机波动性的加权马尔可夫链预测方法,提出一种用于道路交通事故次数预测的灰色加权马尔可夫SCGM(1,1)c模型,它适用于时间序列短,数据量少且随机波动不太大的动态过程预测。以某市1975—2010年道路交通事故次数为例进行了预测分析,结果表明该模型既能揭示交通事故次数变化的总体趋势,又能克服随机波动性数据对预测精度的影响,具有较强的工程实用性。     

基于历史趋势和预测误差的时序序列预测方法研究

针对时间序列预测方法训练复杂、迁移预测能力差等问题，提出一种自适应预测方法。先根据预测误差和当前值确定下一时刻预测值的范围，再结合短期历史趋势确定最终预测值。得到的当前预测值代入下一轮循环中继续预测，通过不断“预测-校正-预测”循环实现对数据预测。最后利用金融、风力等时序数据，LSTM、SVM、ARIMA、MA等经典时间序列预测算法在预测精度、迁移预测能力、运算速度等方面做了对比。     

EMD-LSTM模型对金融时间序列的预测

针对金融时间序列高噪声以及非线性的特点,提出一种基于经验模态分解（EMD）和长短期记忆（LSTM）网络的金融时间序列预测模型。为避免对整体序列只进行一次经验模态分解后的模型训练过程中使用测试集的信息,将时间序列数据通过一定大小的时间窗口进行多步经验模态分解,并对分解后的序列去噪重构,再将重构后的序列作为LSTM网络的输入,得到最终的预测结果。利用上证综指数据,将其与标准LSTM模型以及常见的结合EMD的预测方法进行对比,结果表明提出的EMD-LSTM模型具有更好的预测效果。     

数据预处理对LSTM网络大气污染预测精度分析

大气污染物浓度数据具有时序性和非线性的特点,针对时间序列数据中的异常值和缺失值问题,进行异常值和缺失值预处理对长短时记忆神经网络(LSTM)预测精度的影响分析.利用箱线图法判别数据序列中的异常值,以均值替换法、回归插补法和多重插补法进行缺失值的预处理,分别利用原始数据序列和不同预处理方法得到的数据序列,对多变量输入LSTM神经网络的大气污染物预测精度进行对比分析.实验结果表明,三种预处理方法均可明显改善LSTM模型的预测精度,多重插补法精度最高.     

基于CNN-LSTM混合模型的入侵检测算法研究

本文通过CNN提取网络数据连接基本特征,并将卷积运算后输出的高级特征作为LSTM网络的输入参数进行长序列预测,有效地解决LSTM的输入序列特征难题。本文以KDD99训练集进行模型训练和测试,实验证明本文设计CNN-LSTM混合模型有较高的准确率和F1值。     

基于SSA-LSTM模型的日水位预测—以涡河流域涡阳闸为例

水位的准确预测可以指导城市的防洪减灾举措及水利工程建设, 提升城市洪涝灾害应急响应速度. 基于数据驱动的水位预测模型, 尤其是LSTM模型, 在模拟自然界中水文要素的强非线性关系时展现出优势从而得到广泛应用. 然而, 自然界中水文数据的采集往往伴随着噪声以及人为干扰因素, 这些问题影响了模型的预测性能. 针对这一问题, 本文开发了一种新的组合模型, 即SSA-LSTM模型. 该模型首先利用SSA方法将观测到的时间序列分解为周期、趋势和噪声分量, 接着利用LSTM对SSA方法去噪后的序列进行模型训练并得到最终预测结果.本文选取涡河流域涡阳闸1971年5月至2020年12月的闸上水位为数据集, 1)利用奇异谱分析方法将原始水位时序数据分解为多个趋势和噪声分量(RC₁–RC₁₂), 选取分量(RC₁–RC₁₀)为趋势项并重构为新的水位时序信号; 2)利用LSTM模型对重构的信号进行了训练和验证, 并将预测结果与LSTM模型的结果进行了对比; 3)为得到最优的SSA-LSTM模型, 针对不同的时间步长(7、14、21、28、35天)开展了单步预测性能评估实验, 实验结果表明, 在不同的时间步长下, SSA-LSTM水位预测模型的决定系数R²、均方根误差RMSE、平均绝对误差百分比MAPE均优于LSTM模型. 由此可见, 采用 SSA方法对涡阳闸水位的预处理可有效提高 LSTM 的预测效果, 相比于传统 LSTM 模型, SSA-LSTM模型具有高可靠和低误差的特点, 在水位预测应用中更具适应性, 可以为城市防洪、灌溉、供水等水利措施的合理调度提供更优的决策依据.     

基于E2E DeepVAE-LSTM的轴承退化预测应用研究

针对额外提取数据特征的方法需要花费大量时间和人力成本,轴承退化的线性预测精度低等问题,以及时序数据具有时间依赖关系的特点,提出了端到端的结合长短时记忆网络的深度变分自编码器模型（E2E Deep VAE-LSTM）用于轴承退化预测。通过改进VAE的结构,并结合LSTM,该模型可以在含有异常值的数据集上直接进行训练和预测;使用系统重建误差表征轴承退化趋势,实现了轴承退化的非线性预测。在三个真实数据集上的实验结果表明,E2E Deep VAE-LSTM模型可以得到满意的预测结果,预测精度均高于现有的几种AE类模型及其他几种方法,且具有良好的泛化能力和抗过拟合能力。     

基于组合神经网络模型的金融时序预测

金融市场中的股票价格具有波动性和复杂性,而如今传统模型很难有效进行股价预测。选取上证指数作为数据集,提出了BP-LSTM模型和ARIMA-LSTM模型这两种混合模型,BP-LSTM模型利用BP模型提取数据中的非时序信息,再用LSTM模型提取数据中的时序信息的优点。ARIMA-LSTM模型中ARIMA模型可以利用数据中的线性信息,而LSTM模型适合提取数据中的非线性信息。为了证明模型的可行性,建立了LSTM模型,BP模型和ARIMA模型来进行对比,得出ARIMA-LSTM的预测效果好过其他的模型,BP-LSTM预测股价效果不好,但更适合做分类来预测股票涨跌。     

LSTM模型集成方法在客户流失预测中的应用

目前客户流失预测任务中常用的模型集成方法采用传统机器学习模型作为基学习器。而传统机器学习模型相比于深度学习模型,存在无法对时序数据进行有效建模、特征工程对模型效果影响较大等缺点。针对这些问题,提出基于LSTM的模型集成方法。采用LSTM作为基学习器进行时序数据建模;改进snapshot模型集成方法,增加样本权重调整方法,在训练单个LSTM模型的过程中得到多个具有不同权值的模型;利用得到的多个模型构造新数据集,在新数据集上训练逻辑回归模型。实验结果表明,该方法相比于单模型LSTM,可以在仅花费其1.8倍训练时间的前提下,将查准率和PR-AUC分别提升4.67%和3.74%,显著提高了客户流失预测效果。