基于LSTM的智能车变道预测研究

文章基于循环神经网络RNN(Recurrent Neural Network)和长短时记忆网络LSTM(Long-Short Term Memory)的理论研究,提出了一种基于LSTM的智能车变道行为预测模型。首先,搭建LSTM网络模型框架;然后根据人类驾驶场景对真实数据集NGSIM(Next Generation Simulation)进行特征选择与数据提取。最后使用长短时记忆网络(LSTM)模型进行训练,测试车辆变道预测结果,并将结果与利用RNN模型预测的结果进行比较,验证了本文方法的有效性。     

基于注意力机制的CNN-BiLSTM的PM2.5时序特征预测

本文为了充分挖掘PM2.5浓度预报基础数据中时序性特征联系,提高PM2.5浓度预测精度,本文提出了一种基于注意力机制的CNN-BiLSTM的PM_2.5浓度预测模型,充分利用CNN空间局部特征提取能力以及BiLSTM对时间信息的双向长短期记忆,再结合Attention机制对不同特征分配权重系数,进一步提升模型的预测准确度。结果表明,本文模型在测试集上的MAE、R2、MAPE分别为：0.944、0.844、0.18,其预测效果均优于LSTM模型和CNN-LSTM模型,特别是应对突变情况下,其灵敏度和准确度更高,能较好地拟合真实值。     

基于随机森林回归分析的PM2.5浓度预测模型

针对神经网络算法在当前PM2.5浓度预测领域存在的易过拟合、网络结构复杂、学习效率低等问题,引入RFR(random forest regression,随机森林回归)算法,分析气象条件、大气污染物浓度和季节所包含的22项特征因素,通过调整参数的最优组合,设计出一种新的PM2.5浓度预测模型—RFRP模型.同时,收集了西安市2013-2016年的历史气象数据,进行模型的有效性实验分析.实验结果表明,RFRP模型不仅能有效预测PM2.5浓度,还能在不影响预测精度的同时,较好地提升模型的运行效率,其平均运行时间为0.281 s,约为BP-NN(back propagation neural network,BP神经网络)预测模型的5.88％.     

基于SSA-LSTM模型的空气质量预测研究

为提高PM_2.5浓度的预测精度,提出了一种结合麻雀搜索算法(SSA)和长短期记忆神经网络(LSTM)的组合预测模型。以2023年5月至8月期间长沙市PM_2.5浓度数据为基础,构建了SSA-LSTM模型并与其他模型进行了对比实验。实验结果显示,SSA-LSTM模型的预测结果在拟合优度(R²)上相较于单一LSTM、PSO-LSTM和WOA-LSTM模型分别提升了45.93%、31.55%、19.12%,同样在均方根误差(RMSE)和平均绝对误差(MAE)的结果上也表现更优,表明该模型在PM_2.5浓度预测方面具有高准确性和有效性,可为制定PM_2.5相关预防措施提供一定的参考价值。     

基于外界影响及时序因素的PM2.5预测研究

随着雾霾问题逐渐加重,对其主成分之一PM2.5的预测已成为广泛关注的问题.PM2.5日浓度变化受多种因素影响,且具有非线性、时变性的特征,难以被准确预测.针对此问题,文中提出一种基于外界影响及时序因素的PM2.5日浓度预测方法.该方法分离出PM2.5日浓度的外界主要影响因素与时间因素,建立了基于外界主要影响因素的BP神...     

基于SARIMA-LSTM组合模型的网络流量预测方法

针对网络流量预测问题，提出一种基于SARIMA和LSTM组合模型的网络流量预测方法。首先，利用S-HESD算法对异常流量数据进行检测，并通过滑动窗口均值进行数据平滑处理；然后，利用基于统计学习的SARIMA模型预测流量数据，并将其作为LSTM神经网络的输入，最终输出流量预测值。实验结果表明，SARIMA-LSTM组合模型能充分呈现骨干网、城域网、边缘接入网等不同层级网络的周期性和趋势性等特点，优于SARIMA、LSTM等单一模型。     

基于长期监测数据与LSTM网络的滑坡位移预测

滑坡位移变化是危险性的直接表征,位移预测对防灾减灾至关重要.以八字门滑坡为例,基于十年监测数据和神经网络模型(LSTM、RNN)进行滑坡位移预测.用一次移动平均法将总位移分解为趋势项和周期项,趋势项采用三次多项式函数进行分段拟合预测,通过神经网络模型和建立周期项与特征因子的关系并进行预测.其中,周期项特征因子根据位移影...     

基于遥感数据和GWR 模型的成都PM2.5 浓度时空分布特征研究

利用 MODIS 021KM 数据反演成都地区 2018 年逐日 AOD 数据, 并结合 PM2.5 地面监测数据以及气象数据 构建地理加权回归 (GWR) 模型得到成都地区逐月 PM2.5 浓度。结果表明: (1) 和多元线性回归模型相比, GWR 模型 反演的 PM2.5 浓度的 R2、 ERMS 和 EMA 分别为 0.884、 7.8704 µg·m−3 和 6.1566 µg·m−3 , 都优于多元线性回归的 0.808、 9.7098 µg·m−3 和 7.6081 µg·m−3, 说明该模型能有效估算成都地区 2018 年 PM2.5 浓度。 (2) 成都地区 PM2.5 浓度在月尺 度上呈现出先降低、后升高的变化特征。 2 月最高为 67.38 µg·m−3, 7 月最低为 28.31 µg·m−3; PM2.5 浓度季节变化特征 为夏季、秋季、春季、冬季依次递增。 (3) 成都地区 PM2.5 浓度空间分布总体上呈现“中间高、两边低”的特征。西部 地区为 PM2.5 浓度低值区, 中部地区为高值区, 东部的简阳市和金堂县为 PM2.5 浓度次高值区。     

基于改进主题分布特征的神经网络语言模型

在递归神经网络(RNN)语言模型输入中增加表示当前词所对应主题的特征向量是一种有效利用长时间跨度历史信息的方法。由于在不同文档中各主题的概率分布通常差别很大,该文提出一种使用文档主题概率改进当前词主题特征的方法,并将改进后的特征应用于基于长短时记忆(LSTM)单元的递归神经网络语言模型中。实验表明,在PTB数据集上该文提出的方法使语言模型的困惑度相对于基线系统下降11.8%。在SWBD数据集多候选重估实验中,该文提出的特征使LSTM模型相对于基线模型词错误率(WER)相对下降6.0%;在WSJ数据集上的实验中,该特征使LSTM模型相对于基线模型词错误率(WER)相对下降6.8%,并且在eval92测试集上,改进隐含狄利克雷分布(LDA)特征使RNN效果与LSTM相当。     

应用SVM的PM2.5未来一小时浓度动态预报模型

目前现有的PM2.5模式预报值偏离实况观测值较大。针对上述问题,从上海浦东气象局获得2012年11月~2013年11月的PM2.5实况观测浓度、PM2.5模式预报（WRF-CHEM）浓度和主要气象影响因子的模式预报数据资料,在PM2.5模式预报数据的基础上,加入另外5个主要气象影响因子的模式预报数据,应用支持向量机（SVM）建立动态预报模型,提高PM2.5未来一小时浓度预报的精度,并且与径向基神经网络（RBFNN）、多元线性回归法（MLR）、WRF-CHEM作对比。实验结果表明:该算法较大提高了PM2.5未来一小时浓度预报的精度,预报精度优于RBFNN、MLR和WRF-CHEM,并且对PM2.5浓度变化剧烈的情况具有较好地预报能力。     

基于ARIMA-RNN组合模型的云服务器老化预测方法

针对云服务器系统运行环境具有非线性、随机性和突发性的特点,提出了基于整合移动平均自回归和循环神经网络组合模型(ARIMA-RNN)的软件老化预测方法.首先,采用ARIMA模型对云服务器时间序列数据进行老化预测;然后,利用灰色关联度分析法计算时间序列数据的相关性,确定RNN模型的输入维度;最后,将ARIMA模型预测值和历...     

基于注意力网络的地基SAR永久散射体选取方法

永久散射体法（Permanent Scatterer,PS）是地基合成孔径雷达（Ground-Based Synthetic Aperture Radar,GBSAR）形变监测的技术支撑,但使用传统多阈值法选取PS点时,会存在各个区域对阈值敏感性不同的问题。为解决选取PS点时漏选或错选的问题,本文提出一种注意力网络模型对GBSAR时序数据进行PS点筛选,并将该模型与循环神经网络（Recurrent Neural Network,RNN）和长短期记忆网络（Long Short-Term Memory,LSTM）进行对比实验,应用于三个不同场景的监测来比较选取PS点的结果。实验结果表明:基于注意力网络的模型的实时性比RNN模型更好,准确度比LSTM模型更高。因此基于注意力网络的模型在PS点选取上更具优势。      

基于LSTM-ARIMA模型的短期航班飞行轨迹预测

高效精确的航班飞行轨迹预测是未来空中交通管理系统的关键技术之一,其旨在提高空中交通的运行能力和可预测性。针对现有的航迹预测方法预测精度和稳定性不足的问题,在已有的历史航迹数据的基础上,构建了新的特征维度,分析了经度、纬度和高度三维数据的统计特性,将长短期记忆网络（Long Short-Term Memory,LSTM）对非线性和非平稳时间序列有较强的逼近能力,而差分自回归移动平均模型（Autoregressive Integrated Moving Average,ARIMA）对线性时间序列的处理能力更优的特点相结合,提出了一种以LSTM为主ARIMA为辅的组合短期航迹预测模型,先利用LSTM作为主预测模型对经纬度和高度进行预测,再利用辅模型ARIMA对高度的线性关系进行建模,最后采用CRITIC方法将LSTM和ARIMA预测的高度值融合处理。实验结果表明,这种组合模型利用了两种模型的优势,提高了航迹预测的准确性。      

TCL: a taxi trajectory prediction model combining time and space features

Vehicle trajectory modeling is an important foundation for urban intelligent services. Trajectory prediction of cars is a hot topic. A model including convolutional neural network (CNN) and long short-term memory (LSTM) was proposed, which is named trajectory-CNN-LSTM (TCL). CNN can extract the spatial features of the trajectory in the input image. Besides, LSTM can extract the time-series features of the input trajectory. After that, the model uses fully connected layers to merge the two features for the final predicting. The experiments on the Porto dataset of The European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases (ECML-PKDD) show that the average prediction error of TCL is reduced by 0.15 km, 0.42 km, and 0.39 km compared to the trajectory-convolution (T-CONV), multi-layer perceptron (MLP), and recurrent neural network (RNN) model, respectively.     

S2‐Net: Machine reading comprehension with SRU‐based self‐matching networks

Machine reading comprehension is the task of understanding a given context and finding the correct response in that context. A simple recurrent unit (SRU) is a model that solves the vanishing gradient problem in a recurrent neural network (RNN) using a neural gate, such as a gated recurrent unit (GRU) and long short‐term memory (LSTM); moreover, it removes the previous hidden state from the input gate to improve the speed compared to GRU and LSTM. A self‐matching network, used in R‐Net, can have a similar effect to coreference resolution because the self‐matching network can obtain context information of a similar meaning by calculating the attention weight for its own RNN sequence. In this paper, we construct a dataset for Korean machine reading comprehension and propose an S²‐Net model that adds a self‐matching layer to an encoder RNN using multilayer SRU. The experimental results show that the proposed S²‐Net model has performance of single 68.82% EM and 81.25% F1, and ensemble 70.81% EM, 82.48% F1 in the Korean machine reading comprehension test dataset, and has single 71.30% EM and 80.37% F1 and ensemble 73.29% EM and 81.54% F1 performance in the SQuAD dev dataset.     

Advanced RNN Based NARMA Predictors

An analysis of nonlinear time series prediction schemes, realised though advanced Recurrent Neural Network (RNN) techniques is provided. Due to practical constraints in using common RNNs, such as the problem of vanishing gradient, some other ways to improve RNN based prediction are analysed. This is undertaken for a simple RNN through to the Pipelined Recurrent Neural Network (PRNN), which consists of a number of nested small-scale RNNs. A Nonlinear AutoRegressive Moving Average (NARMA) nonlinear model is introduced in the context of RNN architectures, and an posteriori mode of operation within that framework. Moreover, it is shown that the basic a priori PRNN structure exhibits certain a posteriori features. The PRNN based predictor, is shown to exhibit nesting, and to be able to represent block cascaded stochastic models, such as the Wiener–Hammerstein model. Simulations undertaken on a speech signal support the analysis.     

基于全注意力机制的多步网络流量预测

预测资源分配能有效利用无线网络的剩余资源服务非实时业务,其中的关键问题之一是剩余资源的预测,可转化为实时业务流量预测问题。本文把面向自然语言处理提出的全注意力机制引入到时间序列预测问题中,预测未来分钟级时间窗内秒级的流量,通过在每秒记录的实测流量数据集上进行训练和测试,与其他基于循环神经网络和线性、非线性预测模型的方法在复杂度（由训练和测试时间衡量）、预测精度（由平均相对百分比误差衡量）和预测误差统计特性（由预测误差的均值和标准差衡量）等方面进行比较。研究结果表明,与无注意力机制的循环神经网络相比,所设计的基于全注意力机制的方法计算复杂度低,由于多步预测的累积误差,在预测精度方面增益不明显。