基于优化组合模型的PM2.5浓度预测

为精确预测出具有非线性、非平稳的PM2.5时序数据，提出基于PSO-VMD-LSTM的组合模型。融合机器学习优化算法和深度学习技术，其中利用以包络熵为适应度函数的PSO机器学习算法对VMD分解过程中的惩罚因子和模态个数进行迭代寻优，基于分解处理后的数据进行LSTM深度学习模型预测。构建两种经典分解组合模型作为对照，结果表明，在相同迭代次数情况下，时序分解处理后的LSTM预测比未分解时的预测精度和效果都有明显改善；与经典分解组合模型相比，该模型在准确度和评估指标上均取得最佳预测效果，在PM2.5浓度预测上具有一定普适性。     

基于SAE-ConvLSTM深度学习模型的多站城轨短时客流预测

为准确预测多个站点城轨交通短时客流,提出卷积长短时记忆网络（ConvLSTM）与栈式自编码器（SAE）相结合的深度学习模型SAE-ConvLSTM。考虑了13个影响客流量的外部因素,并通过SAE对其进行逐层提取,获得更具代表性的外部特征。通过ConvLSTM充分提取客流量的时间与空间特征,并融合所获得的外部特征对轨道交通网络中多个站点的短时客流量进行同步预测。同时设计了隐动作蒙特卡洛树搜索方法（LA-MCT）,对SAE进行参数寻优。为了验证寻优效果,与遗传算法、粒子群算法,模拟退火算法,以及禁忌搜索算法进行对比。结果表明,LA-MCTS在寻优时间和寻优效果方面均具有优势。此外,以深圳地铁为例进行大量的数值实验,结果显示在预测均方根误差、绝对误差均值、平均绝对百分比误差以及拟合优度方面,所构建的SAE-ConvLSTM模型预测结果均优于浅层机器学习模型—反向传播神经网络、支持向量回归模型、整合移动平均自回归模型,及深度学习模型—长短时记忆网络、卷积神经网络、以及不加入外部特征的ConvLSTM、加外部特征无SAE的ConvLSTM、长短时记忆网络+卷积神经网络（CNN+LSTM）和加外部特征的CNN+LSTM。     

基于ConvLSTM-GRU的公交客流量预测模型

公共交通在城市智能交通系统中发挥着重要的作用,准确的公交客流量预测对智能交通的发展至关重要。为了提高公交客流量预测的准确度,提出一种基于卷积长短期记忆(convolutionallongshort-termmemory,ConvLSTM)网络和门控循环单元(gaterecurrent unit, GRU)算法的预测模型Conv LSTM-GRU,结合公交车客流量、天气特征和气温特征以及节假日特征来预测未来的公交客流量。通过提取不同时段公交客流量之间的相关性并采用编码器-解码器结构来减少递归多步预测中的累积误差,提高了预测精度。最后,将ConvLSTM-GRU模型与反向传播(back propagation, BP)神经网络、长短期神经网络、门控循环单元结构、卷积长短期神经网络和自回归网络5种算法进行比较,结果表明所提模型在预测准确度方面均优于对比算法。     

基于WT-BiLSTM-ARMA模型的PM2.5浓度预测研究

针对PM2.5浓度预测问题，提出一种基于小波变换的模型。在北京市六个大气污染监测站测得的PM2.5浓度数据上，运用小波分解算法对原始数据序列进行特征提取，使用BiLSTM对高频序列进行预测，同时使用ARMA对低频序列进行预测，最后将各个子序列的预测值进行小波重构得到最终预测结果。实验结果表明，相较于传统单一模型和组合模型，该模型的性能和预测精度均有提高。     

基于时空融合的缺失值填补算法

为提升PM 2.5浓度预测精度,提出基于时空融合与缺失值填补的预测方法。抓住时空相关性,以历史气象和PM 2.5浓度数据作为输入,利用长短时记忆神经网络和人工神经网络从时空两个维度对未来一小时PM 2.5水平进行预测,用模型树进行融合。由于数据集中存在大量的连续缺失数据,为弥补其带来的不利影响,利用所提算法对预测模型进行辅助。实验结果表明,时空融合比单维度单模型的预测表现更佳,提出的填补算法使预测误差进一步降低。     

基于时间序列分解的交通流量预测模型

短时交通流预测不仅与历史数据相关，而且也受相邻区域交通情况影响。针对传统时间序列分解（TSD）模型忽略交通流的趋势性和空间相关性的问题，提出了基于时间序列分解与时空特征（TSD-ST）结合的时间序列处理模型。首先，利用经验模态分解（EMD）和离散傅里叶变换（DFT）得到趋势分量和周期分量，利用互信息（MI）算法挖掘波动分量的时空（ST）相关性，并以此为根据重构状态向量；随后，通过长短期记忆（LSTM）网络利用状态向量对波动分量进行预测；最后，将序列的3部分的预测结果重构，得到最终预测值。利用美国华盛顿州I090号州际公路的真实数据验证模型的有效性。实验结果表明，与支持向量回归（SVR）、梯度提升回归树（GBRT）、LSTM相比，所提模型的均方根误差（RMSE）分别降低了16.5%、34.0%和36.6%。由此可见，所提模型在提升预测精度方面十分有效。     

基于VMD-AOA-GRU的超短期风向预测

风向的精准预测对风资源的高效利用和风电机组的安全运行具有重大意义。为此,本文提出一种基于VMDAOA-GRU的超短期风向预测方法。利用变分模态分解（VMD）算法将历史风向数据分解为不同频率的信息,然后采用GRU算法构建基于分解序列的预测模型;利用收敛速度快、精度高的AOA算法,逐个求解已分解序列的最优时间窗口长度和GRU预测模型的超参数,最后重构各分解序列的预测结果,并得到最终预测结果。通过与其它算法预测结果的对比分析,证明了本文所提方法的可行性。     

基于ACGRU模型的短时交通流预测

针对现有交通流预测模型未能充分利用交通流数据的时空特征以实现准确预测的问题,提出一种结合注意力机制的卷积门控循环单元预测模型（ACGRU）。该模型利用卷积神经网络（CNN）和门控循环单元（GRU）提取交通流的时空特征,然后使用注意力机制生成含有注意力概率分布的交通流特征表示,同时利用交通流的周相似性提取周期特征,将所有特征相互融合进行回归预测。在真实交通流数据集上的实验表明,提出的ACGRU模型具有更高的预测精度,预测误差相比其他预测模型平均降低了9%。     

基于长-短时序特征融合的资源负载预测模型

高准确率的资源负载预测能够为实时任务调度提供依据,从而降低能源消耗。但是,针对资源负载的时间序列的预测模型,大多是通过提取时间序列的长时序依赖特性来进行短期或者长期预测,忽略了时间序列中的短时序依赖特性。为了更好地对资源负载进行长期预测,提出了一种基于长-短时序特征融合的边缘计算资源负载预测模型。首先,利用格拉姆角场（GAF）将时间序列转变为图像格式数据,以便利用卷积神经网络（CNN）来提取特征;然后,通过卷积神经网络提取空间特征和短期数据的特征,用长短期记忆（LSTM）网络来提取时间序列的长时序依赖特征;最后,将所提取的长、短时序依赖特征通过双通道进行融合,从而实现长期资源负载预测。实验结果表明,所提出的模型在阿里云集群跟踪数据集CPU资源负载预测中的平均绝对误差（MAE）为3.823,均方根误差（RMSE）为5.274,拟合度（R²）为0.815 8,相较于单通道的CNN和LSTM模型、双通道CNN+LSTM和ConvLSTM+LSTM模型,以及资源负载预测模型LSTM-ED和XGBoost,所提模型的预测准确率更高。     

基于门控循环图卷积网络的交通流预测

交通流预测在智能交通系统的建设中起着关键性的作用,然而现有预测方法无法准确地挖掘其潜在的时空相关性,而且大都采用全连接网络进行单步预测。为了进一步挖掘数据的时空特性以及提升长短期预测的精度,提出了一种门控循环图卷积网络（GR-GCN）模型。首先,利用频域上的图卷积结合门控循环单元（GRU）构建一个时空组件（STC）以同时捕获节点的时空相关性,充分地提取数据的时空特征;然后,利用该时空组件构成编码器单元,并将时间序列数据和路网结构数据输入其中;最后,使用门控循环单元作为解码器单元,并按照时间顺序将两者组成一个编码器—解码器（encoder-decoder）结构,依次解码出每个时刻的预测结果。在加利福尼亚交通局（Caltrans）性能评估系统中高速公路数据集PeMSD4和PeMSD8进行了实验。结果表明,所提模型GR-GCN在预测未来15 min、30 min、45 min和60 min的交通流量方面优于大多数现有基准模型,尤其是在长期预测方面。     

融合序列分解与Prophet模型的时序预测

传统时序预测方法其预测过程无法在相同数据集上推出共享模式, 而机器学习方法无法较好地处理非线性和大规模数据集, 并且需要手动设计特征工程. 深度学习方法弥补了传统预测方法需要高计算高人力的弊端, 用自动学习特征工程代替了手动设计特征工程. 但仅使用深度学习的预测方法所作结构假设较少, 通常需要较高的计算资源以及大量的数据来学习得到准确的模型. 针对上述问题, 本文提出通过采用融合t检验的EMD经验模态将序列分为高频分量和低频分量, 对高频分量使用传统STL序列分解方法进一步对数据做处理, 对高频、低频分量分别进行Prophet预测. 实验结果表明, 相较于传统的LSTM以及Prophet预测模型, 经过STL序列分解后的周期数据能够提升模型的整体预测精确度而融合EMD经验模态的Prophet模型则大大提升了训练效率.     

基于GRU-LSTM组合模型的云计算资源负载预测研究

日益增多的应用部署在云端使得云数据中心的功耗波动剧烈,从而导致云数据中心资源利用率不平衡,高效的负载预测是解决该问题的关键技术。针对目前负载预测模型预测精度低、预测时间长的问题,建立一种基于门控循环单元（GRU）与长短期记忆（LSTM）网络的组合预测模型GRU-LSTM。该模型的网络结构包括3层,第一层采用GRU,利用GRU参数少、易收敛的特点减少模型训练时间,第二、第三层采用LSTM,结合LSTM参数多的优势提高模型的预测精度。在此基础上,对数据集作缺失值处理和标准化处理,使用随机森林算法对原始序列进行特征选择后得到一组新的序列值,将该序列值作为GRU-LSTM组合预测模型的输入,以对云计算资源进行高效预测。在集群公开数据集Cluster-trace-v2018上进行实验,结果表明,与传统的单一预测模型ARIMA、LSTM、GRU以及现有的组合预测模型ARIMA-LSTM、Refined LSTM等相比,GRU-LSTM模型预测结果的均方误差减少6~9,预测时间平均缩短约10%。     

基于条件变分自编码的密码攻击算法

使用密码猜测算法是评估用户密码强度和安全性的有效方法,提出一种基于条件变分自编码密码猜测算法PassCVAE。算法基于条件变分自编码模型,将用户个人信息作为条件特征,训练密码攻击模型。在编码器端,分别使用双向循环神经网络（GRU）和文本卷积神经网络（TextCNN）,实现对密码序列和用户个人信息的编码和特征的抽象提取;在解码器端使用两层GRU神经网络,实现对用户个人信息和密码数据隐编码的解码,生成密码序列。该算法可以有效地拟合密码数据的分布和字符组合规律,生成高质量的猜测密码数据。多组实验结果表明,提出的PassCVAE算法优于现有的主流密码猜测算法。     

基于随机森林和气象参数的PM2.5浓度等级预测

空气污染不仅危害人类的身心健康,而且还会制约城市的经济发展,其中PM2.5带来的影响尤为突出。为了方便准确地预测出空气中的PM2.5浓度等级,提出了一种基于随机森林的PM2.5浓度等级预测方法,特征因子采用太原市2013年-2017年的气象数据、预测站点的PM2.5浓度变化的时间规律以及与周围站点的时空关联性。该方法首先利用K-Means算法对原始气象数据聚类,降低不同分类器之间的相关性,然后利用欠采样方法对数据进行平衡采样,减少类不平衡对分类器性能的影响,最后利用泛化能力好的随机森林构建预测模型。经过真实数据验证,该方法对PM2.5浓度等级预测具有较好的精确度、召回率与[F]值。     

基于SCSO-GRU模型的网络流量预测

网络流量有实时性、不稳定性和时序相关性等特点,传统网络流量预测模型存在泛化能力不强和预测精度低等不足之处。为解决这些不足,本文提出一种结合基于正余弦的群优化（SCSO）算法的GRU神经网络的网络流量预测模型（SCSO-GRU）。首先,介绍SCSO算法的粒子更新原理;然后构建SCSO-GRU神经网络的网络流量预测模型,将SCSO算法用于模型训练,提高训练效果,克服传统GRU神经网络收敛于局部最优的缺点;最后用SCSO-GRU模型进行网络流量预测。实验结果表明,与传统LSTM和GRU模型相比,本文模型具有显著的收敛效果和较好的预测精度,可以更好地刻画网络流量变化趋势。     

强化数据预处理的BLSTNet-CBAM短期电力负荷预测

针对负荷数据复杂性、非平稳性以及负荷预测误差较大等问题,提出一种综合特征构建和模型优化的短期电力负荷预测新方法.首先采用最大信息系数(MIC)分析特征变量的相关性,选取与电力负荷序列相关的特征变量,同时,考虑变分模态分解(VMD)方法容易受主观因素的影响,采用霜冰优化算法(RIME)优化VMD,完成原始电力负荷序列的分解.然后改进长短期时间序列网络(LSTNet)作为预测模型,将其递归层LSTM更新为BiLSTM,并引入卷积块注意力机制(CBAM)进行预测.通过对比实验和消融实验的结果表明:经RIME-VMD优化后,LSTM、GRU、LSTNet模型预测的均方根误差(RMSE)均降低20%以上,显著提高模型预测精度,且能够适应于不同预测模型.所提出的BLSTNet-CBAM模型与LSTM、GRU、LSTNet相比, RMSE分别降低了35.54%、6.78%、1.46%,提高了短期电力负荷预测的准确性.     

DSCE-GEP算法在PM2.5浓度预测中的应用

雾霾防治是目前空气质量保护问题研究的热点,PM2.5浓度预测是雾霾防治的关键之一;文章采用一种双系统协同进化的基因表达式编程算法(DSCE-GEP)进行PM2.5浓度预测,该算法在GEP算法中引入人工干预操作来提高算法进化速度以及解的质量;DSCE-GEP算法是对人类进化的模拟,不仅具有强大的模型学习能力,而且能得到模型的显式函数表达式;文中以西安地区逐日PM2.5浓度预测为例,将DSCE-GEP算法与传统基因表达式编程算法(GEP)、文献中分类回归树和极限学习机组合模型(CART-EELM)以及卷积神经网络和长短期记忆神经网络组合模型(CNN-LSTM)进行了对比实验;实验结果表明,DSCE-GEP算法拟合度更高,是一种具有竞争力的智能预测算法.     

注意力ConvLSTM模型在RUL预测中的应用

预测性维护的应用能够极大地降低企业运维成本,而设备剩余使用寿命(Remaining Useful Life,RUL)预测是预测性维护的关键技术之一.针对传统RUL预测算法难以提取时序数据的潜藏特征以及特征权重分配不合理的问题,本文提出一种基于注意力机制(Attention Mechanism)的卷积长短时记忆(Convolution Long-Short Term Memory,ConvLSTM)预测模型,该模型充分利用LSTM网络处理和预测长期时间序列的优势,并引入注意力机制对产生显著影响的特征因子提高权重,极大地优化了模型的时空特征提取能力.为验证模型预测效果,本文以NASA提供的CMAPSS数据集为对象进行实验,以均方根误差(Root Mean Squared Error,RMSE)和数据集自定义的Score为评价指标,将预测结果与其他RUL预测算法作比对,证明了该模型具有更佳的预测准确性.     

基于自组织递归模糊神经网络的PM2.5浓度预测

针对PM2.5浓度非线性动态变化的特点,提出了一种自组织递归模糊神经网络(self-organizing recurrent fuzzy neural network,SORFNN)方法预测PM2.5小时浓度。首先,通过分析影响PM2.5浓度的多种因素,利用主成分分析法(principal component analysis,PCA)筛选出与PM2.5浓度相关性较强的特征变量作为神经网络的输入变量。然后,根据ε准则和偏最小二乘算法(partial least squares,PLS)进行规则化层神经元的增删,实现递归模糊神经网络结构的自动调整,并采用学习率自适应的梯度下降算法调整模型中心、宽度和权值等参数,建立PM2.5预测模型。最后,利用典型非线性系统辨识和实际PM2.5浓度预测实验进行验证。实验结果表明,所设计的自组织递归模糊神经网络结构精简且预测精度高,较好地满足了PM2.5实时预测的要求。