基于CNN-LSTM及深度学习的风电场时空组合预测模型

为了更好地预测风电场的风电功率,提取风电场相邻站点之间时空信息和潜在联系,提出了一种基于卷积神经网络(CNN)、互信息(mutual information, MI)法、长短时记忆网络(LSTM)、注意力机制(AT)和粒子群优化(PSO)的短期风电场预测模型(MI-CNN-ALSTM-PSO)。CNN用于提取不同站点的空间特征,LSTM则用于获取多个站点的风电数据的时间依赖信息,据此设计CNN-LSTM时空预测模型,并结合深度学习算法,如MI特征选择、 AT注意力机制、 PSO参数优化,对模型进一步改进。通过两个海岛风电场的实验数据分析可知,所提模型具有最优的统计误差,CNN-LSTM模型可以高效提取风电场时空信息并进行时间序列预测,而结合深度学习算法(MI、 AT和PSO)后的组合模型能进一步提高风电功率预测精度和稳定性。     

基于CNN-LSTM双流融合网络的危险行为识别

针对目前人体危险行为识别过程中由于时空特征挖掘不充分导致精度不够的问题,对传统双流卷积模型进行改进,提出了一种基于CNN-LSTM的双流卷积危险行为识别模型。该模型将CNN网络与LSTM网络并联,其中CNN网络作为空间流,将人体骨架空间运动姿态分为静态与动态特征进行分别提取,两者融合作为空间流的输出;在时间流中采用改进的可滑动长短时记忆网络,以增加人体骨架时序特征的提取能力;最后将两个分支进行时空融合,利用Softmax对危险动作做出分类识别。在公开的NTU-RGB+D数据集和Kinetics数据集上的实验结果表明,改进后模型的平均跨角度（Cross view,CV）精度达到92.5%,平均跨视角（Cross subject,CS）精度为87.9%。所提方法优于改进前及其他方法,可以有效地对人体危险动作做出识别,同时对于模糊动作也有较好的区分效果。     

基于改进CNN-LSTM的飞控系统剩余寿命预测

数据驱动的剩余寿命（remaining useful life,RUL）预测是复杂系统健康管理的重点研究内容,然而数据集的缺乏制约了不同系统上RUL预测的研究。针对这一问题,以飞控系统为例,提出一种仿真模型和数据混合驱动的RUL预测方法。该方法通过模型仿真提供充足的故障数据,并结合改进CNN-LSTM网络实现高质量的故障信息提取。首先对系统及其故障模式建立仿真模型,利用蒙特卡罗方法生成随机故障时间序列并依次注入故障,根据仿真响应和失效阈值确定序列的寿命标签,即可生成包含多组随机序列的系统失效数据集;其次利用长短时记忆网络（long short-term memory,LSTM）提取系统状态参数时间序列的故障信息,结合一维卷积神经网络（1D-CNN）提取不同状态参数之间的关联特征,从而形成时序-空间相结合的剩余寿命预测网络。充分的实验结果证明了所提方法对不同系统均能帮助达到动态和准确的剩余寿命预测。     

基于CNN-LSTM的QAR数据特征提取与预测

针对传统数据驱动的故障诊断方法难以从QAR数据中提取有效特征的问题,提出一种融合卷积神经网络（convolutional neural network,CNN）与长短时记忆网络（long short-term memory,LSTM）的双通道融合模型CNN-LSTM。CNN与LSTM分别作为两个通道,通过注意力机制（attention）融合,从而使模型能同时表达数据在空间维度和时间维度上的特征,并以时间序列预测的方式验证融合模型特征提取的有效性。实验结果表明,双通道融合模型与单一的CNN、LSTM相比,能够更有效地提取数据特征,模型单步预测与多步预测误差平均降低35.3%。为基于QAR数据的故障诊断提供一种新的研究思路。     

基于CNN-LSTM网络的睡眠分期研究

睡眠分期是睡眠数据分析的基础,用自动标定方法来替代人工标定方法可以提高效率,结果也更为客观。不管是人工手动标定还是自动标定都是基于多导睡眠图(Polysomnography,PSG)。采用长短时记忆模型(LSTM-RNN)及长短时记忆模型与卷积神经网络(CNN)相结合的模型(CNN-LSTM)对三个通道信号(EEG、EOG、EMG)的组合进行自动睡眠分期研究。通过对9个受试数据进行分析,LSTM-RNN和CNN-LSTM分别达到了81.9%和83.1%的分类准确率。相对于LSTM-RNN模型,结合卷积神经网络的CNN-LSTM模型获得的分期准确率更高,平均准确率提高了1.2%。     

结合注意力机制的CNN-LSTM心电信号识别

心电信号形态复杂多样易导致识别准确率低、适应性差，通常依靠人工诊断，费时费力。为此提出注意力机制与卷积长短时记忆网络(CNN-LSTM)相结合的深度网络模型(Attention-Based CNN-LSTM,A-CNN-LSTM)以实现心电信号自动识别。模型以CNN为基础架构，引入了注意力机制帮助心电信号内空间特征的提取；LSTM捕捉空间特征内的时间特性，并将其用于信号分类。在MIT-BIH心律不齐数据库上进行实验，结果表明，该模型可对六种不同的心电信号进行分类，识别准确率达到99.23%,具有一定的临床应用意义。     

结合注意力机制的CNN-LSTM的视频中双相抑郁症检测方法

双相抑郁症(Bipolar Disorder)会使人们因为严重的情绪问题无法参与正常的社会生活,甚至导致自残和自杀行为。为了准确检测患者当下心理状态以协助医生进行更精准的治疗,提出了一种结合注意力机制的CNN-LSTM网络的混合模型的双相抑郁症检测方法。该方法首先使用在人脸表情数据集上微调的Resnet50模型提取视频帧的空间特征,其次通过结合注意力机制的LSTM网络提取帧之间的时序信息去检测双相抑郁症。在AVEC2018双相抑郁症数据库开发集上,验证了该方法的有效性。     

基于深度级联孪生网络的小样本调制识别算法

为解决传统基于深度学习的调制识别算法在小样本条件下识别准确率较低的问题,提出一种基于深度级联孪生网络的通信信号小样本调制识别算法。根据通信信号时序图的时空特性,设计由卷积神经网络和长短时记忆网络级联的特征提取模块将原始信号特征映射至特征空间,同时在孪生网络架构下对提取的特征进行距离度量并以相似性约束训练网络,避免特征提取模块在训练过程中出现过拟合现象,最终通过最近邻分类器识别待测样本的调制类别。在DeepSig公开调制数据集上的实验结果表明,与传统基于深度学习的调制识别算法相比,该算法能有效降低训练过程中所需的样本量,且在小样本条件下的识别准确率更高。     

基于网格划分的城市短时交通流量时空预测模型

准确的交通流量预测在帮助交通管理部门采取有效的交通控制和诱导手段以及帮助出行者合理规划路线等方面具有重要意义。针对传统深度学习模型对交通数据时空特性考虑不足的问题,在卷积神经网络（CNN）和长短时记忆（LSTM）单元的理论框架下,结合城市交通流量的时空特性,建立了一种基于注意力机制的CNN-LSTM预测模型——STCAL。首先,采用细粒度的网格划分方法来构建交通流量的时空矩阵;其次,利用CNN模型作为空间组件来提取城市交通流量不同时期下的空间特性;最后,利用基于注意力机制的LSTM模型作为动态时间组件来捕获交通流量的时序特征和趋势变动性,并实现交通流量的预测。实验结果表明,STCAL模型与循环门单元（GRU）和时空残差网络（ST-ResNet）相比,均方根误差（RMSE）指标分别减小了17.15%和7.37%,均绝对误差（MAE）指标分别减小了22.75%和9.14%,决定系数（R²）指标分别提升了11.27%和2.37%。同时,发现该模型在规律性较高的工作日的预测效果好于周末,且对工作日早高峰的预测效果最好,可见该模型可为短时城市区域交通流量变化监测提供依据。     

结合Attention-ConvLSTM的双流卷积行为识别

针对传统方法在通过视频数据进行人体行为识别的过程中,无法准确分析长时间范围的运动信息,不能很好地利用运动信息中的局部特征和其空间关系.提出将基于注意力机制的卷积长短时记忆神经网络(Attention-ConvLSTM)与传统的双流卷积进行结合,实现了对视频数据中运动信息的非线性特征更好的学习,对局部显著特征及其空间关系...     

基于上下文特征融合的行为识别算法

针对LSTM网络无法充分提取短时信息导致人体行为识别率不高的问题,提出一种基于上下文特征融合的卷积长短时记忆网络联合优化架构,用于仅具有RGB数据的行为识别网络。使用3D卷积核对输入的动作序列提取其空间特征和短时时间特征,并将多通道信息进行融合,将融合后的特征送入下一级卷积神经网络和LSTM层中进行长期时间的特征学习,获取上下文的长期时空信息,最后用Softmax分类器进行人体行为的分类。实验结果表明,在人体行为识别公开数据集UCF-101上,提出的基于上下文特征融合的卷积长短时记忆网络的平均识别准确率达93.62%,相比于未进行特征融合的卷积长短时记忆网络提高了1.28%,且平均检测时间降低了37.1%。     

二次分解组合CNN-LSTM的短期负荷预测

短期电力负荷随机性强、波动性大。为提高负荷预测精度,文章提出一种基于二次分解的卷积神经网络（CNN）与长短期记忆（LSTM）神经网络组合的预测模型。其首先采用自适应噪声完备集合经验模态分解（CEEMDAN）方法将原始负荷序列分解为若干固有模态分量和残差;然后,引入样本熵与K均值（SEK-means, SK）,将分解得到的子序列重构为3个序列,并运用变分模态分解方法将重构分量中的强非平稳序列进行二次分解,建立CNN-LSTM模型,对分解得到的各个子序列分别进行预测;最后,将预测的结果叠加,以实现对负荷的有效预测。运用实际负荷数据从确定系数、平均绝对误差、均方根误差和平均绝对百分比误差这4种评价指标角度进行验证,结果表明,该模型与XGBoost、LSTM、CEEMDAN-LSTM和CEEMDANCNN-LSTM模型相比较,具有更高的拟合度和预测精度。     

基于改进DNN-LSTM算法的车辆前方行人行为识别方法

为提高行驶车辆前方行人行为识别精度,提出了基于经验模态分解的深度神经网络与长短时记忆网络相结合的行人行为识别方法。该方法在分析骨架节点表征参数的基础上,采用势能、相对位置、加速度、角加速度作为表征参量描述行人行为,利用经验模态分解可以平滑数据的优点,建立深度神经网络与长短时记忆网络融合的识别模型,实现对车辆前方行人行为的准确识别。采用Weizmann数据集和KTH数据集对该方法有效性检验。结果表明,该方法基于两个数据集对车辆前方行人行为识别准确率分别为98.58%和98%,能够为辅助驾驶系统等提供有效的数据支持。     

基于深度卷积长短时神经网络的视频帧预测

针对视频帧预测中难以准确预测空间结构信息细节的问题，通过对卷积长短时记忆（LSTM）神经网络的改进，提出了一种深度卷积长短时神经网络的方法。首先，将输入序列图像输入到两个不同通道的深度卷积LSTM网络组成的编码网络中，由编码网络学习输入序列图像的位置信息变化特征和空间结构信息变化特征；然后，将学习到的变化特征输入到与编码网络通道数对应的解码网络中，由解码网络输出预测的下一张图；最后，将这张图输入回解码网络中，预测接下来的一张图，循环预先设定的次后输出全部的预测图。与卷积LSTM神经网络相比，在Moving-MNIST数据集上的实验中，相同训练步数下所提方法不仅保留了位置信息预测准确的特点，而且空间结构信息细节表征能力更强。同时，将卷积门控循环单元（GRU）神经网络的卷积层加深后，该方法在空间结构信息细节表征上也取得了提升，检验了该方法思想的通用性。     

基于卷积长短时记忆网络的人体行为识别研究

人体行为识别利用深度学习网络模型自动提取数据的深层特征,但传统机器学习算法存在依赖手工特征提取、模型泛化能力差等问题。提出基于空时特征融合的深度学习模型（CLT-net）用于人体行为识别。采用卷积神经网络（CNN）自动提取人体行为数据的深层次隐含特征,利用长短时记忆（LSTM）网络构建时间序列模型,学习人体行为特征在时间序列上的长期依赖关系。在此基础上,通过softmax分类器实现对不同人体行为分类。在DaLiAc数据集的实验结果表明,相比CNN、LSTM、BP模型,CLT-net模型对13种人体行为的总体识别率达到了97.6%,具有较优的人体行为识别分类性能。     

基于区域特征融合网络的群组行为识别

针对目前群组行为识别方法未充分利用场景空间信息和计算复杂度较高的问题,文中提出基于区域特征融合的群组行为识别方法.首先,利用卷积神经网络提取场景的区域特征.再将场景区域特征依据空间位置分离、排列、组合成一系列区域特征序列.最后,利用长短时记忆网络融合区域特征序列,同时综合多层次和多模态策略提升方法效果.在Collective、Volleyball数据集上的实验表明文中方法性能较优.     

基于特征分解的短期电负荷组合预测模型研究北大核心

针对现有模型对于电力数据特征挖掘的不够全面,导致预测精度较低等问题,提出基于特征分解的短期电负荷组合预测模型。先深入挖掘电负荷变化的影响因素,运用小波分解(Wavelet Decomposition, WD)将单一信号分解为多频信号使特征多样化,经过相关度分析进行特征筛选,在分解中引入“影响因子”捕捉影响因素变化,引入“残差”降低分解造成的误差;根据筛选后子序列和残差序列特点分别使用带循环滑窗的时间卷积网络(Time Convolution Network, TCN)和长短时记忆网络(Long Short Term Memory, LSTM)模型预测,并对预测结果分权求和,最终得到组合预测结果。实验结果表明,上述模型有效提高了预测精度,降低了误差;在不同数据集下均表现出良好的优越性,证明了模型具有泛化能力。     

基于深度学习的网络流量预测研究综述

精准地预判网络流量变化趋势可以帮助运营商准确预估网络的使用情况,合理分配并高效利用网络资源,以满足日益增长且多样化的用户需求。以深度学习算法在网络流量预测领域的进展为线索,阐述了网络流量预测的评价指标和目前公开的网络流量数据集及应用,具体分析了网络流量预测中常用的深度信念网络、卷积神经网络、循环神经网络和长短时记忆网络共四种深度学习方法,并重点介绍了近年来针对不同问题所提出的改进神经网络模型,总结了各模型特点及应用场景。最后对网络流量预测未来发展进行了展望。     

基于时空序列的Conv-LSTM航班延误预测模型

精准的航班延误预测结果可以为大面积航班延误的预防提供巨大的参考价值。航班延误预测是在特定空间下做时间序列预测,然而目前已有预测方法多为两种或多种算法的结合,存在算法间的融合问题。针对上述问题,提出了一种综合考虑时空序列的卷积长短时记忆（Conv-LSTM）网络航班延误预测模型。所提模型在长短时记忆（LSTM）网络提取时间特征的基础上,将网络的输入和权重矩阵进行卷积来提取空间特征,从而充分利用数据集包含的时间和空间信息。实验结果表明,与LSTM、仅考虑空间信息的卷积神经网络（CNN）模型相比,Conv-LSTM模型的准确率分别提高了0.65个百分点和2.36个百分点。由此可见,同时考虑时空特性可以在航班延误问题中获得更精确的预测结果。此外,基于所提模型设计并实现了基于浏览器/服务器（B/S）架构的航班延误分析系统,并且该系统也可以应用于空中交通管理局流量控制中心。