基于LSTM的智能车变道预测研究

文章基于循环神经网络RNN(Recurrent Neural Network)和长短时记忆网络LSTM(Long-Short Term Memory)的理论研究,提出了一种基于LSTM的智能车变道行为预测模型。首先,搭建LSTM网络模型框架;然后根据人类驾驶场景对真实数据集NGSIM(Next Generation Simulation)进行特征选择与数据提取。最后使用长短时记忆网络(LSTM)模型进行训练,测试车辆变道预测结果,并将结果与利用RNN模型预测的结果进行比较,验证了本文方法的有效性。     

一种新型的基于深度学习的时变信道预测方法

针对高速移动正交频分复用系统,提出了一种新型的基于深度学习的时变信道预测方法。为了避免网络参数随机初始化造成的影响,本文方法首先基于数据与导频信息获取较理想的信道估计,利用其对BP神经网络进行预训练处理,以获取理想的网络初始参数;然后,基于预训练获取网络初始值,利用基于导频获取的信道估计对BP神经网络进行再次训练,以获取最终的信道预测网络模型;最后,本文方法基于该预测网络模型通过线上预测实现了时变信道的单时刻与多时刻预测。仿真结果表明,本文方法可以显著地提高时变信道预测精度,且具有较低的计算复杂度。     

基于多模型融合的航空电子产品故障预测方法

针对复杂机载环境应力条件下航空电子产品故障预测所面临的退化趋势差异大、训练数据样本量小等问题,提出了一种改进长短期记忆(Long Short-Term Memory, LSTM)神经网络模型与集成学习框架相结合的故障预测方法,以满足现代综合航空电子系统智能调度管理与自主维护保障的需求。该方法在LSTM模型中引入Dropout机制,构建基于不同历史数据集的差异性LSTM模型组,以解决故障预测时序信息记忆问题与小样本条件下数据驱动模型训练过拟合问题;采用Adaboosting算法计算模型权重,并基于实时数据动态调整,以滤除复杂机载环境应力引入的预测误差,解决多模型融合的性能差异问题。最后,采用NASA公开的锂电池退化数据集进行仿真验证,实验结果表明,相较于传统BP神经网络、经典LSTM和LSTM基模型,该方法具有更高的趋势拟合度和预测精度。     

5G网络切片场景中基于预测的虚拟网络功能动态部署算法

针对无线虚拟化网络在时间域上业务请求的动态变化和信息反馈时延导致虚拟资源分配的不合理,该文提出一种基于长短时记忆(LSTM)网络的流量感知算法,该算法通过服务功能链(SFC)的历史队列信息来预测未来负载状态。基于预测的结果,联合考虑虚拟网络功能(VNF)的调度问题和相应的计算资源分配问题,提出一种基于最大最小蚁群算法(MMACA)的虚拟网络功能动态部署方法,在满足未来队列不溢出的最低资源需求的前提下,采用按需分配的方式最大化计算资源利用率。仿真结果表明,该文提出的基于LSTM神经网络预测模型能够获得很好的预测效果,实现了网络的在线监测;基于MMACA的VNF部署方法有效降低了比特丢失率的同时也降低了整体VNF调度产生的平均端到端时延。     

基于SARIMA-LSTM组合模型的网络流量预测方法

针对网络流量预测问题，提出一种基于SARIMA和LSTM组合模型的网络流量预测方法。首先，利用S-HESD算法对异常流量数据进行检测，并通过滑动窗口均值进行数据平滑处理；然后，利用基于统计学习的SARIMA模型预测流量数据，并将其作为LSTM神经网络的输入，最终输出流量预测值。实验结果表明，SARIMA-LSTM组合模型能充分呈现骨干网、城域网、边缘接入网等不同层级网络的周期性和趋势性等特点，优于SARIMA、LSTM等单一模型。     

基于变权重拟合的并行组合电价预测模型研究

在电力市场中,日前电价预测是用户用电决策的关键因素之一.为提高电价预测精度,提出了一种基于变权重拟合的并行组合电价预测模型,该模型结合了长短期记忆网络(LSTM)和支持向量机(SVM)模型,权重则采用改进粒子群算法(IPSO)获取.在预测过程中,首先分别使用LSTM和SVM对电价进行预测,然后使用预测日前的历史预测结果...     

基于GCN-LSTM的频谱预测算法

无线频谱是一项重要的、难以再生的自然资源。在频谱数据中随着信道的动态变化，各个信道不能建模成规则的结构。由于卷积神经网络提取的是规则数据结构的相关性，没有考虑信道动态变化以及各个信道节点之间的相关性影响，基于此研究了基于图卷积神经网络(Graph Convolutional Network, GCN)和长短期记忆(Long Short-Term Memory, LSTM)网络结合的GCN-LSTM频谱预测模型，并且引入了注意力机制，仿真得到了GCN-LSTM在正确数据集和有一定错误数据的数据集上的预测性能和算法运行时间。结果表明在引入注意力机制后，GCN-LSTM预测模型的准确性和实时性都得到了提高。     

基于IPSO-LSTM神经网络的光伏发电系统故障检测

光伏发电系统的故障检测对光伏发电系统的安全运行至关重要。为提高光伏发电系统的故障检测效率，提出一种基于改进粒子群算法优化长短期记忆(IPSO-LSTM)神经网络的故障检测方法。首先通过构建改进的粒子群算法优化双层LSTM网络，对光伏发电系统的发电功率进行实时预测；然后，将LSTM网络预测的发电功率和系统实际的发电功率的误差作为残差值，当残差值大于设定的故障检测阈值时，可以确定系统发生故障。试验结果表明：改进粒子群算法优化的LSTM神经网络比传统的LSTM网络的故障检测性能更优越。     

基于PSO-LSTM优化模型的网络流量预测研究

网络流量预测是网络规划、设计和建设的重要依据，对有效满足人民网络需求有着极其重要的意义。本文通过构建基于PSO-LSTM优化预测模型，不仅提高了对网络流量预测的效果，还自动实现了对LSTM神经网络模型参数的优化，大大降低了LSTM神经网络模型优化的工作量。研究结果表明，基于PSO-LSTM优化预测模型能够实现对网络流量的准确预测，相比单纯基于LSTM神经网络模型，预测结果与实际值的均方根误差降低31%。     

实测卫星频谱占用状态拟合与预测方法

由于在不同时间、不同空间卫星接收数据底噪是动态起伏的,传统建模固定门限的方法存在缺陷。本文在时间维度上对卫星频谱感知数据的频谱占用模型进行分析,利用自适应阈值法确定噪声门限,对卫星频谱数据进行预处理,得到卫星频谱占用长度序列。为对卫星频谱的态势进行有效的统计分析,利用泊松分布和指数分布方法对频谱占用时间长度序列的概率密度曲线进行拟合,得到了适用于卫星频谱占用时间序列的概率分布模型。基于所得的卫星频谱占用状态模型,通过两状态马尔可夫链计算出卫星信道某一频点的状态转移矩阵,从而预测出信道占用和空闲的概率。利用卫星频谱感知数据构建的数据集进行反向传播(BP)神经网络训练,预测某一频点的占用长度。通过计算BP神经网络与传统的长短期记忆(LSTM)神经网络预测法的均方根误差(RMSE),得到LSTM神经网络的RMSE为2.208 1,BP神经网络的RMSE为0.172 8。评估结果表明,BP神经网络准确度高。     

基于深度学习的工业车辆驾驶行为识别

文章提出一种基于深度学习的工业车辆驾驶行为识别的方法。该方法对工业车辆在实际工厂环境中行驶的特点进行分析,将三轴加速度传感器和三轴角速度传感器采集到的数据进行预处理,根据处理结果将数据送入深度神经网络训练,完成对工业车辆驾驶行为的识别。系统先对样本数据使用数据插值、标准化处理等方法进行预处理,通过数据增强算法减少过拟合的影响,再基于长短期记忆网络(LSTM)处理时间序列数据,构建出CNN+LSTM的深度网络模型,用于驾驶行为的识别。测试结果表明,所提模型识别整体准确率可达96.51%,能够准确地识别出工业车辆行驶的状态。     

基于深度学习的搜索广告排序应用

本文在研究卷积(Convolutional Neural Networks)与LSTM(Long Short Term Memory)的基础上,结合两者优势,提出了一种混合模型。首先用卷积神经网络提取关键特征,然后依据LSTM神经网络时序特点进行预测和分类。结果表明:对比浅层或单层网络,本文提出的组合模型较好地提高了点击率预估准确度,从而增强了搜索广告排序应用效果。     

基于LSTM神经网络的卫星频谱多门限感知算法

针对在卫星认知通信场景下传统频谱感知算法感知性能低、受通信时延影响大的问题,提出了一种基于长短期记忆(LSTM)神经网络的卫星频谱多门限感知算法。首先构建卫星认知通信模型,其次将仿真数据送入长短期记忆(LSTM)神经网络进行预测感知,采用动量随机梯度下降(SGDM)算法对网络进行更新,然后提出多门限算法对网络输出进行优化,最后与其他神经网络算法作性能对比。该算法无需构建特征值,实验结果表明:在卫星信道条件下,当面对低接收信噪比及低网络迭代次数时,该算法频谱感知性能要优于其他神经网络算法。      

基于GRU和LSTM组合模型的车联网信道分配方法

针对车联网中高通信需求和高移动性造成的车对车链路(Vehicle to Vehicle, V2V)间的信道冲突及网络效用低下的问题,提出了一种基于并联门控循环单元(Gated Recurrent Unit, GRU)和长短期记忆网络(Long Short-Term Memory, LSTM)的组合模型的车联网信道分配算法。算法以降低V2V链路信道碰撞率和空闲率为目标,将信道分配问题建模为分布式深度强化学习问题,使每条V2V链路作为单个智能体,并通过最大化每回合平均奖励的方式进行集中训练、分布式执行。在训练过程中借助GRU训练周期短和LSTM拟合精度高的组合优势去拟合深度双重Q学习中Q函数,使V2V链路能快速地学习优化信道分配策略,合理地复用车对基础设施(Vehicle to Infrastructure, V2I)链路的信道资源,实现网络效用最大化。仿真结果表明,与单纯使用GRU或者LSTM网络模型的分配算法相比,该算法在收敛速度方面加快了5个训练回合,V2V链路间的信道碰撞率和空闲率降低了约27%,平均成功率提升了约10%。     

用神经网络实现VBR视频通信量的在线预测

VBR(Varible Bit Rate)视频信号具有时变性、非线性和突发性等特点,实现该信号通信量的高精度预测难度较大.针对以上问题,本文提出了一种用于VBR视频通信量预测的自适应神经网络模型,网络训练采用离线与在线相结合的方式,同时通过删除不重要的权重,以优化网络的拓扑结构,提高网络的推广能力,降低网络在线学习的计算复杂度;对VBR视频通信量预测的模拟结果表明该模型具有高的预测精度,并能满足通信系统对预测实时性的要求.     

基于Online-GRU信道预测的星上自适应功率控制方法

针对传统卫星功率控制方法存在资源浪费、时延长的问题,提出一种基于在线-门控循环单元(Online-GRU)信道预测的星上自适应功率控制方法,通过在线训练更新网络参数来解决离线预测算法存在的累积误差的问题。仿真结果表明,提出的在线训练算法比离线算法预测精确度提升了38.30%,相比在线-长短期记忆网络(Online-LSTM)节约了63.21%的训练时间;提出的自适应功率控制方法比固定发射功率的方法节约了55.74%的发射功率;同时,相比基于地面定时反馈信道状态的自适应功率控制方法具备更好的鲁棒性。     

基于深度学习的英语口语自动评分研究

为提高英语口语学习效率，在研究了深度神经网络、声学模型、自动语音评分基础上，设计了一种基于深度学习的端到端自动英语评分系统。在输入层，将词汇表示为一个序列张量，其中每个位置对应于来自预先训练的词汇向量，并采用双向LSTM网络得到高层信息。在声学模型层，文中将注意力机制模型融入网络，从而提高系统运行效率。在输出层，将词汇的表示方式与口语表达连接起来，并利用softmax函数对成绩进行预测。通过仿真分析，结果表明所提方法较传统LSTM、GRU方法性能有所提升。仿真结果进一步验证了所提系统的有效性。     

基于ResNet的大型智能表面在毫米波系统中的应用

大型智能表面(Large Intelligent Surface,LIS)协助毫米波通信已经成为一种提高覆盖率和吞吐量的极具潜力的技术.为了设计LIS系统的反射波束,通常需要获取完美的级联信道状态信息.然而,由于LIS具有高维级联信道和大量无源反射元件,估计其级联信道状态信息一直是LIS的挑战之一.针对上述问题,提出一种基于残差神经网络(Residual Neural Network,ResNet)的LIS反射波束设计解决方案.该方案采用有源(连接LIS控制器的基带)和无源元件混合的LIS框架,只需要估计少量有源元件的信道状态信息便可以借助ResNet训练的网络模型预测最佳发射波束.与现有方法相比,所提出的ResNet网络可以减少训练开销,提升可实现速率,表现出更强的鲁棒性.     

基于深度门限堆叠长短期记忆神经网络的交通流量预测

<正>深度学习和大数据技术在交通流量预测中越来越流行，深度神经网络也已应用于交通流预测。此外，由于模型结构不良，参数优化技术不合适，交通流预测缺乏确定性而不准确。本文所提方法通过将多个简单的递归长短期记忆（LSTM）神经网络与时间特征相结合来克服这些问题，以使用深度门控堆叠神经网络来预测交通流。为了加深模型，已使用无监督的逐层方法来训练隐藏层。隐藏层表示通过捕获多个级别的信息来提高时间序列预测的准确性。此外，论述模型结构、随机权重初始化和堆叠LSTM中使用的超参数对增强预测性能的重要性。     

面向任务扩展的增量学习动态神经网络:研究进展与展望

增量学习是近年来机器学习领域的一个重要的研究方向，它能高效地进行知识迁移却不产生遗忘.与静态模型相比，动态网络可以根据不同的输入调整其结构或参数，从而在准确性、计算效率和适应性等方面具有显著的优势.本文从动态架构角度出发，根据动态网络中的自适应选择方式，对当前增量学习模型中所涉及到动态神经网络进行了系统化的总结.文中首先了阐述了增量学习研究进展和定义，归纳了增量学习的学习场景.其次根据动态路由选择粒度的不同，将增量学习的动态神经网络划分为基于任务的动态选择、基于模块化的动态选择、基于神经元的动态选择、基于卷积通道的动态选择和基于权重的动态选择，并对常用的增量学习模型分类进行了阐述和比较.最后归纳了一些常见数据集，并对未来的研究方向进行展望.