基于IPSO-LSTM神经网络的短期负荷预测

在电网负荷预测方面,LSTM模型有较好的预测精度.但模型参数需要手动设置,网络训练时间长.提出一种改进粒子群算法(IPSO)与长短期记忆网络(LSTM)相结合的预测模型(IPSO-LSTM).利用IPSO对LSTM网络的神经元数,学习率等参数进行优化,自动寻找合适参数,提高预测精度和收敛速度.以某地电力公司的历史负荷数据作为输入数据,迭代训练网络.对比IPSO-LSTM模型和由经验公式所得的LSTM模型的预测结果,发现新模型的MAPE比LSTM网络降低了0.8％,最大相对误差比LSTM网络降低了 4％,收敛速度更快.实验表明所提新模型拥有更高的预测精度和收敛速度.     

基于神经网络的EAST密度极限破裂预测

为了对全超导托卡马克核聚变实验装置(EAST)密度极限破裂进行预测, 根据密度极限破裂的基本特征从2014到2019年放电数据中筛选出972炮密度极限破裂炮, 选取了13种诊断信号为特征作为输入, 分别由多层感知机(MLP)和长短时记忆网络(LSTM)为模型、以破裂概率为模型输出建立破裂预测器对密度极限破裂进行预测实验. 结果表明: 对密度极限破裂炮, 在不同的预警时间下, LSTM的成功预测率(95%)均高于MLP的成功预测率(85%); 而对于非破裂炮, LSTM和MLP的错误预测率相近(8%). LSTM对密度极限破裂的预测性能较MLP有较大的提高. 说明利用神经网络进行EAST密度极限破裂预测以及提高破裂避免和缓解系统响应性能的可行性.     

基于深度学习与混沌特征融合的滚动轴承故障诊断EI北大核心CSCD

本文针对现有滚动轴承智能故障诊断方法在面向大噪声背景下鲁棒性能差的问题.基于混沌理论,提出采用相空间重构方法还原并丰富轴承振动的动力学特性,通过卷积神经网络(CNN)提取混沌序列中的高级抽象特征,又考虑故障信号具有长程相关性,将低维抽象故障特征引入长短期记忆网络(LSTM),以灰狼算法优化的支持向量机(OSVM)作为分类器,提出CCNN (Chaotic CNN)–LSTM–OSVM智能故障诊断方法.试验结果表明,在处理信噪比为-6 dB信号时,该方法仍具有89.96%的准确率,相比以Softmax作为分类器的CNN–LSTM和CCNN–LSTM方法分别高出15.36%和5.21%,且在收敛速度方面亦有较大优势.     

基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法

短期电力负荷预测是电力系统中的重要问题之一,准确的预测结果可以提高电力市场的灵活性和资源利用效率,对电力系统高效运行具有重要意义.为了提高预测精度,针对电网负荷数据的时序性特征,提出一种基于Attention-BiLSTM-LSTM神经网络的短期电力负荷预测方法.该方法首先针对电力负荷的影响因素(温度、节假日等)提取特征,并使用双向长短期记忆(BiLSTM)神经网络层进行双向时序的特征学习;将双向时序特征作为长短期记忆(LSTM)神经网络层的输入,用LSTM神经网络建模学习时序数据的内部变化规律;使用attention机制计算LSTM隐层状态的不同权重,以对隐层状态进行选择性地关注;结合注意力权重和LSTM神经网络进行负荷预测,最后使用全连接层输出负荷预测结果.使用EUNIT电力负荷数据集进行实验,采用提前单点预测模式,该方法的平均绝对百分比误差(MAPE)达到1.66％,均方根误差(RMSE)达到814.85.通过与单LSTM网络、基于attention机制的LSTM网络(Attention-LSTM)、前馈神经网络(FFNN)、卷积神经网络联合长短期记忆神经网络(CNN-LSTM)等4种典型的负荷预测模型结果对比,验证了Attention-BiLSTM-LSTM神经网络方法更加准确有效.     

基于TG–LSTM神经网络的非完整时间序列预测

针对传统模型对含数据缺失的非完整时间序列预测精度不高的问题,利用长短期记忆(LSTM)神经网络强大的时序建模能力,提出一种带时间门的长短期记忆(TG–LSTM)神经网络.首先,提出一种能同时对输入值在线估计和输出值实时预测的TG–LSTM单元结构;其次,基于TG–LSTM结构设计一种网络的前向传播算法,实现输入填补和输出预测同步进行;然后,建立TG–LSTM神经网络的学习算法来对输入填补和输出预测任务整体训练;最后,通过在Mackey-glass基准数据集,月平均气温数据集和污水处理出水氨氮预测中的实验结果表明:与传统方法相比,TG–LSTM神经网络模型能以更高精度对非完整时间序列进行填补和预测.     

面向限价指令簿趋势分析的网络集成模型

为了更好地分析限价指令簿(LOBs)的趋势,文中提出面向LOBs趋势分析的网络集成模型(NEM-LOB).模型融合2个长短期记忆(LSTM)子模型和1个卷积神经网络(CNN)子模型.一个LSTM子模型可通过LOBs的分布信息捕捉全局时间依赖性,另一个LSTM子模型可通过LOBs和订单流的动态信息捕捉全局动态性.CNN子模型通过LOBs的事实信息提取局部特征.最后,结合3个子模型,提取特征以获得预测结果.在FI-2010数据集上的实验表明NEM-LOB通过引入订单流信息,能对LOBs进行更好的趋势分析.     

基于音高旋律元的柔和乐曲的自动作曲算法

提出了一种以柔和为导向、以音高旋律元 (Pitch melody unit, PMU)为基本操作单位的自动作曲算法.首先根据柔和乐曲的旋律特征构建了算法的 规则模型.然后定义了一阶音高旋律元和二阶音高旋律元,构建了音高旋律元转换表 (Pitch melody unit transition tables, PMUTTs)自动生成的模型,以表达相邻音高旋律元的链接概率,为 旋律计算提供基本数据.分别定义了用来自动生成新的音高旋律元、乐节、乐句、乐曲的4个旋律计算的算子,以自动生成乐曲.实验结果表明, 与以音符为基本单位的马尔可夫作曲方法相比,以音高旋律元为基本单位进行作曲可以提高旋律的逻辑严密性和美感度.     

基于小波分解的LSTM水质预测模型

水是人类和其它生命体所依赖的不可缺少的资源, 建立水质预测模型预测水质状况具有重要的社会经济和生态环保价值. 本文建立了基于小波分解的长短期记忆网络(LSTM)时间序列预测模型(W-LSTM), 运用Daubechies5 (db5)小波将水质数据分解为高频率和低频率信号, 再将这些信号作为LSTM模型的输入, 来训练模型预测水质数据. 利用安徽阜南王家坝流域采集到的4项水质指标(pH值、DO、CODMn、NH₃N)对该模型进行训练、验证和测试, 并与传统LSTM神经网络模型的训练和预测结果进行比较. 结果显示所提出的方法在多种评价指标上均优于传统LSTM模型, 表明了该方法具有较高的预测精度和泛化能力, 是一种更有效的模拟预测手段.     

面向多标签文本分类的深度主题特征提取

针对单标签特征提取方法不能有效解决多标签文本分类的问题,文中提出融合主题模型(LDA)与长短时记忆网络(LSTM)的双通道深度主题特征提取模型(DTFEM).LDA与LSTM分别作为两个通道,通过LDA为文本的全局特征建模,利用LSTM为文本的局部特征建模,使模型能同时表达文本的全局特征和局部特征,实现有监督学习与无监督学习的有效结合,得到文本不同层次的特征提取.实验表明,相比文本特征提取模型,文中模型在多标签分类结果上的多项指标均有明显提升.     

基于注意力机制和长短期记忆神经网络的流量预测研究

准确的流量预测提升通信网络技能、改善通信网络管理具有重要意义。考虑到长短期记忆(Long ShortTerm Memory,LSTM)神经网络可解决长序列数据在训练过程中的存在梯度消失问题,采用LSTM作为长期流量预测的基准模型,为提高模型准确性,在LSTM模型的基础上,引入Attention机制(Attention mechanism,AM),通过映射加权和学习参数矩阵赋予LSTM隐含状态不同的权重,减少历史信息的丢失并加强重要信息的影响作用,以完成流量的预测。