基于多层注意力机制的4DC-BGRU脑电情感识别

为了提高脑电情感识别的准确率，提取更丰富的特征信息，提升网络模型稳定性，提出一种改进的基于多层注意力机制的脑电情感识别模型。在特征提取方面，将原始脑电信号转换成四维空间 频谱 时间结构，提取丰富的脑电信息。在网络模型方面，构建双路卷积神经网络学习空间及频率信息，有效提取多尺度特征，增加网络宽度来学习更丰富的特征信息；在卷积层及池化层后融入批量归一化层，防止过拟合。最后，构建多层注意力机制 双向门控循环单元模块处理时间特征并配合Softmax分类。采用双向门控循环单元学习更全面的上下级特征信息。利用多层注意力机制使四维特征中不同时间切片与整体时间切片之间产生关联。该文在DEAP数据集唤醒度和效价两个维度进行了评估实验，二分类平均准确率分别为96.38%和96.73%，四分类平均准确率为93.78%。实验结果显示，与单路卷积神经网络及其他文献算法相比，该文算法的平均准确率有所提高，表明该算法可以有效提升脑电情感识别性能。     

基于改进卷积双向门控循环网络的轴承故障诊断*

针对传统深度学习方法没有充分利用轴承信号的时序特点,以及难以处理动态数据的问题,提出一种基于改进卷积双向门控循环神经网络的轴承故障智能诊断方法。采用卷积神经网络从输入信号中提取代表性特征,引入双向门控循环神经网络挖掘故障数据在时间维度上的语义信息,通过注意力机制自适应地对特征图通道赋予不同权值,从而实现高精度的轴承故障诊断。在公开轴承数据集上进行实验,实验结果表明,该方法能够正确地将轴承故障分类,分类精度可达996%。     

基于SACNN-MGRU混合模型的滚动轴承故障诊断

为充分挖掘滚动轴承故障类别与振动信号间的潜在联系进而提升故障诊断精度,提出了一种基于尺度自适应卷积神经网络(SACNN)和改进门控循环单元(MGRU)混合模型的故障诊断方法.首先,提出了一种尺度自适应因子用以获取合适的CNN窗口尺寸从而更有效地提取振动信号中蕴含的局部故障信息,并在CNN中引入比例指数线性单元(SELU)以提升其训练过程的鲁棒性;随后,在GRU中嵌入SELU进一步提升网络稳定性,并改进GRU网络结构增强其时序特征的挖掘能力,进而更充分地提取局部故障信息中的时序特征;最后通过Softmax函数识别故障类别.经实验对比和分析表明,该方法具备较好的收敛性和稳定性,能够有效挖掘振动信号中蕴含的故障信息,准确识别不同转速下滚动轴承的故障类别且识别精度均高于99.5％,具有一定的应用价值.     

基于神经网络的风电功率预测与模型优化方法

精准的风电功率预测是电力的合理调度的重要依据和电力系统的平稳运行的重要保证。本文提出了组合残差网络和门控循环单元的风电功率预测模型。该模型使用残差网络提取风电数据的多维非线性特征,之后将特征向量时序化并作为门控循环单元网络的输入。残差网络将前面的时序特征与当前时刻的特征相结合,可以取得比普通卷积网络更好的非线性时序特征。门控循环单元网络比传统的长短期记忆网络有更简单的结构和更高的预测精度。本文通过实验的方法优化了所提出的模型中残差块的个数和门控单元的个数。在法国La Haute Borne风电场的风电数据上的仿真实验表明,本文提出的方法具有令人满意的预测精度。     

基于注意力机制的CNN-BIGRU短期电价预测

针对短期电价预测的复杂性和精确度较差的问题,本文提出一种基于注意力机制的卷积神经网络和双向门控循环单元网络的短期电价预测模型。该模型将历史电价数据经过数据预处理后作为输入,首先利用卷积神经网络提取历史电价序列中的特征;其次,将提取的特征向量构造成时间序列输入到双向门控循环单元网络,充分挖掘特征内部的变化规律进行训练;然后,引入注意力机制来突出重要信息的影响并赋予权重,利用注意力机制对双向门控循环单元网络每个时间步的输出进行加权求和;最后,在全连接层通过激活函数计算输出最终预测值。通过实例验证了本文所提模型的准确性。     

基于骨骼的双支融合模型的人体行为识别

针对循环神经网络存在提取特征单一,对特征的空间信息处理不充分的问题,提出一种基于骨骼的双支融合的人体行为识别模型。该模型由双向循环门网络和多尺度的残差网络融合的双支网络中进行特征提取,得到丰富的时间和空间上的特征信息,并且在双向循环门网络中增加注意力机制,进一步提升整个网络的性能,最后将特征信息经过分类器进行分类得到动作。分别使用UCF101和HMDB51数据集进行实验,准确率分别为98.0%和67.8%。通过实验测试,证明该模型能够获得更加完整的特征信息并且具有良好的性能指标。     

基于双向门控循环单元网络的滚动轴承故障诊断

滚动轴承作为大多数旋转机械的重要零部件,其工作状态直接影响设备的工作寿命.针对传统故障诊断方法自适应性差、特征提取过于依赖人工经验的问题,提出一种基于双向门控循环单元的轴承故障诊断方法.该方法直接将原始振动信号作为模型输入,自动进行故障特征提取与故障诊断.结合轴承外圈故障、内圈故障及滚动体故障等9种故障状况,对所提方法进行了验证.实验结果表明,其故障诊断准确率可达99.56％,诊断效果优于门控循环单元、长短期记忆网络等算法,且泛化能力好.     

基于多特征提取的Attention-BiGRU短期负荷预测方法

电力负荷预测在电力系统发展中起着重要的作用,为供电提供了重要的指导。短期电力负荷预测(STLF)可以在短时间内保证电网的安全和稳定。为解决预测精度不足且数据集单一缺乏参考因素的问题,提出一种基于多特征提取并结合注意力机制的双向门控循环单元(Attention-BiGRU)网络短期电力负荷预测方法。预测模型采用门控循环单元(GRU)的基本结构,在已有数据特征的基础上进行时间特征与数据分布特征提取,将所有特征作为负荷预测的影响因素,然后使用注意力机制对输入序列进行权重分配,使用双向门控循环单元(BiGRU)网络对特征进行学习并输出负荷预测值。仿真结果表明,基于多特征提取的Attention-BiGRU网络表现优于传统高斯回归预测方法、GRU网络、多特征提取的BiGRU网络和BiGRU网络。     

基于BI-GRU改进的Seq2Seq网络的变压器油中溶解气体浓度预测方法

基于门控循环单元(GRU)构建双向多层门控循环单元,并引入编码器-解码器结构搭建Seq2Seq网络模型,通过优化神经元及神经网络结构提取时序数据依赖关系.同时引入注意力机制和Scheduled Sampling算法,自动获取与当前时刻预测输出显著相关的关键输入时间点,提高长时间预测的精度.变压器正常运行状态下的气体浓度...     

基于MTL-GRU-Attention的综合能源系统多元负荷预测

针对综合能源系统多元负荷预测问题，提出一种基于多任务学习、门控循环单元和注意力机制的多元负荷预测方法。首先，运用门控循环单元建立多任务学习的共享层，充分挖掘冷、热、电负荷之间的耦合特征；然后，利用贝叶斯优化算法实现门控循环单元最优超参数的自适应选择；最后，使用注意力机制实现子任务对共享层中重要特征的差异化提取，以增强关键信息的影响。以亚利桑那州立大学坦佩校区的实测负荷数据作为算例，结果表明所提模型具有更高的预测精度。     

基于Inception-DLSTM双通道的滚动轴承故障诊断方法

卷积神经网络(CNN)对空间特征具有敏感性，而Inception相比CNN具备多尺度提取特征优势；长短时记忆网络(LSTM)对时间特征具有敏感性，而深层长短时记忆网络(DLSTM)比LSTM具备更深层次提取特征优势。为了多尺度充分提取滚动轴承振动信号在空间和时间上的特征，实现滚动轴承故障诊断，提出了一种Inception通道和DLSTM通道结合的Inception DLSTM双通道滚动轴承故障诊断模型。对于Inception通道，把轴承振动信号经过小波变换生成的时频图作为输入，利用Inception网络多尺度提取时频图的空间特征信息；对于DLSTM通道，直接把轴承振动信号作为输入，利用DLSTM网络充分提取信号的时间特征信息。然后把两个通道输出的特征信息连接成一个时空特征向量，最后利用分类器进行轴承故障诊断识别。对轴承故障数据进行对比实验可得，Inception DLSTM双通道的故障识别准确率可达100%，具备良好的故障诊断和特征提取能力。     

三电平逆变器的决策树SVM故障诊断

针对二极管箝位型三电平逆变器的开路故障诊断问题,提出一种基于决策树支持向量机(decision tree support vector machines,DT-SVM)的故障诊断方法。以逆变状态为例,首先分析逆变器主电路的运行情况并进行故障分类,然后以中、上、下三种桥臂电压为测量信号,采用小波多尺度分解法提取特征信号,进而利用粒子群聚类算法(particle swarm clustering algorithm)生成决策树SVM分类模型,最终实现了三电平逆变器的多模式故障诊断。仿真结果表明,本方法在使用了较少分类模型的情况下完成故障诊断任务,相较于BP神经网络、一对一结构的支持向量机和极端学习机等方法,在10%白噪声扰动下对于三电平逆变器多模式开路故障的诊断精度可达98.46%,算法具有更好的准确性和鲁棒性。     

基于智能优化深度网络的轨道电路故障诊断研究

针对无绝缘轨道电路故障的随机性和复杂性,采用单一诊断模型存在提取特征片面,且模型结构经验设计不合理的问题,提出一种智能优化深度网络的故障诊断方法。首先以轨道电路信号集中监测系统的6个电压检测量建立故障特征集,使用卷积神经网络（CNN）提取特征空间信息,长短期记忆网络（LSTM）提取时间特征信息,从而让轨道电路故障诊断所提取的特征兼具时空信息;同时,引入遗传算法（GA）优化上述深度神经网络的结构及参数,并结合强化学习中的Q-learning方法对两个组合网络特征级的输出权重进一步优化;最后,使用多层感知器（MLP）对深度网络的分类误差进行拟合修正,提高模型对轨道电路的故障诊断精度。仿真结果表明,利用智能优化的深度网络模型对轨道电路的故障诊断相较于单一模型、精炼设计的组合模型识别率可达99.28%,评价指标等均有所提升,具有更高的故障诊断准确度,证明了智能优化深度网络能进一步提高轨道电路的故障诊断性能。     

基于 MADCNN 的故障诊断方法研究

针对旋转机械零部件进行故障诊断的方法包括传统方法和深度学习,传统方法往往需要大量的专家经验,且诊断精度欠佳,提出一种注意力机制改进多尺度深度卷积神经网络(multi-scale attention deep convolutional neural network, MADCNN)的故障诊断方法。MADCNN方法提供3个卷积通道,每个通道差异化的核尺寸原理有效拓宽网络,实现了对原始时域数据的多尺度特征提取。同时,CBAM对提取的特征进一步赋予权重,增强了模型对不同类型故障的区分度。采用凯斯西储大学(Case Western Reserve University, CWRU)轴承故障数据和行星齿轮箱实验台故障数据分别进行实验验证,与传统深度卷积模型相比,验证集准确率提高7.76%。实验结果表明,该方法的诊断精度高,泛化性能好。     

基于LMD多尺度熵和极限学习机的模拟电路故障诊断

为了高速、高效的测试和诊断模拟电路,提出一种将局部均值分解(LMD)多尺度熵和极限学习机相结合的模拟电路故障诊断的新方法。该方法中,首先采用LMD将故障信号分解为若干个乘积函数(production function,PF);然后,求出各PF分量的多尺度熵并构造故障特征向量;最后,将特征向量输入到极限学习机中进行训练和测试。仿真实验结果显示采用该方法诊断时间只需0.028 74 s,诊断精度达到了98.89%。相较于其他3种方法有效减少诊断时间,提高故障诊断精度。     

基于 BiLSTM-Attention 的迁移学习变工况故障识别方法研究

针对传统深度学习网络模型在变工况条件下的故障诊断泛化能力差的问题,提出一种基于迁移学习的双向长短时记忆网络和注意力机制(TLBA)融合的故障识别方法。将原始故障数据划分为源域及目标域;并构建融合注意力机制的双向长短时记忆网络(BiLSTM-Attention, BA)模型,之后使用此模型学习源域数据特征;最后利用迁移学习通过对目标域数据的学习,进一步优化调整BA模型的网络参数,最终得到目标域的故障分类辨识模型。以航空器翼梁故障为案例,结果表明,该方法与传统故障诊断方法BiLSTM-Attention相比,其综合评价指标F_1-score有3.4%的提高,故障平均诊断准确率在91%以上;同时针对变工况下的故障分类结果较为稳定。     

基于多尺度排列熵和IWOA-SVM的滚动轴承故障诊断

针对滚动轴承信号表现出的非线性和非平稳性特征问题，合理的特征选择可提高故障诊断率，提出基于多尺度排列熵(MPE)与改进鲸鱼算法(IWOA)优化支持向量机(SVM)的故障诊断模型。首先，通过变分模态分解(VMD)进行信号降噪预处理，计算多尺度排列熵进行信号特征重构；其次，引入惯性动态权重对鲸鱼算法进行改进，通过训练SVM参数，建立IWOA-SVM故障诊断模型；最后用美国凯斯西储大学轴承数据集进行仿真。结果表明，相较于多尺度熵，MPE可表征的故障特征信息更加丰富，故障识别率提高了2.1%;与同类优化算法相比，采用IWOA对SVM进行优化的故障诊断模型，收敛速度快、训练时间短、故障识别精度高，可对滚动轴承进行有效诊断。     

基于CEEMDAN和CNN-LSTM的滚动轴承故障诊断

针对滚动轴承工作环境复杂，轴承振动信号受噪声干扰难以提取故障特征以及传统故障诊断算法准确率较低的问题，提出了利用自适应噪声完备集合经验模态分解算法（CEEMDAN）联合卷积神经网络（CNN）内嵌长短期记忆神经网络（LSTM）的滚动轴承故障诊断方法。首先，利用CEEMDAN算法对轴承原始振动信号进行分解得到本征模态函数（IMF）；然后计算重构后的信号的排列熵，归一化后作为特征向量；最后将特征向量输入至CNN-LSTM结合建立的深度学习模型中进行诊断识别。结果表明：所提方法具有更快的拟合速度和更高的准确率，平均故障诊断准确率达到98.63%。     

往复压缩机故障的残差网络诊断方法

往复压缩机结构复杂、激励源众多,极易发生故障。由于故障特征设计困难,且多依靠经验,导致传统方法诊断能力不强。基于卷积神经网络(convolutional neural networks, CNN)的智能诊断方法无需提取特征,可实现端到端的故障诊断,但存在提取故障特征不准确、模型参数量大、训练时间长等难题。为此,提出基于PyTorch深度学习框架的往复压缩机故障诊断方法MPMRNet(multiple-processes-mini-ResNet)。该方法采用多进程加载数据,以残差网络ResNet50为基础网络框架进行深度和宽度的缩减,Adam优化网络、StepLR策略调整学习率,自动处理振动信号时频图像并进行敏感特征深度挖掘和评估。通过多组实验对比,该方法明显缩短了模型训练时间,权重参数量由94.1缩小到0.58 M,模型复杂度由4.11下降到0.21 G,显存占用率由37.08%下降到10.92%,故障诊断的准确率达到98.28%,模型的诊断能力得到了明显提高。