基于多层注意力机制的4DC-BGRU脑电情感识别

为了提高脑电情感识别的准确率，提取更丰富的特征信息，提升网络模型稳定性，提出一种改进的基于多层注意力机制的脑电情感识别模型。在特征提取方面，将原始脑电信号转换成四维空间 频谱 时间结构，提取丰富的脑电信息。在网络模型方面，构建双路卷积神经网络学习空间及频率信息，有效提取多尺度特征，增加网络宽度来学习更丰富的特征信息；在卷积层及池化层后融入批量归一化层，防止过拟合。最后，构建多层注意力机制 双向门控循环单元模块处理时间特征并配合Softmax分类。采用双向门控循环单元学习更全面的上下级特征信息。利用多层注意力机制使四维特征中不同时间切片与整体时间切片之间产生关联。该文在DEAP数据集唤醒度和效价两个维度进行了评估实验，二分类平均准确率分别为96.38%和96.73%，四分类平均准确率为93.78%。实验结果显示，与单路卷积神经网络及其他文献算法相比，该文算法的平均准确率有所提高，表明该算法可以有效提升脑电情感识别性能。     

基于多域信息融合的脑电情感识别研究

脑电信号识别方法较少将空间、时间和频率信息相融合,为了充分挖掘脑电信号包含的丰富信息,本文提出一种多域信息融合的脑电情感识别方法。该方法利用二维卷积神经网络和一维卷积神经网络相结合的并行卷积神经网络(PCNN)模型学习脑电信号的空间、时间和频率特征,来对人类情感状态进行分类。其中,2D-CNN用于挖掘相邻EEG通道间的空间和频率信息,1D-CNN用于挖掘EEG的时间和频率信息。最后,将两个并行卷积模块提取的信息融合进行情感识别。在数据集SEED上的情感三分类实验结果表明,融合空间、时间、频率特征的PCNN整体分类准确率达到了98.04%,与只提取空频信息的2D-CNN和提取时频信息的1D-CNN相比,准确率分别提高了1.97%和0.60%。并于最近的类似工作相比,本文提出的方法对于脑电情感分类具有一定的优越性。     

基于MTACNet网络的运动想象脑电分类

为了更好地利用到脑电信号中的相关特征，改善运动想象脑电的分类性能，构建了一种基于混合特征和并行多尺度TCN模块的多层卷积网络（MTACNet）。首先，搭建基于混合特征的多层卷积神经网络，并在其中嵌入高效通道注意力机制，选取PReLU作为激活函数，以提取脑电信号中的时域和空域信息；然后对TCN模块进行改进，构建并行多尺度时域特征提取模块，接入多层卷积网络，进一步挖掘不同时间尺度的特征信息。在公开数据集BCI_IV_2a和自采数据集SCU_MI_EEG上进行测试，平均分类准确率分别为8615%、7710%，标准差分别为917%、1358%。并且针对自采数据集，设计了一种融合多频域脑电信号进行三通道输入的预处理方法，经过预处理后使平均分类准确率提升了329%。实验结果表明，与其他方法相比，本文所构建的分类网络取得了较为不错的分类效果，所设计的预处理方法能够降低复杂环境和无关干扰因素对分类结果的影响。     

基于离散小波变换的卷积自编码运动想象脑电信号的分类

左右手运动想象脑电信号(MI-EEG)分类准确率低,制约了相关脑-机接口技术的发展。实验采集了16名健康受试者的运动想象脑电信号,提出了一种基于离散小波变换(DWT)和卷积自编码(CAE)的运动想象脑电信号分类算法。利用离散小波变换将EEG转换成时频矩阵,输入到卷积自编码网络中进行脑电信号的特征分类。该算法在实验数据集和公开数据集上测试都得到了较好的分类结果,静息-想象左手、静息-想象右手、想象左手-想象右手3组EEG在实验数据集上分类准确率分别为97.36%、97.27%、86.82%,在公开数据集上分类准确率分别为99.30%、98.23%、92.67%。离散小波变换结合卷积自编码网络模型在左右手运动想象脑电信号分类应用中比其他深度学习方法(CNN、LSTM、STFT-CNN)性能更优。     

基于SincNet网络结合注意力机制齿轮箱故障诊断

针对传统卷积神经网络(CNN)在齿轮箱中故障诊断准确率不高、特征提取方面表现欠佳的问题,提出了SincNet网络结合注意力机制齿轮箱故障诊断方法。首先,采用参数化的Sinc函数设计滤波器作为卷积层来代替传统CNN的第1个卷积层,得到SincNet网络结构,提取输入数据的特征信息;其次,结合具有Softmax的注意力机制(Att)增强特征信息。最后,采用齿轮箱故障数据集对所提出的方法进行实验验证,结果表明,所提方法平均诊断准确率达到99.68%,均高于对比方法。此外,通过特征图可视化分析,该方法能够准确定位输入数据中的识别信息,能更好地理解神经网络的特征提取过程,为机械振动信号的特征提取过程提供了参考。     

基于毫米波雷达传感器RAI图像的手势识别方法

针对现有的手势识别方法存在数据集过少、利用特征信息较少和神经网络部分提取信息不充分的问题,提出一种基于毫米波雷达传感器RAI图像的手势识别方法。首先使用TI公司的IWR1443毫米波雷达传感器采集10类手势数据构建数据集,再通过对手部反射的雷达信号进行时频分析,获取固定帧数的RDI和RAI。为了充分提取手势特征并精确分类,在卷积神经网络基础上,引入了残差块和通道注意力块。实验结果表明,相较其他特征如RDI,RAI能更准确的表征手势,所提出的网络相比于CNN方法准确率提高了12.72%,相比于VGG16-Net和单参数VGG16-Net方法准确率提高了8.93%与10.41%,参数量降低了90.68%,时间复杂度降低了17.2%。     

基于生成对抗网络和混合时空神经网络的入侵检测

针对网络入侵检测领域存在检测准确率低的问题,研究异常流量样本少和分类器性能不佳时的入侵检测模型,提出一种基于改进生成对抗网络和混合时空神经网络的入侵检测模型。改进生成对抗网络通过学习异常流量样本的分布特性,生成具有特定标签的人工异常流量样本;融合卷积神经网络和双向长短时记忆神经网络提取攻击流量的时空融合特征,利用注意力机制对时空融合特征进行加权,构建混合时空神经网络对网络流量进行分类预测。在UNSW-NB15数据集上对所提模型进行仿真实验,准确率和F1分数分别为92.93%和94.81%,表明所提模型能够有效改善原始数据集中的类别不平衡性问题,提高对异常流量样本的检测能力和网络入侵的检测准确率。     

基于分割注意力的特征融合 CNN-Bi-LSTM 人体行为识别算法

针对传统人体行为识别算法不能有效抑制空间背景信息,网络间缺乏信息交互,以及无法对全局时间相关性进行建模的问题,提出一种基于分割注意力的特征融合卷积神经网络-双向长短时记忆网络(CNN-Bi-LSTM)人体行为识别算法。首先以一定采样率采样30帧图像,通过分割注意力网络提取图像的深度特征,并引入特征融合机制增强不同卷积层间的信息交互;然后将深度特征输入到Bi-LSTM网络对人体动作的长时时间信息建模,最后使用Softmax分类器对识别结果进行分类。相较于传统双流卷积网络,该算法在UCF101和HMDB51数据集上的准确率分别提高了6.6%和10.2%,有效提高了识别准确率。     

基于优化 CBAM 改进 ResNet50 的异常 行为识别方法

在自动视频监控应用中,准确地识别出人类的异常行为是非常困难的任务。为了解决监测系统中异常人类活动的高 效识别问题,提出了一种加强局部以及全局特征信息融合的异常行为识别模型 ICBAM-ResNet50 。在 UTI 和 CASIA 两个数 据集上进行实验,结果表明该研究比ResNet50 模型准确率分别提高了7%和8%。ICBAM 模块引入一维卷积替换了原始 CBAM 中通道注意力的 MLP 操作,将局部的时间特征整合到通道描述符中,缓解了通道维度由于全局处理产生的忽略信息 交互的问题;其次引入时空注意力机制替换 CBAM 中的单一空间注意力机制,来提高模型的时空表征能力。最后,将优化的 CBAM 模块嵌入到 ResNet50 中,通过在 ImageNet 上对其进行预训练,在两个基准数据集上该模型分别达到了98.8%和97.9%的准确率。使用相同的数据集,将实验结果与原始识别方法进行了比较,结果表明该模型优于所比较的其他方法。     

基于混合神经网络和注意力机制的卒中后抑郁早期筛查分类方法研究

脑卒中后抑郁症（PSD）是卒中后常见的并发症之一，严重威胁着脑卒中患者的健康。目前PSD的诊断主要依据病人的临床表现及各种量表，这类方法存在一定的主观性。脑电图（EEG）结合深度学习技术有可能为PSD诊断提供客观标准。本研究采集28名脑卒中后无抑郁受试者(PSND)和38名脑卒中后轻度抑郁患者（PSMD）的EEG信号，提出了一种基于注意力机制的长短时记忆网络（LSTM）和卷积神经网络（EEGNet）特征融合的端到端的PSD诊断框架。采用LSTM模型来学习EEG信号在时序上的依赖关系，引入的注意力机制对LSTM模型中时域信息进行权重分配来提高有用信息的利用率，最终通过EEGNet模块来提取EEG信号中更具表征的深层特征。通过10折交叉验证得出准确度、精确度、召回率、F1-Score和Kappa系数，分别为95.90%、95.75%、96%、95.82%和91.60%。与基础的深度学习模型相比，本文的方法能保持稳定的模型性能，对PSD的诊断具有较高的准确性，为PSD的筛查和诊断提供了一定的参考。     

基于改进LRCN的人体运动识别方法

针对人体运动识别中数据特征提取不充分和识别准确率不高的问题，提出了一种改进长期循环卷积网络的人体运动识别模型。首先构建出一种由多层卷积神经网络和门控循环单元组成的LRCN模型。在此基础上构建内部和外部循环层，内部循环层作用是得到所选取时间窗内部时间特征和空间特征，外部循环层作用是从子序列数据中获取其所表征状态信息之间的特征相关性和时间相关性。提出的模型在3种公开数据集上验证，准确率均高于传统的LRCN模型，然后在自建数据集上进行测试验证，识别准确率为99.7%。实验结果表明该模型在识别准确率上高于原始模型，验证了该模型的可行性。     

基于特征融合的风机叶片表面缺陷检测模型

针对风机叶片表面缺陷检测识别率低、且易受光照影响的特点。提出一种基于卷积神经网络特征融合局部二值模式特征及核极限学习机的风机叶片表面缺陷检测方法。利用引入注意力机制的卷积神经网络提取图像深层次信息,然后提取描述图像浅层纹理信息的局部二值模式特征,采用主成分分析方法降低局部二值模式特征维度;将两种从不同层面描述图像的互补特征串行融合。用改进的麻雀搜索算法优化核极限学习机参数,利用融合的特征训练模型,得到最优模型进行缺陷识别。通过实验,在自建数据集训练后的分类准确率达到了97.5%,kappa系数达到95.1。相比利用单一特征检测,分类准确率有明显的提高。经风电场实际验证,本模型的平均分类准确率为96.3%,Kappa系数为94.5,漏报率明显降低。     

基于SE-CNN模型的窃电检测方法研究

针对传统电网现有窃电检测仅用单一电量且实际数据集下检测准确度低的问题,提出一种基于通道注意力网络改进卷积神经网络模型的窃电行为检测方法。首先建立一种包含用电量趋势、线损增长率、终端告警多源数据融合的窃电评价指标体系,以此构建用户用电特征集。然后,基于通道注意力挤压激励网络(squeeze and excitation networks, SENet)优化卷积神经网络(convolutional neural network, CNN)模型,据此构建自适应通道注意力网络改进卷积神经网络模型的窃电检测方法。最后,利用南方电网数据集对提出方法的有效性与准确性进行验证。实测结果表明,所提方法能有效实现实际电网情况下各类窃电行为准确检测,建立的评价指标体系可更明显表征窃电行为规律。构建的窃电检测模型可自适应对特征通道重要程度调整,提升通道利用率。相比现有检测方法,其具有更高准确度和更优泛化性能。     

融合注意力和辅助分类器的膨胀残差网络语音情感识别研究

针对现有语音情感数据集中样本数不足以支撑训练深度神经网络以及层数不断加深带来的梯度爆炸问题，在使用高斯白噪声和随机时频掩蔽对数据集进行增强的基础上，提出了一种融合通道、空间注意力和辅助分类器的膨胀残差网络(dilated residual network with auxiliary calssifier and channel, spatial attention, DRN-A-CASA)语音情感识别方法。首先，使用增强后的梅尔谱图数据集作为网络模型的输入，并在残差网络原卷积层中采用膨胀卷积来扩大特征提取感受野；其次，在残差网络layer3层后添加辅助分类器分支，加速网络训练并改进损失函数；最后，在layer4层中添加注意力机制关注情感特征，实现语音情感的分类。实验结果表明，基于DRN-A-CASA的模型在RAVDESS及EMODB两个数据集上分别达到了92.91%和89.15%的识别准确率，验证了所提方法的有效性和泛化性能。     

基于CNN的轴承变工况故障识别系统

为了保证工业机械设备运行安全,避免轴承损伤引起的设备严重损害,实现对机械设备上滚动轴承的变工况故障诊断,设计了基于卷积神经网络的变工况滚动轴承故障诊断系统。该系统使用格拉姆矩阵方法将一维时序数据转换为二维特征图,卷积神经网络训练最大化的学习数据中的特征信息,将训练好的模型部署于LabVIEW编写的上位机中实现实时故障诊断,将所提方法在美国凯斯西储大学轴承数据中心数据集进行实验,实验验证：在美国凯斯西储大学轴承数据集上,所使用的方法变工况下无故障运行数据识别准确率达到99.85%,变工况下综合识别准确率达到91.67%,实验结果表明该方法取得了较为准确的识别效果且具有不错的泛化能力,为变工况下滚动轴承的故障诊断积累了应用经验。     

深度嵌套注意力下的SlowFast信息融合动作识别网络

视频动作识别在视频监控、自动驾驶等多个领域都有着广泛的应用。SlowFast网络是视频动作识别领域经常使用的网络。目前SlowFast相关网络中使用注意力进行相关信息增强,注意力机制与网络的结合方式是将注意力机制嵌套到网络的各个卷积块之间,如果将注意力机制深层嵌套到卷积块的具体卷积层中,SlowFast网络的信息提取能力将更进一步。首先提出了一种深度嵌套注意力机制,该深度嵌套机制内部包含一种可以提取时空与通道信息的注意力SCTM,使SlowFast网络的3种信息提取能力得到了进一步加强。此外,目前多流网络融合的信息并没有充分的交互与处理。提出了一种基于交叉注意力与ConvLSTM的多流时空信息融合网络,使多流网络中每个流的信息充分交互。改进后的SlowFast网络在UCF101数据集上的Top-1准确率已达到98.5%,在HMDB51数据集中的准确率达到了80.1%。均优于目前已有的模型,比原始SlowFast网络提高了2.64%,且鉴于上述数据,深度嵌套注意力的 SlowFast 时空信息融合网络在信息提取与融合方面具有优越性能。     

基于改进卷积双向门控循环网络的轴承故障诊断

针对传统深度学习方法没有充分利用轴承信号的时序特点,以及难以处理动态数据的问题,提出一种基于改进卷积双向门控循环神经网络的轴承故障智能诊断方法。采用卷积神经网络从输入信号中提取代表性特征,引入双向门控循环神经网络挖掘故障数据在时间维度上的语义信息,通过注意力机制自适应地对特征图通道赋予不同权值,从而实现高精度的轴承故障诊断。在公开轴承数据集上进行实验,实验结果表明,该方法能够正确地将轴承故障分类,分类精度可达996%。     

一种基于特征位移的手势识别方法

针对卷积操作受到遍历规则的限制,只能提取单个骨骼节点的特征信息,不能对相邻节点之间的有效特征信息进行融合,导致表达能力有限的问题,提出了一种基于特征位移模块的手势识别神经网络。该网络采用常规时空图卷积神经网络的架构,并将常规时空卷积模块替换为特征位移模块,实现相邻节点特征信息之间的融合。利用特征位移模块对位移信道进行重新排序,实现提取骨骼节点的全局化特征信息,进一步完成对手势信息的高效准确分类。并在公开数据集DHG-14/28和FPHA上验证该特征位移模块,在14类、28类和FPHA手势数据集的分类准确度分别达到了95.11%、93.01%和92.67%。实验结果表明,该网络模型能够更好更有效的挖掘全局特征信息,在常见的手势识别数据集上达到了优秀的性能。     

结合空频域多尺度特征的植株叶片分割方法

为实现植物表型参数的精准获取，针对自然环境下不同尺度叶片分割的细节损失问题，提出结合空频域多尺度特征的植株叶片分割方法。以U-Net网络架构为基础，设计下采样频域变换模块，在卷积神经网络中引入频域特征表示替换池化层，利用2D-DCT和2D-IDCT的频域变换方法感知植株叶片目标的全局语义特征；构建多尺度特征融合模块，增加6个上采样节点，提取和连接植株叶片图像细粒度的特征信息；改进通道注意力模块学习分支特征，采用联合损失函数优化网络性能。在2017CVPPP公开数据集上开展实验，结果表明，植株叶片分割网络的交叉比、平均交叉比、像素准确率、精准率和F-score分数分别达到了97.07%、98.04%、99.53%、99.68%和99.74%。与FCN-8s、FCN-ResNet、DeepLabV3+、SegNet和U-Net模型相比，网络的交叉比和平均交叉比最高提升23.32%和12.43%,在较小尺度和细节处理上改善了植株叶片的分割精度，可为植物表型方向的应用研究提供一种可借鉴的思路。     

基于卷积块注意力模型的非侵入式负荷分解算法

非侵入式负荷分解技术可以深度挖掘用户内部用电数据、获取用电信息,具有广阔的应用前景。该文研究了非侵入式负荷监测模式下基于卷积块注意力模型的非侵入负荷辨识算法。该模型首先采用一种序列到点方法,以电源窗口为输入,目标设备中点为输出,然后使用卷积块注意力模型来训练学习目标设备特征,卷积块注意力模块通过引入空间和通道Attention机制可以有效提取有利特征,丢弃无用特征。基于REDD数据集的实验结果表明,该文模型在有效减少训练时间的前提下,显著提升了分解准确率。