基于注意力机制的一维卷积神经网络行星齿轮箱故障诊断

针对行星齿轮箱故障信号成分复杂和时变性强的特点,提出了基于注意力机制的一维卷积神经网络(１D-CNN )行星齿轮箱故障诊断方法.首先,将行星齿轮箱各类故障状态的原始振动信号进行分段处理,作为模型的输入;其次,利用一维卷积神经网络对行星齿轮箱的原始振动信号学习齿轮故障特征,结合注意力机制( AM )对特征序列自适应的赋予不同的权重,增强故障特征信息;最后,利用 Softmax 分类器实现行星齿轮箱的故障诊断.通过故障实验验证以及与其他模型的对比,该故障诊断模型具有较强的学习能力,诊断性能优于其他的深度学习模型,有较好的工程实际意义.     

基于小波卷积与注意力机制的RV减速器齿轮箱故障诊断

在变负载工况下,RV减速器齿轮箱的特征提取存在困难,且其故障模式也难以得到识别。针对这一些问题,提出了一种基于Laplace小波卷积网络(LWNet)和注意力机制(ATT)的变工况下齿轮箱故障诊断方法(模型)。首先,基于Laplace小波变换原理设计了小波卷积层(Laplace Net),代替传统卷积神经网络第一层,对输入信号进行了自适应特征提取,以获得更明显的冲击特征;然后,将注意力机制引入模型卷积网络,以增强故障信息权重,以SoftMax作为分类器进行了故障诊断;为了提高模型的稳定性,每层卷积后接归一化层(batch normalization, BN),对特征进行了归一化处理,使用Dropout(0.5)防止过拟合;最后,使用RV减速器齿轮箱的数据集对基于LWNet和ATT的方法(模型)进行了验证。研究结果表明：基于LWNet和ATT的方法(模型)能够自适应地定位故障信号的冲击信息,在定负载条件下,其平均诊断准确率高达99.92%(相比于经典的深度学习模型与近期的方法,其准确率提高了3.25%～12.26%),该方法具有更高的诊断效率;在变负载条件下,该方法的平均准确率也可以达到...     

基于注意力机制和LeNet5网络的转子系统故障诊断

设备振动参数高效处理的要求在数据分块时选用经验值方法的条件下难以实现,这会降低重构数据精度。为了进一步提高旋转机械故障诊断能力,提出了一种基于注意力机制和LeNet5网络的故障诊断方法,并成功应用于转子系统上。研究结果表明：对比传统的LeNet5网络,所提方法打破无注意力机制的局限性,整体优越性更强,参数设置无改变。将注意力机制加入LeNet5网络后,极大提高了故障识别的准确率以及模型的训练速度。相比较其它方法,文中所述方法的故障类型检测结果明显是精确率最高的,均在95%以上,满足实际的要求。在诊断旋转机械故障时,结合卷积神经网络及注意力机制进行测试研究,最终证明此方法可行性较高,该研究院可以拓展到其它机械传动领域,具有一定应用价值。     

基于Dy Res Net-CBAM网络的滚动轴承剩余寿命预测

滚动轴承的工作状况关系到使用滚动轴承的机械能否正常运行,预测轴承的剩余使用寿命（RUL）是避免机械系统失效的关键。针对传统的轴承使用寿命预测方法无法自适应调节特征权重、提取有用特征,造成预测值误差过大的问题,提出了一种带有卷积块注意力模块（CBAM）的动态残差网络（Dy Res Net）用于预测轴承RUL。对振动信号进行快速傅里叶变换求得频域累积幅值特征,在动态残差网络中加入CBAM模块,并利用压缩激励模块进行特征细化得出预测结果,使用公开轴承数据集对所提模型进行评估。实验表明：与其他模型相比,Dy Res Net-CBAM模型能够充分提取特征信息,对轴承RUL预测的准确度高于其他模型。     

基于CNN-BiLSTM网络及注意力机制的智能滚动轴承剩余寿命预测方法

为了充分利用数据间的时序特性,实现对滚动轴承剩余使用寿命(RUL)的精确预测,提出了一种基于卷积神经网络(CNN)和双向长短时记忆网络(BiLSTM)的滚动轴承RUL智能预测方法。首先,提取出数据中的12个时域特征和4个频域特征作为神经网络的输入;然后,设计了一种基于注意力机制的CNN-BiLSTM算法,对输入数据进行了退化特征提取,并进一步解决了BiLSTM在远距离信号传输中信息丢失的问题;最后,采用PHM 2012轴承退化数据集,通过轴承加速退化PRONOSTIA实验平台,验证了所提方法的有效性,并将其结果与FCNN、CNN-BiLSTM和CNN-LSTM-AM算法所得结果进行了对比分析。研究结果表明:与采用其他方法所得结果相比,采用本文所提方法得到的轴承RUL预测RMSE值分别降低了25.85%、7.32%和10.59%,Score得分则分别提高了3.65%、2.12%和1.58%,该结果验证了本文所提方法在轴承RUL预测应用方面的优越性。     

基于卷积变分自编码和多头自注意力机制的断路器剩余机械寿命预测

针对万能式断路器退化过程的不确定性,考虑到振动信号对机械性能退化的完善表征,提出了一种基于卷积变分自编 码(CVAE)和多头自注意力机制(MSA)的断路器分闸机械机构寿命预测方法。 首先依据断路器不同的事件区间提取参数特 征,再通过 CVAE 挖掘信号成分中的深度特征,将参数特征与深度特征融合得到完备退化特征,最后建立 GRU-MSA 的定量寿 命预测模型,引入了多头自注意力机制,在多个不同表征子空间中捕捉信号的不同依赖关系,对重要的时间步赋予更大的权重。 最后利用 3 台试品的振动信号测量数据对所提断路器分闸机械机构寿命预测方法进行测试,结果表明,所提出的方法在 3 个数 据集中寿命预测均方根误差(RMSE)分别为 141. 46、128. 75 和 134. 16,平均绝对误差(MAE)分别为 112. 17、101. 52 和 106. 22, 预测精度高且稳定性好,相对于其他混合预测模型更具优势。     

基于注意力机制的滚动轴承剩余使用寿命预测方法

现有的轴承振动信号特征的提取方法过分依赖于专家的经验,同时在轴承的寿命预测过程中,存在因序列过长而导致的记忆力退化等问题,为此,结合卷积神经网络-注意力机制网络(CNN-attention)和基于注意力机制的Encoder-Decoder方法,提出了一种滚动轴承剩余使用寿命(RUL)的预测模型(方法)。首先,利用快速傅里叶变换(FFT)方法,将滚动轴承的初始振动信号转换成频域幅值信号;然后,设计了一种基于注意力机制的模型：其中,利用CNN-attention进行了退化特征提取,利用基于注意力机制的Encoder-Decoder网络进行了RUL预测,并进一步在远距离信号传输中解决了循环神经网络记忆衰退的问题;最后,为了验证特征提取模型以及寿命预测模型的有效性,采用PHM 2012轴承退化数据集,通过轴承加速退化PRONOSTIA实验平台进行了实验,并将其所得结果与未采用注意力机制模型的预测结果以及其他文献方法所得结果进行了对比。实验结果表明：与其他方法相比,基于注意力机制模型的方法平均绝对误差分别降低了29.41%、32.00%、29.56%、32.34%,平均得分分别提高了0.39%、...     

基于Bi-LSTM和自注意力机制的旋转机械故障诊断方法研究

旋转机械因其特殊的功能要求,通常工作在恶劣的环境中,振动信号易受外界干扰。基于传统信号处理方法的故障诊断技术越来越不能满足故障诊断精度的需要,因此,利用大数据和人工智能技术进行旋转机械故障诊断成为目前的主要研究方向之一。针对以上问题,提出一种基于双向长短时记忆网络（Bi-LSTM）和自注意力机制的旋转机械故障诊断方法。首先,利用转子实验台模拟旋转机械的各种运行状态,采集旋转机械在各种运行状态下的振动信号;然后,将振动信号输入Bi-LSTM网络,自注意力机制将Bi-LSTM各时间步的输出进行加权求和,获得振动信号的深层特征表示;最后,通过全连接层和Softmax层输出旋转机械各种运行状态的预测概率。实验结果表明：本文提出的方法能够有效地实现旋转机械的故障诊断,与其他方法相比,模型的训练稳定性、收敛速度和故障识别准确率均得到提高。     

基于DCNN网络及Self-Attention-BiGRU机制的轴承剩余寿命预测

深度神经网络在剩余寿命预测(RUL)领域得到了广泛的应用。传统的滚动轴承寿命预测模型存在预测精确度较低、鲁棒性较弱的问题。为了进一步提升预测模型的精确度以及鲁棒性,提出了一种融合深度卷积神经网络(DCNN)、双向门控循环单元(BiGRU)以及自注意力机制(Self-Attention)三种模块的滚动轴承剩余使用寿命预测模型。首先,利用DCNN网络对原始振动信号的时域特征、频域特征进行了提取;然后,使用不确定量化的方法对提取到的特征进行了评价和筛选,利用筛选过后的特征构建了新的替代特征集;最后,利用Self-Attention-BiGRU网络对轴承的剩余使用寿命进行了预测,并在IEEE PHM2012数据集上进行了验证。实验结果表明：相较于BiGRU、GRU和BiLSTM三种模型的预测结果,基于DCNN及Self-Attention-BiGRU方法的预测结果最优,两项误差值：平均绝对误差(MAE)、均方根误差(RMSE)最低,其中工况一的一号轴承RUL预测的MAE值相较于BiGRU、GRU以及BiLSTM网络分别下降了7.0%、7.4%和6.5%,RMSE值相较于其他三种模型分别下降了7...     

基于改进 EfficientNet 的红外图像光伏组件故障识别研究

光伏组件的故障会影响光伏阵列的输出性能,从而降低电站的发电效率,严重时甚至会危害电站的安全运行。 传统的 方法无法满足目前光伏组件故障检测快速性和正确率需求。 因此,本文提出了一种基于改进 EfficientNet 的光伏组件故障识别 方法。 首先,利用采集到的光伏组件红外图像建立故障数据集,并利用图像分割和数据增强对数据集进行预处理;其次,基于 EfficientNet 网络构建故障识别模型,同时在模型中引入双通道注意力模块(CBAM),该模块能够抑制不必要特征的识别,增强 模型对空间特征信息的提取能力,进而提高模型的识别准确率;最后,通过对比仿真实验证明模型的有效性和先进性。 实验结 果表明,该模型的故障识别准确率达到了 90. 83% ,相较于原始的 EfficientNet 模型提高了 2. 83% ,且模型大小仅为 20. 3 M,具有 良好的实用性,能够满足光伏电站实际应用的需求。     

基于U型卷积网络的视网膜血管分割方法

视网膜血管的结构信息对眼科疾病的诊断具有重要的指导意义,对视网膜血管图像进行高效正确的分割成为临床的迫切需求。为此,提出了一种U型卷积网络,实现了更高效的自动化视网膜血管分割。骨干网络基于经典的编解码架构,编码器采用预训练的残差模块充分提取每一层的特征,解码器通过转置卷积逐层进行上采样,增加了特征的复用性。网络在中间层...     

基于四元数时空卷积神经网络的人体行为识别

传统卷积神经网络(CNN)只适用于灰度图像或彩色图像分通道的特征提取,忽视了通道间的空间依赖性,破坏了真实环境的颜色特征,从而影响人体行为识别的准确率。为了解决上述问题,提出一种基于四元数时空卷积神经网络(QST-CNN)的人体行为识别方法。首先,采用码本算法预处理样本集所有图像,提取图像中人体运动的关键区域;然后将彩色图像的四元数矩阵形式作为网络的输入,并将CNN的空间卷积层扩展为四元数空间卷积层,将彩色图像的红、绿、蓝通道看作一个整体进行动作空间特征的提取,并在时间卷积层提取相邻帧的动态信息;最后,比较QST-CNN、灰度单通道CNN(Gray-CNN)和RGB 3通道CNN(3Channel-CNN)3种方法的识别率。实验结果表明,所提方法优于其他流行方法,在Weizmann和UCF sports数据集分别取得了85.34%和80.2%的识别率。     

Microscopic segmentation and classification of COVID-19 infection with ensemble convolutional neural network

The detection of biological RNA from sputum has a comparatively poor positive rate in the initial/early stages of discovering COVID-19, as per the World Health Organization. It has a different morphological structure as compared to healthy images, manifested by computer tomography (CT). COVID-19 diagnosis at an early stage can aid in the timely cure of patients, lowering the mortality rate. In this reported research, three-phase model is proposed for COVID-19 detection. In Phase I, noise is removed from CT images using a denoise convolutional neural network (DnCNN). In the Phase II, the actual lesion region is segmented from the enhanced CT images by using deeplabv3 and ResNet-18. In Phase III, segmented images are passed to the stack sparse autoencoder (SSAE) deep learning model having two stack auto-encoders (SAE) with the selected hidden layers. The designed SSAE model is based on both SAE and softmax layers for COVID19 classification. The proposed method is evaluated on actual patient data of Pakistan Ordinance Factories and other public benchmark data sets with different scanners/mediums. The proposed method achieved global segmentation accuracy of 0.96 and 0.97 for classification.     

A new automatic convolutional neural network based on deep reinforcement learning for fault diagnosis

Convolutional neural network (CNN) has achieved remarkable applications in fault diagnosis. However, the tuning aiming at obtaining the well-trained CNN model is mainly manual search. Tuning requires considerable experiences on the knowledge on CNN training and fault diagnosis, and is always time consuming and labor intensive, making the automatic hyper parameter optimization (HPO) of CNN models essential. To solve this problem, this paper proposes a novel automatic CNN (ACNN) for fault diagnosis, which can automatically tune its three key hyper parameters, namely, learning rate, batch size, and L2-regulation. First, a new deep reinforcement learning (DRL) is developed, and it constructs an agent aiming at controlling these three hyper parameters along with the training of CNN models online. Second, a new structure of DRL is designed by combining deep deterministic policy gradient and long short-term memory, which takes the training loss of CNN models as its input and can output the adjustment on these three hyper parameters. Third, a new training method for ACNN is designed to enhance its stability. Two famous bearing datasets are selected to evaluate the performance of ACNN. It is compared with four commonly used HPO methods, namely, random search, Bayesian optimization, tree Parzen estimator, and sequential model-based algorithm configuration. ACNN is also compared with other published machine learning (ML) and deep learning (DL) methods. The results show that ACNN outperforms these HPO and ML/DL methods, validating its potential in fault diagnosis.     

面向AR-HUD的多任务卷积神经网络研究

汽车上AR-HUD已经得到了广泛应用,其环境感知模块需完成目标检测、车道分割等多个任务,但是多个深度神经网络同时运行会消耗过多的计算资源.针对这一问题,本文提出一种应用于AR-HUD环境感知的轻量级多任务卷积神经网络DYPNet,其以YOLOv3-tiny框架为基础,融合金字塔池化模型、DenseNet的密集连接结构、...     

基于CNN的火炮身管全景图像疵病识别方法

针对火炮身管内膛疵病种类多、定性定量分析难和检测自动化程度低等问题,本文提出一种以卷积神经网络为基础的疵病识别方法。首先,对全景图像进行预处理,主要包括全景展开、光照强度调整、膛线去除等;其次,通过最优阈值法对图像进行二值化处理,并利用四连通域法提取疵病区域;最后,采用卷积神经网络对疵病进行自动的分类识别。实验结果表明,该方法能有效避免人工疵病特征提取和人工特征描述计算等复杂步骤,实现了"采集-识别-判定"全过程的自动运行,真正实现了窥膛检测的自动化,身管疵病的识别率超过92%,识别准确率远高于基于统计学原理及支持向量机的分类方式,具有较高的准确性,为火炮身管修复及寿命预估等奠定了坚实的基础。     

基于改进卷积神经网络的燃气调压器故障识别研究

针对传统故障识别方法不仅过分依赖专家经验对故障特征进行提取且识别准确率不高的问题,在深度学习理论基础上,提出了一种将一维卷积神经网络与SVM分类器相结合的改进深度卷积神经网络,实现调压器“端到端”的故障识别。首先,介绍了传统卷积神经网络结构;其次,将改进后的一维卷积神经网络与SVM相结合,提出了基于1-MsCNN-SVM算法的调压器故障识别模型,并对模型的组成部分进行了介绍;然后,通过对比实验确定了模型的卷积核长度和卷积层组数;最后,为验证模型的有效性,基于燃气调压器故障数据集,开展了燃气调压器故障识别研究。研究结果表明,改进后的1-MsCNN-SVM算法故障识别准确率高达99.20%,模型具有较好的分类准确率。     

基于改进深度卷积网络的铁路入侵行人分类算法

异物侵入铁路限界严重影响行车安全,识别铁路限界内的人员侵入对保证铁路运营安全具有重要意义。由于既有铁路图像异物侵入检测系统只能检测报警图像,无法区分是人员侵入的正确报警还是光线干扰导致的误报警,为了降低上述误报警,本文建立了铁路异物侵限报警样本的训练集和测试集,提出了将改进的深度卷积网络提取的高层Alex特征和HOG特征相结合并用于深度卷积网络模型训练的分类算法。首先引入了改进的AlexNet深度卷积神经网络模型,提取了自动学习的Alex高层特征,然后将其与HOG特征相结合形成Alex-HOG组合特征,最后利用组合特征对分类网络进行训练。铁路异物侵限报警测试样本库的实验表明,该方法对1 498张测试样本图像的识别准确率高达98.46%,时间为3.78s,实时性和准确率均有较大提高,对降低系统误报率具有重大意义。     

基于弱监督学习卷积神经网络的心脏按压评估

传统的基于加速度波形积分的心脏胸外按压评估方法受噪声和积分时延影响,在计算距离时存在较大误差,评估效果不理想。为此,在弱监督学习策略与波形分割的基础上,提出了一种基于一维卷积神经网络的心脏按压加速度波形识别算法,实验结果表明,一维卷积神经网络达到了99. 4%的正确率,明显优于传统的积分方法和BP神经网络算法。进一步采用GradCAM方法对评估结果进行可视化分析,发现卷积神经网络所关注的特征集中于开始按压至按压到达平衡位置,以及此次按压松手后反向加速度达到最大值至下一次按压开始这2个阶段的加速度波形变化情况。此外该评估模型不再需要对按压距离进行精确测距,因而不受按压遮挡、电磁波干扰等因素的影响,可以实时检测按压是否规范有效,在复杂环境中也具有较高的鲁棒性,在医疗急救领域中具有一定的实用价值。