优化深度残差网络及其在强噪声环境下滚动轴承故障诊断中的应用

针对传统基于深度学习的故障诊断方法存在抗噪性能差、计算复杂度高和泛化性能不足的问题,提出了一种基于深度可分离残差网络（Depthwise Separable Residual Network,DS-ResNet）的滚动轴承故障诊断方法。采用快速傅里叶变换（Fast Fourier Transform,FFT）将滚动轴承一维振动转换到频域进行表示;利用深度可分离卷积（Depthwise Separable Convolution,DSC）计算复杂度低和逐点卷积（Pointwise Convolution,PWC）能增强网络非线性表达的优点,分别代替传统深度残差网络中的两个标准卷积层,构建出优化后的DS-ResNet模型。将各类故障状态下的频域信号作为DS-ResNet模型的输入进行识别分类,结果表明,在信噪比为-4 dB的强噪声环境中,识别准确率达到92.71%;在变转速工况下,平均识别准确率可达90.19%,高于其他常用深度学习诊断方法,且模型每轮的训练时间仅需2.16 s,证明了所提方法具有更好的抗噪性能、泛化性能和更高的诊断效率。     

基于共有特征学习和数据增强的农作物病害识别算法

针对农作物病害图像类间差异较小,传统机器学习方法在农作物病害数据集上识别精度低、模型训练复杂等问题,本文提出一种基于共有特征学习和数据增强的农作物病害识别算法。首先,对于农作物病害数据集类间数据不均衡等问题,本文使用Mixup数据增强算法对数据集进行扩充,丰富样本数量;然后,对于特征提取模块,本文在深度残差网络中嵌入通道注意力模块,使之侧重学习农作物叶片病害特征,忽略背景信息对模型带来的干扰;最后,在提取完图像特征后,将特征图送入到共有特征学习模块中,提高图像之间线性关联,增强模型泛化性能和鲁棒性。为验证所提模型的有效性和实用性,本文在Plant Diagnosis Dataset农作物病害数据集上进行训练及测试,实验结果表明,所提模型准确率达到97.9%,可有效提高农作物病害图像识别精度。     

基于批量重归一化去噪网络的地震信号消噪

随机噪声衰减是地震勘探中的一个关键步骤,针对大多数深层卷积网络用于压制地震勘探随机噪声性能易于饱和,导致无法从训练数据中学习或无法更新权重等问题,提出批量重归一化去噪网络(Batch-Renormalization Denoising Network, BRDNet)。通过结合两个并列的分支网络以增加网络宽度,从而获得更多特征,上层网络由残差学习(Residual Learning, RL)和批量重归一化(Batch Renormalization, BRN)组成,下层网络包括BRN、 RL和扩张卷积。批量重归一化技术解决了内部协变量移位和小批量问题,采用整体方式的RL以及扩张卷积来促进网络训练,可提取更多特征进行去噪。人工合成记录和野外实际记录的处理结果表明：相较于f-k滤波,小波去噪,时频峰值(Time-Frequency Peak Filtering, TFPF)滤波及现有的深度卷积神经网络(DnCNN), BRDNet具有更好的噪声压制能力和保幅效果,能够有效提高地震数据的信噪比和分辨率,为下一步进行地震解释提供有力的保障。     

基于浅层卷积神经网络的面部表情识别

面部表情识别在人机交互等领域中发挥着重要作用,采用深度学习方法提高了模型精度,但过深的网络加大了计算成本,造成识别滞后和性能低下的问题.本文提出了一种浅层卷积神经网络模型,它受到Xception网络的启发,结合了残差模块和深度可分离卷积,同时引入了功能模块与网络进行融合.微调后的网络结构简单、模型较小,在FER2013数据集上获得了66.12％的准确率,优于多个对比网络.最后,本文搭建了一个可视化系统来验证所提模型在自然场景下的性能,验证结果与实验结论一致.     

一种基于VGGish神经网络的水声目标识别方法

水声目标智能识别是水声装备智能化的重要组成部分,深度学习则是实现水声目标智能识别的重要技术手段之一。当前水声目标智能识别经常面临数据集较小带来的训练样本量不足的情况,针对小数据集识别中存在的因过拟合导致模型泛化能力不足,以及输入的水声信号二维谱图样式不统一的问题,文章提出了一种基于VGGish神经网络模型的水声目标识别方法。该方法以VGGish网络作为特征提取器,并在VGGish网络前部加入了信号预处理模块,同时设计了一种基于传统机器学习算法的联合分类器,通过以上措施解决了过拟合问题和二维谱图样式不统一问题。实验结果显示,该方法应用在ShipsEar数据集上得到了94.397%的识别准确率,高于传统预训练-微调法得到的最高90.977%的准确率,并且在相同条件下该方法的模型训练耗时仅为传统预训练-微调方法的0.5%左右,有效提高了识别准确率和模型训练速度。     

基于GADF-TL-ResNeXt的滚动轴承故障诊断方法

针对传统诊断方法难以有效提取故障特征的问题，提出了一种基于格拉姆角场(GAF)与TL-ResNeXt相结合的故障诊断方法。首先利用GAF对原始振动信号编码为时间序列相关的二维特征图；再将这些特征图输入到层级更深的分组残差网络ResNeXt中进行自动的识别、分类；模型训练的同时，在网络的最后一层结合了迁移学习(TL)模块以加快模型特征提取能力、快速的进行学习。为了验证该方法的有效性，利用凯斯西储大学轴承数据对比了其他方法，结果表明该方法表现最优。且在轧机模拟实验平台上收集的轴承故障数据表明，该方法在改变工况时同样具有好的泛化性与识别能力。     

一种结合改进Inception V2模块和CBAM的轴承故障诊断方法EI北大核心CSCD

传统深度学习的轴承故障诊断方法网络复杂,训练参数多,模型泛化性弱。针对上述问题,在工业大数据背景下,提出一种结合改进Inception V2模块和CBAM注意力机制的轴承故障诊断方法,改进后的Inception V2模块通过增加平均池化层,进一步拓宽分支网络结构,从而提高网络表达能力。将轴承振动信号通过小波变换转换为时频图,作为卷积神经网络的输入,通过改进Inception V2模块对输入特征进行自适应特征提取,跨通道对提取的特征进行信息组织;通过CBAM注意力机制生成通道和空间的双重注意力权重,增强相关度高的特征并抑制相关度不高的特征;将生成的特征数据输入到全局平均池化层,并输出故障诊断结果。实验结果表明:该方法可以建立“浅层”卷积神经网络模型,减少模型参数,加快模型收敛速度,实现99.75%的准确率;同时在不同负载以及高噪声条件下,模型有较好的泛化性,更适合应用在工业大数据中。     

基于多输入层卷积神经网络的滚动轴承故障诊断模型

针对滚动轴承信号易受噪声干扰和智能诊断模型鲁棒性差的问题,在一维卷积网络的基础上,提出基于多输入层卷积神经网络的滚动轴承故障诊断模型。相比传统卷积神经网络诊断模型,该模型具有多个输入层,初始输入层为原始信号,以最大化地发挥卷积网络自动学习原始信号特征的优势;同时可将谱分析数据在模型任意位置输入模型,以提升模型的识别精度和抗干扰能力。通过滚动轴承模拟试验,进行可行性和有效性验证,同时与人工神经网络(Artificial Neural Network,ANN)、支持向量机(Support Vector Machine,SVM)和典型的卷积神经模型进行对比,证明了所提出模型的优势;向测试集中加入噪声来检验模型的鲁棒性,并且运用增量学习方法提升模型在强噪声环境下的识别性能;通过滚动轴承故障实例,验证模型的识别性能和泛化能力。试验结果表明,所提出的模型提升了传统卷积模型的识别率和收敛性能,并具有较好的鲁棒性和泛化能力。     

基于循环频谱相干和DCNN的隔膜泵单向阀故障诊断方法研究

针对传统的机器学习方法过分依赖特征提取的质量,而深度学习在强干扰条件下其故障辨识率不佳的问题,提出了一种基于循环频谱相干(CSCoh)和深度卷积神经网络(DCNN)的故障诊断方法,并将其应用于实际工况环境下的隔膜泵单向阀故障诊断当中。对振动信号进行循环平稳特性分析,利用快速循环相关谱计算方法将原始振动信号生成二维CSCoh图;将生成的CSCoh图作为输入从而降低深度诊断模型中特征学习的难度,通过构建DCNN模型,并引入批量归一化和Dropout技术来提升模型的收敛速度和泛化能力;利用所提模型对故障进行分类识别,进而实现单向阀的故障诊断。结果表明,该方法可以准确地识别单向阀的故障类型,并具有较好的泛化性能。     

基于深度残差学习的彩色图像去噪研究

目的 当噪声存在时,尤其是等级相对较大的噪声,会导致彩色图像的视觉质量下降,为了有效去除噪声的同时使去噪后的图像有更好的视觉效果,提出一种基于深度残差学习的彩色图像去噪方法。方法 首先设计由多个残差单元模块组成的残差层,然后在每个残差单元模块之间添加跳跃连接,构成由噪声图像到去噪图像的非线性映射,并优化残差单元个数,使网络能学习到更多的图像细节特征,以提升网络的去噪性能,同时将每个残差单元模块中的激活函数提到卷积层前面,以加速网络收敛。结果 与常用去噪算法相比,文中方法在Kodak24和CBSD100数据集上的主观视觉打分MOS值以及客观指标(PSNR和SSIM)上,较其他方法有更好的效果。结论 提出的基于深度残差学习的彩色图像去噪方法能有效去除图像中的噪声,尤其是较严重的噪声,并取得了良好的视觉效果,表明该方法具有良好的去噪性能。     

基于增量学习的数控机床故障诊断系统

针对数控机床中主轴轴承和刀具同时出现故障或机床主轴转速改变时的故障诊断问题,提出了基于增量学习的深度卷积诊断模型。首先,将常用转速下的主轴轴承和刀具振动数据集,输入结合了批量归一化算法的一维卷积神经网络,实现单一转速下故障诊断;然后,人工判断跨转速诊断时的未知故障类型,对其打标签后重新输入网络,通过增量学习实现知识迁移并使模型学习新数据特征;最后模型在跨转速故障诊断领域的准确率为76.49%~86.09%,且与Fine Tuning和Joint Training两种经典跨领域算法相比,基于增量学习的深度卷积诊断模型提高了准确率,缩短了训练用时。     

WDBM: Weighted Deep Forest Model Based Bearing Fault Diagnosis Method

In the research field of bearing fault diagnosis, classical deep learning models have the problems of too many parameters and high computing cost. In addition, the classical deep learning models are not effective in the scenario of small data. In recent years, deep forest is proposed, which has less hyper parameters and adaptive depth of deep model. In addition, weighted deep forest (WDF) is proposed to further improve deep forest by assigning weights for decisions trees based on the accuracy of each decision tree. In this paper, weighted deep forest model-based bearing fault diagnosis method (WDBM) is proposed. The WDBM is regard as a novel bearing fault diagnosis method, which not only inherits the WDF’s advantages-strong robustness, good generalization, less parameters, faster convergence speed and so on, but also realizes effective diagnosis with high precision and low cost under the condition of small samples. To verify the performance of the WDBM, experiments are carried out on Case Western Reserve University bearing data set (CWRU). Experiments results demonstrate that WDBM can achieve comparative recognition accuracy, with less computational overhead and faster convergence speed.     

Fault Diagnosis of Motor in Frequency Domain Signal by Stacked De-noising Auto-encoder

With the rapid development of mechanical equipment, mechanical health monitoring field has entered the era of big data. Deep learning has made a great achievement in the processing of large data of image and speech due to the powerful modeling capabilities, this also brings influence to the mechanical fault diagnosis field. Therefore, according to the characteristics of motor vibration signals (nonstationary and difficult to deal with) and mechanical ‘big data’, combined with deep learning, a motor fault diagnosis method based on stacked de-noising auto-encoder is proposed. The frequency domain signals obtained by the Fourier transform are used as input to the network. This method can extract features adaptively and unsupervised, and get rid of the dependence of traditional machine learning methods on human extraction features. A supervised fine tuning of the model is then carried out by backpropagation. The Asynchronous motor in Drivetrain Dynamics Simulator system was taken as the research object, the effectiveness of the proposed method was verified by a large number of data, and research on visualization of network output, the results shown that the SDAE method is more efficient and more intelligent.     

多域信息融合结合改进残差密集网络的轴承故障诊断

针对滚动轴承原始时域信号信息单一、深度卷积神经网络提取的特征对信息的传递存在差异等问题,该研究提出了一种多域信息融合与改进残差密集网络的轴承故障诊断方法。为了获取故障的多方面信息,先对原始数据进行多域变换,再将融合信息输入经卷积注意力改进的残差密集网络进行深度学习。经注意力机制改进的网络能够实现对提取特征的重要性区分,提高网络的训练速度、改善识别准确率。试验结果及对比分析表明该算法可以提取较为全面的特征,较传统方法具有更好的识别效果。     

基于迁移学习与深度残差网络的滚动轴承快速故障诊断算法EI北大核心CSCD

针对现有基于深度学习的滚动轴承故障诊断算法训练参数量大,训练时间长且需要大量训练样本的缺点,提出了一种基于迁移学习(TL)与深度残差网络(ResNet)的快速故障诊断算法(TL-ResNet)。首先开发了一种将短时傅里叶变换(STFT)与伪彩色处理相结合的振动信号转三通道图像数据的方法;然后将在ImageNet数据集上训练的ResNet18模型作为预训练模型,通过迁移学习的方法,应用到滚动轴承故障诊断领域当中;最后对滚动轴承在不同工况下的故障诊断问题,提出了采用小样本迁移的方法进行诊断。在凯斯西储大学(CWRU)与帕德博恩大学(PU)数据集上进行了试验,TL-ResNet的诊断准确率分别为99.8%与95.2%,且在CWRU数据集上TL-ResNet的训练时间仅要1.5 s,这表明本算法优于其他的基于深度学习的故障诊断算法与经典算法,可用于实际工业环境中的快速故障诊断。     

基于集成学习的强鲁棒性三维点云数据分类研究

目的通过三维扫描仪得到的点云数据往往存在很多异常值,例如噪点、遗失点和外部点等。在这些异常值存在的情况下,为了提高三维点云数据的分类精度,提出一种基于集成学习的强鲁棒性三维点云数据分类方法。方法提出一种基于最大投票法的集成学习思想,将2个深度神经网络的分类结果进行集成,从而提高网络的泛化性和准确性;采用全局特征增强和中心损失函数来优化神经网络结构,提高分类精度并增强鲁棒性。结果文中方法缩短模型训练时间至30个迭代次数,且在有噪点、丢失点和外部点的情况下分类精度均得到有效提升。结论提出的EL-3D算法在含有噪点、丢失点和外部点的情况下,鲁棒性效果要优于目前的点云分类方法。     

基于卷积胶囊网络的滚动轴承故障诊断研究

针对目前许多基于深度学习的滚动轴承故障诊断方法在检测含有噪声的信号以及载荷变化时,其诊断性能会有所下降的问题。提出一种基于卷积胶囊网络的故障诊断方法;该模型使用两个卷积层的卷积网络直接对原始的一维时域信号进行特征提取,并将其送入胶囊网络,输出每种故障类型的诊断结果;为了验证该模型的诊断性能,选用凯斯西储大学轴承数据库来进行验证,并与常见的卷积神经网络和深度神经网络进行对比。试验结果表明,相比于其它深度学习方法,该方法在载荷变化以及信号受到严重噪声污染时,依然拥有良好的诊断性能。     

基于贝叶斯优化与改进LeNet-5的滚动轴承故障诊断

考虑到卷积神经网络在滚动轴承故障诊断中存在网络结构难以确定、训练次数过多、时间过长等问题,设计了一种贝叶斯优化改进LeNet-5算法,以及采用该算法构建的轴承故障诊断模型。采用贝叶斯优化训练过程中学习率等超参数,多种故障轴承的振动信号直接作为改进LeNet-5网络的输入,对池化输出采用批归一化处理和改进池化层激活函数防止过拟合,利用全局平均池化层替代全连接层提高改进LeNet-5网络的泛化能力,用Softmax分类器实现滚动轴承故障的分类。通过轴承数据库开展实验,实验表明,该算法构建的轴承故障诊断模型在训练集上准确率为99.94%,验证集上的准确率为99.89%,测试集准确率也达到99.65%,与一维卷积神经网络和二维卷积神经网络对比分析,基于贝叶斯优化改进LeNet-5算法构建的轴承故障诊断模型在滚动轴承的故障诊断模型具有更高的准确率,更少的训练次数和训练时间。     

改进的生成对抗网络在轴承故障诊断中的应用

研究一种基于改进的生成对抗网络的滚动轴承故障诊断方法。针对传统的生成对抗网络模型无法进行故障诊断的问题,对其进行改进,在生成对抗网络基础上加入额外条件信息,并且在输出层添加辅助输出层,将生成对抗网络从无监督学习的生成模型改进为监督学习的分类模型。然后,利用西储大学轴承数据集对改进后的生成对抗网络进行实验验证。结果表明,改进后的生成对抗网络模型能够有效识别滚动轴承故障类型,相比于相同结构的人工神经网络故障诊断准确率提高5.83%,达到99.86%,并且可在训练过程中降低对于样本数据长度的依赖性,有关结论可为生成对抗网络在智能故障诊断中的应用提供理论指导和技术支持。