基于一维CNN迁移学习的滚动轴承故障诊断

由于在工程实际中采集的故障振动数据分布不同且难以标记,使得卷积神经网络（convolutional neural network,简称CNN）在故障诊断过程中难以发挥最佳作用。针对此问题,提出了一种基于一维卷积神经网络迁移学习的滚动轴承故障诊断方法。首先,建立了可直接处理轴承振动信号的一维卷积神经网络模型并使用源域数据对其进行预训练;其次,利用最大均值差异（maximum mean discrepancy,简称MMD）度量源域和目标域在预训练模型中各层上的特征分布距离,并通过MMD判断卷积层和全连接层能否迁移,若不能迁移则使用初始化方式补全模型;最后,使用少量标记的目标域数据再次训练模型,进而对目标域故障数据进行分类辨识。利用故障轴承数据对方法有效性进行验证,结果显示,该方法在目标域只有少量标签的情况下能够实现变工况滚动轴承故障分类,并达到较高的诊断准确率。     

基于迁移学习和微调的起重机类型识别策略

起重机具有诸多类型,不同类型的起重机具有不同的分析或保养方法,因此对起重机类型进行识别意义重大。针对深度卷积神经网络中存在的数据需求量大、训练时间长、计算成本高等问题,提出一种基于迁移学习和微调的起重机类型识别策略。通过搭建不包含分类层的预训练InceptionV3模型并连接自定义的分类层,利用迁移学习和微调技术,训练出适用于起重机类型识别任务的卷积神经网络。实验结果表明,相较于从头搭建并训练深度卷积神经网络,利用迁移学习和微调方法对预训练模型进行训练可得到较高的识别准确率,并且训练速度更快,训练时间显著缩短。验证集和测试集的识别准确率分别为98.24%和97.67%。     

基于GRU与迁移学习的滚动轴承故障诊断

现阶段基于深度学习的故障诊断需要大量的数据,而制作数据集是一项耗时耗力的工作。针对这一缺点,提出一种基于门控循环单元(Gate Recurrent Unit,GRU)与迁移学习的滚动轴承故障诊断方法。该方法利用与目标域特征相似且易获得源域数据的特点训练网络,确定网络结构和参数,冻结经过训练的卷积神经网络(Convolutional Neural Networks,CNN)和GRU,用小样本目标域数据训练该网络,微调全连接层和分类层,达到迁移的目的。实验对比分析表明,基于GRU与迁移学习的滚动轴承故障诊断方法明显优于基于BP神经网络和基于概率神经网络(Probabilistic Neural Network,PNN)方法的故障诊断,能够更加准确地进行故障分类,为小样本数据集下的故障诊断提出了新思路。     

基于神经网络和模型迁移学习的不相关多源频域载荷识别

针对使用模型初始权重随机设定的神经网络模型进行不相关多源频域载荷识别时训练效率低、精度低的问题,提出一种基于神经网络和模型迁移学习的不相关多源频域载荷识别方法.首先,利用某频率点的历史数据对不相关多源载荷识别的多输入多输出神经网络模型进行训练;其次,将该频率下的神经网络的模型参数迁移到相邻的目标频域的神经网络中作为网络权值的初值;再次,利用目标频率的历史数据对神经网络进行微调训练,从而得到目标频率的不相关多源频域载荷识别模型;最后,将该频率的训练好的神经网络的模型参数迁移到下一个相邻频率的模型,循环该过程直到建立所有频率点的神经网络模型.在圆柱壳声振实验数据集上的载荷识别结果表明,该方法具有较好的网络权值初值、能有效减少训练时间,比不使用迁移学习的神经网络方法、基于传递函数和最小二乘广义逆的方法、基于多元一次线性回归的方法具有更高的识别精度.     

混合型RBM在结合面接触模型中的应用

为了预测不同加工方式下的表面形貌参数,提出一种基于混合型约束玻尔兹曼机(RBM)的表面形貌参数预测方法,针对RBM泛化能力较低、且固定的训练率不利于网络跳出极小点的问题,应用稀疏自动编码机实现预测数值的特征提取,设计混合型RBM神经网络预测出表面形貌参数值。在无监督训练中,利用一种动态学习率法则改进网络来提高特征向量映射的准确度,为了提高无监督学习阶段的训练速度,使用对比分散准则快速训练神经网络,通过混合型RBM训练模型任意输入加工参数即可获得结合面的表面形貌参数。为了将结合面参数直接应用于工程,基于表面形貌参数、采用分形理论推导了接触模型应用的实现过程,将结合面微观状态不均匀载荷下各节点的刚度、阻尼值植入有限元模型,最终通过与相同试件的实验值对比,验证了结合面实现方法的正确性,为数控机床结构优化与精度提高提供了基础。     

采用优化卷积神经网络的红外目标识别系统

针对视频数据利用低效和光测设备目标识别能力较弱的问题,提出一种使用海量视频数据建立数据库进而构建红外目标识别系统的方法。首先设计快速红外目标检测算法,提取目标并分类建立数据库;然后结合特定任务建立一组较匹配且结构不同的卷积神经网络,并提出基于测试准确度均值统计分析和参数规模的选型策略,选出泛化能力较好且结构简单的卷积神经网络以及适当的训练轮数;最后加载优选模型及其参数作为分类器,与检测器结合实现红外目标特征事件实时检测分类。仿真结果表明,目标分类准确率均值可达95%以上,速率约为50 pixel/s。卷积神经网络结构的设计和选型策略有效,构建的系统可以满足红外目标识别的精度和实时性要求。     

基于联邦多表示域适应的不同工况下滚动轴承故障诊断方法

针对不同工况下滚动轴承振动数据分布差异大、部分工况下的带标签数据难以获取、不同用户间数据不共享、单一用户 数据量少,导致建立诊断模型准确率不高的问题,提出一种联邦特征迁移学习框架以及基于联邦多表示域适应的不同工况下滚 动轴承故障诊断方法。 该方法对滚动轴承时域振动数据做小波变换得到时频谱图,将先验的有标签公共数据作为源域,多用户 无标签孤岛隐私数据作为目标域;引入多表示特征提取结构对原始残差网络进行改进,提取源域和目标域的多表示特征,分别 构建多用户本地模型;使用深度神经网络的模型压缩思想改进联邦迁移学习框架中的参数传递策略,增强联邦框架的安全性并 降低通信开销;在服务器端构建可用于不同工况下滚动轴承故障诊断的联邦全局模型。 经两种轴承数据集的实验验证,所提方 法无需多用户共享数据即可整合孤岛数据知识,建立有效的不同工况下滚动轴承故障诊断模型,平均故障诊断准确率可达 97. 6% ,相比单一用户建模提升至少 3. 2% 。     

基于度量学习的小样本零器件表面缺陷检测

针对零器件表面缺陷检测时存在缺陷样本少、缺陷目标尺寸大小不一和易发生几何形变等问题,提出一种基于度量学习的小样本零器件表面缺陷检测模型。该模型首先将特征金字塔网络中传统卷积改进为动态卷积,并加上区域建议网络对小样本缺陷进行特征提取和边框定位;然后在大型数据集MS COCO上进行预训练,将训练好的模型结构参数迁移到具有少量缺陷样本的检测中;最后建立基于度量学习的多模态网络结构实现小样本零器件表面缺陷检测。实验表明,所提方法在ImageNet LOC公共数据集上与其他模型相比性能更优,5类5样本下均值平均精度为70.43%;在所建立的零器件表面缺陷数据集上,3类5样本的均值平均精度最高可达35.76%,相比RepMet模型性能最大可多提升近70%。     

基于PSO改进BP神经网络算法的金属表面缺陷分类

为了实现金属工件表面缺陷在线检测,利用CCD传感器和图像处理技术,对金属工件表面孔洞、划伤和壳状凸起等缺陷进行特征提取与分类。采用自适应阈值分割法对预处理图像进行缺陷特征分割,运用BP神经网络建立对样本的缺陷特征向量和缺陷分类结果的网络预测模型,为了提高网络模型的精确度,采用PSO算法改进BP神经网络的权值和阈值,通过实验样本验证和对比BP和PSO-BP模型的准确率和平均误差,试验结果表明基于PSO-BP算法的金属表面缺陷分类准确率达到85%以上,获得了更优的分类效果。     

基于小样本深度学习的齿轮表面损伤识别研究

齿轮表面损伤是影响齿轮传动的重要因素,提高齿轮表面损伤的识别效率和准确率极为重要。基于Pytorch架构建立齿轮表面损伤的ResNet识别模型,利用数据增强的方式扩大数据集,使用迁移学习方式优化模型训练,并对比了4种ResNet结构。结果表明,将64张原始图像数据增强后得到的由640张图像组成的数据集不足以满足模型训练对大量数据的需要;使用迁移学习能够提高模型训练速度和准确率,满足齿轮表面损伤的识别要求;ResNet-101模型在本框架中是最优结构。研究对齿轮表面损伤的检测具有重要的科学意义和工程价值。     

基于深度学习与子域适配的齿轮故障诊断

针对生产实际中标注故障数据不足的问题,提出了基于深度学习与子域适配的齿轮故障诊断方法。首先构建域共享的一维卷积神经网络,从故障数据中提取可迁移特征;然后采用多核局部最大均值差异来测量可迁移特征相关子域的分布差异,并将测得的分布差异加入目标函数中训练;最后将训练完成的模型用于目标域健康状态的识别。实验结果表明,所提方法能在无标签目标域数据的情况下得到较高的准确率。     

带钢表面缺陷的RepVGG网络改进及其识别

对带钢表面缺陷准确快速识别是带钢外观质量评价的一项重要内容,应用深度学习进行带钢表面缺陷识别是一个持续的热点。提出了一种基于改进RepVGG网络的带钢表面缺陷识别方法。首先为提高RepVGG网络在带钢表面缺陷识别中的稳定性和准确率,该方法引入了高效通道注意力(Efficient Channel Attention, ECA)网络,然后为了防止神经网络训练中神经元坏死,使得神经元参数得不到更新,应用了高斯误差线性激活函数。在测试集上,改进RepVGG网络对带钢表面缺陷的识别率达到了99.94%,而其运行速度并没有降低,单张图片的平均检测时间为5.4 ms。     

基于SimAM模块与ResNet34网络的混合缺陷检测模型

针对现表面缺陷检测方法准确率低、需要进行复杂的特征设计、特征泛化性不强、参数多和识别速度慢等问题,在残差网络卷积模块之后采用自适应全局平均池化,有效降低了分类器的特征维度,减少了信息冗余。将无参注意力机制模块SimAM与ResNet34网络相结合用于缺陷检测,并对不同组合结构进行研究,提出ResNet34＿s＿e和ResNet34＿m这2种混合网络模型,该2种混合网络模型均不增加原始网络参数量。在东北大学钢铁缺陷标准数据集上进行实验,对数据集使用镜像、翻转等数据增广策略,防止模型过拟合。通过对比发现,ResNet34＿s＿e混合网络模型能够有效加快训练过程中误差的下降趋势,提升分类准确率。最后在武汉某制造车间采集的冲压件缺陷数据集上验证该混合网络模型的泛化性能。测试集正确率由88.34%提高到了89.19%,有效提升了车间冲压件缺陷检测准确率。     

基于残差网络和迁移学习的瓶坯表面质量检测研究

提出了一种基于残差网络和迁移学习的瓶坯表面质量检测方法,设计了一种采用ResNet的迁移学习网络模型,通过瓶坯图像采集平台来采集图像样本,通过图像增强方式扩展样本数量,实现瓶坯缺陷分类和识别.实验分析表明,该模型在瓶坯缺陷检测上具有可行性和一定的准确率.     

应用于产品表面缺陷检测的神经网络IBS-Net北大核心CSCD

通过将深度学习的两阶段目标检测算法应用于表面缺陷检测中,并依据产品表面缺陷的特性改进网络,提出了IBS-Net算法,实现缺陷的分类识别与定位。IBS-Net改进在于提出了特征相关的非极大抑制方法(FR-NMS)和正样本扩充方法(PSA),依赖特征层间语义关系筛选候选框,将含有局部缺陷信息的候选框作为半正样本以辅助分类任务,体现由部分缺陷推知整体缺陷的思路;其次,利用缺陷之间的互斥性,提出了多类别非极大抑制方法(CR-NMS)应用于后处理阶段,以优化预测结果;此外,利用缺陷之间的重要性差异,改进了表面缺陷检测评估方法。实验结果表明:IBS-Net对13类芯片表面缺陷和6类热轧钢带表面缺陷的检测综合精准度分别达94.8%和89.2%,证明本算法具有良好的有效性和工程应用价值。     

一种不同工艺条件下刀具磨损状态多类域适应迁移辨识方法

在新的工艺条件下,针对采用历史工艺条件进行训练的刀具磨损状态辨识模型识别准确率低的问题,提出了一种基于迁移学习的跨工艺条件刀具磨损状态辨识模型。构建卷积神经网络提取刀具样本可迁移特征,利用最大均值差异测量不同工艺条件下刀具样本分布差异,通过类间-类内距离约束提升源域特征的样本距离,对目标域数据概率矩阵采取最大化核范数的策略,以提取区分性高的目标域样本故障特征。以铣刀加工试验为例验证了模型的有效性,模型的平均辨识准确率为96.8%,比没有类间-类内距离约束与最大化核范数的方法平均辨识准确率提升4.9%。     

轴承变工况故障的域自适应迁移深度学习诊断

为了实现变设备、变工况条件下的轴承故障精确识别,提出了基于域自适应迁移深度卷积神经网络的诊断方法。对于具有不同分布特征（即不同域）的训练集和测试集,在深度卷积神经网络中构造了故障特征提取模块、域识别模块、标签分类模块,以特征提取模块与域识别模块对抗训练的方式实现域自适应迁移能力,使深度卷积神经网络能够有效提取不同域的共同特征参数。使用凯斯西储大学和智能维护系统中心数据设计了4组迁移实验,传统深度卷积神经网络的识别精度均值为64.5%,域自适应迁移卷积神经网络的识别精度均值为94.9%,充分说明了域自适应迁移深度卷积神经网络能够有效识别变设备、变工况条件下的轴承故障。     

面向领域自适应的部分最优传输高光谱图像分类

针对高光谱遥感图像分类时有标注的源域训练数据与无标注目标域数据分布不一致的问题,提出基于部分最优传输的无监督领域自适应方法,实现对处于不同数据分布的高光谱遥感地物像素级分类。利用深度卷积神经网络将样本映射到潜在高维空间,根据部分最优传输理论建立样本传输方案,最小化域间分布差异,构建适配模型。采用类感知采样技术和质量分数因子自适应调整策略,促进域间类别对齐,建立全局最优传输。在两组公开高光谱遥感图像数据集上进行实验,从总体分类精度OA（%）、类别平均分类精度AA（%）、分类一致性检验Kappa（×100）等3个评价指标对像素分类结果量化比较。实验结果显示,在两组迁移任务上,相较于仅使用源域数据的基线模型,总体分类准确率分别提升2.21%和2.75%,相较于原始最优传输策略提升1.71%和2.01%,表明模型能够有效提升高光谱遥感影像中像素级地物的分类精度。     

面向手写数字图像的压缩感知快速分类

为了减少神经网络模型对手写数字数据集的训练计算耗时和最佳训练次数,同时保证手写数字图像的分类准确率,引入了压缩感知技术,提出了基于压缩感知和单隐层前馈网络(Compressive Sensing and Single Hidden Layer Feedforward Network,CS-SHLNet)的手写数字图像快速分类算法。首先,利用高斯随机矩阵对具有稀疏性的手写数字图像进行线性观测,将高维图像信号投影到低维空间得到观测值;其次,通过误差反向传播(Error BackPropagation,BP)算法不断调整单隐层前馈网络权值建立适应于观测值的神经网络模型,将观测值嵌入神经网络中对图像进行特征提取;最后,采用单隐层前馈网络模型对手写数字进行图像分类,以训练计算耗时、最佳训练次数和分类准确率等指标对模型进行定量评估。实验结果表明:相比较单隐层神经网络和深度学习对MNIST手写数字数据集的高维图像信号图像分类,先通过CS技术利用观测数M=235的高斯随机矩阵线性观测得到图像的观测值,再利用单隐层前馈网络对观测值进行图像分类,网络模型的训练计算耗时缩短为13.05 s,最佳训练次数缩短为3次,分类准确率保持97.5%。该算法中的压缩感知线性观测可以有效减少神经网络模型对手写数字数据集的训练计算耗时和最佳训练次数,而且可以保证分类准确率。     

模拟初级视觉皮层增强CNN神经网络结构的稳定性

针对卷积网络模型的稳定性能较差,对抗训练方法会使得网络结构过于复杂并占用大量运算资源的问题,提出了一种基于人体视觉神经系统生物特征的卷积神经网络模型改进方法（VVNet）。在卷积神经网络的基础上,融合人体视觉的结构特征,在不增加网络层数或保持准确率不变的情况下,提高神经网络面对噪声干扰的稳定性。在数据集Cifar10上对3种不同神经网络模型（VVNet,VOneNet以及原网络模型）进行测试。实验结果表明,使用VVNet网络模型、VOneNet网络模型和原始的网络模型DenseNet121对四类图像（噪声图像、模糊图像、遮挡图像和饱和曝光图像）的分类准确率进行对比,验证了提出的VVNet网络结构对不同类型图像的分类准确率几乎不变,在使用对抗样本情况下,VVNet网络结构的图像分类准确率提高了约10%。与深度学习网络相比,基于人体视觉系统结构的网络能够在保持准确率的同时有效地提高神经网络的稳定性,并具有可移植性。