代价敏感卷积神经网络：一种机械故障数据不平衡分类方法

机械设备实际工作过程中正常样本丰富、故障样本匮乏,卷积神经网络在处理这种分布不平衡的数据时对少数类的识别率很低。为解决上述问题,提出一种代价敏感卷积神经网络,首先经过多层卷积和池化运算学习原始监测数据中的机械设备本征性能状态知识;其次通过全连接层将本征性能状态知识映射为机械设备健康状态;最后利用代价敏感损失函数为少数类样本赋予较大的误分类代价,实现对不平衡的机械故障数据的有效分类。为验证所提方法的有效性,使用具有不同不平衡比的刀具数据集和轴承数据集,利用代价敏感卷积神经网络以及主流的分类算法分别测试其对于不平衡数据的分类性能。实验结果表明,所提方法对不平衡数据集中的少数类样本识别率相对于传统卷积神经网络提升了22%以上。     

旋转设备数据不平衡问题的数据生成方法

在旋转设备运行状态监测及故障识别时，采集的样本多为无故障样本，而故障样本较少，这种数据分布的不平衡会严重影响分类器识别的准确性。针对此问题，提出了一种少数样本数据生成方法，即基于傅里叶变换与皮尔逊系数优化的生成对抗神经网络（Fourier-Pearson generative adversarial networks，简称FP-GAN）模型。通过对故障少数样本的扩充，提高故障诊断训练和识别的准确性。首先，使用傅里叶变化得到信号频域的单边谱，使用GAN网络生成信号频域；其次，通过皮尔逊相关系数对生成的数据进行优化；最后，通过傅里叶逆变换获得更接近真实数据的生成数据。仿真和实验数据验证表明，基于FP-GAN生成的数据样本在时域特征、时域统计特征以及分类器分类结果方面都能较好地与已有实际数据融合，可以对小样本数据进行增强，能有效解决数据不平衡问题。     

样本不均衡时轴承故障的非平衡卷积网络诊断

为了提高样本不均衡条件下轴承故障诊断精度,提出了基于VAE-SNN的样本增广方法和基于非平衡损失网络的故障诊断方法。首先,使用变分自编码器用于数据生成,并依据孪生神经网络对生成数据的类别进行判定,实现了基于变分自编码器和孪生神经网络的样本增广;其次,分析了卷积神经网络无差别对待样本的缺点,针对不均衡样本的特殊性,提出了非平衡损失函数卷积网络,该网络能够自动关注数量少、难分的样本训练。经实验验证,生成对抗网络增广的样本相似度为0.847,孪生神经网络增广的样本相似度比对抗网络提高了6.61%,说明孪生神经网络的样本增广效果更好;在相同诊断方法前提下,样本增广后比增广前的准确率提高了9.42%,说明样本增广有利于提高轴承的故障诊断准确率;非均衡损失网络比卷积神经网络的诊断精度提高了7.17%,比自适应深度学习提高了4.12%,验证了非均衡损失网络的高准确率和优越性。     

基于ICEEMDAN与支持向量机的轴承故障诊断方法

针对DF4型机车轮对轴承不同健康状态的辨识问题，提出改进的自适应噪声完备集合经验模态分解(ICEEMDAN)与灰狼寻优算法优化支持向量机(GWO-SVM)结合的故障识别方法。对机车轮对轴承不同故障信号利用ICEEMDAN方法分解为若干模态分量(IMF);根据相关系数准则将IMFs重构出典型的特征信号，并计算不同状态的特征信号在多尺度上的样本熵值，构成多尺度样本熵MSE特征向量；通过灰狼算法对SVM的核参数c和g进行全局寻优，增强SVM模型的分类性能，实现对轴承故障状态的准确识别。采用某局机务段JL-501机车轴承试验台数据验证所提模型的有效性，结果表明：ICEEMDAN-MSE与GWO-SVM结合的机车轮对轴承故障诊断方法能够准确地对轴承健康状态进行识别，准确率达96.86%;与参数自选的SVM模型和CEEMDAN-MSE+GWO-SVM等模型相比，文中所提方法的故障识别率分别提高了23.57%和3.48%。     

基于机器学习的自冲铆接质量在线监测

自冲铆接在新能源汽车生产中应用广泛，但现有的铆接质量监测方法存在操作复杂或可靠性差等问题。通过研究铆钉屈服、板材开裂、铆模开裂和底厚过小等铆接缺陷的特点，基于机器学习算法引入4种模型，学习曲线特征建立监测铆接结果的二元分类器及铆接失败原因的多元分类器。测试结果表明，支持向量机模型具有较高的准确率、召回率、F1值和AUC值，在多元分类中除板件开裂识别率稍低外，各缺陷识别率均较高。     

近似熵与支持向量机在发动机故障识别中的应用研究

针对发动机曲轴轴承极易磨损,导致发动机出现故障的问题,提出了一种基于近似熵与支持向量机相结合的故障诊断方法。发动机在工作过程中,早期故障特征信号微弱。基于此,引入近似熵算法,分别模拟发动机曲轴轴承4种磨损状态,测取各状态下多测点的振动信号样本,计算样本近似熵值,构建了不同状态近似熵故障特征向量。结合支持向量机算法,构造支持向量机故障分类模型,将近似熵特征量带入其中进行训练与测试,测试结果准确率达到97.5%,并与普遍使用的BP神经网络诊断方法进行了对比,结果表明该方法具有更高的诊断识别率,是一种有效且准确率较高的在线诊断方法。     

基于Mixup数据增强的CNN-GRU深度学习电火花线切割放电状态识别

针对电火花线切割放电状态识别中，数据集样本较少导致训练模型准确率不高的问题，提出基于Mixup数据增强的CNN-GRU网络算法。该算法首先使用Mixup数据增强对原始的电火花波形数据进行数据增强，通过线性插值对数据进行混合，得到新的扩容之后的数据集；随后使用增强的数据集训练CNN-GRU模型，并用该模型进行分类。经实验表明，使用Mixup数据增强的CNN-GRU模型能有效的识别出数据中的“时序特征”与“局部特征”，且模型的准确率达到了96%。     

采用SVM的磨粒分类识别方法研究

为克服传统磨粒识别分类器训练时需要大量特征样本的缺点,设计一种基于多元支持向量机(Multi-Support Vector Machine,Multi-SVM)的磨粒识别分类器.支持向量机(SVM)是一种新的机器学习方法,在小样本和高维二元分类方面有非常突出的优点.实验证明,依据此优点设计的多元支持向量机磨粒分类器模型,不仅可以在小样本情形下对模型进行快速训练,而且可以快速识别多种磨粒类型,同时识别率也比传统的神经网络方法有较大提高,从而达到了提高设备监测和故障诊断效率的目的.     

基于PSO改进BP神经网络算法的金属表面缺陷分类

为了实现金属工件表面缺陷在线检测,利用CCD传感器和图像处理技术,对金属工件表面孔洞、划伤和壳状凸起等缺陷进行特征提取与分类。采用自适应阈值分割法对预处理图像进行缺陷特征分割,运用BP神经网络建立对样本的缺陷特征向量和缺陷分类结果的网络预测模型,为了提高网络模型的精确度,采用PSO算法改进BP神经网络的权值和阈值,通过实验样本验证和对比BP和PSO-BP模型的准确率和平均误差,试验结果表明基于PSO-BP算法的金属表面缺陷分类准确率达到85%以上,获得了更优的分类效果。     

PNN与BP神经网络在钢板表面缺陷分类中的应用研究

针对钢板表面缺陷图像信噪比低、特征复杂多变而导致现有的钢板表面缺陷模式识别与分类方法存在的实时性差、精度低、适应性差等问题,研究了基于人工神经网络的分类器,以实现对钢板表面缺陷进行实时有效的分类识别。根据钢板表面划痕、麻点、夹杂、锈蚀、辊印5类缺陷的特点,从缺陷图像信号中提取了几何特征、灰度特征和Hu矩特征,选取了能够比较全面表征缺陷特征信息的13维特征向量作为神经网络的输入数据,为缺陷识别和分类提供了依据。分别构造了概率神经网络PNN和BP神经网络分类器,对钢板的表面缺陷进行了分类测试,并对测试结果进行了对比分析。实验结果表明,PNN和BP神经网络的识别率分别为87%和81%。PNN在识别准确率、训练速度、追加样本的能力等几方面的综合性能优于BP神经网络。     

模拟初级视觉皮层增强CNN神经网络结构的稳定性

针对卷积网络模型的稳定性能较差,对抗训练方法会使得网络结构过于复杂并占用大量运算资源的问题,提出了一种基于人体视觉神经系统生物特征的卷积神经网络模型改进方法（VVNet）。在卷积神经网络的基础上,融合人体视觉的结构特征,在不增加网络层数或保持准确率不变的情况下,提高神经网络面对噪声干扰的稳定性。在数据集Cifar10上对3种不同神经网络模型（VVNet,VOneNet以及原网络模型）进行测试。实验结果表明,使用VVNet网络模型、VOneNet网络模型和原始的网络模型DenseNet121对四类图像（噪声图像、模糊图像、遮挡图像和饱和曝光图像）的分类准确率进行对比,验证了提出的VVNet网络结构对不同类型图像的分类准确率几乎不变,在使用对抗样本情况下,VVNet网络结构的图像分类准确率提高了约10%。与深度学习网络相比,基于人体视觉系统结构的网络能够在保持准确率的同时有效地提高神经网络的稳定性,并具有可移植性。     

基于主动生成式过采样和深度堆叠网络的轴承故障诊断

针对数据不平衡分类问题，提出了一种基于主动生成式过采样与深度堆叠网络(DSN)的故障诊断方法。首先，在带有分类器的生成式对抗网络(ACGAN)的训练过程中，将Wasserstein距离作为新目标函数，为生成器提供有效梯度，并根据损失值之比自适应地调整迭代过程中生成器与判别器的训练次数，克服训练不协调所导致的模型收敛困难，以提高ACGAN的训练稳定性，改善生成样本的质量。其次，采用基于委员会查询(QBC)的主动学习算法，并设计多样性评价指标Diversity,对ACGAN生成的高信息熵样本进行二次筛选，以保证所挑选样本的多样性；同时利用筛选出的样本训练判别器，引导生成器生成信息量丰富的少数类样本。最后，在平衡数据集的基础上，训练基于DSN的故障分类模型。通过对比实验验证了所提出方法的有效性。     

管道腐蚀缺陷超声信号的PSO-SVM模式识别研究

针对金属管道腐蚀问题,提出了一种基于支持向量机(Support vector machine,SVM)与粒子群优化(Particle swarm optimization,PSO)相结合的管道腐蚀缺陷的分类方法。对预处理后的超声缺陷信号进行经验模态分解(Empirical mode decomposition, EMD),提取相应的时域无量纲参数作为特征向量;建立SVM缺陷分类模型,并采用PSO算法优化SVM参数,提高模型的缺陷分类准确率。实验证明,该方法建立的模型针对不同深度的超声缺陷信号的识别率达到87.5%,优于相同试验样本下BP神经网络和RBF神经网络的分类准确率。     

迁移学习在热轧钢带表面缺陷分类中应用研究

为了提高热轧钢带表面缺陷分类的检测准确率和速度,同时鉴于热轧钢带缺陷的数据库规模较小,提出结合参数迁移学习的卷积神经网络模型,来解决少量样本导致网络过拟合和精度低的问题。使用源域的最优参数作为模型的参数初始化,节省训练的周期;构建训练目标域的神经网络模型,使用预训练模型网络中的参数和结构,对目标域进行特征迁移;进行finetune,结合inception-v3结构的全连接层映射到目标域所需要的特征向量维度。实验使用现有热轧钢带表面缺陷数据库中的图片,有6类缺陷。通过对比改进AlexNet模型和结合迁移学习的模型,在测试集的实验平均准确率分别约为96.6%,99.8%,分类效果优于传统视觉分类算法。并且在实验中观察到结合参数迁移学习的损失更小和权重收敛速度更快。     

基于SVM-AdaBoost的道岔控制电路故障诊断方法研究（英文）

为实现铁路信号全电子计算机联锁系统控制电路的故障诊断,以五线制道岔全电子控制模块为例,提出了采用轮盘赌转法选择基本分类器的样本集,采用SVM-AdaBoost算法实现故障诊断的方法。实验结果表明,基本分类器样本占比影响分类准确率,样本占比为85%时准确率最高;轮盘赌转法选择基本分类器的样本集后故障诊断准确率普遍高于最大权重优先的方式,准确率达96.3%;同时该方法能更好地适应临界数据,提高算法抗干扰能力。因此本论文的研究内容可为全电子计算机联锁系统的故障诊断提供依据。     

类内-类间通道注意力少样本分类

针对元学习少样本分类样本特征鉴别能力不足的问题，提出了一种类内-类间通道注意力少样本分类方法（Intrainter Channel Attention Few-shot Classification, ICAFSC）。ICAFSC在原型网络基础上设计了一个类内-类间通道注意力模块，该模块通过类内-类间距离度量计算通道权重实现特征加权，提高特征对类别的鉴别能力。为了克服直接在元训练阶段学习类内-类间通道注意力模块容易出现过拟合或欠拟合现象的问题，ICAFSC在原型网络的元训练之前增加一个预训练阶段。该阶段设计具有大量标记样本的分类任务，并利用这些任务充分训练类内-类间通道注意力模块，促使该模块达到较优的状态。在原型网络的元训练和元测试阶段，ICAFSC冻结类内-类间通道注意力模块的参数，分别实现少样本分类经验的学习与迁移。在MiniImagenet数据集上分别开展了1-shot和5-shot的少样本分类实验。实验结果表明：本文提出的类内-类间通道注意力少样本分类方法与原型网络相比，在1-shot和5-shot条件下分类准确率分别提高了1.93%和1.15%。     

基于cGAN的刀具磨损状态监测数据集增强方法

在刀具磨损过程中,通常采集的正常磨损阶段的样本数据比初始磨损阶段和急剧磨损阶段的样本数据量多,这导致刀具磨损状态数据集不平衡,从而使深度学习网络模型对刀具磨损状态预测准确性降低。针对问题,文章提出一种基于cGAN的刀具磨损状态监测数据集增强方法。在cGAN中添加了类别条件信息,有利于生成器更好的捕捉刀具磨损样本的数据分布特点,从而生成和真实刀具磨损样本分布相似的样本。采集铣削加工过程中的振动信号,将振动信号转换成频谱数据输入到c GAN中,cGAN通过生成器和鉴别器之间的对抗训练,学习数据分布特点,生成刀具磨损状态样本数据。将增强的数据集输入到深度学习网络模型中进行分类,测试生成数据的可用性。实验结果显示,由增强的刀具磨损状态数据集训练深度学习网络模型,可以有效提高模型对刀具磨损状态监测的准确性,其预测精度达到98.1%。     

基于ISSAE和XGBoost的滚动轴承故障诊断研究

为了提高滚动轴承的故障诊断准确率,并增强诊断模型的抗噪性能,提出了一种基于改进堆栈稀疏自编码(ISSAE)网络和极端梯度提升(XGBoost)相结合的轴承故障诊断方法(ISSAE网络将多个稀疏自编码(SAE)网络堆叠,增强了自编码网络提取数据深层特征的能力,通过改进网络损失函数提高了网络抗噪性能)。首先,将轴承测量信号输入到使用Adam算法优化的ISSAE网络中;网络对输入信号进行重构并自行学习,提取出了测量信号的内在特征。然后,将特征值输入到XGBoost模型中,通过网格搜索法调节参数,对故障诊断分类器模型进行了训练。最后,将轴承故障测试集输入到训练好的ISSAE-XGBoost模型中,完成了对故障类型的自动识别;采用多个实验平台的不同轴承实验数据,验证了该算法的有效性和适用性。研究结果表明:相比于SSAE-XGBoost和ISSAE-SVM算法,该方法对轴承故障识别率高、适用性强,在大样本数量情况下,识别率达到99%以上,即使在样本数量较少时,也具有较高的识别准确率;该算法通过在网络中改进损失函数,可使模型抑制微小扰动的干扰,对含有噪声的测量信号,仍能保持较高的故障诊断准确率。     

基于支持向量机的铁谱磨粒模式识别

将支持向量机方法用于铁谱磨粒模式识别，以磨粒样本的圆形度、细长度、散射度和凹度4个形态特征量作为支持向量机分类器的输入，以滑动磨损、切削磨损、正常磨损和疲劳点蚀4种磨损形式作为分类器的输出，建立基于支持向量机的磨粒分类器；研究支持向量机中误差惩罚系数和核参数对磨粒分类器的性能影响；通过实验比较了基于支持向量机与基于BP神经网络的磨粒分类器的性能，结果表明，基于支持向量机的磨粒分类器分类准确率为96％，基于BP神经网络的磨粒分类器分类准确率为90％。     

面向石质文物裂隙的超声定位系统及算法研究

面向石质文物多年风化、干裂，急需修复的场景，针对深度学习在文物裂隙检测应用中的不足，提出一种基于缺陷特征增强和卷积神经网络(CNN)的石质文物缺陷定位算法。算法通过小波包分解进行特征提取并选择包含丰富特征信息的有效频段，作为CNN网络的输入，通过模型训练和波形分类识别，缩小定位范围，提高缺陷定位算法的泛化能力和识别率。本文搭建了以现场可编程门阵列(FPGA)为核心的超声检测平台，并在边长为40 cm的立方体试件上进行了实验验证，实验结果表明，波形识别准确率相较传统算法提高了11.3%,平均定位误差小于10%,为石质文物裂隙检测提供了可靠依据，有助于文物保护和修复。