基于子领域自适应的变工况下滚动轴承故障诊断

针对变工况环境下采集到的滚动轴承振动数据特征分布不一致及待诊断样本标签较难获取的问题,提出了一种子领域自适应的深度迁移学习故障诊断方法.首先,为充分利用卷积神经网络图像特征提取能力,将滚动轴承振动信号采用连续小波变换生成图像数据集;其次,源域与目标域通用特征提取采用改进图像集预训练的ResNet-50网络结构,子领域自...     

基于类对比簇分配异构迁移学习的 空间滚动轴承寿命阶段识别

针对变工况条件下因样本数据分布差异大、可训练用样本较少以及不同寿命阶段样本数量不均等所造成的空间滚动轴承寿命阶段识别准确率较低的问题，提出一种新型无监督迁移学习方法——类对比簇分配异构迁移学习(class-contrast cluster-allocation heterogeneous transfer learning, CAHTL)。在CAHTL中，通过异构迁移学习将历史工况下少量有类标签样本和当前工况的无类标签样本（即待测样本）迁移到公共特征空间内，使得不同工况样本之间的分布差异最小化；利用源域聚类簇点构建目标域样本特征的正负样本实现两域样本的数量再分配，再对两域正负样本进行对比学习以使待测样本具有更好分类性；通过计算待测样本与聚类簇点的相似度完成待测样本分类，且该分类过程无需参数学习，因此可防止样本不均等情况下对于不同寿命阶段样本识别准确率差距过大和在少有类标签训练样本情况下网络出现过拟合的问题；利用随机梯度下降和动量更新对CAHTL参数进行不同步更新，以保持样本特征的一致性并提高CAHTL的收敛速度。CAHTL可利用空间滚动轴承历史工况下的少量、非均等的已知寿命阶段的训练样本来对当前工况的待测样本进行较高精度的寿命阶段识别。空间滚动轴承寿命阶段识别实例验证了该方法的有效性。     

结合卷积神经网络和迁移学习的电机轴承故障诊断方法

针对轴承故障在变工况下有效数据样本不足时故障诊断效果不佳的问题，提出了一种基于卷积神经网络和迁移学习的电机轴承故障诊断方法。首先，将采集到的原始振动信号进行小波变换，得到有利于卷积神经网络训练的彩色二维时频图；其次，构建卷积神经网络，通过训练确定结构和参数，利用数据增强和Dropout机制抑制过拟合；最后，引进迁移学习，冻结训练好后的网络底层结构，用不同工况的小样本数据对网络的顶层结构进行微调。实例分析证明，小波变换和卷积神经网络结合的方式能实现特征自动提取并高度有效地利用样本，迁移学习的引入能实现其他工况下小样本的准确分类，解决实际工程应用中样本不足时故障诊断效果不佳的问题。     

重构迁移学习的红外目标分类

红外图像目标分类在目标识别等领域有重要的应用价值,目前卷积神经网络在可见光图像分类方面达到了优异的性能。但对于红外图像来说,由于有标记样本数量少和图像成像差异大,直接使用现有的网络模型来处理红外图像无法取得理想效果。该文将可见光图像作为源域,将红外图像作为目标域,在深度网络中使用迁移学习方法来解决此问题。在迁移学习中,目标域网络提取的特征越能体现出本域数据的真实分布,那么在此基础上进行两个域的分布适配就更加有效,迁移后的目标域网络性能和泛化能力越好。该文首先利用大量无监督的红外样本训练了红外图像深度卷积自编码器,增强了红外图像域网络的特征表达能力。其次,通过减小源域和目标域的特征分布距离,使得两个图像域特征分布相似,从而将源域中深度网络的学习能力迁移到目标域。经过上述改进,相比于可见光图像预训练微调的方法,分类准确率提升了11.27%。     

多阶段特征重分布算法的小样本目标检测

深度神经网络在目标检测任务上需要训练大量的标签数据,然而在许多实际应用场景中标签数据难以获取。针对这一问题,提出了一种面向小样本目标检测的多阶段特征重分布算法(MSFR)。该算法通过对特征向量进行重分布变换,解决了小样本任务下源域数据和目标域数据分布不一致的问题;通过多阶段学习策略将源域知识逐步迁移到小样本目标任务中,进一步提高知识迁移效率。在VOC数据集上的大量实验表明,与现有小样本目标检测算法相比,该算法在不同任务上的精度最高提升了9.06%。该算法在大幅提高小样本目标域类别检测性能的同时,较大限度地保持了对源域类别的检测精度,具有较大的实用价值。     

基于ECAProNet模型的小样本变工况轴承故障诊断

针对小样本变工况轴承故障诊断中易出现过拟合的问题,提出一种在原型网络(ProNet)中加入高效通道注意力机制(ECA)的轴承故障诊断方法(ECAProNet)。基于度量学习的思想,在改进原型网络框架下将通过特征提取模块的样本信号映射至特征度量空间,在该空间内确定查询样本与各类原型间的欧式距离,得到损失函数,进而优化特征提取网络框架;为达到元学习目的,采用基于episodes的训练策略,将算法泛化到不同工况的测试诊断中。在CWRU数据集上设置5-way 5-shot和5-way 1-shot验证实验,结果表明,ECAProNet在小样本变工况轴承故障诊断中表现出较好的性能。     

基于特征选择和时间卷积网络的工业控制系统入侵检测

针对工业控制系统流量数据存在特征冗余及深度学习模型对较小规模数据集检测能力较差的问题,提出了一种基于特征选择和时间卷积网络的工业控制系统入侵检测模型。首先,对源域数据集的异常特征和样本不平衡数据进行处理,提高源域数据集质量。其次,针对流量数据的特征冗余,利用信息增益率和主成分分析法构建IGR-PCA特征选择算法,筛选出最优特征子集实现数据降维。然后,根据工业控制系统流量数据的时间序列特性,在较大规模的源域数据集上,利用时间卷积网络（temporal convolution network,TCN）对时间序列数据优异的处理能力,构建源域时间卷积网络预训练模型。最后,在较小规模的目标域数据集上,结合迁移学习（transfer learning,TL）微调策略,获取源域样本数据的流量特征,构建目标域TCN-TL模型。利用公开的工业控制系统数据集进行实验测试,实验结果表明：流量数据经本文特征算法处理后,相较于其他方法,在降低数据维度减少计算量的同时仍具有良好的检测效果;在较大规模的源域数据集和较小规模的目标域数据集上,本文模型均取得了良好的检测效果,在目标域中利用迁移学习微调策略能够学习到源域中的知识,模型检测准确率为99.06%,在训练时间对比中,本文模型训练时间消耗更少,具有更好的泛化能力,能够更好地保护工业控制系统安全。     

基于迁移学习的SAR图像车辆目标识别方法研究

针对卷积神经网络因参数随机初始化引起的收敛慢和过拟合的问题,提出了一种基于迁移学习的卷积神经网络模型.将小样本的数据作为源域的训练样本,将源域训练得到的模型的参数作为目标域模型的初始参数,大样本数据作为目标域的训练样本进行网络微调,实现从源域到目标域的信息迁移.在卷积神经网络中采用神经元丢弃法和组合小卷积核代替大卷积核的方式,减少网络的参数,加快收敛速度,并且抑制过拟合问题.实验采用移动与静止目标搜索识别数据集,该数据集分为十类合成孔径雷达图像车辆目标,以数据集中的三类目标数据作为源域训练样本,十类目标数据作为目标域训练样本,实验结果表明,提出的方法在十类目标识别精度上达到了98.39％,同时具有较快的收敛速度.     

基于多尺度卷积神经网络的变压器故障诊断方法

为了提高变压器故障识别的诊断精度,提出一种基于多尺度卷积神经网络模型的变压器故障诊断方法。首先,在1DCNN结构基础上设计2个多尺度卷积模块,构造变压器故障识别模型的总体结构。其次,针对样本特征较少问题,采用基于比值法的特征扩充方法,将样本特征由5维增强至25维;针对故障样本量少以及故障间样本数分布不平衡问题,采用基于对抗生成网络的样本数增强方法,生成大量模拟样本。最后,利用改造后的数据集对所设计的模型进行训练与测试。结果表明,模型平均准确率为93.24%,与相关主流方法在不同数据集下实验对比,本模型表现效果良好。     

基于域对抗网络和BERT的跨领域文本情感分析

跨领域文本情感分析时,为了使抽取的共享情感特征能够捕获更多的句子语义信息特征,提出域对抗和BERT(bidirectional encoder representations from transformers)的深度网络模型。利用BERT结构抽取句子语义表示向量,通过卷积神经网络抽取句子的局部特征。通过使用域对抗神经网络使得不同领域抽取的特征表示尽量不可判别,即源领域和目标领域抽取的特征具有更多的相似性;通过在有情感标签的源领域数据集上训练情感分类器,期望该分类器在源领域和目标领域均能达到较好的情感分类效果。在亚马逊产品评论数据集上的试验结果表明,该方法具有良好的性能,能够更好地实现跨领域文本情感分类。     

基于滚动轴承故障诊断的类间排斥松弛判别迁移学习

针对滚动轴承实际变工况条件使得新工况样本的类标签很难甚至无法获取,导致故障诊断精度较低问题,提出基于类间排斥力判别迁移学习(Inter-Class Repulsive Force Discriminant Transfer Learning, IRFDTL)的故障诊断方法。在所提出的IRFDTL中,构造了非负扩展松弛矩阵将严格二进制标签矩阵转化为扩展松弛标签矩阵以减少辅助域分类误差并提高IRFDTL的泛化能力;引入了联合分布差异减小辅助域和目标域之间的差异以更好地实现两域的跨域迁移学习;并构造了类间排斥力项来增大两域中某类标签子域样本到其它类标签子域样本之间的距离以促进类判别学习;最后,采用交替方向乘子法对IRFDTL的整体框架进行优化。由于以上优势,IRFDTL能在新工况样本的类标签不存在情况下,仅利用历史工况中的有标签样本来对新工况待测样本进行较高精度的类判别,因而基于IRFDTL的故障诊断方法能对新工况待测样本进行较高精度故障诊断。滚动轴承故障诊断实例验证了该方法的有效性。     

深度神经网络在滚动轴承故障诊断中的应用

为了对滚动轴承发生的故障类型进行诊断,从而提升设备的安全性,提出了一种基于深度残差神经网络的智能故障诊断方法,并使用多传感器融合技术对深度残差神经网络进行了改进,使得诊断模型的识别精度和鲁棒性得到进一步提高.首先,通过多传感器技术来获取丰富的设备运行状态信息,然后利用时频分析方法短时傅里叶变换提取原始振动信号的初级特征信息,最后利用深度残差网络的强大学习能力,进一步提取初级特征信息中的高级特征信息,并识别设备的故障类型,从而实现滚动轴承的故障诊断.为了验证所提出方法的有效性,使用滚动轴承实验数据对方法进行了测试,同时与基于深度卷积神经网络和单传感器故障诊断模型进行对比,研究结果表明,提出的智能方法不仅能对故障进行准确识别,而且具有相当良好的泛化能力和抗噪能力,其故障精度达到了100%,在单传感器或多传感器受到强噪声干扰时,分别实现诊断精度至少为93.78%和82.54%.     

基于特征筛选和集成学习的轴承故障诊断

为了提高不同工况下的轴承故障诊断准确率,提出了一种基于特征筛选和集成学习的轴承故障诊断方法。考虑到特征向量复杂冗余的问题,结合特征有效性和最大均值差异提出了新的特征评分函数,并在此基础上进一步考虑特征关联度和特征维度,筛选出有利于变工况故障诊断的特征子集。针对单一机器学习模型故障诊断准确率不高的问题,将AdaBoost和Stacking算法相结合构造集成学习故障诊断模型。实验结果表明:筛选出的特征子集在相同分类器下拥有更高的故障诊断准确率;集成学习模型相较于单一模型有更高的故障诊断准确率和鲁棒性。     

基于层次化混合分类器的含未知故障风机轴承故障诊断方法

为提高风机轴承故障诊断精度,针对含未知类型故障信号的误识别问题,提出一种风机轴承故障诊断新方法。首先,将风机轴承振动信号进行经验小波变换（EWT）,对分解得到的固有模态分量（IMF）提取15种时-频域特征,构建特征向量集;然后,通过基尼（Gini）指数评价特征分类能力,构建最优特征集合;最后,采用单类支持向量机（OCSVM）与极限学习机（ELM）组合的层次化混合分类器进行故障诊断。对比单纯采用ELM、SVM分类器,新方法能够更好辨识含未知故障类型的风机轴承故障信号。     

无监督域适应的表示学习算法

在传统模式识别的训练方法中,拥有大量标签的有监督学习方法在识别准确率上取得了很好的效果.然而在实际生活中样本常常缺失标签,或现存有标签的样本与目标样本具有较大分布差异而不能直接使用.为了解决这些问题,无监督域自适应算法应运而生,借助源域有标签但不同分布的样本去识别无标签的目的域样本.针对目标识别样本与训练样本分布不一致...     

基于深度学习的机械轴承故障智能诊断

智能故障诊断对于提高智能制造的可靠性具有重要意义。基于深度学习的故障诊断方法在工业领域已经取得了很大的成功,但是不同的模型提取的特征存在一定的差异。针对数据特征提取不全面等问题,提出一种基于深度学习的融合网络模型(CLOD)。首先通过傅里叶变换对故障信号进行时频分析,得到时频谱样本,然后将样本送入经过LSTM模型和改进的CNN模型融合后的卷积网络模型(CLOD)中训练学习,最后通过更新网络参数来提高模型性能,实现轴承故障精确智能诊断。与传统方法比较,CLOD在保证准确率的基础上,极大的增加了模型的拟合速度和稳定性。     

Deep Multimodal Learning and Fusion Based Intelligent Fault Diagnosis Approach

Industrial Internet of Things(IoT) connecting society and industrial systems represents a tremendous and promising paradigm shift. With IoT, multimodal and heterogeneous data from industrial devices can be easily collected, and further analyzed to discover device maintenance and health related potential knowledge behind. IoT data-based fault diagnosis for industrial devices is very helpful to the sustainability and applicability of an IoT ecosystem. But how to efficiently use and fuse this multimodal heterogeneous data to realize intelligent fault diagnosis is still a challenge.In this paper, a novel Deep Multimodal Learning and Fusion(DMLF) based fault diagnosis method is proposed for addressing heterogeneous data from IoT environments where industrial devices coexist. First, a DMLF model is designed by combining a Convolution Neural Network(CNN) and Stacked Denoising Autoencoder(SDAE) together to capture more comprehensive fault knowledge and extract features from different modal data. Second, these multimodal features are seamlessly integrated at a fusion layer and the resulting fused features are further used to train a classifier for recognizing potential faults. Third, a two-stage training algorithm is proposed by combining supervised pre-training and fine-tuning to simplify the training process for deep structure models. A series of experiments are conducted over multimodal heterogeneous data from a gear device to verify our proposed fault diagnosis method. The experimental results show that our method outperforms the benchmarking ones in fault diagnosis accuracy.     

基于迁移学习的跨域异常流量检测

基于已知数据的机器学习模型在实际异常流量检测任务中不完全可靠,为此,将不同分布的流量分别作为源域和目标域,建立跨域网络异常流量检测框架,提出了基于联合分布适配的迁移学习方法.通过寻找最优变换矩阵、适配源域与目标域之间的条件概率和边缘概率,实现源域与目标域间的特征迁移,从而解决由于源域与目标域分布差异大所引起的检测准确率下降等问题.实验结果表明,所提方法可以显著提升跨域流量的检测准确率.