基于卷积神经网络的滚动轴承故障诊断方法

为了简单、准确地进行轴承故障诊断,结合深度学习理论,对基于卷积神经网络的滚动轴承故障诊断方法进行了研究;首先,选用了结构相对简单的LeNet5卷积神经网络;然后,对轴承振动信号原始数据进行截取和归一化处理后直接生成生成二维矩阵作为神经网络输入;接着,优选卷积核大小、批大小、学习率及迭代次数等网络模型参数;最后,应用sigmoid函数进行多标签分类;实验结果表明,该方法能有效识别正常状态及不同损伤程度下的内圈、外圈、滚动体故障状态,识别准确率达到99.50%以上水平;基于卷积神经网络的滚动轴承故障诊断方法不仅在一定程度上可以简化故障诊断的过程,而且可以充分利用卷积神经网络模型的优势实现高效准确地故障诊断。     

改进注意力机制的滚动轴承故障诊断方法研究

针对滚动轴承在实际工作环境中噪声较大和负载变化的问题,提出一种基于双注意卷积机制的残差神经网络(Double attention convolution mechanism ResNet,DACM_ResNet)轴承故障诊断方法：首先,对滚动轴承振动信号进行短时傅里叶变换(short-time Fourier transform,STFT)并使用伪彩色处理得到三通道图像数据；然后,对残差神经网络在轴承故障诊断上进行研究,在残差单元的卷积层之后,使用DACM模块,将残差特征在通道和空间维度上进行进一步提取,最后,在凯斯西储大学(CWRU)数据集上进行试验验证,试验结果表明所提出的方法在噪声环境下及负载变化时,平均诊断准确率达到了98%以上,说明所提出的模型有较好的鲁棒性。     

基于AC-CNN模型的过程故障识别

针对复杂工业过程中故障变量特征提取效率低,分类数量较少且故障识别率较低等问题,提出基于非对称卷积核(asymmetric convolutions)的卷积神经网络(CNN)的工业过程故障识别模型。采取故障变量重构对故障数据进行预处理;引入非对称卷积核模型对重构后的输入故障变量进行特征提取,提高特征提取的效率;根据CNN模型改进得到具有AC架构的AC-CNN模型,识别TE (田纳西-伊斯曼)过程故障的在线测试集样本,实验结果表明,所提方法对TE过程故障数据集的识别效果明显,验证了模型的有效性和优异性。     

多通道卷积的图像超分辨率方法

目的 超分辨率技术在实际生活中具有较为广泛的应用。经典的基于卷积神经网络的超分辨率（SRCNN）方法存在重建图像纹理结构模糊以及网络模型训练收敛过慢等问题。针对这两个问题,在SRCNN的基础上,提出一种多通道卷积的图像超分辨率（MCSR）算法。方法 通过增加残差链接,选择MSRA初始化方法对网络权值进行初始化,加快模型收敛;引入多通道映射提取更加丰富的特征,使用多层3×3等小卷积核代替单层9×9等大卷积核,更加有效地利用特征,增强模型的超分辨率重构效果。结果 MCSR迭代4×10⁶次即可收敛,在Set5与Set14数据集上边长放大3倍后的平均峰值信噪比分别是32.84 dB和29.28 dB,与SRCNN相比提升显著。结论 MCSR收敛速度更快,并且可以生成轮廓清晰的高分辨率图像,超分辨率效果更加优秀。     

对抗型半监督光伏面板故障检测

目的 传统的光伏面板故障检测主要依靠人工巡检,效率低下且误检率很高,而流行的基于机器视觉的智能检测方法又面临缺少大量负样例造成故障检测模型准确性偏低的问题。针对上述问题,本文提出一种基于对抗训练的半监督异常检测模型,通过应用梯度中心化（gradient centralization,GC）和Smooth L1损失函数,使模型具有更好的准确性和鲁棒性。方法 通过构建半监督异常检测模型并定义目标函数,将正常的光伏面板图像作为正样例原图输入半监督异常检测模型进行模型训练。然后将待测光伏面板图像输入到训练好的半监督异常检测模型,生成该待测图像对应的重建图像。最后通过计算待测原图像与其重建图像隐空间向量之间的误差来判断该待测光伏面板是否存在异常。结果 本文以浙江某光伏电站采集的光伏面板为实验对象,将本文方法与Pre-trained VGG16（Visual Geometry Group 16-layer network）、AnoGAN （anomaly generative adversarial network）、GANomaly等方法进行比较,AUC （area under curve）分别提高了0.12、0.052和0.033。结论 实验结果证明,本文提出的基于生成对抗网络的半监督异常检测模型大幅提高了光伏面板故障检测的准确率。     

基于压缩采集与CNN的风电机轴承故障诊断

针对传统风电机轴承故障检测存在的采样数据量大、故障特征依赖主观选取的问题,提出了风电机轴承故障的信号压缩采集、自动提取特征及故障诊断的方法,解决了风电机轴承振动信号特征提取计算复杂、受先验知识影响较大的问题.首先基于梯度加速法(NAG)和QR分解理论对随机高斯观测矩阵进行优化,实现风电机轴承振动信号压缩采集;然后将压缩...     

You can get smaller: A lightweight self-activation convolution unit modified by transformer for fault diagnosis

The fault diagnosis methods based on convolutional neural network (CNN) have achieved many excellent results. However, owing to the deployment cost, numerous CNNs with large parameters are difficult to be directly applied to industrial practice. Therefore, this work aims to use lower parameters (order of magnitude is thousand) to complete the task of bearing fault diagnosis on the premise that the model has high-accuracy. To achieve this goal, a convolution unit modified by transformer was proposed, who is based upon the self-activation function, which makes the transformer and CNN organically integrated into a whole. Then, based on this unit, a series of novel lightweight diagnosis frameworks were proposed, named SANet. Finally, it was demonstrated that the proposed SANet can complete the high-accuracy diagnosis task with less than three thousand parameters and has strong robustness to noise (Average accuracy in various noise environments: 84.55%), and that SANet can achieve satisfactory results when there are few training samples (The number of samples of each category is 3 × 4), through four research cases. To sum up, based on this novel unit, we provide a series of lightweight frameworks with high-accuracy, strong robustness, and low sample demand, which is expected to promote the process of fault diagnosis technology from theoretical research to industrial practice.     

Polarimetric synthetic aperture radar image segmentation by convolutional neural network using graphical processing units

Image segmentation is an important application of polarimetric synthetic aperture radar. This study aimed to create an 11-layer deep convolutional neural network for this task. The Pauli decomposition formed the RGB image and was used as the input. We created an 11-layer convolutional neural network (CNN). L-band data over the San Francisco bay area and C-band data over Flevoland area were employed as the dataset. For the San Francisco bay PSAR image, our method achieved an overall accuracy of 97.32%, which was at least 2% superior to four state-of-the-art approaches. We provided the confusion matrix over test area, and the kernel visualization. We compared the max pooling and average pooling. We validated by experiment that four convolution layers perform the best. Besides, our method gave better results than AlexNet. The GPU yields a 173× acceleration on the training samples, and a 181× acceleration on the test samples, compared to standard CPU. For the Flevoland PSAR image, our 11-layer CNN also gives better overall accuracy than five state-of-the-art approaches. The convolutional neural network is better than traditional classifiers and is effective in remote sensing image segmentation.     

多特征融合的文档图像版面分析

目的 在文档图像版面分析上,主流的深度学习方法克服了传统方法的缺点,能够同时实现文档版面的区域定位与分类,但大多需要复杂的预处理过程,模型结构复杂。此外,文档图像数据不足的问题导致文档图像版面分析无法在通用的深度学习模型上取得较好的性能。针对上述问题,提出一种多特征融合卷积神经网络的深度学习方法。方法 首先,采用不同大小的卷积核并行对输入图像进行特征提取,接着将卷积后的特征图进行融合,组成特征融合模块;然后选取DeeplabV3中的串并行空间金字塔策略,并添加图像级特征对提取的特征图进一步优化;最后通过双线性插值法对图像进行恢复,完成文档版面目标,即插图、表格、公式的定位与识别任务。结果 本文采用mIOU（mean intersection over union）以及PA（pixel accuracy）两个指标作为评价标准,在ICDAR 2017 POD文档版面目标检测数据集上的实验表明,提出算法在mIOU与PA上分别达到87.26%和98.10%。对比FCN（fully convolutional networks）,提出算法在mIOU与PA上分别提升约14.66%和2.22%,并且提出的特征融合模块对模型在mIOU与PA上分别有1.45%与0.22%的提升。结论 本文算法在一个网络框架下同时实现了文档版面多种目标的定位与识别,在训练上并不需要对图像做复杂的预处理,模型结构简单。实验数据表明本文算法在训练数据较少的情况下能够取得较好的识别效果,优于FCN和DeeplabV3方法。     

融入混合注意力的可变形空洞卷积近岸SAR小舰船检测

目的 在近岸合成孔径雷达(synthetic aperture radar, SAR)图像舰船检测中,由于陆地建筑及岛屿等复杂背景的影响,小型舰船与周边相似建筑及岛屿容易混淆。现有方法通常使用固定大小的方形卷积核提取图像特征。但是小型舰船在图像中占比较小,且呈长条形倾斜分布。固定大小的方形卷积核引入了过多背景信息,对分类造成干扰。为此,本文针对SAR图像舰船目标提出一种基于可变形空洞卷积的骨干网络。方法 首先用可变形空洞卷积核代替传统卷积核,使提取特征位置更贴合目标形状,强化对舰船目标本身区域和边缘特征的提取能力,减少背景信息提取。然后提出3通道混合注意力机制来加强局部细节信息提取,突出小型舰船与暗礁、岛屿等的差异性,提高模型细分类效果。结果 在SAR图像舰船数据集HRSID(high-resolution SAR images dataset)上的实验结果表明,本文方法应用在Cascade-RCNN(cascade region convolutional neural network)、YOLOv4(you only look once v4)和BorderDet(border d...     

面向SAR目标识别的深度卷积神经网络结构设计

目的 针对用于SAR （synthetic aperture radar） 目标识别的深度卷积神经网络模型结构的优化设计难题,在分析卷积核宽度对分类性能影响基础上,设计了一种适用于SAR目标识别的深度卷积神经网络结构。方法 首先基于二维随机卷积特征和具有单个隐层的神经网络模型-超限学习机分析了卷积核宽度对SAR图像目标分类性能的影响;然后,基于上述分析结果,在实现空间特征提取的卷积层中采用多个具有不同宽度的卷积核提取目标的多尺度局部特征,设计了一种适用于SAR图像目标识别的深度模型结构;最后,在对MSTAR （moving and stationary target acquisition and recognition） 数据集中的训练样本进行样本扩充基础上,设定了深度模型训练的超参数,进行了深度模型参数训练与分类性能验证。结果 实验结果表明,对于具有较强相干斑噪声的SAR图像而言,采用宽度更大的卷积核能够提取目标的局部特征,提出的模型因能从输入图像提取目标的多尺度局部特征,对于10类目标的分类结果（包含非变形目标和变形目标两种情况）接近或优于已知文献的最优分类结果,目标总体分类精度分别达到了98.39%和97.69%,验证了提出模型结构的有效性。结论 对于SAR图像目标识别,由于与可见光图像具有不同的成像机理,应采用更大的卷积核来提取目标的空间特征用于分类,通过对深度模型进行优化设计能够提高SAR图像目标识别的精度。     

面向卷积神经网络的高并行度FPGA加速器设计

大多数基于卷积神经网络（CNN）的算法都是计算密集型和存储密集型的,很难应用于具有低功耗要求的航天、移动机器人、智能手机等嵌入式领域。针对这一问题,提出一种面向CNN的高并行度现场可编程逻辑门阵列（FPGA）加速器。首先,比较研究CNN算法中可用于FPGA加速的4类并行度;然后,提出多通道卷积旋转寄存流水（MCRP）结构,简洁有效地利用了CNN算法的卷积核内并行;最后,采用输入输出通道并行+卷积核内并行的方案提出一种基于MCRP结构的高并行度CNN加速器架构,并将其部署到XILINX的XCZU9EG芯片上,在充分利用片上数字信号处理器（DPS）资源的情况下,峰值算力达到2 304 GOPS。以SSD-300算法为测试对象,该CNN加速器的实际算力为1 830.33 GOPS,硬件利用率达79.44%。实验结果表明,MCRP结构可有效提高CNN加速器的算力,基于MCRP结构的CNN加速器可基本满足嵌入式领域大部分应用的算力需求。     

4D卷积神经网络的自闭症功能磁共振图像分类

静息态功能磁共振图像是随着时间变化的一系列三维图像。已有的3D卷积过程本质上是对三维图像数据或二维图像+时间维数据进行处理,无法有效地融合静息态功能磁共振图像的时间轴信息。为此,本文提出了新型的4D卷积神经网络识别模型。具体而言,通过对输入的fMRI使用四维卷积核执行四维卷积,在自闭症患者的功能磁共振图像中,从空间和时间上提取特征,从而捕获图像在时间序列上的变化信息。所开发的模型从输入图像中生成多个信息通道,最终的特征表示结合了所有通道的信息。实验结果表明,在保证模型泛化性能的前提下,该方法融合了功能像的全局信息,并且采集了功能像随时间变化的趋势信息,进而解决了用卷积神经网络处理三维图像随时间变化的分类问题。     

TSCNN:面向可穿戴心电信号监测与分析的卷积神经网络

目的 可穿戴设备能够长时间实时监测人体心脏状况,其在心电信号监测领域应用广泛。但目前仍没有公开的来自可穿戴设备的心电数据集,大部分心电信号分析算法都是针对医院设备所采集的心电数据。因此,本文使用IREALCARE 2.0柔性远程心电贴作为心电信号监测和采集设备制作了可穿戴设备的心电数据集。针对可穿戴心电数据干扰多、数据量大等特点,本文提出了一种针对可穿戴设备获得的心电信号进行自动分类的深层卷积神经网络,称之为时空卷积神经网络（time-spatial convolutional neural networks,TSCNN）。方法 将原始的长时间心电信号分割为单个的心搏并与滤波后不同频段的心搏数据组合成十通道的数据输入到TSCNN中。TSCNN对每个心搏使用时间卷积和空间滤波来提取丰富的特征。采用小卷积核级联卷积的方式提高分类性能,并降低网络的参数量和计算量。结果 在本文制作的心电数据集上进行了测试,并与其他4种心电分类算法：CNN（convolutional neural networks）、RNN（recurrent neural networks）、1-DCNN（1-dimensional convolution neural networks）和DCN（dense convolutional networks）进行了比较。实验结果显示,本文方法的分类准确率达到91.16%,优于其他4种方法。结论 本文方法面向可穿戴心电数据,获得了较好的分类性能,可以有效监控穿戴者是否出现了心电异常情况。     

用于特征提取的小尺寸事件型卷积处理器

设计了一款用于动态视觉传感器数据特征提取的小尺寸事件型卷积处理器,该卷积处理器包含了32×32的累加阵列、用于存储卷积核的RAM阵列、左/右移位模块、控制模块和异步的事件读出模块.为了减小面积,设计了2 bit的32×32的RAM阵列来存储所需的卷积核;在累加阵列中,采用7 bit的二进制计数器代替传统的加法器来实现卷积核的累加操作,在0.18 μm CMOS工艺下,每个卷积单元的面积为37.5 μm×40 μm,对于每个事件输入输出的最小延时为17 ns,能够处理的最大事件率为12.5 Meps.基于该卷积处理器搭建了一个识别系统,利用16个卷积处理器来提取特征,利用脉冲神经网络实现了分类识别.实验结果表明,使用2 bit卷积核的小尺寸卷积处理器能够准确完成对输入事件的卷积操作,而且基于该卷积处理器所搭建的识别系统对MNIST数据库的识别效率可以达到90.57%.     

小波包能量谱-稀疏核主元在故障检测中的应用

针对滚动轴承故障检测的问题,提出一种基于小波包能量谱-稀疏核主元的滚动轴承故障检测方法。对振动信号进行小波包分解,提取信号的能量频谱,用增量式样本基构造方法,提取能量频谱的样本基,以此样本基建立核主元模型,来分析轴承振动信号能量频谱的变化。通过实验仿真来说明此算法的有效性。     

基于PCA初始化卷积核的CNN手写数字识别算法

针对卷积神经网络对手写数字识别训练在卷积核随机初始化情况下收敛速度慢和识别率低的问题，提出一种主成分分析（PCA）初始化卷积核的卷积神经网络（CNN）手写数字识别算法。算法首先选取训练样本集并将其送入CNN，在相应层对Feature Map进行全覆盖取图像块处理，然后进行分层PCA学习，将学习到的特征向量做为对应卷积层的卷积核参数进行初始化，最后再用这些卷积核对原始图像进行卷积操作。实验结果表明，与随机初始化卷积核的CNN手写数字识别算法相比，改进的算法在应用MNIST数据库训练时不仅收敛，而且在产生相同均方误差的情况下迭代次数少，识别率高。     

基于卷积自编码神经网络的航空发动机轴承故障诊断方法研究

航空发动机轴承早期故障多是由于裂纹、疲劳剥落和保持架损坏造成的,这类型的故障在发动机振动信号中均会产生瞬时的冲击;但是,在早期故障中,振动信号由于夹杂过多部件耦合激励,缺陷冲击信号很难辨识,早期故障诊断十分困难;采用了基于卷积自编码网络的航空发动机轴承早期冲击故障特征提取方法,通过分析信号中冲击成分的周期性,利用卷积自编码网络的平移不变学习特性,自动捕获信号中的周期成分,将信号分解为由卷积核重构的多个特征分量,实现信号特征分量的自学习,考虑到峭度指标对信号冲击成分描述的特点,使用峭度指标作为最优特征分量的选取指标,进而实现早期冲击故障特征的提取;最后利用仿真数据和轴承数据验证了该方法的有效性.     

基于时频域的卷积神经网络运动想象脑电信号识别方法

针对目前运动想象脑电（EEG）信号识别率较低的问题，考虑到脑电信号蕴含着丰富的时频信息，提出一种基于时频域的卷积神经网络（CNN）运动想象脑电信号识别方法。首先，利用短时傅里叶变换（STFT）对脑电信号的相关频带进行预处理，并将多个电极的时频图组合构造出一种二维时频图；然后，针对二维时频图的时频特性，通过一维卷积的方法设计了一种新颖的CNN结构；最后，通过支持向量机（SVM）对CNN提取的特征进行分类。基于BCI数据集的实验结果表明，所提方法的平均识别率为86.5%，优于其他传统运动想象脑电信号识别方法；同时将该方法应用在智能轮椅上，验证了其有效性。     

基于卷积神经网络的层级化智能故障诊断算法

传统智能故障诊断算法需要依赖人工特征提取和专家知识,而旋转机械设备复杂的工作环境和工况使得传统算法在实际应用中缺乏良好的自适应性和泛化性.针对以上问题,提出基于卷积神经网络(Convolutional neural network,CNN)的层级化故障诊断算法(CNN based hierarchical fault diagnosis,CNN-HFD).首先,将原始振动信号进行分段预处理,以实现数据扩容;然后,分别根据故障类型和故障程度设计多个卷积神经网络,并将原始振动数据以某一时间步进行分割,作为卷积神经网络的输入进行训练;最后,将待识别信号送入CNN-HFD模型,经过分层故障诊断,在末端卷积神经网络输出相应故障类别和程度.通过滚动轴承振动数据库的实验表明,所提出的算法不仅具有高达99.5%以上的故障识别率,而且在负载发生变化时依然可以保持高达97%以上的故障识别率,具有较好的鲁棒性和泛化性能.