CNN parameter design based on fault signal analysis and its application in bearing fault diagnosis

As a representative deep learning network, Convolutional Neural Network (CNN) has been extensively used in bearing fault diagnosis and many good results have been reported. In Prognostics and Health Management (PHM) field, the CNN’s input size is usually designed as a 1D vector or 2D square matrix, and the convolution kernel size is also defined as a square shape like 3 × 3 and 5 × 5, which are directly adopted from the image recognition. Though satisfying results can be obtained, CNN with such parameter specifications is not optimal and efficient. To this end, this paper elaborated the physical characteristics of bearing acceleration signals to guide the CNN design. First, the fault period under different fault types and shaft rotation frequency were used to determine the size of CNN’s input. Next, an exponential function was involved in fitting the envelope of decaying acceleration signal during each fault period, and signal length within different decaying ratios was used to define the CNN’s kernel size. Finally, the designed CNN was validated with the Case Western Reserve University bearing dataset and Paderborn University bearing dataset. Results confirm that the physics-guided CNN (PGCNN) with rectangular input shape and rectangular convolution kernel works better than the baseline CNN with higher accuracy and smaller uncertainty. The feasibility of designing CNN parameters with physics-guided rules derived from bearing fault signal analysis has also been verified.     

融合双注意力机制的人群计数算法

针对背景复杂、遮挡、人群分布不均等人群计数常见问题,提出了一种结合联合损失的空间-通道双注意力机制卷积神经网络模型(joint loss-based space-channel dual attention network, JL-SCDANet).该网络前端进行图像粗粒度特征提取,中间加入空间注意力机制以及通道注意力机制突出图像重点区域,后端使用可加大感受野且不丢失图像分辨率的空洞卷积提取深层二维特征.此外,该模型结合联合损失函数进行训练,以增强模型的鲁棒性.为了验证模型的改进效果,在3个公共数据集(ShanghaiTech Part B、mall和UCF＿CC＿50)上分别进行了对比实验,在ShanghaiTech Part B数据集中平均绝对误差(MAE)和均方误差(MSE)分别达到了8.13和13.13;在mall数据集中MAE、MSE达到了1.78和2.28;在UCF＿CC＿50数据集中MAE、MSE分别达到了182.12和210.24,实验结果证明了该网络在提高人数统计准确率上的有效性.     

基于Conv1d-LSTM模型的能源分配预测

能源分配问题往往与其所在区域环境有关,能源分配的预测可以通过当地环境因素数据来推测之后对该区域的能源分配数值,最大程度上分配好能源. LSTM网络预测短期效果良好,但预测较长时期的数据会导致误差积累,速度慢且准确性差; Informer是近期新提出的能源预测算法模型,速度快但在该任务上预测能力不够.本文提出Conv1d-LSTM模型,预测结果优于上述两个模型,具有更低的平均绝对误差和均方根误差.     

基于CNN与Transformer的医学图像分割

医学图像对疾病的诊断、治疗和评估均有所帮助,准确分割医学图像中的器官对于辅助医生的诊断具有重要的实际意义.由于医学图像中各器官部位与周围组织的图像对比度低,不同器官的边缘和形状也会存在很大差异,从而增加了分割的难度.针对这些问题,本文提出了一种基于卷积神经网络和Transformer的医学图像语义分割网络,有效提高了医学图像语义分割的精度.特征提取部分使用ResNet-50网络结构,在特征提取后使用Transformer模块来扩大感受野.在上采样过程中加入多个跳跃连接层,充分利用各阶段的特征提取信息,来恢复至与输入图像相近的分辨率.在胃肠道医学图像分割数据集上的实验结果证明本文的方法可以有效分割医学图像中的器官组织,提升分割准确率.     

融合CNN-BiLSTM-Attention的集成学习价格预测

价格预测对于大宗农产品市场的稳定具有重要意义,但是大宗农产品价格与多种因素有着复杂的相关关系.针对当前价格预测中对数据完整性依赖性强与单一模型难以全面利用多种数据特征等问题,提出了一种将基于注意力机制的卷积双向长短期记忆神经网络(CNN-BiLSTM-Attention)、支持向量机回归(SVR)与LightGBM组合的增强式集成学习方法,并分别在包含历史交易、天气、汇率、油价等多种特征数据的数据集上进行了实验.实验以小麦和棉花价格预测为目标任务,使用互信息法进行特征选择,选择误差较低的CNN-BiLSTM-Attention模型作为基模型,与机器学习模型通过线性回归进行增强式集成学习.实验结果表明该集成学习方法在小麦及棉花数据集上预测结果的均方根误差(RMSE)值分别为12.812, 74.365,较之3个基模型分别降低11.00%, 0.94%、4.44%,1.99%与13.03%, 4.39%,能够有效降低价格预测的误差.     

基于自监督约束的双尺度真实图像盲去噪算法

现存的图像去噪算法在处理加性高斯白噪声上已经取得令人满意的效果,然而其在未知噪声强度的真实噪声图像上泛化性能较差.鉴于深度卷积神经网络极大地促进了图像盲去噪技术的发展,针对真实噪声图像提出一种基于自监督约束的双尺度真实图像盲去噪算法.首先,所提算法借助小尺度网络分支得到的初步去噪结果为大尺度分支的图像去噪提供额外的有用信息,以帮助后者实现良好的去噪效果.其次,用于去噪的网络模型由噪声估计子网络和图像非盲去噪子网络构成,其中噪声估计子网络用于预测输入图像的噪声强度,非盲去噪子网络则在所预测的噪声强度指导下进行图像去噪.鉴于真实噪声图像通常缺少对应的清晰图像作为标签,提出了一种基于全变分先验的边缘保持自监督约束和一个基于图像背景一致性的背景自监督约束,前者可通过调节平滑参数将网络泛化到不同的真实噪声数据集上并取得良好的无监督去噪效果,后者则可借助多尺度高斯模糊图像之间的差异信息辅助双尺度网络完成去噪.此外,还提出一种新颖的结构相似性注意力机制,用于引导网络关注图像中微小的结构细节,以便复原出纹理细节更加清晰的真实去噪图像.相关实验结果表明在SIDD,DND和Nam这3个真实基准数据集上,所提的基于自监督的双尺度盲去噪算法无论在视觉效果上还是在量化指标上均优于多种有监督图像去噪方法,且泛化性能也得到了较为明显的提升.     

基于注意力机制及类别层次结构的弱监督目标定位

弱监督目标定位是指仅利用图像级的类别标注信息来训练目标定位器, 而不需要使用精确的目标位置标注信息来进行算法训练. 当前的一些方法往往只能定位出目标对象中最具鉴别性的部分而无法准确地标识出完整的目标对象, 或者易受背景无关信息干扰从而导致定位结果不精确. 为了解决上述问题, 提出一种基于注意力机制和类别层次结构的弱监督目标定位方法. 该方法通过对卷积神经网络的注意力图进行均值分割提取更完整的目标区域. 进一步, 通过类别层次结构网络实现对背景区域注意力的削弱, 从而提高对感兴趣目标的定位精度. 基于多个网络结构和公共数据集上的大量实验结果表明, 相比目前已有的弱监督定位方法, 所提方法在多个评价指标下均能够获得更好的定位效果.     

基于CNN和LSTM混合网络的电动汽车充电桩运行状态预测方法

随着电动汽车的大规模发展,公共充电桩运行数量和充电量逐年增长。然而,充电桩运行始终存在故障频发、运维难度大和维修成本高等问题,并且传统故障检测方法效率低下。因此提出了一种基于卷积神经网络(CNN)和长短期记忆(LSTM)网络的混合网络电动汽车充电桩运行状态预测方法,可以实现对电动汽车充电桩运行状况的综合评估。在特征数据输入阶段,对充电桩运行状态的关键指标进行分析,通过CNN提取运行状态影响因素的特征量,再利用LSTM判断和预测充电桩运行状态,从而实现对充电桩潜在故障的预警。试验结果表明,该方法预测准确率高、实用性强,能较准确地反映和预测充电桩的运作状态,可实际用于充电桩故障预测与运维检修。     

考虑数据不均衡的居民用户负荷曲线分类方法

由于用户用电行为的多样性和随机性,负荷数据存在分布不均衡的问题,传统负荷曲线分类方法在处理不均衡数据时性能较差,为此,提出一种改进K-means与LSTM（long short term memory network）-CNN（convolutional neural network）分类模型结合的负荷曲线分类方法。首先,为提升K-means算法对不均衡数据的聚类效果,基于密度峰值聚类算法（density peaks clustering,DPC）思想,提出一种相对k近邻密度峰值初始聚类中心选取方法（related k-nearest neighbor density peaks,RKDP）,将其作为K-means算法的初始中心进行聚类;其次,为提高RKDP_K-means处理高维负荷数据的性能,采用LSTM自编码器进行特征降维后再聚类（LSTM-auto-encoder RKDP_K-means,LARK）获得精准类别标签;最后,基于LSTM和CNN网络分别提取负荷特征构建负荷曲线分类模型,实现对大规模负荷曲线的分类。算例表明在大规模负荷曲线分类时,相比于LARK算法,本文所提方法轮廓系数指标提升29.7%,效率提升3.46倍,具有良好的负荷曲线分类效果。     

基于多尺度圆周频率滤波与卷积神经网络的遥感图像飞机目标检测方法研究

针对遥感图像飞机目标检测因目标尺度不一存在漏警、虚警等问题,该文基于遥感图像中飞机目标形状特征和灰度变化特点提出了一种多尺度圆周频率滤波(MSCFF)与卷积神经网络(CNN)相结合的MSCFF+CNN飞机目标自动检测算法.该算法首先采用多尺度圆周频率滤波器滤除遥感图像复杂背景,实现不同尺度飞机目标候选区域提取;然后,通过构建卷积神经网络(CNN)模型实现候选区域有效分类,最终精确确定飞机目标位置.最后,基于获取的真实遥感图像进行目标检测算法实验验证,经统计该算法的飞机目标检测率为94.38%,虚警率为3.76%,实验结果充分验证了该文算法的有效性,该算法可为机场监管、军事侦察等应用提供重要的技术支持.