基于动态加权的多尺度残差网络旋转机械故障诊断算法EI北大核心CSCD

针对传统的机械故障诊断方法特征提取困难问题,提出一种新颖的基于特征通道重标定的动态加权多尺度残差网络旋转机械故障诊断方法。将原始数据作为网络的输入,设计宽卷积层进行信息初步融合扩大模型的感受野;再分别构建三个独立的以残差块为基础的并行分支网络,通过设计多尺度卷积核分别从并行分支网络提取深度特征;接着设计动态加权层建立全局信息建模特征通道之间的动态非线性关系,对每个尺度的特征通道进行重标定,提高网络对故障信息的敏感性;将三个尺度的特征进行特征融合,通过分类器实现故障诊断。在多个数据集上进行试验,验证了该算法的有效性。     

基于动态加权的多尺度残差网络旋转机械故障诊断算法

针对传统的机械故障诊断方法特征提取困难问题,提出一种新颖的基于特征通道重标定的动态加权多尺度残差网络旋转机械故障诊断方法。将原始数据作为网络的输入,设计宽卷积层进行信息初步融合扩大模型的感受野;再分别构建三个独立的以残差块为基础的并行分支网络,通过设计多尺度卷积核分别从并行分支网络提取深度特征;接着设计动态加权层建立全局信息建模特征通道之间的动态非线性关系,对每个尺度的特征通道进行重标定,提高网络对故障信息的敏感性;将三个尺度的特征进行特征融合,通过分类器实现故障诊断。在多个数据集上进行试验,验证了该算法的有效性。     

基于多尺度Transformer的多视图三维形状分析方法

基于多视图的三维形状分析方法是三维计算机视觉领域中的重要研究分支,通过整合三维形状在多个视角下的二维图像的特征来完成三维形状的识别、检索等任务。然而,如何有效地探索不同视角之间的关联性,并运用这些关联性来聚合多视图图像的特征仍然是三维形状分析中一个亟待解决的核心问题。受到最近兴起的Transformer网络在关系建模问题上成功应用的启发,研究工作引入了一种创新的多尺度Transformer架构,提出了基于多尺度Transformer的多视图三维形状分析方法(Multi-View Multi-Scale Transformer, MVMST)。此方法能够有效地学习不同视角之间的关联性,将多视图图像的特征聚合为一个具有强大表达能力的整体描述符。与以往方法使用感受野为全局的Transformer建模多视图特征的关系不同,该方法受到多尺度学习方法的启发,使用多尺度的Transformer来建模不同尺度下的多视图图像特征之间的关系,并设计了一个多尺度融合模块将多个尺度下经过Transformer处理的特征进行融合,得到一个相比单一尺度更加有效的多尺度表示。多个视图的多尺度表示最终经过视角池化模块...     

融合Swin Transformer的立体匹配方法STransMNet

针对基于CNN的立体匹配方法中特征提取难以较好学习全局和远程上下文信息的问题，提出一种基于Swin Transformer的立体匹配网络改进模型(stereo matching net with swin transformer fusion,STransMNet)。分析了在立体匹配过程中，聚合局部和全局上下文信息的必要性和匹配特征的差异性。改进了特征提取模块，把基于CNN的方法替换为基于Transformer的Swin Transformer方法；并在Swin Transformer中加入多尺度特征融合模块，使得输出特征同时包含浅层和深层语义信息；通过提出特征差异化损失改进了损失函数，以增强模型对细节的注意力。最后，在多个公开数据集上与STTR-light模型进行了对比实验，误差(End-Point-Error,EPE)和匹配错误率3 px error均有明显降低。     

Transformer神经网络和轴心轨迹在燃机转子故障诊断中的应用

针对目前国内燃机电厂转子故障诊断主要依靠振动分析,无自动识别轴心轨迹设备的现状,将在自然语言处理领域大放异彩的Transformer神经网络引入转子轴心轨迹监测与识别领域,通过独立成分分析(Independent Component Analysis,ICA)与Transformer结合提升燃机转子故障诊断准确性。使用ICA代替Transformer自身的线性变换提取图片特征信息构建输入样本,为了解决自注意力机制无法捕捉位置信息的问题,提出相对位置编码方法,区别于使用较多的绝对位置编码,通过嵌入相对位置编码子层,将相对位置信息注入自注意力机制,使得Attention模块能够学习到序列的相对位置信息,可进一步提高图像识别模型的准确性,该模型对于轴心轨迹故障类型平均识别率达到93.8%。实验结果表明ICA-Transformer模型对转子轴心轨迹的识别准确率较高,对电厂运维具有一定的指导意义。     

基于注意力机制-Inception-CNN模型的滚动轴承故障分类

针对传统机器学习方法需要大量专家知识和高昂经济成本,研究了一种基于注意力机制和Inception网络结构的卷积神经网络。其注意力机制是对数据的不同特征维度赋予不同的权重,抽取出更加关键和重要的信息,使模型做出更加准确的判断。其Inception网络结构则是拓宽网络的宽度并增加网络对卷积核尺度的适应性,以提取到更加丰富的特征。为了提高模型的泛化能力,在每个卷积层和全连接层后又添加了一个DropBlock层。最后结果显示该模型不仅在同负载的情况下获得很高的滚动轴承故障分类准确率和稳定性,并且在不同负载情况、不同规模的滚动轴承数据集上依旧能保持高的准确率与稳定性。     

基于子网络级联式混合信息流的显著性检测

针对现有显著性检测算法在复杂场景下细节特征丢失的问题,本文提出了一种多层子网络级联式混合信息流的融合方法。首先使用FCNs骨干网络学习多尺度特征。然后通过多层子网络分层挖掘构建级联式网络框架,充分利用各层次特征的上下文信息,将检测与分割任务联合处理,采用混合信息流方式集成多尺度特性,逐步学习更具有辨别能力的特征信息。最后,嵌入注意力机制将显著性特征作为掩码有效地补偿深层语义信息,进一步区分前景和杂乱的背景。在6个公开数据集上与现有的9种算法进行对比分析,经实验验证,本文算法运行速度可达20.76帧/秒,并且实验结果在5个评价指标上普遍达到最优,即使对于挑战性很强的全新数据集SOC。本文方法明显优于经典的算法,其测试结果F-measure提升了1.96%,加权F-measure提升了3.53%,S-measure提升了0.94%,E-measure提升了0.26%。实验结果表明,提出的模型有效提高了显著性检测的正确率,能够适用于各种复杂的环境。     

基于注意力机制与Swin Transformer模型的腰椎图像分割方法

腰椎图像的精确分割是腰椎间盘疾病自动化诊断的重要前提,现有的分割方法在实际应用于分割任务时仍然存在无法精确分割的问题.对此,本文提出了一种基于注意力机制与Swin Transformer模型的腰椎图像分割网络模型.该模型在卷积网络中引入Swin Transformer模型,使用移动窗口的Transformer模块对卷积提取的高层语义信息进行全局信息建模;然后使用注意力机制对上采样过程中跳过连接中传递的低级特征施加权重,去除背景信息,最终实现腰椎图像的精细分割.实验结果表明,本文的腰椎图像分割方法相似度系数指标达到91.18％,性能优于UNet及其变型网络模型.     

面向道路场景语义分割的移动窗口变换神经网络设计

道路场景语义分割是自动驾驶环境感知的一项重要任务。近年来,变换神经网络(Transformer)在计算机视觉领域开始应用并取得了很好的效果。针对复杂场景图像语义分割精度低、细小目标识别能力不足等问题,本文提出了一种基于移动窗口Transformer的多尺度特征融合的道路场景语义分割算法。该网络采用编码-解码结构,编码器使用改进后的移动窗口Transformer特征提取器对道路场景图像进行特征提取,解码器由注意力融合模块和特征金字塔网络构成,充分融合多尺度的语义特征。在Cityscapes城市道路场景数据集上进行验证测试,实验结果表明,与多种现有的语义分割算法进行对比,本文方法在分割精度方面有较大的提升。     

低转速航空发动机滚动轴承故障深度异常检测方法

针对航空发动机滚动轴承在低转速状态下故障难检测的问题,提出了一种基于Transformer框架的深度支持向量描述方法用于检测低转速滚动轴承的故障。首先,构建了基于Transformer模型的振动特征提取主干网络。然后,将所提取的特征输入一个三层自编码器结构,用于计算网络模型的损失函数。为减少网络计算量,提高训练速度,在预处理中将滚动轴承的振动加速度时域信号通过快速傅里叶变换(FFT)得到的频谱结果作为网络的输入,且仅依靠正常数据完成模型的训练。最后,在带机匣的航空发动机转子试验器和某型真实的航空发动机上分别进行了试验验证。结果表明,所提方法能够准确的实现对低转速滚动轴承故障的检测,且检测精度分别为93%和100%,充分表明该方法具有很好的异常检测能力及应用价值。     

采用注意力机制的显微图像智能检测方法

显微图像普遍具有背景复杂、细胞多重叠的特点,传统的图像处理方法由于其技术局限性,无法实时准确地完成识别任务.针对上述问题,本文提出一种采用注意力机制的显微图像智能检测方法,该方法对目标检测模型DETR进行改进,利用分组卷积机制对输入特征进行降维并分别训练不同卷积核实现特征提取,从而提高模型对于显微图像中目标物体的注意力...     

基于物体检测及关系推理的视觉问答方法研究

大多数图像描述及视觉问答任务中,主要工作是对图像数据的拟合分类,而缺乏图像中物体之间的关系推理,导致描述图像或回答问题时准确率不高.为解决该问题,本文提出一种基于物体检测及关系推理的视觉问答模型.该模型由上游网络和下游网络两部分组成,上游网络采用极快速区域卷积神经网络,下游网络由多层感知机组成的多模态特征融合推理网络构成.上游网络对图像进行物体检测与特征提取,利用长短期记忆网络对提问的问题进行信息提取以嵌入下游网络;下游网络对问题和图像的特征进行融合和推理,进而得出答案.采用数据集CLEVR进行模型训练与视觉问答测试,实验结果表明,本模型与其他已有模型相比,图像中物体之间关系推理的准确率获得了提高,达到98.96%.     

基于注意力和标签自适应的跨域行人重识别

针对现有的大多数行人重识别算法都依赖于监督训练,而监督训练中人工标注的数据需要昂贵的资源开销从而限制了其在新场景中拓展应用的问题,提出了基于注意力和标签自适应的跨域行人重识别方法.该方法首先对深度卷积神经网络(DCNN)中不同深度的特征层嵌入注意力机制和BNNeck模块,增强模型在不同数据集下对行人的特征表示能力;其次...     

一种结合改进Inception V2模块和CBAM的轴承故障诊断方法EI北大核心CSCD

传统深度学习的轴承故障诊断方法网络复杂,训练参数多,模型泛化性弱。针对上述问题,在工业大数据背景下,提出一种结合改进Inception V2模块和CBAM注意力机制的轴承故障诊断方法,改进后的Inception V2模块通过增加平均池化层,进一步拓宽分支网络结构,从而提高网络表达能力。将轴承振动信号通过小波变换转换为时频图,作为卷积神经网络的输入,通过改进Inception V2模块对输入特征进行自适应特征提取,跨通道对提取的特征进行信息组织;通过CBAM注意力机制生成通道和空间的双重注意力权重,增强相关度高的特征并抑制相关度不高的特征;将生成的特征数据输入到全局平均池化层,并输出故障诊断结果。实验结果表明:该方法可以建立“浅层”卷积神经网络模型,减少模型参数,加快模型收敛速度,实现99.75%的准确率;同时在不同负载以及高噪声条件下,模型有较好的泛化性,更适合应用在工业大数据中。     

基于双注意力机制的MSCN-BiGRU的滚动轴承故障诊断方法

针对滚动轴承故障诊断模型在变工况和环境噪声干扰下诊断精度降低的问题,提出一种基于双注意力机制的多尺度卷积网络(dual attention and multi-scale convolutional networks, DAMSCN)与改进的双向门控循环单元(bidirectional gated recurrent unit, BiGRU)组成的故障诊断模型DAMSCN-BiGRU。首先,多尺度特征融合模块使用不同大小的卷积核,获得多种感受野,从而提取到轴承原始振动信号的多尺度特征信息,并根据重要性对其进行自适应融合,然后利用通道注意力和空间注意力组成的双注意力模块(dual attention module, DAM)对多尺度特征进行重新标定,分配注意力权重,削弱融合特征中的冗余特征;然后,增加注意力层和利用分段激活改进BiGRU进而挖掘信号的时域特征,以提高轴承故障诊断的性能;最后,通过Softmax层完成对不同故障的分类。试验结果表明,与其他智能诊断模型相比,DAMSCN-BiGRU在变工况环境下,平均诊断精度达到98.2%,在强噪声背景下仍然有着85.3%的准确率,且在不同程...     

改进YOLOv3的多模态融合行人检测算法

针对可见光单模态行人检测在夜间光线不足、目标密集、多尺度目标及目标部分遮挡场景中检测效果较低的问题,提出一种基于改进YOLOv3的多模态融合行人检测算法YOLOv3-Invo。该算法采用改进的Darknet-VI作为多模态特征提取网络模块,通过级联操作将两个不同特征图拼接输出,脖颈检测层分支引入空间金字塔池化模块并结合高效的内卷算子网络,以降低模型参数量;在检测网络层的深度卷积堆叠模块中设计新的ResFuse模型替换第一个卷积,并结合注意力机制CBAM模型,以加强融合特征图提取。对比实验表明,该算法在KAIST数据集上的行人检测准确率和召回率分别提升8.24%和2.82%,验证该算法的有效性,具有一定的研究价值。     

跨尺度注意力融合的单幅图像去雨

单幅图像去雨算法旨在将有雨图像中的雨纹去除生成高质量无雨图。目前基于深度学习的多尺度去雨算法较难捕获不同层次的细节,忽视尺度之间的信息互补,易导致生成图像失真,雨纹去除不彻底等问题。为此,本文提出了基于跨尺度注意力融合的图像去雨网络,在去除密集雨纹的同时尽量保留原本图片的细节,改善去雨图像的视觉质量。去雨网络由三个子网构成,每个子网用于获取不同尺度上的雨纹信息。各子网由跨尺度特征提取模块通过稠密连接的方式构成,该模块以跨尺度融合注意力为核心,构造不同尺度之间的关联实现信息互补,使图像兼顾细节与整体信息。实验结果表明,本文模型在合成数据集Rain200H和Rain200L上取得显著的去雨效果,去雨处理后的图片峰值信噪比达到了29.91/39.23 dB,结构相似度为0.92/0.99,优于一般的主流方法,并取得了良好的视觉效果,在保证去雨效果自然的同时保持了图像的细节。     

一种并行混合注意力的渐进融合图像增强方法

针对低照度图像增强过程中出现的色彩失真、噪声放大和细节信息丢失等问题，提出一种并行混合注意力的渐进融合图像增强方法 (progressive fusion of parallel hybrid attention,PFA)。首先，设计多尺度加权聚合网络(multiscale weighted aggregation,MWA)，通过聚合不同感受野下学习到的多尺度特征，促进局部特征的全域化表征，加强原始图像细节信息的保留；其次，提出并行混合注意力结构(parallel hybrid attention module,PHA)，利用像素注意力和通道注意力并联组合排列，缓解不同分支注意力分布滞后造成的颜色差异，通过相邻注意力间的信息相互补充有效提高图像的色彩表现力并弱化噪声；最后，设计渐进特征融合模块(progressive feature fusion module,PFM)，在三个阶段由粗及细对前阶段输入特征进行再处理，补充因网络深度增加造成的浅层特征流失，避免因单阶段特征堆叠导致的信息冗余。LOL、DICM、MEF和LIME数据集上的实验结果表明，本文方法在多个评价指标上的表现均优于对比...     

基于MsTCN-Transformer模型的轴承剩余使用寿命预测研究

剩余使用寿命(remaining useful life, RUL)预测是PHM的核心问题之一,复杂的运行工况往往导致设备部件经历不同的故障退化过程,给RUL准确预测带来了巨大挑战。为此,提出了一种多尺度时间卷积网络(multi-scale temporal convolutional network, MsTCN)与Transformer(MsTCN-Transformer)融合模型用于变工况下滚动轴承RUL预测。该方法设计了一种新的多尺度膨胀因果卷积单元(multi-scale dilated causal convolution unit, MsDCCU),能够自适应地挖掘滚动轴承全寿命信号中固有的时序特征信息;然后构建了基于自注意力机制的Transformer网络模型,在克服预测序列记忆力退化的基础上,准确学习时序特征与轴承RUL之间的映射关系。此外,通过对轴承不同故障退化阶段所提取的时序特征可视化分析,验证了所提方法在变工况下所提取的时序特征泛化性较好。多种工况条件下滚动轴承RUL预测试验表明,所提方法能够较为准确地实现变工况下轴承的RUL预测,相比当前多种方法RUL预测结果...     

基于级联稀疏查询机制的轻量化火灾检测算法

针对现有火灾检测算法仍存在的模型复杂、检测速度慢、误检率高等问题,提出一种基于级联稀疏查询机制的轻量化火灾检测网络LFNet。首先,建立了轻量化的图像特征提取模块ECDNet,其通过在YOLOv5s主干网络中嵌入轻量化注意力模块ECA (efficient channel attention),用于解决火灾检测中火焰与烟雾的多尺度难点;其次,利用深层特征提取模块FPN+PAN,对不同层级的特征图进行深度处理和多尺度融合;最后,利用嵌入轻量化的级联稀疏查询模块CSQ (cascade sparse query)提升对早期火灾中的小火焰与薄烟雾的检测准确率。实验表明,本文方法在mAP和Precision等客观指标上的综合表现达到最优,同时在实现较高检测精度时的参数量也较低,能够满足实际场景的火灾检测要求。