基于注意力机制的双度量小样本图像分类算法

小样本图像分类旨在利用少数几个标记样本训练出一个具有良好泛化性网络,其中基于度量学习的小样本图像分类方法具有模型简单且高效的优点。针对图像到类度量的深度最近邻网络(deep nearest neighbor neural network, DN4),提出了基于注意力机制的双重度量网络(attention based bi-metric network, ABM-Net)。在主干网络中加入注意力机制以获得更有效的特征表示,并提出将图像到图像度量与图像到类度量结合的双度量模块。实验结果表明,相较于DN4,ABM-Net的性能在数据集CUB-200-2011、Stanford-Dogs和Stanford-Cars的1-shot和5-shot分类任务中均有一定的提升。     

基于改进 SqueezeNet 的棒状物表面缺陷识别

高速流水线生产的棒状物极易产生各种表面缺陷,但基于传统图像处理的缺陷识别方法易受环境影响、可靠性低,而基于深度学习的缺陷识别方法存在模型过大、识别准确率受制于样本数量等问题。因此,本文提出了一种基于改进SqueezeNet的棒状物表面缺陷识别系统。设计了可获取圆周对称小体积棒状物全表面图像的采集装置,并在轻量级卷积神经网络SqueezeNet中引入注意力模块以改善模型的特征提取效果,利用数据平衡方法提升数据集内少数类样本的识别准确率,利用迁移学习的方法进行深度学习训练,减轻数据集样本不足对训练效果的影响。以生产线上的卷烟烟支为研究对象,采集其圆周表面图像进行实验,结果表明,改进方法在少样本条件下的分类准确率达到了94.49%,其中对于少数类样本的F1分数提高了31.19%,单张图像检测时间约1.66 ms,模型轻量化,可满足工业生产线中棒状物实时缺陷识别的需求。     

基于动态监督知识蒸馏的输电线路螺栓缺陷图像分类

螺栓是输电线路中广泛存在的紧固件,其缺陷图像具有类内差异性小、类间差异性大的特性。针对复杂度高且性能优秀的大模型在分析螺栓缺陷图像消耗大量计算资源的问题,将知识蒸馏技术引入到输电线路螺栓缺陷图像分类中,提出了一种基于动态监督知识蒸馏的输电线路螺栓缺陷图像分类方法:在网络输出层采用自适应加权方法,提高小模型学习螺栓缺陷标签的准确性;在网络隐藏层进行注意力转移,提高小模型螺栓特征的表达能力;将网络输出层的自适应加权方法与网络隐藏层的注意力转移机制相结合,以充分提高小模型的螺栓缺陷分类能力。最后通过自建螺栓缺陷图像分类数据集验证了大模型利用所提蒸馏方法指导小模型训练的有效性,实验结果表明:小模型的分类准确率提高了2.17%,小模型与大模型的分类准确率只差0.63%,且小模型的参数量仅为大模型参数量的7.8%。研究实现了螺栓缺陷的高效分类,达到了精度与资源消耗的平衡。     

改进关系网络的小样本带钢表面缺陷分类方法

在带钢表面缺陷分类方法的研究中,提出了一种基于改进关系网络的小样本带钢表面缺陷分类方法。该方法借鉴网中网模型可以增强网络对局部感知野的特征辨识能力和非线性表达能力的特点,将该模型与关系网络模型相结合,并采用一种新的自正则化、非单调函数作为激活函数及修正后的平均绝对误差作为损失函数,可以允许更多的信息流入神经网络,使模型学习到更精细的特征表达能力,从而具有更好的准确性和泛化能力。将新模型在NEU-DET数据集上进行实验,结果表明：在5-way 1-shot任务中获得的缺陷分类准确率为79.95%,比原模型提高7.22%;在5-way 5-shot任务中获得的缺陷分类准确率为92.04%,比原模型提高2.15%。     

结合原型校准分布的小样本学习方法

针对小样本学习中样本数量过少难以表述类别特征的问题,提出一种结合原型校准数据分布的小样本学习方法。首先,利用嵌入网络对图像进行预处理,将提取到的新类特征进行幂次变换。随后,通过相似度加权基类来表征新类样本的原型,充分利用已学过的基类知识来减小计算原型与实际原型的偏差。最后,以新类样本特征与其对应的原型构造均匀分布,根据样本数量改变均匀分布边界,使采样集中在置信度高的区域,生成大量的新类特征扩充训练分类器的支持集。在5-way 1-shot和5-way 5-shot设置中,该方法在miniImageNet数据集上的准确率分别为68.94%和84.75%,在CUB数据集上分别为81.75%和91.88%,均优于现有方法的最好结果。因此,所提方法能有效提高模型在小样本图像上的分类性能,获得更高的预测准确率。     

基于特征融合的风机叶片表面缺陷检测模型

针对风机叶片表面缺陷检测识别率低、且易受光照影响的特点。提出一种基于卷积神经网络特征融合局部二值模式特征及核极限学习机的风机叶片表面缺陷检测方法。利用引入注意力机制的卷积神经网络提取图像深层次信息,然后提取描述图像浅层纹理信息的局部二值模式特征,采用主成分分析方法降低局部二值模式特征维度;将两种从不同层面描述图像的互补特征串行融合。用改进的麻雀搜索算法优化核极限学习机参数,利用融合的特征训练模型,得到最优模型进行缺陷识别。通过实验,在自建数据集训练后的分类准确率达到了97.5%,kappa系数达到95.1。相比利用单一特征检测,分类准确率有明显的提高。经风电场实际验证,本模型的平均分类准确率为96.3%,Kappa系数为94.5,漏报率明显降低。     

基于融合注意力机制的小样本遥感场景分类方法

针对遥感场景图像样本获取困难，数据量受限以及遥感图像目标对象和背景高度混杂的问题，提出一种基于融合注意力机制的小样本遥感场景分类方法。该方法采用RepVGG作为基准模型，并利用ECANet网络的ECA通道注意力机制改进RepVGG网络的RepVGGBlock模块，使得网络有效过滤无用信息并聚焦于关键场景区域，从而增强模型的特征判别能力，并确保在不增加模型参数的情况下提高分类准确率；同时通过随机数据增强方法在线增强训练数据，在不占用额外内存的情况下增加模型训练数据量，使得训练数据更多样化，提高模型的泛化能力。在UC Merced LandUse数据集上分类平均准确率为94.52%,相较于ResNet50、RepVGG-B1-SE网络，准确率分别提高4.52%和2.93%。实验结果表明，该方法能有效聚焦关键场景区域并提升小样本遥感场景分类的准确率，对实现遥感影像快速分类具有一定的参考意义。     

基于对比学习的信息缺失手势识别新方法

针对现有深度学习模型识别信息缺失手势需要大量标注数据、更深的网络需要更多参数的问题，首先收集整理了一个信息缺失手势数据集IMG＿NUIST,然后借鉴对比学习思想，提出了一个新的信息缺失手势识别模型CLGR,该模型通过对手势类内和类间差异度的对比约束提高模型特征学习性能。在两个经典数据集(ASL Alphabet和NUS I)和新提出的IMG＿NUIST数据集上进行了广泛实验，消融实验表明对比学习思想能有效地将平均识别准确率提高至98.60%以上且收敛速度显著提升；对比实验表明本文所提模型计算复杂度比其它4个模型平均简化了41.4%,在NUS I和IMG＿NUSIT数据集上的手势识别准确率超过四个对比方法，特别是在NUS I数据集上将识别准确率平均提高了17.35%,在ASL Alphabet数据集上的识别准确度仅比最优结果低0.43%。实验结果说明所提模型对于缺失手部部分信息和杂乱背景等问题的手势识别任务有显著效果，具有收敛速度更快、计算复杂度更少的优秀性能，有很好的实用价值。     

基于原型嵌入图网络的小样本图像分类

针对在小样本图像分类中传统骨干卷积网络进行特征提取时会有上下文信息单一和感受野受限以及边特征相似度度量缺乏全局性问题,本文提出了一种基于原型嵌入图网络的小样本图像分类算法。首先,将CBAM产生的权重值与ASPP以不同采样率获取的不同尺度特征进行相乘的特征作为图网络的节点嵌入特征。然后,采用原型网络的方法在度量模块中构建了原型节点,使得成对节点之间的相似性计算转化为单个节点与原型节点相似性的和计算,将得到的相似度作为边特征输入图神经网络。最后,利用双图结构在多个更新代后将标签信息从有标签样本传播到无标签样本。在以ResNet-12为骨干卷积网络的算法分类任务中,本文在miniImageNet、tieredImageNet、CUB-200-2011和CIFAR-FS 4个数据集上的5-way 1-shot的任务分类准确率分别达到了71.47%、75.41%、86.21%和79.84%,在以Conv-4作为骨干卷积网络中,本文提出的算法在5-way 1-shot和5-way 5-shot任务中都优于现有的图网络方法。     

基于改进YOLOv5的印刷电路板缺陷检测

为解决印刷电路板缺陷检测中缺陷类别易混淆,缺陷目标微小难以检测的问题,提出了一种改进的YOLOv5检测模型。在骨干网络引入Swin-Transformer架构,获取局部和全局信息的多尺度特征。增加一个针对小目标的预测特征层,新的多尺度特征融合和检测结构使模型学习更加全面的特征信息。使用ECIoU＿Loss作为损失函数,实现电路板缺陷检测速度和准确率协同优化。实验结果表明,改进后的YOLOv5模型在PCB Defect数据集上的平均准确率为98.7%,达到了99.7%的预测精确率和97.4%的召回率,比当前主流的检测模型性能更优越,改进后的YOLOv5模型能更有效的对电路板缺陷进行分类和定位。     

CNN 集成机器学习的金属缺陷少样本分类方法

针对金属缺陷分类,以深度学习为代表的分类方法主要是基于大规模数据的统计学习方法,一方面需要大量优质的标注样本,另一方面对数据中未能涵盖的样本泛化性能差。提出了一种利用集成学习思想,将人类分类知识嵌入到深度学习的少样本分类方法。首先搭建了一个卷积神经网络作为分类模型的骨干网络,并设计了一个利用机器学习的类人学习模块,利用人类分类所用特征进行分类。此外,为了提高模型的泛化性、鲁棒性和更好的融合效果,设计了一种以对数函数为核心的数学集成模型,模块中的数学集成模型利用集成学习思想将骨干网络和类人学习模块的输出进行耦合。实验结果表明,对于小训练集大测试集的金属缺陷数据在分类性能和训练参数量方面优于深度学习方法。此外,类人学习模块和数学集成模型嵌入到不同的骨干网络上均取得了很好的性能,表明所提出的方法适用于多种深度卷积神经网络。     

一种基于概率距离尺度学习的图像标注方法

大部分传统的基于距离尺度学习的图像标注方法假设训练样本之间存在确定的约束关系。这样的假设在小规模、精准的数据集上可以取得一定的效果。但是当数据量较大,每幅图像有多个标注且部分标注含有噪声时,这种过于理想的假设则不成立。提出了一种基于概率主题模型的距离尺度学习方法,通过概率主题模型挖掘这种模糊的、潜在的不确定辅助信息,并应用于后续的距离尺度学习中得到语义上距离尺度,改进基于搜索的图像标注性能。在 Flickr 数据集上的实验证明所提出方法比当前方法具有更好的图像自动标注性能。     

PCA和Elman网络在移动学习策略分类中的应用

针对传统的大学生英语移动学习策略分类方法准确率较低的情况,提出了一种主成分分析（PCA）和Elman神经网络相结合的分类模型。首先,用PCA对所获得的移动学习策略原始数据作数据降维处理,提取前5个主成分,建立新的特征样本矩阵,再对Elman神经网络进行训练和泛化能力测试。仿真结果表明：单一的BPNN分类准确率为70.0%,单一的Elman网络分类准确率为80.0%,PCA Elman网络分类准确率为100.0%,PCA Elman网络模型简化了单一Elman网络的结构,提高了网络的训练速率、分类准确率和泛化能力,验证了所提出的模型的有效性。     

基于深度学习与注意力机制的化工故障分类

针对现有的故障诊断方法在处理高维度且动态特征明显的化工生产过程中观测的数据时,存在无法识别长时间依赖关系、精确度不够的问题,本文对长短时记忆模型进行改进,提出了一种基于深度学习与attention机制的分类模型,以田纳西-伊斯曼仿真平台的仿真数据作为研究对象,通过小波阈值去噪法对数据进行预处理,再对模型分类效果进行验证,比较了本文模型与改进前的模型,最后通过t-sne算法绘制样本数据及在模型各层输出特征向量在二维空间的分布图。实验结果表明,改进后的深度学习模型,对故障分类时能达到92.71%的召回率与93.05%的准确率,相对改进前的模型分别提高了16.84%与13.66%,对数据特征的学习效果更好,更适用于化工数据。     

小样本下时序注意力边界增强原型网络的 齿轮箱故障诊断方法

针对小样本条件下原型网络在提取特征过程中会丢失振动数据的时序特征,且未修正样本在度量空间中的分布导致模 型精度低的问题,提出一种时序注意力边界增强原型网络的齿轮箱故障诊断方法。 首先,通过构建时间序列注意力模块,建立 通道间的时序特征依赖,获得通道时序融合特征;然后,在计算类原型之后,增加邻边界损失以修正度量空间中的故障特征类内 和类间分布,明确类原型的表征边界。 最后,通过计算测试样本与类原型的欧氏距离,输出故障诊断结果。 实验表明,在小样本 条件下本文所提方法相比其他方法具有更高的故障诊断精度。     

基于 BiLSTM-Attention 的迁移学习变工况故障识别方法研究

针对传统深度学习网络模型在变工况条件下的故障诊断泛化能力差的问题,提出一种基于迁移学习的双向长短时记忆网络和注意力机制(TLBA)融合的故障识别方法。将原始故障数据划分为源域及目标域;并构建融合注意力机制的双向长短时记忆网络(BiLSTM-Attention, BA)模型,之后使用此模型学习源域数据特征;最后利用迁移学习通过对目标域数据的学习,进一步优化调整BA模型的网络参数,最终得到目标域的故障分类辨识模型。以航空器翼梁故障为案例,结果表明,该方法与传统故障诊断方法BiLSTM-Attention相比,其综合评价指标F_1-score有3.4%的提高,故障平均诊断准确率在91%以上;同时针对变工况下的故障分类结果较为稳定。