迁移学习用于电磁目标识别

迁移学习技术可以利用经验信息辅助当前任务,已在计算机视觉和语音识别领域得到广泛应用,但在电磁领域还没有取得明显的成就。电磁环境变化速度快,源数据或分类器模型在新环境中性能会显著下降,重新训练不仅需要大量的数据且费时费力。迁移学习技术与电磁目标识别任务十分相关,本文采用实测电磁目标数据集,探索迁移学习在解决电磁目标小样本问题中的几种应用,包括同类目标迁移和异类目标迁移。实验结果表明,通过将预训练模型迁移到目标域小样本识别任务,当目标域为同类源且标记样本只有20个情况下,相较于非迁移模型,验证准确率提高25%,并且大大缩短了目标域训练时间;当目标域为异类源时,也能够在保证识别准确率的同时使训练时间少于源域的1/5。     

基于YOLOv5和少样本学习的高空作业安全带检测

针对电厂高空作业人员安全带佩戴检测问题,现有研究大多利用深度检测模型直接检测,不仅需要大量样本训练模型,而且由于高空作业背景杂乱、人员目标小,导致不易检测等。为此,提出一种基于目标检测和少样本细粒度分类的两阶段检测方法：首先利用YOLOv5检测视频图像中的高空作业人员,再用少样本细粒度分类方法识别其是否佩戴安全带。针对佩戴和不佩戴安全带人员的细微差别,设计了一种基于局部描述符的少样本度量学习模型,在公用数据集预训练模型基础上,利用少量训练样本对模型微调,用于安全带佩戴识别。实验结果表明,在支持集图像数为60时,识别精度达到了97.86%。所提方法可实现少样本情况下对高空作业人员安全带佩戴情况的精确检测。     

少量样本下基于孪生CNN的SAR目标识别

针对深度学习中的有监督学习需要大量的标注数据,提出了一种少量训练样本下的SAR目标识别方法,解决了SAR图像人工标注成本较高、标注样本不足的问题。首先通过构建正负样本对的策略对数据集进行样本扩充,大幅增加数据量;其次,设计了一种基于度量学习和深度学习的孪生卷积神经网络(孪生CNN),用于衡量样本之间的相似概率;然后采用多任务联合学习的方法训练模型,有效缓解了相干斑噪声对SAR图像的影响,降低了噪声过多易引起的过拟合风险;最后,设计了一种基于孪生CNN的识别样本具体类别的加权投票模型。实验采用了MSTAR和OpenSARShip数据集,在小规模训练集上通过上述方法取得了较好的识别效果。     

基于损失加权修正的舰船目标HRRP小样本元学习识别方法

针对现有小样本高分辨距离像（high resolution range profile,HRRP）元学习识别方法难以适应任务经验差异的问题,提出了基于损失加权修正的舰船目标元学习识别方法。该方法以元学习理论为基础,设计了基础学习器与元学习器相结合的预训练模型。由于不同的特性损失可反映出学习经验的差异程度,故基于任务损失值对元学习器的损失函数进行加权处理,以减轻不同任务的偏差影响。然后,利用预训练模型对仿真数据的学习经验,在小样本测试任务集上进行舰船目标实测HRRP的分类识别。实验结果表明,所提方法与对比模型相比,可在小样本条件下获得更佳的识别效果,具备良好的小样本分类识别能力。     

RA-ProtoNet：基于元学习的小样本遥感场景分类方法

深度学习在解决遥感影像场景分类问题中发挥了重要作用，但在某些特定的遥感场景分类问题中，存在可训练带标签样本严重不足的情况（单类样本数少于10），造成现有的传统深度模型分类效果不理想。针对上述问题，提出一种小样本遥感场景分类方法，并构建一种基于元学习（meta-learning）训练策略的模型ResNet14-Attention-ProtoNet(RA-ProtoNet)。首先，采用预训练的深度残差网络ResNet14作为特征嵌入模块，提取遥感影像深度特征；其次，针对同类样本特征不明显会对类级（class-level）表达造成的干扰问题，在类级表达模块，采用基于双向长短期记忆网络（BiLSTM）的注意力机制强化类内样本信息，生成样本的类级特征表达；最后，利用欧氏距离度量待分类样本与类级特征之间的距离，实现分类预测。在UCMERCED、AID-30和NWPU-RESISC45等3个遥感影像数据集上，将所提方法与基于迁移学习和现有元学习方法的遥感场景分类方法进行对比实验，在5-way 5-shot条件下，所提方法的整体场景分类精度分别达到81.30%、83.29%和81.22%。实验结果表明...     

基于自监督对比学习的深度神经网络对抗鲁棒性提升

基于深度神经网络的多源图像内容自动分析与目标识别方法近年来不断取得新的突破,并逐步在智能安防、医疗影像辅助诊断和自动驾驶等多个领域得到广泛部署。然而深度神经网络的对抗脆弱性给其在安全敏感领域的部署带来巨大安全隐患。对抗鲁棒性的有效提升方法是采用最大化网络损失的对抗样本重训练深度网络,但是现有的对抗训练过程生成对抗样本时需要类别标记信息,并且会大大降低无攻击数据集上的泛化性能。本文提出一种基于自监督对比学习的深度神经网络对抗鲁棒性提升方法,充分利用大量存在的无标记数据改善模型在对抗场景中的预测稳定性和泛化性。采用孪生网络架构,最大化训练样本与其无监督对抗样本间的多隐层表征相似性,增强模型的内在鲁棒性。本文所提方法可以用于预训练模型的鲁棒性提升,也可以与对抗训练相结合最大化模型的“预训练+微调”鲁棒性,在遥感图像场景分类数据集上的实验结果证明了所提方法的有效性和灵活性。      

一种基于深度度量学习的视频分类方法

针对视频分类中普遍面临的类内离散度和类间相似性较大而制约分类性能的问题,该文提出一种基于深度度量学习的视频分类方法。该方法设计了一种深度网络,网络包含特征学习、基于深度度量学习的相似性度量,以及分类3个部分。其中相似性度量的工作原理为:首先,计算特征间的欧式距离作为样本之间的语义距离;其次,设计一个间隔分配函数,根据语义距离动态分配语义间隔;最后,根据样本语义间隔计算误差并反向传播,使网络能够学习到样本间语义距离的差异,自动聚焦于难分样本,以充分学习难分样本的特征。该网络在训练过程中采用多任务学习的方法,同时学习相似性度量和分类任务,以达到整体最优。在UCF101和HMDB51上的实验结果表明,与已有方法相比,提出的方法能有效提高视频分类精度。     

基于少样本学习和知识迁移的继电保护压板状态识别

针对变电站中保护压板开关状态自动识别问题,提出了一种基于少样本学习和知识迁移的压板开关状态识别模型,使用残差网络提取图像特征,基于度量方法计算查询图像与支持图像之间的相似度,在此基础上使用KNN实现压板开关状态的分类识别。将残差网络在公用数据集上预训练的模型直接迁移到基于少样本学习的压板开关状态的识别任务,并研究了KNN算法中不同的最近邻个数对压板开关状态分类结果的影响。所提方法可在图像样本少的情况下实现压板开关状态的识别。实验结果表明,在支持图像的样本数为30时,图像识别精度达到99.49%。相比于其他大样本的分类方法,所提出的利用少量样本的分类方法能够实现令人满意的分类效果,提高了图像分类的效率。     

基于深度学习的乳液泵缺陷检测算法

为了实现对工业产品乳液泵的缺陷检测,本文采集泵顶、泵上端、泵下端、尾管4个角度的样本图像,并基于深度学习中迁移学习和卷积神经网络的原理分别构建各角度的分类模型以检测缺陷样本。首先,使用Mini-ImageNet数据集预训练网络模型。然后,调整模型结构并加载预训练网络的参数,并将乳液泵各角度的训练集和验证集经过图像预处理算法后输入至卷积神经网络中训练,根据训练过程中验证集准确率的变化调整网络超参数,得到最终网络模型。最后,将预处理后的乳液泵测试样本输入至训练好的模型中,检测最终模型的缺陷识别效果。最终4个角度检测准确率均在93%以上,单样本检测用时为2.52s,优于传统方法。本文算法可用于设计乳液泵缺陷检测系统,该系统能与工业结构相结合筛选出有缺陷的泵体,也可拓展到工业其他物件的缺陷检测。     

基于卷积神经网络和微动特征的人体步态识别技术

重要军事设施、交通枢纽、保密机构等场所存在安全隐患,保证这些场所安全是人们面临的严峻问题,因此对人体目标进行身份认证和识别具有重要意义。针对敏感场所内的人体目标身份认证问题,提出了一种基于卷积神经网络和微动特征的身份认证方法。在数据样本较小的情况下,模型训练容易“过拟合”。运用迁移学习的思想,首先用MNIST数据集预训练得到卷积神经网络分类模型,使模型具有抽象特征能力;然后再用人体微动数据集训练模型的分类器以用于分类识别。实验结果表明,该方法在走路样本测试集上达到了较高的识别率。      

基于深度神经网络的花朵图像识别及分类

针对深度学习中图像识别模型的训练需要大量的数据集,同时由于受花朵的花期影响,短时间内难以收集到足够用于训练的样本问题,提出一种基于深度神经网络迁移学习的花朵识别分类的方法,达到在少量数据情况下完成模型训练的效果.首先将收集的花朵数据集图像进行随机剪裁和归一化处理;其次在ResNet34(residual neural ...     

一种基于伪标签的半监督少样本学习模型

如何将带有大量标记数据的源域知识模型迁移至带有少量标记数据的目标域是少样本学习研究领域的热点问题.针对现有的少样本学习算法在源域数据与目标域数据的特征分布差异较大时存在的泛化能力较弱的问题,提出一种基于伪标签的半监督少样本学习模型FSLSS（Few-Shot Learning based on Semi-Supervised）.首先,利用pytorch深度学习框架建立一个关系型深度学习网络,并使用源域数据对网络进行预训练;然后,使用此网络对目标域数据进行分类预测,将分类概率最大的类标签作为数据的伪标签;最后,利用目标域的伪标签数据和源域的真实标签数据对网络进行混合训练,并重复伪标签标记与混合训练过程.实验结果表明,相对于现有主流少样本学习算法,FSLSS模型有更好的泛化能力及知识迁移效果.     

面向小样本SAR图像自动目标识别的孪生自监督学习方法

现有的自监督学习算法对小样本合成孔径雷达（Synthetic Aperture Radar,SAR）图像表征能力不足，无法充分地满足自动目标识别（Automatic Target Recognition,ATR）性能的需求。因此，本文提出了一种基于孪生自监督学习的SAR ATR方法。首先，将无标注SAR数据通过孪生特征提取网络模块中的数据增强方式建立正负样本对；其次，通过孪生自监督学习模块中的对比学习头部网络和特征冗余降低头部网络，依据无监督对比学习损失函数和特征信息冗余损失函数进行联合优化，进而得到具有较好表征能力的预训练网络；最后，将自监督预训练网络权重加载到下游网络中，并通过交叉熵损失对下游网络进行小样本SAR图像有监督识别。实验结果表明，对于运动与静止目标获取和识别（Moving and Stationary Target Acquisition and Recognition,MSTAR）数据集，本文的方法仅在3.13%的训练数据上可达82.95%准确率。本文所提方法可在无标注数据中获得较好的表征能力，有效地改善小样本SAR图像识别的过拟合问题。     

基于深度学习的道路交通标志数字识别技术探究

选取了自然场景中的交通标志为研究对象,采集了大量实景图像作为训练样本和测试样本,采用一种新型的深度学习模型MPCNN（Max-pooling Convolutional Neural Networks）进行识别实验,实验结果表明,深度学习方法在交通标志识别上不需要任何人工特征提取模型预先提取特征,直接对原始图进行训练学习就能取得较高的识别效率。     

零样本图像识别

深度学习在人工智能领域已经取得了非常优秀的成就，在有监督识别任务中，使用深度学习算法训练海量的带标签数据，可以达到前所未有的识别精确度。但是，由于对海量数据的标注工作成本昂贵，对罕见类别获取海量数据难度较大，所以如何识别在训练过程中少见或从未见过的未知类仍然是一个严峻的问题。针对这个问题，该文回顾近年来的零样本图像识别技术研究，从研究背景、模型分析、数据集介绍、实验分析等方面全面阐释零样本图像识别技术。此外，该文还分析了当前研究存在的技术难题，并针对主流问题提出一些解决方案以及对未来研究的展望，为零样本学习的初学者或研究者提供一些参考。     

非平衡样本分类的集成迁移学习算法

针对冗余数据量大且正负样本不平衡的辅助训练数据,提出了一种改进集成迁移学习算法,利用这些辅助训练数据迁移帮助目标数据进行分类.新的样本初始权重分配及调整策略,突出了对负样本的识别能力.通过动态调整辅助训练集,根据设定好的权重阈值下限适时地淘汰冗余数据,降低了冗余数据对分类器性能的影响,提升了迁移学习对非平衡样本的学习能力.本文利用桥梁实际监测数据进行的实验表明了该算法较TrAdaboost算法的有效性.     

基于迁移BN-CNN框架的小样本工业过程故障诊断

针对工业故障诊断过程中训练样本不足导致的诊断性能低下问题，文中以迁移学习和深度学习方法为基础，提出一种迁移BN-CNN(Batch Normalization-Convolutional Neural Network)框架。为了减少网络对初始化方法的依赖，在卷积神经网络中引入批归一化层，对网络的隐藏层进行归一化处理。针对目标域标签数据不充足问题，通过基于样本的迁移学习方法扩充目标域的标记数据量，引入基于模型的迁移学习方法，通过充足的源域数据预训练BN-CNN网络，并利用数据量扩充后的目标域微调该网络部分参数，降低了少量样本训练深度神经网络的难度，得到了更适合目标域的故障诊断模型。采用TE工业数据集对该方法进行对比验证，实验结果表明，文中所提方法对于小样本工业过程故障具有较好的诊断性能，其平均精度值为0.804。     

基于卷积神经网络迁移学习的飞机目标识别

飞机目标识别是地面情报系统的一项重要关键技术。近年来火热的深度学习方法,如卷积神经网络,展现出对于图像识别任务的优越性能。但是,训练卷积神经网络需要大量的带标签样本以估计规模庞大的模型参数,因而限制了其在雷达目标识别领域中的应用。针对飞机目标识别中的小样本问题,文中引入适用于有限数据场景的迁移学习技术,预先在其他大样本高分辨距离像数据上训练一个初始卷积神经网络模型,再结合当前飞机目标识别任务调优模型参数。在实测数据上的实验结果显示,与仅使用卷积神经网络的方法相比,所提方法可显著提升识别准确率,验证了方法的有效性。     

基于Grassmann流形几何深度网络的图像集识别方法

近年来,深度学习以其强大的非线性计算能力在目标检测和识别任务中取得了巨大的突破。现有的深度学习网络几乎都是以数据的欧氏结构为前提,而在计算机视觉中许多数据都具有严格的流形结构,如图像集可表示为Grassmann流形。基于数据的流形几何结构来设计深度学习网络,将微分几何理论与深度学习理论相结合,提出一种基于Grassmann流形的深度图像集识别网络。同时在模型训练过程中,使用基于矩阵链式法则的反向传播算法来更新模型,并将权值的优化过程转换为Grassmann流形上的黎曼优化问题。实验结果表明:该方法不仅在结果上识别准确率得到了提高,同时在训练和测试速度上也有一个数量级的提升。     

基于栈式稀疏自编码器的新型干扰识别

为了有效应对频谱弥散干扰(SMSP)和切片组合干扰(C&I)两种新型干扰,提出了一种基于栈式稀疏自编码器的识别算法。该算法首先对干扰与否的雷达接收信号进行双谱分析;然后对双谱特征进行降维,得到高维样本。预训练阶段,构造稀疏自编码器神经网络模型进行无标签样本的预训练;然后根据有标签数据对该模型参数进行有监督微调;最后利用Softmax分类器完成新型干扰的识别。仿真实验证明该方法有较高的识别率,特别是相较于其他文献方法,该方法受信噪比影响最小且识别效果最佳。说明了深度学习方法应用于雷达新型干扰信号识别领域的可行性和优越性。