基于任务感知关系网络的少样本图像分类

针对关系网络(RN)模型缺乏对分类任务整体相关信息的感知能力的问题,该文提出基于任务感知关系网络(TARN)的小样本学习(FSL)算法。引入模糊C均值(FCM)聚类生成基于任务全局分布的类别原型,同时设计任务相关注意力机制(TCA),改进RN中的1对1度量方式,使得在与类别原型对比时,局部特征聚合了任务全局信息。和RN比,在数据集Mini-ImageNet上,5-way 1-shot和5-way 5-shot设置中的分类准确率分别提高了8.15%和7.0%,在数据集Tiered-ImageNet上,5-way 1-shot和5-way 5-shot设置中的分类准确率分别提高了7.81%和6.7%。与位置感知的关系网络模型比,在数据集Mini-ImageNet上,5-way 1-shot设置中分类准确率也提高了1.24%。与其他小样本图像分类算法性能比较,TARN模型在两个数据集上都获得了最佳的识别精度。该方法将任务相关信息和度量网络模型进行结合可以有效提高小样本图像分类准确率。     

基于散射点拓扑和双分支卷积神经网络的SAR图像小样本舰船分类

随着合成孔径雷达(SAR)图像在舰船检测和识别领域的广泛应用,准确而高效地进行舰船分类已经成为一个亟待解决的问题。在小样本学习场景下,一般的方法面临着泛化能力不足的问题,因此该文引入了额外的信息和特征,旨在增加模型对目标的理解和泛化能力。该文通过散射关键点构建拓扑结构以表征舰船目标的结构和形状特征,并计算拓扑结构的拉普拉斯矩阵,将散射点之间的拓扑关系转化为矩阵形式,最后将SAR图像和拉普拉斯矩阵分别作为双分支网络的输入进行特征提取。在网络结构方面,该文设计了一个由两个独立的卷积分支组成的双分支卷积神经网络,分别负责处理视觉特征和拓扑特征,并用两个交叉融合注意力模块分别对两个分支的特征进行交互融合。该方法有效地将目标散射点拓扑关系与网络的自动学习过程相结合,从而增强模型的泛化能力并提高分类精度。实验结果表明,在OpenSARShip数据集上,所提方法在1-shot和5-shot任务的平均准确率分别为53.80%和73.00%。而在FUSAR-Ship数据集上,所提方法分别取得了54.44%和71.36%的平均准确率。所提方法在1-shot和5-shot的设置下相比基础方法准确率均提升超过...     

多级注意力特征网络的小样本学习

针对目前基于度量学习的小样本方法存在特征提取尺度单一,类特征学习不准确,相似性计算依赖标准度量等问题,该文提出多级注意力特征网络。首先对图像进行尺度处理获得多个尺度图像;其次通过图像级注意力机制融合所提取的多个尺度图像特征获取图像级注意力特征;在此基础上使用类级注意机制学习每个类的类级注意力特征。最后通过网络计算样本特征与每个类的类级注意力特征的相似性分数来预测分类。该文在Omniglot和MiniImageNet两个数据集上验证多级注意力特征网络的有效性。实验结果表明,相比于单一尺度图像特征和均值类原型,多级注意力特征网络进一步提高了小样本条件下的分类准确率。     

基于元学习的图卷积网络少样本学习模型

少样本学习是目前机器学习研究领域的热点和难点.针对现有的少样本学习模型不能有效捕捉数据特征与数据标签之间的联系,造成分类模型泛化能力弱的问题,提出一种基于元学习的原型空间图卷积网络少样本学习模型FSL-GCNPS(Few-Shot Learning of Graph Convolutional Network on Prototype Space).首先,利用卷积神经网络提取多任务数据的特征向量;其次,为了将特征向量映射到原型空间中,根据元学习的训练策略得到特征向量的类原型表达;然后,通过类原型向量和类向量之间的嵌入表示,构建图结构数据,并进行图卷积网络训练、推理.实验结果表明,相较于经典少样本学习方法,FSL-GCNPS模型拥有更好的分类准确率和分类稳定性.同时,在医学图像领域数据集上实验表明,FSL-GCNPS具有很好的跨域适应性.     

基于语义特征传播图神经网络的小样本图像分类算法

使用少量样本进行学习和概括的能力是人工智能和人类之间主要的区别。在小样本学习领域,大多数图神经网络专注于将标记的样本信息传递给未标记的查询样本,而忽略了语义特征在分类过程中的重要作用。为此构建了语义特征传播图神经网络,首先将语义特征嵌入到图神经网络中,解决了细粒度图像特征相似性带来的分类准确率低的问题,然后将注意力机制与骨干网络合并达到强化前景并提高特征提取质量的目的,利用马氏距离计算类的相似度得到更好的分类性能,最后使用Funnel ReLU函数作为激活函数进一步提高分类准确率。在基准数据集上实验表明,所提算法相比于基线算法在5类1/2/5样本任务上的准确率分别提高了903%、456%和415%。     

小样本学习驱动的无线频谱状态感知

无线频谱状态感知是实现无线频谱资源高效利用及各种用频系统和谐共存的先决条件之一。针对复杂无线传播环境下获取的频谱观测往往存在数据稀疏性、数据类别分布不稳定、标记数据严重不足的情况,该文提出基于插值和小样本学习(FSL)分类的无线频谱状态感知方法。首先,对捕获的稀疏频谱观测数据插值,构建频谱状态地图,作为频谱状态分类器的输入数据。其次,针对频谱数据类别分布不稳定、数据量严重不足的问题,基于小样本学习方法,利用嵌入模块和度量模块协同工作,以实现快速精确的频谱状态分类。具体地,利用嵌入模块将频谱数据映射到嵌入空间,提取频谱数据中的隐含特征;在度量模块的设计中,分别提出基于原型和基于样例的两种类别表示方式,通过计算待分类样本与类别之间的相似度判断待分类样本类别。最后,为了确保分类模型克服测试样本数量少导致过拟合问题,设置A-way B-shot任务训练模型。仿真结果表明,与传统机器学习方法相比,本文模型可以在低信噪比条件下进行精准分类;同时,在测试集样本数很少的情况下,或者在测试集中出现在训练集从未见到的新类时,所训练的模型也可以精准快速判别无线频谱的场景类别。     

RA-ProtoNet：基于元学习的小样本遥感场景分类方法

深度学习在解决遥感影像场景分类问题中发挥了重要作用，但在某些特定的遥感场景分类问题中，存在可训练带标签样本严重不足的情况（单类样本数少于10），造成现有的传统深度模型分类效果不理想。针对上述问题，提出一种小样本遥感场景分类方法，并构建一种基于元学习（meta-learning）训练策略的模型ResNet14-Attention-ProtoNet(RA-ProtoNet)。首先，采用预训练的深度残差网络ResNet14作为特征嵌入模块，提取遥感影像深度特征；其次，针对同类样本特征不明显会对类级（class-level）表达造成的干扰问题，在类级表达模块，采用基于双向长短期记忆网络（BiLSTM）的注意力机制强化类内样本信息，生成样本的类级特征表达；最后，利用欧氏距离度量待分类样本与类级特征之间的距离，实现分类预测。在UCMERCED、AID-30和NWPU-RESISC45等3个遥感影像数据集上，将所提方法与基于迁移学习和现有元学习方法的遥感场景分类方法进行对比实验，在5-way 5-shot条件下，所提方法的整体场景分类精度分别达到81.30%、83.29%和81.22%。实验结果表明...     

基于储备池计算网络的小样本图像分类方法

针对目前小样本学习方法易过拟合、跨域泛化能力不足等问题，受启发于储备池计算不依赖于训练而缓解过拟合的特性，提出了一种基于储备池计算的小样本学习方法（Reservoir Computing based Network for Few-shot Image Classification,RCFIC）。整个方法由特征提取模块、特征增强模块和分类器模块构成。特征增强模块由储备池模块和基于储备池的注意力机制构成，分别对特征提取网络的特征进行通道级增强和像素级增强，同时联合余弦分类器促使网络学习具有高类间方差、低类内方差特性的特征分布。实验结果表明，本文算法在Cifar-FS、FC100、Mini-ImageNet等数据集上的分类精度至少比现有方法高1.07%，在从Mini-ImageNet到CUB-200的跨域场景设置下的分类精度优于次优方法1.77%。同时，消融实验验证了RCFIC的有效性。所提方法泛化性强，能够有效缓解小样本图像分类中的过拟合问题并在一定程度上解决跨域问题。     

基于多原型指导的小样本家族域名入侵检测算法

恶意域名只有攻击后才被加入到域名黑名单数据库中,这使得传统模型对新变种或新出现的家族域名检测精度不高,极易导致新出现或新变种家族恶意域名的漏报。为此,提出一种基于多原型指导的小样本家族恶意域名入侵检测算法,该算法首先利用一组共享权重的Transformer网络将输入的支持与查询域名对映射到深度特征空间;其次,设计了一种任务关联注意力模块挖掘支持分支和查询分支输入域名对的共有语义;再次,在共有语义特征图上利用平均池化策略生成多个代表家族团聚特征的原型集;最后,利用原型集细粒度地指导未知家族域名和已知支持域名的标签,并根据真实标签与预测标签之间的损失端到端优化原型集,强化原型的表达能力。通过在多个恶意域名家族数据集上测试,所提出模型在传统二分类任务上可以实现0.983 9和0.987 6的识别准确率和识别精度,在细粒度的多分类任务上可以实现5个家族0.980 0以上的识别精准率,11个家族0.970 0以上的识别精准率,30个家族0.940 0以上的识别精准率。     

基于样本对元学习的小样本图像分类方法

本文针对小样本图像分类问题,提出一种基于样本对的元学习(Pairwise-based Meta Learning,PML)方法.利用传递迁移学习对预训练好的Resnet50模型进行微调,得到一个更适应小样本任务的特征编码器,将该特征编码器作为元学习模型的初始特征编码器来训练模型,进一步增强了元学习模型的泛化能力;同时,...     

基于元学习的少样本红外空中目标分类方法

针对空中红外目标样本数目不足、细粒度分类精度低等问题,提出一种基于元学习的少样本红外空中目标分类的方法。该方法以元学习为基础,结合多尺度特征融合,在减少计算量的同时有效提取不同分类任务之间的共性,再利用微调策略实现对不同任务的分类。实验证明,此方法在提升mini-ImageNet数据集分类精度的同时可减少约70%的计算量,对仅有少量样本的红外空中目标细粒度分类准确率可达到92.74%。     

一种基于深度度量学习的视频分类方法

针对视频分类中普遍面临的类内离散度和类间相似性较大而制约分类性能的问题,该文提出一种基于深度度量学习的视频分类方法。该方法设计了一种深度网络,网络包含特征学习、基于深度度量学习的相似性度量,以及分类3个部分。其中相似性度量的工作原理为:首先,计算特征间的欧式距离作为样本之间的语义距离;其次,设计一个间隔分配函数,根据语义距离动态分配语义间隔;最后,根据样本语义间隔计算误差并反向传播,使网络能够学习到样本间语义距离的差异,自动聚焦于难分样本,以充分学习难分样本的特征。该网络在训练过程中采用多任务学习的方法,同时学习相似性度量和分类任务,以达到整体最优。在UCF101和HMDB51上的实验结果表明,与已有方法相比,提出的方法能有效提高视频分类精度。     

基于NN-SVM的Webshell检测方法

本文针对Webshell特征混淆选取新的特征参数,应用NN-SVM的分类特性来识别Webshell,来提高Webshell检测概率。由于样本正反混淆造成SVM分类准确率不够高,采用一种基于NN分类器的改进算法,综合距离与同异类点个数的因素,通过计算样本点对最近T个样本点的类别归属程度来对样本集进行修剪,从而减少正反类的混淆,以降低SVM的学习代价,提高泛化能力,在有效的减少学习样本数同时,解决小样本的机器学习问题,优化SVM对Webshell的检测能力。     

基于高斯原型网络的小样本逆合成孔径雷达目标识别

针对现有基于深度卷积神经网络(DCNNs)的逆合成孔径雷达(ISAR)目标识别方法在训练样本不足时性能下降甚至失效等问题,该文提出基于高斯原型网络(GPN)的小样本ISAR目标识别方法。该方法通过嵌入网络将ISAR像映射为嵌入向量,进而根据加权嵌入向量构建高斯原型,最终根据测试样本到原型的马氏距离预测目标类别。3类飞机目标实测数据的识别结果表明,该方法在小样本条件下可获得更高的平均识别精度。     

基于Xception与迁移学习的中药饮片图像识别研究

为实现对常用60种中药饮片图像的精准快速识别,构建13 088张常见中药饮片图像数据集,采用迁移学习的方式,以深度学习算法中Xception卷积神经网络模型为基准,对饮片图像进行训练与识别。模型训练的初始学习率设置为0.01,优化器中设置Nesterov动量超参数为0.9,训练次数为100轮,得到在训练集上的分类准确率达到100%,验证集准确率为97.42%,测试集准确率为97.26%,最后结合混淆矩阵这一指标对模型的识别能力进行评估分析。该模型与传统依靠提取中药饮片图像特征的机器学习算法相比,分类效果更好,泛化能力更强。     

基于少样本学习和知识迁移的继电保护压板状态识别

针对变电站中保护压板开关状态自动识别问题,提出了一种基于少样本学习和知识迁移的压板开关状态识别模型,使用残差网络提取图像特征,基于度量方法计算查询图像与支持图像之间的相似度,在此基础上使用KNN实现压板开关状态的分类识别。将残差网络在公用数据集上预训练的模型直接迁移到基于少样本学习的压板开关状态的识别任务,并研究了KNN算法中不同的最近邻个数对压板开关状态分类结果的影响。所提方法可在图像样本少的情况下实现压板开关状态的识别。实验结果表明,在支持图像的样本数为30时,图像识别精度达到99.49%。相比于其他大样本的分类方法,所提出的利用少量样本的分类方法能够实现令人满意的分类效果,提高了图像分类的效率。     

基于数据增强和集成学习的网络流量检测

针对网络流量检测中普遍存在的恶意流量样本不平衡问题，提出了一种基于数据增强和集成学习的分类方法。该方法采用K-means+SMOTE数据增强来平衡不同类别的数据样本，然后利用集成学习模型提高分类模型的泛化能力。在两个公开数据集上的实验结果表明，使用XGBoost进行二元和多类分类时，准确率分别达到99.1%和97.19%。与CNN、随机森林和LightGBM等模型相比，所提方法始终表现出显著性能优势。     

基于粒子群算法寻最优属性关联下的零样本语义自编码器

针对零样本图像分类构建共享属性层时造成的信息缺失问题,该文提出一种嵌入属性关联性的补偿方法。通过语义自编码器构建特征到属性的映射,然后以最大后验概率估计在类高斯模型构建的基础上实现零样本图像分类。为弥补SAE对属性关系学习的不足,引入加性因子与乘性因子对属性相关性进行嵌入,并利用粒子群算法搜寻最优的因子参数,实现属性相关性信息的补偿。实验结果表明采取相同映射方法的情况下,基于属性相关性嵌入的零样本图像分类在Pubfig数据集和OSR数据集上的分类效果较之其他方法得到了显著提升。     

基于粒子群算法寻最优属性关联下的零样本语义自编码器

针对零样本图像分类构建共享属性层时造成的信息缺失问题,该文提出一种嵌入属性关联性的补偿方法.通过语义自编码器构建特征到属性的映射,然后以最大后验概率估计在类高斯模型构建的基础上实现零样本图像分类.为弥补SAE对属性关系学习的不足,引入加性因子与乘性因子对属性相关性进行嵌入,并利用粒子群算法搜寻最优的因子参数,实现属性相关性信息的补偿.实验结果表明采取相同映射方法的情况下,基于属性相关性嵌入的零样本图像分类在Pubfig数据集和OSR数据集上的分类效果较之其他方法得到了显著提升.     

深层融合度量子空间学习稀疏特征提取算法

特征提取作为模式识别中的重要步骤,一直是图像处理研究的重点,逐渐兴起的深度学习理论,作为一种新的深层特征提取模型,越来越受到广大学者的关注。本文提出一种基于深层融合度量学习的稀疏特征提取算法,在深度学习的框架内,构建度量映射矩阵,对图像进行分层映射,最大化保留样本集类间区分信息,并且通过稀疏迭代来保证特征提取结果的稀疏性。首先构建图像集距离度量函数,然后通过求解最大化类间距离来确定最优度量映射矩阵,同时对特征映射结果进行 范数稀疏迭代,提高噪声鲁棒性。然后对这个基本特征提取单元进行深度化改造,在第二层中进行同样的度量学习操作,最终通过多层融合提取得到分层深度稀疏特征。相对于已有子空间方法,本文在特征映射过程中引入度量自学习机制,并着重对各个特征映射层进行视觉合理性稀疏约束,融合多层特征语义描述生成最终特征提取结果。在FERET、AR、Yale等经典人脸数据库以及MNIST、CIFAR-10等目标数据库上的实验结果表明,该算法可以取得较高的识别率以及较好的光照、表情、人脸朝向鲁棒性,并且相对于卷积神经网络等深度学习框架具有结构简洁、收敛速度快等优点。