基于特征关系依赖网络的小样本学习方法

小样本学习任务旨在仅提供少量训练样本的情况下完成对测试样本的正确分类.基于度量学习的小样本学习方法通过将样本映射到嵌入空间中,计算样本间距离得到相似性度量以预测类别,但仅对样本特征进行独立映射,而忽略了对整个任务的观察,同时在小样本场景下通过传统方法计算的原型与期望原型存在偏差,导致在查询集上泛化性较低.针对上述问题,提出了特征关系依赖网络(FRDN).特征关系依赖网络包含两个模块:首先使用关系挖掘模块充分挖掘任务中样本的类内与类间关系,将其作为自注意力值对类簇进行调整,以获得判别性更高的任务自适应嵌入空间,计算初始原型;随后使用偏差抑制模块对初始原型进行校正,得到在查询集上泛化性更高的优化原型,进一步提高模型的分类准确率.在MiniImagenet数据集上,该方法1-shot分类准确率59.17%,5-shot准确率74.11%,分别超过传统度量学习方法6.13%与2.83%;在CUB数据集上分别提升9.3%和2.74%.     

一种基于融合深度卷积神经网络与度量学习的人脸识别方法

现有的卷积神经网络方法大多以增大类间距离为学习目标,而忽略类内距离的减小,这对于人脸识别来说,将导致一些非限制条件下(如姿态、光照等)的人脸无法被准确识别,为了解决此问题,提出一种基于融合度量学习算法和深度卷积神经网络的人脸识别方法。首先,提出一种基于多Inception结构的人脸特征提取网络,使用较少参数来提取特征;其次,提出一种联合损失的度量学习方法,将分类损失和中心损失进行加权联合;最后,将深度卷积神经网络和度量学习方法进行融合,在网络训练时,达到增大类间距离同时减小类内距离的学习目标。实验结果表明,该方法能提取出更具区分性的人脸特征,与分类损失方法及融合了其他度量学习方式的方法相比,提升了非限制条件下的人脸识别准确率。     

多级注意力特征网络的小样本学习

针对目前基于度量学习的小样本方法存在特征提取尺度单一,类特征学习不准确,相似性计算依赖标准度量等问题,该文提出多级注意力特征网络。首先对图像进行尺度处理获得多个尺度图像;其次通过图像级注意力机制融合所提取的多个尺度图像特征获取图像级注意力特征;在此基础上使用类级注意机制学习每个类的类级注意力特征。最后通过网络计算样本特征与每个类的类级注意力特征的相似性分数来预测分类。该文在Omniglot和MiniImageNet两个数据集上验证多级注意力特征网络的有效性。实验结果表明,相比于单一尺度图像特征和均值类原型,多级注意力特征网络进一步提高了小样本条件下的分类准确率。     

深层融合度量子空间学习稀疏特征提取算法

特征提取作为模式识别中的重要步骤,一直是图像处理研究的重点,逐渐兴起的深度学习理论,作为一种新的深层特征提取模型,越来越受到广大学者的关注。本文提出一种基于深层融合度量学习的稀疏特征提取算法,在深度学习的框架内,构建度量映射矩阵,对图像进行分层映射,最大化保留样本集类间区分信息,并且通过稀疏迭代来保证特征提取结果的稀疏性。首先构建图像集距离度量函数,然后通过求解最大化类间距离来确定最优度量映射矩阵,同时对特征映射结果进行 范数稀疏迭代,提高噪声鲁棒性。然后对这个基本特征提取单元进行深度化改造,在第二层中进行同样的度量学习操作,最终通过多层融合提取得到分层深度稀疏特征。相对于已有子空间方法,本文在特征映射过程中引入度量自学习机制,并着重对各个特征映射层进行视觉合理性稀疏约束,融合多层特征语义描述生成最终特征提取结果。在FERET、AR、Yale等经典人脸数据库以及MNIST、CIFAR-10等目标数据库上的实验结果表明,该算法可以取得较高的识别率以及较好的光照、表情、人脸朝向鲁棒性,并且相对于卷积神经网络等深度学习框架具有结构简洁、收敛速度快等优点。      

平移变化性相似性学习的行人重识别算法

行人重识别的精确度主要取决于相似性度量方法和特征学习模型。现有的度量方法存在平移不变性的特点,会增加网络参数训练的难度。现有的几种特征学习模型只强调样本之间的绝对距离而忽略了正样本对和负样本对之间的相对距离,造成网络学习到的特征判别性不强。针对现有度量方法的缺点该文提出一种平移变化的距离度量方法,能够简化网络的优化并能高效度量图像之间的相似性。针对特征学习模型的不足,提出一种增大间隔的逻辑回归模型,模型通过增大正负样本对之间的相对距离,使得网络得到的特征判别性更强。实验中,在Market1501和CUHK03数据库上对所提度量方式和特征学习模型的有效性进行验证,实验结果表明,所提度量方式性能更好,其平均精确率超出马氏距离度量6.59%,且所提特征学习模型也取得了很好的性能,算法的平均精确率较现有的先进算法有显著提高。     

RA-ProtoNet：基于元学习的小样本遥感场景分类方法

深度学习在解决遥感影像场景分类问题中发挥了重要作用，但在某些特定的遥感场景分类问题中，存在可训练带标签样本严重不足的情况（单类样本数少于10），造成现有的传统深度模型分类效果不理想。针对上述问题，提出一种小样本遥感场景分类方法，并构建一种基于元学习（meta-learning）训练策略的模型ResNet14-Attention-ProtoNet(RA-ProtoNet)。首先，采用预训练的深度残差网络ResNet14作为特征嵌入模块，提取遥感影像深度特征；其次，针对同类样本特征不明显会对类级（class-level）表达造成的干扰问题，在类级表达模块，采用基于双向长短期记忆网络（BiLSTM）的注意力机制强化类内样本信息，生成样本的类级特征表达；最后，利用欧氏距离度量待分类样本与类级特征之间的距离，实现分类预测。在UCMERCED、AID-30和NWPU-RESISC45等3个遥感影像数据集上，将所提方法与基于迁移学习和现有元学习方法的遥感场景分类方法进行对比实验，在5-way 5-shot条件下，所提方法的整体场景分类精度分别达到81.30%、83.29%和81.22%。实验结果表明...     

一种基于距离相似性度量和HMMs的字符识别方法

为了能够综合利用隐马尔可夫模型(HMMs)分类器在分类过程中能够得到的多种信息,提出一种基于距离相似性度量对HMMs后验概率进行调整的方法,将样本相似性与HMMs后验概率有机地结合起来进行识别.在分类过程中,采用距离相似性度量来描述待识别样本与模式类标准样本间的相似性,然后采用归一化距离相似性度量对后验概率进行适当调整,最后用调整后的概率进行分类.实验结果表明:与标准的HMMs识别方法相比,改进后的方法能够在计算量增加很小的情况下,较好地改善系统的识别精度;系统性能的改善效率在1.1～6.5间.     

一种基于距离相似性度量和HMMs的字符识别方法

为了能够综合利用隐马尔可夫模型（HMMs）分类器在分类过程中能够得到的多种信息,提出一种基于距离相似性度量对HMMs后验概率进行调整的方法,将样本相似性与HMMs后验概率有机地结合起来进行识别。在分类过程中,采用距离相似性度量来描述待识别样本与模式类标准样本间的相似性,然后采用归一化距离相似性度量对后验概率进行适当调整,最后用调整后的概率进行分类。实验结果表明：与标准的HMMs识别方法相比,改进后的方法能够在计算量增加很小的情况下,较好地改善系统的识别精度;系统性能的改善效率在1．1～6．5间。     

基于深度学习的体育视频分类方法

体育视频属于一种十分关键的信息资源,高精度分类体育视频可提高用户浏览与查询效率.针对当前分类体育视频结果主观性强、区分正确率低等缺陷,提出了基于深度学习的体育视频分类方法,采用相似系数关键帧提取算法获取关键帧特征,通过深度学习编码模型建立体育视频图像分类方法,以3类体育视频为例测试文中方法的性能,结果表明,对于不同类型...     

基于测度优化Laplacian SVM的中文指代消解方法

相比于传统的基于半监督学习的指代消解方法,Laplacian SVM（Support Vector Machine）能有效的挖掘已标注样本和未标注样本的相似性和关联性,更好的推导模型的分类边界。而传统Laplacian SVM采用欧式距离度量样本之间的距离,使得异类样本之间的相似性可能过大,不利于样本的准确分类。对此,提出一种基于数据驱动学习最优测度Laplacian SVM算法以解决中文指代消解语料不足的问题。该方法通过优化样本对之间的相似性约束条件和引入Fisher判别项,增大同类样本间的相似性,并突出强判别能力的特征。此外,提出核嵌入的测度优化方法将以上线性测度优化推广到非线性空间,有利于Laplacian SVM利用核函数实现非线性分类。在ACE2005中文语料库上的测评结果表明,所提出测度优化的Laplacian SVM（包括线性和核嵌入两种形式）的方法只需少量标注样本就可以获得与经典的有监督学习模型相当甚至更好的消解性能,同时也优于其他传统的半监督学习方法。     

基于L1范数稀疏距离测度学习的单类分类算法

 已有单类分类算法通常采用欧氏测度描述样本间相似关系,然而欧氏测度有时难以较好地反映一些数据集样本的内在分布结构,为此提出一种用于改善单类分类器描述性能的高维空间单类数据距离测度学习算法,与已有距离测度学习算法相比,该算法只需提供目标类数据,通过引入样本先验分布正则化项和L1范数惩罚的距离测度稀疏性约束,能有效解决高维空间小样本情况下的单类数据距离测度学习问题,并通过采用分块协调下降算法高效的解决距离测度学习的优化问题.学习得到的距离测度能容易地嵌入到单类分类器中,仿真实验结果表明采用学习得到的距离测度能有效改善单类分类器的描述性能,特别能够改善覆盖分类的描述能力,从而使得单类分类器具有更强的推广能力.     

Multi-manifold metric learning for face recognition based on image sets

In this paper, we propose a new multi-manifold metric learning (MMML) method for the task of face recognition based on image sets. Different from most existing metric learning algorithms that learn the distance metric for measuring single images, our method aims to learn distance metrics to measure the similarity between manifold pairs. In our method, each image set is modeled as a manifold and then multiple distance metrics among different manifolds are learned. With these distance metrics, the intra-class manifold variations are minimized and inter-class manifold variations are maximized simultaneously. For each person, we learn a distance metric by using such a criterion that all the learned distance metrics are person-specific and thus more discriminative. Our method is extensively evaluated on three widely studied face databases, i.e., Honda/UCSD database, CMU MoBo database and YouTube Celebrities database, and compared to the state-of-the-arts. Experimental results are presented to show the effectiveness of the proposed method.     

采用概率密度比值估计的距离度量学习

现有的距离度量学习算法都是假设训练数据和测试数据服从相同的分布,但是该假设在实际中不一定成立。当训练数据和测试数据的分布不同时,利用训练数据学习得到的度量函数可能难以适用于测试数据。针对上述问题,本文在NCA (Neighbourhood Components Analysis)度量学习方法的基础上,通过引入概率密度比值对目标函数加权,提出了一种采用概率密度比值估计的距离度量学习方法(Distance metric learning with Probability Density Ratio Estimation, DML-PDR)。在UCI数据集和Corel图像库上的KNN分类实验表明,新方法克服了传统度量学习方法的不一致问题,提高了分类的准确率。      

基于图像退化模型的红外与可见光图像融合方法

基于深度学习的红外与可见光图像融合算法依赖人工设计的相似度函数衡量输入与输出的相似度,这种无监督学习方式不能有效利用神经网络提取深层特征的能力,导致融合结果不理想。针对该问题,该文首先提出一种新的红外与可见光图像融合退化模型,把红外和可见光图像视为理想融合图像通过不同退化过程后产生的退化图像。其次,提出模拟图像退化的数据增强方案,采用高清数据集生成大量模拟退化图像供训练网络。最后,基于提出的退化模型设计了简单高效的端到端网络模型及其网络训练框架。实验结果表明,该文所提方法不仅拥有良好视觉效果和性能指标,还能有效地抑制光照、烟雾和噪声等干扰。     

Web video classification with visual and contextual semantics

On the social Web, the amount of video content either originated from wireless devices or previously received from media servers has increased enormously in the recent years. The astounding growth of Web videos has stimulated researchers to propose new strategies to organize them into their respective categories. Because of complex ontology and large variation in content and quality of Web videos, it is difficult to get sufficient, precisely labeled training data, which causes hindrance in automatic video classification. In this paper, we propose a novel content‐ and context‐based Web video classification framework by rendering external support through category discriminative terms (CDTs) and semantic relatedness measure (SRM). Mainly, a three‐step framework is proposed. Firstly, content‐based video classification is proposed, where twofold use of high‐level concept detectors is leveraged to classify Web videos. Initially, category classifiers induced from VIREO‐374 detectors are trained to classify Web videos, and then concept detectors with high confidence for each video are mapped to CDT through SRM‐assisted semantic content fusion function to further boost the category classifiers, which intuitively provide a more robust measure for Web video classification. Secondly, a context‐based video classification is proposed, where twofold use of contextual information is also harnessed. Initially, cosine similarity and then semantic similarity are measured between text features of each video and CDT through vector space model (VSM)‐ and SRM‐assisted semantic context fusion function, respectively. Finally, classification results from content and context are fused to compensate for the shortcomings of each other, which enhance the video classification performance. Experiments on large‐scale video dataset validate the effectiveness of the proposed solution.     

Ensemble relation network with multi-level measure

Fine-grained few-shot learning is a difficult task in image classification. The reason is that the discriminative features of fine-grained images are often located in local areas of the image, while most of the existing few-shotlearning image classification methods only use top-level features and adopt a single measure. In that way, the localfeatures of the sample cannot be learned well. In response to this problem, ensemble relation network with multi-level measure (ERN-MM) is proposed in this paper. It adds the relation modules in the shallow feature space tocompare the similarity between the samples in the local features, and finally integrates the similarity scores from thefeature spaces to assign the label of the query samples. So the proposed method ERN-MM can use local details andglobal information of different grains. Experimental results on different fine-grained datasets show that the proposedmethod achieves good classification performance and also proves its rationality.     

基于监督的距离度量学习方法研究

很多机器学习算法（比如K近邻算法）,学习的效果非常依赖于输入数据的距离度量,距离度量学习的主要目标是通过训练样本学习出一个能够更有效反映样本空间的距离函数,在此距离函数下,同类样本具有较近的距离,异类样本具有较远的距离。对近年来基于监督的距离度量学习方法的基本思想和算法进行了研究,并对当前距离度量学习的热点进行了介绍。     

基于语义特征传播图神经网络的小样本图像分类算法

使用少量样本进行学习和概括的能力是人工智能和人类之间主要的区别。在小样本学习领域,大多数图神经网络专注于将标记的样本信息传递给未标记的查询样本,而忽略了语义特征在分类过程中的重要作用。为此构建了语义特征传播图神经网络,首先将语义特征嵌入到图神经网络中,解决了细粒度图像特征相似性带来的分类准确率低的问题,然后将注意力机制与骨干网络合并达到强化前景并提高特征提取质量的目的,利用马氏距离计算类的相似度得到更好的分类性能,最后使用Funnel ReLU函数作为激活函数进一步提高分类准确率。在基准数据集上实验表明,所提算法相比于基线算法在5类1/2/5样本任务上的准确率分别提高了903%、456%和415%。