近邻类加权结构稀疏表示图像识别算法

针对如何将近邻、子空间学习与稀疏表示结合起来解决稀疏分类计算量较大的问题。由于子空间中样本的类内散度小,类间散度大,且同类中所有样本对重构的影响相似,因此按类而非样本处理的思想更符合基于类重构误差进行分类的算法要求,为此提出一种基于近邻类加权结构稀疏表示算法用于图像识别。该算法首先利用线性类重构误差选取 个最近邻类,并将其对应的系数作为权值对投影后的近邻类加权,其次在投影子空间上,用 个类的加权训练样本集对测试样本进行结构稀疏表示,最后根据最小类重构误差得出分类结果。在AR,Yale B,MNIST,PIE数据库上的实验结果表明该方法在训练样本数较少的情况下获得较高的识别率且具有一定的鲁棒性。      

稀疏表示保持的鉴别特征选择算法

稀疏表示作为一种基于部分数据的表示,已经吸引了越来越多的关注,并广泛应用于模式识别和机器学习领域。提出一种新的算法,称为稀疏表示保持的鉴别特征选择(SRPFS),其目的是选择鉴别性特征子集,使得在所选特征子空间中,样本的稀疏类内重构残差和稀疏类间重构残差的差值最小化。与传统算法选择特征的独立性方式不同,该算法以批处理方式选择最具鉴别性的特征,并用于优化提出的l2,1范数最小化的目标函数。在标准UCI数据集和哥伦比亚图像数据库的实验结果表明,该算法在识别性能和稳定性方面优于其他经典特征选择算法。     

基于聚类字典的图像超分辨率重构算法

针对图像超分辨率(SR)重构在空间邻域选取过程中 细节特征易被大幅度特征分量淹没的问题,提出 一种基于聚类字典的SR重构(DD-NE)算法。图像SR重构是利用信号处理方 法来提高图像分辨 率,针对NE算法在空间邻域选取时细节信号易被大幅度信号淹没的问题,对输入图像及邻域 利用聚类字典进行 稀疏分解。从大、小幅值表示系数中分别重构大、小幅度特征子图,保护邻域计算中的小幅 度特征,并将 低分辨率(LR)图像库及输入图像使用聚类字典表示。细节信号以字典原子的形式得到表达 ,空间邻域度 量转换为字典原子间的度量,从而细节特征对邻域的选择更加准确。实验结果表明,相对于 NE算法,本文算法图像SR 重构的峰值信噪比(PSNR)值平均提升了1.1dB,有效改善了重构效果;重构时间仅为NE算法的30.9%。     

基于信号暂态稀疏表示的AIS辐射源个体识别方法

针对民用船舶自动报告系统通信辐射源个体识别问题,该文提出一种基于信号暂态稀疏表示的个体识别方法。该算法求解一个充分利用信号暂态样本类别信息且可保持样本稀疏表示结构的投影变换,来提取低维个体特征矢量。该算法通过最大化类间特征的重构误差和最小化类内特征的重构误差来构造目标函数求解投影变换,并在低维辨别子空间以最小稀疏表示重构误差准则来判定测试样本类别属性。对实际数据处理结果表明该文提出的新算法可有效识别不同辐射源个体;对辐射源暂态信号建模仿真结果,验证了该文算法的正确性和有效性,且平均正确识别率优于现有算法。      

稀疏特征空间嵌入正则化：鲁棒的半监督学习框架

在机器学习领域,半监督学习作为一种有力工具吸引了越来越多的关注,其利用少量带标签数据和大量无标签数据进行有效学习,其中基于图的半监督学习方法因其优雅的数学形式和良好的学习性能而引起更广泛的研究。针对现有基于图的半监督学习方法所存在的模型参数敏感和数据判别信息不充分等问题,提出一种稀疏特征空间嵌入正则化（Sparse Feature Space embedding Regularization ,SFSR ）半监督学习框架,其主要思想为：首先分别将原始数据嵌入到线性特征空间,然后利用特征空间嵌入投影点集来稀疏重构原始数据,随后在由原始数据线性张成的标签空间通过保留这种稀疏表示关系来构建一个Laplacian正则化项,或称SFSR ,最后提出一个鲁棒的基于SFSR的半监督学习框架,在几个实际基准数据库上的综合实验结果证实了所提框架的鲁棒有效性。     

一种压缩采样中的稀疏度自适应子空间追踪算法

 针对压缩采样中未知稀疏度的信号,本文提出一种自适应子空间追踪算法.首先,采用了一种基于匹配测试的估计方法获取稀疏度的估计值,再通过子空间追踪重构信号.若子空间追踪不能成功重构,则通过渐近增加信号稀疏度的方法实施估计,而上述过程可描述为在弱匹配原则下新原子的选取过程.仿真结果表明,本文的算法可以准确有效重构信号,同时运算量也较低.     

基于中心对齐多核学习的稀疏多元逻辑回归算法

稀疏多元逻辑回归(SMLR)作为一种广义的线性模型被广泛地应用于各种多分类任务场景中。SMLR通过将拉普拉斯先验引入多元逻辑回归(MLR)中使其解具有稀疏性,这使得该分类器可以在进行分类的过程中嵌入特征选择。为了使分类器能够解决非线性数据分类的问题,该文通过核技巧对SMLR进行核化扩充后得到了核稀疏多元逻辑回归(KSMLR)。KSMLR能够将非线性特征数据通过核函数映射到高维甚至无穷维的特征空间中,使其特征能够充分地表达并最终能进行有效的分类。此外,该文还利用了基于中心对齐的多核学习算法,通过不同的核函数对数据进行不同维度的映射,并用中心对齐相似度来灵活地选取多核学习权重系数,使得分类器具有更好的泛化能力。实验结果表明,该文提出的基于中心对齐多核学习的稀疏多元逻辑回归算法在分类的准确率指标上都优于目前常规的分类算法。     

基于Gabor特征的稀疏表示纹理分割研究

稀疏表示和字典学习在图像去噪、图像重建和模式识别等应用上取得了良好的效果,其利用稀疏系数和重构误差来作为模式分类的判别准则。稀疏表示纹理分割方法是将图像分割问题转换为像素点的分类问题。但通常稀疏表示分类方法是基于图像块特征,难以准确表征图像纹理信息。为了解决上述问题,提出基于Gabor特征的稀疏表示纹理分割方法。因为Gabor特征对图像纹理信息的鲁棒性,算法首先从每类纹理中选择一些像素点作为训练样本,计算其不同尺度和方向下的Gabor特征,将其作为初始化字典,通过判别性的字典学习算法(D-KSVD)更新字典,该字典学习算法在KSVD基础上使得字典更具有类别判别能力,最后以待分割图像的每个像素点作为测试样本,计算其Gabor特征。利用OMP算法得到测试样本在字典下的稀疏系数,根据稀疏系数得到类标签,进而对像素点进行分类,完成分割。通过在Brodatz纹理库上的实验结果表明,该方法有效提高了稀疏表示算法对纹理图像分割的正确率。     

一种局部稀疏判别投影算法

提取有效特征是模式识别中的关键步骤。流形学 习算法能有效处理样本的非线性,而 稀疏表示表现出具有较好的鲁棒性。为了提取具有判别特性和鲁棒的特征,本文结合稀疏表 示和判别准则,提出了一种局部稀疏表示和判别分析的特征提取算法,即局部稀疏判别投影 算法,并应用于人脸识别。算法通过保持数据间的局部稀疏性和最大化不同类别数据间的 可分性,使得降维后的数据具有稀疏性和可分性,因此有利于后续的分类。在ORL和YALE两 个开放人脸数据库上进行了实验,实验结果表明,算法具有较高的识别性,验证了算法的正 确性和有效性。     

值域空间超球面上的判别分析

Fisher线性判别分析(LDA)是模式识别中使用最广泛的线性分析方法之一。然而,实际应用中,样本数量相对于样本空间的维数而言是很少的,即样本在高维空间中呈稀疏分布。LDA采用基于欧式距离的度量方法将会使判别向量趋向于较大的类间距离。从而,可能融合距离较近的类。我们用超球面模型表示数据在高维空间中的结构信息,提出一种值域空间中的超球面判别分析方法(RHDA)。RHDA方法将数据映射到其值域空间的单位超球面上;在值域空间超球面上计算各个子类的判别子空间;最后,计算测试样本与各个判别子空间中子类均值向量间的距离。RHDA将测试样本判别为第 类仅当测试样本与第 类的均值向量的距离最小。超球面判别分析采用单位超球面上数据的归一化向量来表示样本向量的结构信息,它主要针对于基于欧式距离的判别分析所引起的判别向量偏离问题。最后本文还提出了值域空间超球面核判别分析方法。超球面核判别分析方法为高维空间中对不同数据采用不同映射提供了可能。在不同数据库上的分类实验结果证实了RHDA相对于 LDA及其相关推广算法的优良性。      

Semi-Supervised Bilinear Subspace Learning

Recent research has demonstrated the success of tensor based subspace learning in both unsupervised and supervised configurations (e.g., 2-D PCA, 2-D LDA, and DATER). In this correspondence, we present a new semi-supervised subspace learning algorithm by integrating the tensor representation and the complementary information conveyed by unlabeled data. Conventional semi-supervised algorithms mostly impose a regularization term based on the data representation in the original feature space. Instead, we utilize graph Laplacian regularization based on the low-dimensional feature space. An iterative algorithm, referred to as adaptive regularization based semi-supervised discriminant analysis with tensor representation (ARSDA/T), is also developed to compute the solution. In addition to handling tensor data, a vector-based variant (ARSDA/V) is also presented, in which the tensor data are converted into vectors before subspace learning. Comprehensive experiments on the CMU PIE and YALE-B databases demonstrate that ARSDA/T brings significant improvement in face recognition accuracy over both conventional supervised and semi-supervised subspace learning algorithms.     

Gist特征和概率协从表示的人脸识别算法

为了进一步提高基于协从表示的人脸识别系统的 性能,在概率协从表示(ProCRC)算法和字典学习的基础上提出了一 种基于Gist特征和ProCRC的GL-PCRC人脸识别算法。首先提取每副人脸图像的G ist特征,再把人脸图像的Gist 特征采用线性判别算法(LDA)方法投影到最优判别子空间,使得到的LDA特征拥有最小的类内 离散度以及最大的类间离散度;然后利用 LC-KSVD方法对LDA特征进行迭代训练从而得到新的学习字典;继而通过ProCRC算法快 速得到稀疏系数;最后通过计算测 试样本属于各个类别的概率进行分类。分别在ORL和扩展的YaleB人脸库上进行实验检测的 结果表明,与传统的协从表示方法 相比,本文给出的方案可以使人脸识别系统的性能得到显著的提升。     

Image classification using correlation tensor analysis

Images, as high-dimensional data, usually embody large variabilities. To classify images for versatile applications, an effective algorithm is necessarily designed by systematically considering the data structure, similarity metric, discriminant subspace, and classifier. In this paper, we provide evidence that, besides the Fisher criterion, graph embedding, and tensorization used in many existing methods, the correlation-based similarity metric embodied in supervised multilinear discriminant subspace learning can additionally improve the classification performance. In particular, a novel discriminant subspace learning algorithm, called correlation tensor analysis (CTA), is designed to incorporate both graph-embedded correlational mapping and discriminant analysis in a Fisher type of learning manner. The correlation metric can estimate intrinsic angles and distances for the locally isometric embedding, which can deal with the case when Euclidean metric is incapable of capturing the intrinsic similarities between data points. CTA learns multiple interrelated subspaces to obtain a low-dimensional data representation reflecting both class label information and intrinsic geometric structure of the data distribution. Extensive comparisons with most popular subspace learning methods on face recognition evaluation demonstrate the effectiveness and superiority of CTA. Parameter analysis also reveals its robustness.     

直接线性图嵌入算法及其在人脸识别中的应用

图嵌入算法使用无向有权图来描述数据集的流形结构,目前许多流形学习算法都可统一到这个框架下。线性图嵌入算法(LGE)在高维小样本应用中往往会遇到的奇异值问题,因此需把数据集预先投影到PCA子空间,往往会丢失了一些有用的信息。本文提出了一种直接的线性图嵌入算法(DLGE),可直接从原始数据集中提取特征。此外DLGE算法相对于基于迭代的正交化算法,在最小二乘意义下对截断的征向量进行正交化处理,计算简便有效。在多个人脸数据库库上的仿真结果表明,相对于传统算法,DLGE算法具有更强的人脸表征能力,更好的分类性能,且更加鲁棒。     

张量局部判别投影的人脸识别

 经典的向量子空间学习算法是以数据流形的向量表示进行计算的,但是在现实世界中数据流形从本质上而言是以张量的形式存在,因此基于张量子空间的学习算法能够更好地揭示流形内在的几何结构.本文提出了一种新的张量子空间的学习算法:张量局部判别投影.首先构建类内和类间图,然后保持流形的局部结构并且利用数据的判别信息,推导出算法的计算公式,最后通过迭代计算广义特征向量,解得最优张量子空间.在标准人脸数据库上的实验表明该算法有效.     

基于自适应近邻图嵌入的局部鉴别投影算法

 针对局部Fisher鉴别分析(LFDA)中样本近邻点个数对于最优投影方向的影响以及在度量类间离差度时未考虑不同类别样本近邻点的两点不足之处,该文提出一种基于自适应近邻图嵌入的局部鉴别投影算法,根据样本分布以及样本间的相似度自适应计算类内和类间近邻点,依据类内类间近邻点的个数定义局部类内与类间离差矩阵中的权值矩阵,通过最大化局部类间离差度最小化局部类内离差度,得到最优低维子空间。该算法不仅能够保持样本的局部信息,而且能够保持样本的鉴别信息,在人工数据以及标准数据库上的实验表明该方法是有效的。     

Discriminative dictionary learning algorithm based on sample diversity and locality of atoms for face recognition

Dictionary learning is one of the most important algorithms for face recognition. However, many dictionary learning algorithms for face recognition have the problems of small sample and weak discriminability. In this paper, a novel discriminative dictionary learning algorithm based on sample diversity and locality of atoms is proposed to solve the problems. The rational sample diversity is implemented by alternative samples and new error model to alleviate the small sample size problem. Moreover, locality can leads to sparsity and strong discriminability. In this paper, to enhance the dictionary discrimination and to reduce the influence of noise, the graph Laplacian matrix of atoms is used to keep the local information of the data. At the same, the relational theory is presented. A large number of experiments prove that the proposed algorithm can achieve more high performance than some state-of-the-art algorithms.     

Supervised within-class-similar discriminative dictionary learning for face recognition

The current study puts forward a supervised within-class-similar discriminative dictionary learning (SCDDL) algorithm for face recognition. Some popular discriminative dictionary learning schemes for recognition tasks always incorporate the linear classification error term into the objective function or make some discriminative restrictions on representation coefficients. In the presented SCDDL algorithm, we propose to directly restrict the representation coefficients to be similar within the same class and simultaneously include the linear classification error term in the supervised dictionary learning scheme to derive a more discriminative dictionary for face recognition. The experimental results on three large well-known face databases suggest that our approach can enhance the fisher ratio of representation coefficients when compared with several dictionary learning algorithms that incorporate linear classifiers. In addition, the learned discriminative dictionary, the large fisher ratio of representation coefficients and the simultaneously learned classifier can improve the recognition rate compared with some state-of-the-art dictionary learning algorithms.     

A Discriminant Model for the Pattern Recognition of Linearly Independent Samples

Fisher’s linear discriminant analysis (FLDA) has been used in many pattern recognition applications. However, this method cannot be applied for solving the pattern recognition problems when the within-class scatter matrix is singular, i.e., when the so-called small sample size problem occurs. Many FLDA variants that have been proposed in the past to circumvent this problem either suffer from excessive computational load when patterns have a large dimension or lose some useful discriminant information. In this paper, a new systematic framework for the pattern recognition of datasets with linearly independent samples is developed. Within this framework, a discriminant model, in which the samples of the individual classes of a dataset lie on parallel hyperplanes and project to single distinct points of a discriminant subspace of the underlying input space, is shown to exist. Based on this model, three algorithms that do not encounter the adverse effects of the small sample size (SSS) problem are developed to obtain such a discriminant subspace for a given dataset with linearly independent samples. A kernelized algorithm is also developed for the discriminant analysis of datasets for which the samples are not linearly independent. Simulation results are provided to examine the validity of the proposed discriminant model and to demonstrate the effectiveness, both in terms of complexity and classification accuracy, of the linear and nonlinear algorithms designed based on the proposed model.