有监督正交局部保留投影及其在人脸识别中的应用

针对局部保留投影算法（LPP）的无监督和非正交问题,提出了一种有监督的正交局部保留投影算法SOLPP。该算法同时考虑了样本的类别信息以及投影向量间的相互正交性,首先利用样本的类标签信息重新定义了类内和类间相似度矩阵,同时最大化类间离散度与类内离散度之比,有效地保持了样本的局部结构;其次对投影基向量进行正交化,在保持数据空间结构的同时进一步提高了人脸识别效果。在ORL和FERET人脸库上的实验表明,该方法的识别率要优于SLPP等算法。     

基于无监督最佳鉴别平面的人脸识别*

最佳鉴别平面作为一种重要的特征抽取方法,在人脸特征降维中具有重要的影响。然而,传统的最佳鉴别平面是基于Fisher准则的,只能用于有监督模式。为此,提出了一种将最佳鉴别平面扩展到无监督模式下的方法,其基本思想是以投影空间中模糊类间离散度和模糊类内离散度的比值最大为优化目标,计算出无监督模式下最佳鉴别矢量及模糊离散度矩阵,进而获得一种新的基于无监督最佳鉴别平面的特征抽取方法。较之同属于无监督特征抽取的主成分分析,该方法更容易获得有利于分类的特征。对CMU-PIE人脸数据库进行实验,结果表明,在样本类别信息缺失的情况下,该方法尽管无法具有与有监督模式下的最佳鉴别平面特征抽取方法同样的性能,但当不同类之间差异较大时,将优于主成分分析方法。     

融合局部结构和差异信息的监督特征提取算法

针对监督局部保持投影(Supervised locality preserving projection, SLPP)存在过学习和不能较好地保持图像空间的差异信息等问题,造成算法性能不够好, 提出了一种新的基于流形学习的监督特征提取方法(Supervised local structure and diversity projection, S-LSDP). S-LSDP从信息统计量角度引入差异信息,并给出度量差异信息大小的准则(差异离散度) 及明确的物理含义;然后通过最小化局部离散度和最大化差异离散度准则提取投影方向. 投影后的特征既能有效地保持图像之间的局部结构属性,又能较好地保持图像之间的差异信息, 而且避免了过学习问题.在UMIST, Yale, PIE和AR数据库上的实验结果表明了该算法的有效性.     

基于保持投影的最大散度差的特征抽取方法

对非监督鉴别投影(UDP)准则进行修正,并在修正的准则基础上提出基于保持投影的最大散度差的特征抽取方法.该方法利用非局部散度与局部散度之差作为鉴别准则,从而避免UDP线性鉴别分析中所遇到的小样本问题引起的局部散度矩阵奇异的问题.在标准人脸数据库Yale和FERET上进行实验,实验结果表明本文方法的有效性.     

基于矩阵分解的DLDA特征抽取方法分析

提出两种基于矩阵分解的DLDA特征抽取算法。通过引入QR分解和谱分解(SF)两种矩阵分析方法,在DLDA鉴别准则下,对散布矩阵实现降维,从而得到描述人脸图像样本更有效和稳定的分类信息。该方法通过对两种矩阵分解过程的分析,证明在传统Fisher鉴别分析方法中,矩阵分解同样可以模拟PCA过程对样本进行降维,从而克服了小样本问题。在ORL人脸数据库上的实验结果验证了该算法的有效性。     

有监督的局部保留投影降维算法

针对局部保留投影(LPP)的非监督本质,提出一种称为有监督的局部保留算法(SLPP)的线性降维方法,它同时考虑类间分离性以及LPP中的局部保留特性.实验结果表明SLPP算法较其他算法优越.线性的SLPP算法还可通过使用核方法扩展到非线性的情况.     

半监督的局部保留投影降维方法

针对现有数据降维算法不能同时利用标记样本和无标记样本的问题,提出一种半监督局部保留投影降维方法。定义类间相似度和类内相似度,同时最大化类间分离度、最小化类内分离度,保持样本总体结构和局部结构,从而提高数据降维的效果。在人工数据集、UCI数据库和Olivetti人脸库中的测试结果表明,该方法的识别率较高。     

局部样条嵌入的正交半监督子空间学习算法

为了更加准确地对图像进行聚类与分类,提出一种基于局部样条嵌入的正交半监督子空间学习算法.通过学习一个正交投影矩阵,使得训练样本中的标注数据经过投影矩阵降维后类间离散度尽量大,类内离散度尽量小;采用局部样条回归将局部低维嵌入坐标映射成全局低维嵌入坐标,使得被投影数据保持原有流形结构,并有效地利用有标注训练样本和未标注训练样本得到优化的图像表达方式.图像聚类与分类实验的结果表明了文中算法的有效性.     

基于自适应最近邻的局部保持投影算法

局部保持投影（LPP）是一种新的数据降维技术,但其本身是一种非监督学习算法,对于分类问题效果不是太好。基于自适应最近邻,结合LPP算法,提出了一种有监督的局部保持投影算法（ANNLPP）。该方法通过修改LPP算法中的权值矩阵,在降维的同时,增加了类别信息,是一种有监督学习算法。通过二维数据可视化和UMIST、ORL 人脸识别实验,表明该方法对于分类问题具有较好的降维效果。     

间距判别投影及其在表情识别中的应用

针对全局降维方法判别信息不足,局部降维方法对邻域关系的判定存在缺陷的问题,提出一种新的基于间距的降维方法——间距判别投影（MDP）。首先,根据类的中心均值的异类近邻关系定义描述类边缘的边界向量;在这个基础上,MDP重新定义类间离散度矩阵,同时,使用全局的方法构造类内离散度矩阵;然后,MDP借鉴判别分析思想建立衡量类间距的准则,并通过类间距最大化增强样本在投影空间中的可分性。对MDP在人脸表情数据库JAFFE和Extended Cohn-Kanade上进行表情识别实验,并且跟传统的降维方法主成分分析（PCA）、最大间距准则（MMC）和边界Fisher分析（MFA）进行对比,实验结果表明,所提算法能够有效提取更具区分性的低维特征,比其他几种方法分类精度更高。     

Two-dimensional supervised local similarity and diversity projection

This paper presents a novel manifold learning method, namely two-dimensional supervised local similarity and diversity projection (2DSLSDP), for feature extraction. The proposed method defines two weighted adjacency graphs, namely similarity graph and diversity graph. The affinity matrix of similarity graph is determined by the spatial relationship between vertices of this graph, while affinity matrix of diversity graph is determined by the diversity information of vertices of its graph. Using these two graphs, the proposed method constructs local similarity scatter and diversity scatter, respectively. A concise feature extraction criterion is then raised via minimizing the ratio of the local similarity scatter to local diversity scatter. Thus, 2DSLSDP can well preserve not only the adjacency similarity structure, but also the diversity of data points, which is important for the classification. Experiments on the AR and UMIST databases show the effectiveness of the proposed method.     

基于改进二维保局投影算法的人脸识别

传统的二维保局投影(2DLPP)算法未考虑样本邻域间局部信息,并且所提取的特征矩阵分量间存在相关性。针对该问题,提出基于大间距准则的最小相关性监督2DLPP算法。引入类间局部散度矩阵和类内局部散度矩阵,最大化带权的散度矩阵迹差,以增大样本类间散度,减小样本类内散度,从而更好地刻画数据的流形结构。计算所提取特征矩阵各分量间的协方差矩阵,通过最小相关性分析,减少特征信息的冗余。在Yale和ORL人脸库上进行仿真实验,结果显示,当训练样本数为5时,该算法的最高识别率分别为92.5%和96.2%,与传统2DLPP算法、二维主成分分析法、二维线性判别分析法和二维大间距准则法相比,识别率均有所提高。同时对不同训练样本数下识别率均值和方差进行分析,验证了算法的稳定性。     

基于模糊最大间距准则的人脸特征提取方法

在最大间距准则算法中引入模糊化思想,提出了基于模糊最大间距准则（FMMC）的人脸识别算法.首先讨论图像对各个类别的隶属程度,并重新定义了类内和类间离散度矩阵;然后利用模糊最大间距准则得到最优投影变换矩阵;最后将原始训练样本数据投影到一个相对低维的特征空间,从而完成对训练样本数据的特征提取.在ORL和Yale标准人脸库上的实验结果表明,文中提出的模糊最大间距准则特征提取方法用于人脸识别具有较高的识别率.     

Face recognition using fuzzy maximum scatter discriminant analysis

As we know, classical Fisher discriminant analysis usually suffers from the small sample size problem due to the singularity problem of the within-class scatter matrix. In this paper, a novel fuzzy linear classifier, called fuzzy maximum scatter difference (FMSD) discriminant criterion, is proposed to extract features from samples, especially deals with outlier samples. FMSD takes the scatter difference between between-class and within-class as discriminant criterion, so it will not suffer from the small sample size problem. The conventional scatter difference discriminant criterion (SDDC) assumes the same level of relevance of each sample to the corresponding class. In this paper, the fuzzy set theory is introduced to the conventional SDDC algorithm, where the fuzzy k-nearest neighbor is adopted to achieve the distribution information of original samples. The distribution is utilized to redefine the scatter matrices that are different from the conventional SDDC and effective to extract discriminative features from outlier samples. Experiments conducted on FERET and ORL face databases demonstrate the effectiveness of the proposed method.     

基于大间距准则的不相关保局投影分析

局部保持投影(Locality preserving projections,LPP)算法只保持了目标在投影后的邻域局部信息,为了更好地刻画数据的流形结构, 引入了类内和类间局部散度矩阵,给出了一种基于有效且稳定的大间距准则(Maximum margin criterion,MMC)的不相关保局投影分析方法.该方法在最大化散度矩阵迹差时,引入尺度因子α,对类内和类间局部散度矩阵进行加权,以便找到更适合分类的子空间并且可避免小样本问题; 更重要的是,大间距准则下提取的判别特征集一般情况下是统计相关的,造成了特征信息的冗余, 因此,通过增加一个不相关约束条件,利用推导出的公式提取不相关判别特征集, 这样做, 对正确识别更为有利.在Yale人脸库、PIE人脸库和MNIST手写数字库上的测试结果表明,本文方法有效且稳定, 与LPP、LDA (Linear discriminant analysis)和LPMIP(Locality-preserved maximum information projection)方法等相比,具有更高的正确识别率.     

人脸识别中适合于小样本情况下的监督化拉普拉斯判别分析

提取有效特征对高维数据的模式分类起着关键的作用.无监督判别投影,通过最大化非局部散度和局部散度之比,在数据降维和特征提取上表现出较好的性能,但是它是一种非监督学习算法,并且存在小样本问题.针对这些问题,提出了监督化拉普拉斯判别分析,算法在考虑非局部散度和局部散度时考虑了样本的类别信息;通过丢弃总体拉普拉斯散度矩阵的零空间,并将类内拉普拉斯散度矩阵投影到总体拉普拉斯散度矩阵的主空间中,然后在该空间中进行特征问题的求解,从而避免了小样本问题.通过理论分析,该算法没有任何判别信息损失,同时在计算上效率也较高.在人脸识别上的实验验证了算法的正确性和有效性.     

一种基于Fisher鉴别极小准则的特征提取方法

特征提取是模式识别研究领域的一个热点．为了更好地解决人脸识别中的特征提取问题,定义了一种新的基于Fisher鉴别极小准则的特征提取方法,并且提出了类间散布矩阵零空间的概念,解决了先前Fisher线性变换方法中的最终特征维数受类别数的限制．在人脸数据库上的实验结果验证了该算法的有效性．     

中心线邻域鉴别嵌入算法及其在人脸识别中的应用*

针对边界费舍尔分析在特征提取过程中存在的不足,提出中心线邻域鉴别嵌入(CLNDE)算法,并应用于人脸识别中.CLNDE首先利用样本到类中心线的距离分别构造类内相似矩阵与类间相似矩阵;然后利用构造的相似矩阵计算样本的类间局部散度与类内局部散度;最后在最大化样本的类间局部散度的同时最小化类内局部散度,寻求最优投影矩阵.在人脸数据库上实验验证算法的优越性.