一种改进的不相关空间算法及其在人脸识别中的应用

不相关空间算法是一种基于Fisher准则求解不相关鉴别矢量集的快速算法,但应用在人脸识别中将遇到小样本问题,本文提出一种改进的不相关空间算法,较有效地解决这一问题,其思想是将原始数据空间降到一个低维的子空间,从而避免了总体散布矩阵奇异,并在理论上证明,在这个子空间中求解不相关鉴别矢量集等价于在原空间中求解不相关鉴别矢量集,另外根据散布矩阵的对称性,引入一种计算方法,进一步提高求解不相关鉴别矢量集的速度,最后,在人脸库上的实验结果验证该算法的有效性.     

Fisher极小准则不相关空间算法及其在人脸识别中的应用

不相关空间算法是一种基于广义Fisher准则求解不相关鉴别矢量集的快速算法,但该算法要求总体散度矩阵可逆。针对高维小样本的情况,文中提出求解不相关鉴别矢量集的改进方法。该方法的基本思路是在类间散度矩阵的值空间中运用广义Fisher极小准则求解鉴别矢量集,并讨论在该子空间中进行求解的合理性。针对高维情况下类间散度矩阵值空间的计算效率问题,提出首先利用PCA算法将数据降维,然后在低维空间中求解值空间的策略并讨论其合理性。在ORL人脸数据库上的实验验证该方法的有效性,其识别率高于传统的Fisher脸方法和不相关空间算法。     

无监督模式下统计不相关最佳鉴别平面

统计不相关最佳鉴别平面是一种重要的特征抽取方法,在模式识别领域中具有广泛的应用。然而,统计不相关最佳鉴别平面是基于Fisher准则和总体散布矩阵共轭正交条件的,需要通过样本类别信息计算Fisher最佳鉴别矢量,因而只能用于有监督模式。提出了一种将统计不相关最佳鉴别平面扩展到无监督模式下的方法,其基本思想是将模糊概念引入Fisher线性判别分析,通过对模糊Fisher准则的优化,在无监督模式下计算出最佳鉴别矢量及模糊散布矩阵,再根据共轭正交约束条件,求得第二条最佳鉴别矢量,进而获得一种基于无监督统计不相关最佳鉴别平面的特征抽取方法。对UCI数据集及CMU-PIE人脸数据库进行实验,结果表明,在样本类别信息缺失的情况下,该方法尽管无法具有与有监督模式下的统计不相关最佳鉴别平面特征抽取方法同样的性能,但当类别差异较大时,能够抽取有利于分类的统计不相关特征,获得优于主成分分析与独立成分分析等常见无监督特征抽取方法的性能。     

基于核正交半监督鉴别分析的人脸识别算法

针对人脸识别中的非线性特征提取和有标记样本不足问题,提出了在核空间具有正交性半监督鉴别矢量的计算方法。算法利用核函数将人脸数据映射到高维非线性空间,在该空间采用边界Fisher判别分析（Marginal Fisher Analysis,MFA）算法将少量有类别标签样本进行降维,同时采用无监督鉴别投影（Unsupervised Discriminant Projection,UDP）对大量无标签样本进行学习,以半监督的方法构造算法的目标函数,在特征值求解时以正交方式找出最优投影向量,进行人脸识别。通过实验,在ORL和YALE人脸数据库上验证了该算法的有效性。     

一种新的基于最大散度差准则的特征抽取方法

本文基于最大散度差准则（MSDC）,利用统计不相关投影空间,提出了一组具有统计不相关性的最佳鉴别矢量的计算方法。该方法的目标是寻求一组鉴别矢量集,既要使投影后的特征空间的类间散度最大,而类内散度最小;又要使最佳鉴别矢量之间具有统计不相关性。另外,本文还揭示了最大散度差鉴别准则与Fisher准则的内在关系。在ORL与NUST603人脸库上的实验结果表明,本文所提出的方法在识别性能上优于原MSDC特征抽取方法与传统的PCA方法。     

基于最小距离最大原则的模式分类

广义最佳鉴别矢量集是用于高维空间模式分类的有效方法。在高维空间模式分类的情况下，通常训练样本数要小于特征空间维数，从而使类内散布矩阵奇异，不能直接求解。对于这种情况下求解问题，人们给出了一系列求解方法。但这些方法均是应用平均的类间距离，而没有考虑到类问分布的最坏情况。该文对此进行改进，提出了一种新的基于最小距离最大原则的广义最佳鉴别矢量集的求解方法。实验结果表明，提出的方法要优于已有的方法。     

一种新颖的核鉴别通用矢量集算法

为了进一步增强鉴别通用矢量集算法的性能,提出一种核鉴别通用矢量集算法.首先利用核函数将原始样本隐式地映射到高维特征空间;然后在高维特征空间里利用再生核理论建立鉴别通用矢量集算法的等价求解模型;最后根据新的求解模型,应用二次Gram-Schmidt正交化方法求出核类内零空间中的鉴别矢量集.在人脸库上的实验结果验证了文中算法的有效性.     

求解广义最佳鉴别矢量集的一种迭代算法及人脸识别

广义最佳鉴别矢量集是Foley-Sammon最佳鉴别矢量集的一种推广,它与Foley-Sammon最佳鉴别矢量集的不同之处在于广义最佳鉴别矢量集从整体上考虑投影集的可分性,即样本在广义最佳鉴别矢量上的投影集从整体上具有最佳的可分性。该文给出了广义最佳鉴别矢量的定义,对求解广义最佳鉴别矢量集的已有算法从理论上作了分析,指出了其中的不足之处,给出了一种迭代算法,从理论上证明了迭代结果收敛于精确解,并对其误差作了分析。最后,将此方法用于人脸识别,结果显示,新方法比已有的方法更有效。     

不相关鉴别分析改进算法

不相关鉴别分析是一种非常有效并起着重要作用的线性鉴别分析方法,它能抽取出具有不相关性质的特征分量。但是,由于每一个鉴别矢量的得出都要求解一个特征方程,不相关鉴别分析算法一直是计算代价很大的算法,在需求解的鉴别矢量个数较多时尤其如此。该文基于一个等效的Fisher准则函数,提出了不相关鉴别分析的另一问题模型。使用Lagrange乘子法,可求出对应该问题模型的“不相关”鉴别矢量解的简洁的表示式。关于CENPARMI手写体阿拉伯数字库和ORL人脸图象库的实验表明,该文提出的不相关鉴别分析改进算法计算效率较原算法有较大提高。     

2维不相关鉴别矢量集算法

在人脸识别算法中,已有的计算不相关鉴别矢量集的算法均是基于图像向量模型的,因而将遇到所谓的小样本问题,而且由于采用迭代求解方式,算法运算速度缓慢,为此提出了一种新的求取不相关鉴别矢量集的算法,即一种基于图像矩阵模型的2维不相关鉴别矢量集算法。算法由于采用了图像矩阵模型,解决了小样本问题,通过对类内散布矩阵的白化变换,使得推广的2维线性鉴别分析模型具有类似的2维主成分分析模型的形式,从而将两种算法的模型有效地联系起来,进而可以非迭代地求得2维不相关鉴别矢量集,不但求解速度快且数值解稳定。在ORL和Yale人脸库上的实验结果表明,该算法不但减少了计算时间,同时也提高了识别率,为求解不相关鉴别矢量集提供了一个新的思路。     

模糊非相关判别转换及其应用

线性判别分析是一种特征提取和维数缩减的方法,广泛应用于人脸识别,语音识别和手写字母识别等领域。但是许多线性判别分析都是“硬”线性判别分析,每个数据点都严格地属于这一类或那一类。在非相关判别转换(UDT)基础上,提出了模糊非相关判别转换(FUDT)。FUDT是利用模糊集理论的有监督学习方法,其判别向量满足广义瑞利商方程,同时也满足样本到模糊非相关优化判别向量上的投影是非相关的。通过FUDT和UDT对公共数据库MSTAR的实验结果可看出,FUDT在处理SAR图像的特征提取方面优于UDT。     

局部和全局加权的二维统计不相关鉴别分析

传统的统计不相关鉴别分析方法使用样本的均值来估计期望,计算出总体散度矩阵。这些方法在数据不满足高斯分布的情况下会出现大的偏差,影响最优鉴别特征的提取。为了解决该问题,文中结合二维鉴别分析的思想,分别提出了基于局部的二维统计不相关鉴别变换（L2DUDT）方法和基于全局加权的二维统计不相关鉴别变换（WG2DUDT）方法。L2DUDT通过用样本的近邻中心来定义每个样本的期望,而WG2DUDT用样本间的欧几里得距离加权来定义期望。基于AR和FERET人脸数据库的实验表明,文中提出的方法与一些相关方法相比,有效地提高了识别性能。     

一种基于不相关鉴别特征的人脸识别方法

提出了基于图像矩阵的不相关的线性鉴别分析方法,比较了采用图像矩阵和图像矢量特征时主分量分析方法和线性鉴别分析方法的识别性能,并对实验结果进行了详细分析.     

无参数无相关最大化判别边界算法

在人脸识别算法中,无参数局部保持投影(PFLPP)是一种有效的特征提取算法, 但忽略了异类近邻样本在分类中所起的作用,并且对于近邻的处理仅利用样本与总体均值的 距离关系来判断,因此并不能有效地确定近邻关系。基于此,提出一种无参数无相关最大化 判别边界算法,有效地利用了样本的类别信息,定义了无参数同类近邻样本的相似权值与异 类近邻样本的惩罚权值,样本邻域大小可根据类内平均余弦距离和类间余弦距离自适应确定, 为了进一步增强算法的性能,给出了具有不相关性的目标函数。UMIST 和 AR 人脸库上的实 验结果表明,该算法相对于不相关保局投影分析算法和 PFLPP 算法,具有运算量低、识别性 能高的优势。     

基于全局不相关的多流形学习

为提升人脸识别算法的鲁棒性,减少判别信息的冗余度,提出基于全局不相关的多流形判别学习算法(UFDML)。使用特征空间到特征空间的距离,学习样本局部判别信息,提出全局不相关约束,使提取的判别特征是统计不相关的。在Yale,AR,ORL人脸库上的实验结果表明,与LPP(局部保持投影)、LDA(线性判别分析)、UDP(非监督判别投影)等人脸识别算法相比,所提算法的平均识别率高于其它算法,验证了其有效性。     

常用Fisher判别函数的判别矩阵研究

在线性判别分析(Linear discriminant analysis, LDA)中, 比迹函数、比值函数和迹比函数是三种常用的Fisher判别函数, 每一个判别函数都可得到一个正交判别(Orthogonal discriminant, OD)矩阵和一个不相关判别(Uncorrelated discriminant, UD)矩阵. 本文的主要目的是对这6种判别矩阵的获取方法及其性质进行系统分析, 拟期更清楚地认识它们的联系与区别. 当类内协方差阵非奇异时, 比迹、比值函数的判别矩阵和迹比函数的OD矩阵的获取方法及性质已有研究, 本文对迹比函数的UD矩阵的获取方法及性质进行了补充研究, 得到了迹比函数的UD矩阵与比迹、比值函数的UD矩阵是同一矩阵以及迹比函数的UD矩阵的判别函数值不超过它的OD矩阵的结论. 当类内协方差阵奇异时, 6种判别矩阵的获取方法遇到了困难, 为克服这一困难, 本文首先用极限的思想重新定义了这三种判别函数, 然后采用求极限的方法得到了6种判别矩阵的获取方法. 从所得的获取方法可以看出, 当所需的判别向量均在类内协方差阵的零空间中时, 6个判别矩阵是同一矩阵.     

A note on kernel uncorrelated discriminant analysis

In this paper, we give a theoretical analysis on kernel uncorrelated discriminant analysis (KUDA) and point out the drawbacks underlying the current KUDA algorithm which was recently introduced by Liang and Shi [Pattern Recognition 38(2) (2005) 307-310]. Then we propose an effective algorithm to overcome these drawbacks. The effectiveness of the proposed method was confirmed by experiments.     

统计不相关的费舍掌纹识别算法

费舍掌纹是一种最近提出的掌纹识别方法,它有两点不足:不能在花费尽可能少的计算时间的同时,保证所得到的鉴别向量都满足统计不相关性;不能根据鉴别能力选择合适的鉴别向量.为了改进费舍掌纹,提出了一种统计不相关费舍掌纹识别算法.在公共的掌纹图像数据库上的实验结果表明,该算法在掌纹识别性能上优于常用的费舍掌纹和统计不相关最佳鉴别向量方法.