基于核的大间距分类器

提出了一种新的非线性鉴别分析算法-基于核的大间距分类器,该算法的主要思想是将原始样本映射到更高维的空间中,利用核技术对传统的大间距分类算法进行改进,在新的高维空间中利用再生核技术寻找核鉴别矢量,使得在这个新的空间中核类内散度尽可能的小.在ORL人脸数据库上做实验,分别对识别率及识别时间做分析,可以看出本方法的优势所在.     

最大散度差和大间距线性投影与支持向量机

首先对Fisher鉴别准则作了必要的修正,并基于新的鉴别准则设计了最大散度差分 类器;然后探讨了当参数C趋向无穷大时,最大散度差分类器的极限情况,得到了大间距线 性投影分类器;最后通过分析说明,大间距线性投影分类器实际上是在模式样本线性可分的条 件下,线性支持向量机的一种特殊情况.在ORL和NUST603人脸库上的测试结果表明,最 大散度差分类器和大间距线性投影分类器可以与线性支持向量机、不相关线性鉴别分析相媲 美,优于Foley-Sammon鉴别分析方法.     

极小化类内散布度的大间距非线性鉴别分析

提出了一种新的非线性鉴别分析算法——极小化类内散布的大间距非线性鉴别分析。该算法的主要思想是将原始样本映射到更高维的空间中,利用核技术对传统的大间距分类算法进行改进,在新的高维空间中利用再生核技术寻找核鉴别矢量,使得在这个新的空间中核类内散度尽可能的小。在ORL人脸数据库上进行实验,分析了识别率及识别时间,结果表明该方法具有一定优势。     

基于Fisher判别分析的贝叶斯分类器

针对满足“类条件属性相互独立”假定的经典贝叶斯分类器无法有效利用类间信息的缺陷,结合Fisher线性判别分析,给出一种基于Fisher线性判别分析的贝叶斯分类器的改进算法。该算法通过寻找类与类最大分离的投影空间,将原样本向最大分离空间投影,以获得新样本,并采用贝叶斯分类器对新样本进行分类。实验结果表明,在给定的数据集上,该贝叶斯分类器的分类正确率较高,分类性能较好。     

基于Fisher鉴别分析的支持向量机训练样本缩减策略

提出一种用于支持向量机训练样本集的缩减策略。该策略运用Fisher鉴别分析方法快速地提取潜在的支持向量,并构成用于SVM的新的训练样本集。仿真实验表明,该算法能在保证不降低分类精度的前提下,对较大规模的样本进行有效的缩减,提高运算效率。     

一种改进Fisher准则的线性鉴别分析方法

目前线性鉴别分析以Fisher准则或是逐对类加权Fisher准则为依据,但前者不能限制离群类,后者计算量大,鉴于此,提出一种改进Fisher准则用于线性鉴别分析。回顾了Fisher准则和逐对类加权Fisher准则,指出其中问题产生的根本原因。提出类距离和类离群程度的定义,以类距离为依据判定各类离群程度,以类离群程度为参数赋予各类权值,重新计算总体类均值和类间离散度矩阵,以得到限制离群类、突出常规类的改进Fisher准则。这种改进Fisher准则计算简单,能有效限制离群类。     

Fisher和支持向量的综合分类器

结合Fisher判别分析和支持向量机的优点,提出了一种新的分类算法—Fisher-SV分类器（简称FSVC）。该分类器的核心思想就是寻找最优分类面的法向量w*,使得样本向量在w*上做投影后,不仅使分类间隔达到最大,而且使类内离散程度尽可能小。对于线性情况,可以转化为传统的支持向量机求解,而不需要设计新的求解算法。对于非线性情况,利用再生核理论得出新的求解算法。实验结果表明,该分类器具有很高的准确度和可靠性。     

人脸的性别分类

人脸的性别分类是指根据人脸的图像判别其性别的模式识别问题．系统地研究了不同的特征提取方法和分类方法在性别分类问题上的性能，其中包括主分量分析(PCA)、Fishel线性鉴别分析(FLD)、最佳特征提取、Adaboost算法、支持向量机(SVM)．给出了在9姿态人脸库、FERET人脸库和一个网络图片人脸库上的对比实验结果．实验表明人脸中的性别信息集中存在于某个子空间中，因此，在分类前对样本进行适当的压缩降维不但不会明显降低分类器的性能，而且可以大大减少分类的时间开销．最后介绍了将性别分类器与自动人脸检测和特征提取平台集成起来的基于人脸图像的性别判别系统．     

基于加权Fisher准则的线性鉴别分析及人脸识别

提出了一种基于加权Fisher准则线性鉴别分析的人脸识别方法。该方法引入了一种新的权函数对Fisher准则加权,以提高样本在低维线性空间中的可分性,然后探讨了高维、奇异情况下如何降低运算量的问题,并给出了一个简单高效的算法。在ORL标准人脸库上进行测试,由该算法抽取的特征在最近邻分类器和最小距离分类器下均达到96%的正确识别率,这一结果优于经典的特征脸和Fisher脸方法在该库上的识别结果。     

最大边际近邻线性判别分析

线性判别分析是特征提取的重要方法之一,但是定义散布矩阵时,容易产生误差导致数据分类不明确.提出一种新的子空间学习方法,最大边际近邻元判别分析方法,依据近邻元准则将数据样本投影到该子空间内并重新定义散布矩阵,从而构造新的目标函数.克服了传统的定义形式对于两类或多类的类别均值之间距离值相近时难以区分导致数据样本之间重叠或部分交叉的缺点,并解决了其本身具有的小样本问题.在标准的人脸数据库上进行试验,证明了所提方法的有效性.     

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一.但是在高维、小样本情况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题.文中引入压缩映射和同构映射的思想,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题,而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行,这与传统方法相比极大地降低了计算量.在此理论基础上,进一步为高维、小样本情况下的最优鉴别分析方法建立了一个通用的算法框架,即先作K-L变换,再用Fisher鉴别变换作二次特征抽取.基于该算法框架,提出了组合线性鉴别法,该方法综合利用了F-S鉴别和J-Y鉴别的优点,同时消除了二者的弱点.在ORL标准人脸库上的试验表明,组合鉴别法所抽取的特征在普通的最小距离分类器和最近邻分类器下均达到97%的正确识别率,而且识别结果十分稳定.该结果大大优于经典的特征脸和Fisherfaces方法的识别结果.     

Median Fisher Discriminator: a robust feature extraction method with applications to biometrics

In existing Linear Discriminant Analysis (LDA) models, the class population mean is always estimated by the class sample average. In small sample size problems, such as face and palm recognition, however, the class sample average does not suffice to provide an accurate estimate of the class population mean based on a few of the given samples, particularly when there are outliers in the training set. To overcome this weakness, the class median vector is used to estimate the class population mean in LDA modeling. The class median vector has two advantages over the class sample average: (1) the class median (image) vector preserves useful details in the sample images, and (2) the class median vector is robust to outliers that exist in the training sample set. In addition, a weighting mechanism is adopted to refine the characterization of the within-class scatter so as to further improve the robustness of the proposed model. The proposed Median Fisher Discriminator (MFD) method was evaluated using the Yale and the AR face image databases and the PolyU (Polytechnic University) palmprint database. The experimental results demonstrated the robustness and effectiveness of the proposed method.     

Large margin linear projection and face recognition

Unlike linear discriminant analysis, the large margin linear projection (LMLP) classifier presented in this paper, which also roots in linear Fisher discriminant, takes full advantage of the singularity of within-class scatter matrix, and classifies projected points in one-dimensional space by itself. Theoretical analysis and experimental results both reveal that LMLP is well suited for high-dimensional small-sample pattern recognition problems such as face recognition.     

基于正则化边界Fisher分析和稀疏表示分类的人脸识别方法

边界Fisher分析(MFA)应用于人脸识别时会遇到小样本问题,如果用主成分分析进行降维来处理该问题,则会丢失一些对分类有益的分量;如果把MFA的目标函数用最大间距准则代替,则较难得到最佳参数。提出了一种正则化的MFA方法,该方法用一个较小的数乘上单位阵构造正则项,然后加到MFA的类内散度矩阵中,使得所得矩阵是可逆的,并且不会丢失对分类有益的分量,也容易确定其中的参数。因为一个样本通常能被少数几个距离比较近的同类样本很好地线性表达,在正则化MFA降维之后结合使用稀疏表示分类算法进一步提高识别率。在FERET和AR数据库上的实验表明,对比一些经典的降维方法,使用该方法能显著提高识别率。     

A novel method for Fisher discriminant analysis

A novel model for Fisher discriminant analysis is developed in this paper. In the new model, maximal Fisher criterion values of discriminant vectors and minimal statistical correlation between feature components extracted by discriminant vectors are simultaneously required. Then the model is transformed into an extreme value problem, in the form of an evaluation function. Based on the evaluation function, optimal discriminant vectors are worked out. Experiments show that the method presented in this paper is comparative to the winner between FSLDA and ULDA.     

Alternative linear discriminant classifier

Fisher linear discriminant analysis (FLDA) finds a set of optimal discriminating vectors by maximizing Fisher criterion, i.e., the ratio of the between scatter to the within scatter. One of its major disadvantages is that the number of its discriminating vectors capable to be found is bounded from above by C-1 for C-class problem. In this paper for binary-class problem, we propose alternative FLDA to breakthrough this limitation by only replacing the original between scatter with a new scatter measure. The experimental results show that our approach give impressive recognition performances compared to both the Fisher approach and linear SVM.     

正交化Fisher鉴别向量集及其应用

在正交化Fisher鉴别分析的基础上提出了正交化核Fisher鉴别分析方法。该方法具有理论简单、计算方便、特征表示能力强等优点。在CENPARMI手写体阿拉伯数字数据库、NUST603HW手写体汉字样本库和FERET人脸图像数据库上的仿真实验结果表明，正变化Fisher鉴别和正交化核Fisher鉴别方法在特征抽取能力和特征抽取效率方面均分别优于FoleySammon鉴别和核Foley-Sammon鉴别方法。