最优鉴别特征的抽取及图像识别

利用Fisher鉴别准则函数即为广义Rayleigh商这一特点,首先分析了广义Rayleigh商的极值性质,指出以共轭正交的约束条件代替Foley-Sammon正交条件的合理性。然后利用广义特征方程存在共轭性正交的特征向量这一结论,巧妙地解决了该共轭正交条件下最优鉴别矢量集的求解问题。从理论上分析了该最优鉴别矢量集较经典的Foley-Sammon最优鉴别矢量集以及Fisher线性鉴别法的优越性。另外,进一步讨论了在小样本情况下,类内散布矩阵奇异时鉴别矢量集的求解问题,并给出了简单易行的算法。最后,在CENPARMI手写体阿拉伯数字库和ORL标准人脸库上的试验结果证实了算法的有效性和稳定性。     

A novel method for Fisher discriminant analysis

A novel model for Fisher discriminant analysis is developed in this paper. In the new model, maximal Fisher criterion values of discriminant vectors and minimal statistical correlation between feature components extracted by discriminant vectors are simultaneously required. Then the model is transformed into an extreme value problem, in the form of an evaluation function. Based on the evaluation function, optimal discriminant vectors are worked out. Experiments show that the method presented in this paper is comparative to the winner between FSLDA and ULDA.     

一种组合特征抽取的新方法

该文提出了一种基于特征级融合的特征抽取新方法，首先，给出了一种合理的特征融合策略，即利用复向量给出组合特征的表示，将特征空间从实向量空间拓广到复向量空间，然后，发展了具有统计不相关性的鉴别分析的理论，并将其用于复向量空间内最优鉴别特征的抽取，最后，在Concordia大学的CENPARMI手写体阿拉伯数字数据库以及南京理工大学NUST603HW手写汉字库上的试验结果表明，所提出的组合特征抽取方法不仅具有很强的维数压缩能力，而且较大幅度地提高了识别率。     

模糊非相关判别转换及其应用

线性判别分析是一种特征提取和维数缩减的方法,广泛应用于人脸识别,语音识别和手写字母识别等领域。但是许多线性判别分析都是“硬”线性判别分析,每个数据点都严格地属于这一类或那一类。在非相关判别转换(UDT)基础上,提出了模糊非相关判别转换(FUDT)。FUDT是利用模糊集理论的有监督学习方法,其判别向量满足广义瑞利商方程,同时也满足样本到模糊非相关优化判别向量上的投影是非相关的。通过FUDT和UDT对公共数据库MSTAR的实验结果可看出,FUDT在处理SAR图像的特征提取方面优于UDT。     

On the estimation of probability of error

This paper considers the problem of estimation of classification error in pattern recognition. A theorem is presented to obtain the changes in the eigenvalues and eigenvectors of matrices of the form S₂⁻¹ S₁, when there are changes of first order of smallness in the real symmetric matrices S_i, I = 1, 2. Based on this theory a computational algorithm is developed for the estimation of classification error of Fisher classifier, using leaving groups out method.     

基于边界鉴别分析的递归维数约简算法

提出一种基于边界鉴别分析的递归维数约简算法.该算法把已求取边界鉴别向量正交于待求超平面法向量作为支持向量机(SVM)优化问题新的约束条件;然后对改进SVM进行递归求解,得到正交边界鉴别向量基;最后将数据样本在正交边界鉴别向量上投影实现维数约简.该算法不仅克服了现有维数约简算法难以支持小样本数据集、受数据样本分布影响等问题,而且抽取的特征向量具有更优的分类性能.仿真实验说明了算法的有效性.     

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一.但是在高维、小样本情 况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题.文中引入压缩 映射和同构映射的思想,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题, 而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行,这与传统方法 相比极大地降低了计算量.在此理论基础上,进一步为高维、小样本情况下的最优鉴别分析方法 建立了一个通用的算法框架,即先作K-L变换,再用Fisher鉴别变换作二次特征抽取.基于该 算法框架,提出了组合线性鉴别法,该方法综合利用了F-S鉴别和J-Y鉴别的优点,同时消除了 二者的弱点.在ORL标准人脸库上的试验表明,组合鉴别法所抽取的特征在普通的最小距离分 类器和最近邻分类器下均达到97%的正确识别率,而且识别结果十分稳定.该结果大大优于经 典的特征脸和Fisherfaces方法的识别结果.     

正交约束的无监督统计不相关最佳鉴别平面

赵海涛等提出的改进的最佳鉴别平面(IODP)只能用于有监督模式,基于此,本文提出将IODP扩展到无监督模式下的方法。在优化模糊Fisher准则求取第一条最佳鉴别矢量的基础上,求取同时满足正交约束与模糊总体散布矩阵共轭正交约束的第二条最佳鉴别矢量,构成正交约束的无监督统计不相关最佳鉴别平面(OUUODP),进而获得一种新的无监督特征抽取方法。对CMU-PIE人脸数据库进行实验,结果表明,当类别差异较大时,该方法能够抽取有利于分类的特征,获得了优于主成分分析与独立成分分析方法的性能。     

求解广义最佳鉴别矢量集的一种迭代算法及人脸识别

广义最佳鉴别矢量集是Foley-Sammon最佳鉴别矢量集的一种推广,它与Foley-Sammon最佳鉴别矢量集的不同之处在于广义最佳鉴别矢量集从整体上考虑投影集的可分性,即样本在广义最佳鉴别矢量上的投影集从整体上具有最佳的可分性。该文给出了广义最佳鉴别矢量的定义,对求解广义最佳鉴别矢量集的已有算法从理论上作了分析,指出了其中的不足之处,给出了一种迭代算法,从理论上证明了迭代结果收敛于精确解,并对其误差作了分析。最后,将此方法用于人脸识别,结果显示,新方法比已有的方法更有效。     

人脸识别中基于核的子空间鉴别分析

尽管基于Fisher准则的线性鉴别分析被公认为特征抽取的有效方法之一，并被成功地用于人脸识别，但是由于光照变化、人脸表情和姿势变化，实际上的人脸图像分布是十分复杂的，因此，抽取非线性鉴别特征显得十分必要。为了能利用非线性鉴别特征进行人脸识别，提出了一种基于核的子空间鉴别分析方法。该方法首先利用核函数技术将原始样本隐式地映射到高维（甚至无穷维）特征空间；然后在高维特征空间里，利用再生核理论来建立基于广义Fisher准则的两个等价模型；最后利用正交补空间方法求得最优鉴别矢量来进行人脸识别。在ORL和NUST603两个人脸数据库上，对该方法进行了鉴别性能实验，得到了识别率分别为94％和99．58％的实验结果，这表明该方法与核组合方法的识别结果相当，且明显优于KPCA和Kernel fisherfaces方法的识别结果。