稀疏低秩双线性判别模型及其应用

"高维度小样本"问题是模式识别应用中的主要障碍之一。跨越这一障碍的有效方法之一是采用参数矩阵的低秩逼近,目的是控制模型复杂度。常用的低秩逼近方法需要预先指定目标矩阵秩的大小(如主成分分析)。提出了一种新的基于稀疏约束的低秩判别模型,此模型通过对目标参数进行矩阵分解,然后分别对子成分施加低秩(稀疏)约束,从而达到低秩逼近的目的。进一步将这一思想嵌入一个双边判别模型,并用坐标下降法对目标函数进行优化,使得算法在低秩逼近的同时还有效利用了输入数据的空间特性,从而得到更好的推广性能。其有效性在一个安全生物识别应用上得到了验证。     

Mixed-Fisher特征云模型聚类在文本情感分类中的应用

海量网络信息的出现,使得提取文本信息情感观点成为研究的热点。针对文本情感分类中文本信息模糊及分类准确率低的问题,提出了一种基于Mixed-Fisher特征选择的文本云向量模型聚类算法。该算法首先分别计算文档中各个词性特征项的Fisher判别比,根据Fisher判别比越大特征向量判别性越强的Fisher准则,选择Fisher比值较大的前q个特征,并按照词性进行组合生成文档的Mixed-Fisher特征向量。然后在Mixed-Fisher特征向量集上构建文档的云向量模型,根据云向量模型间的差异度对模型进行聚类和合并。将该算法应用于文本情感观点的分类,选择核Fisher判别技术用于最终文本观点的判定。仿真实验结果表明,基于Mixed-Fisher特征的云向量聚类模型的分类准确率明显优于传统向量空间模型,从而验证了核Fisher判别技术的有效性。     

基于二维Fisher线性判别的掌纹识别方法

在Fisher线性判别(FLD)中,类内离散矩阵总是奇异的。为了解决矩阵的奇异性问题,应用一种新的二维Fisher线性判别(2DFLD)直接进行矩阵投影。对于PolyU掌纹图像库,分别用PCA, PCA+FLD和2DFLD提取特征掌纹子空间,将待识别图像投影到低维子空间上,用余弦距离进行掌纹匹配。实验结果表明,与PCA相比,PCA+FLD的识别率最多提高1.18%。2DFLD识别率最高达到99.34%,比PCA+FLD提高7.61%,特征提取仅耗时0.047 s。     

改进的判别割及其在图像分割中的应用

谱聚类算法能在任意形状的样本空间上聚类且收敛于全局最优解,但判别割(Dcut)算法在计算正则化相似度矩阵及其特征向量时比较耗时,而基于子空间的Dcut(SDcut)算法则不稳定,为此,提出基于主成分分析(PCA)的Dcut算法(PCA-Dcut)。PCA-Dcut算法采用PCA算法计算相似度矩阵的前m个大的特征值对应的特征向量构造一个新的矩阵,然后采用构造的矩阵与相似度矩阵和拉普拉斯矩阵分别进行矩阵运算;接着通过计算获得一个m阶正则化相似度矩阵,并计算该矩阵的k个最大特征向量;最后使用构造的矩阵与这k个特征向量相乘获得最终用于分类的特征向量。PCA-Dcut算法能降低Dcut算法的计算复杂度。通过对人工合成数据集、UCI数据集和真实图像的仿真实验表明,PCA-Dcut算法的聚类准确率与Dcut等谱聚类算法相当,同时在分割图像时的运算速度约为Dcut的5.4倍,并具有比SDcut更快的速度和更好的性能。     

基于核Fisher判别的分类器算法及其在语种识别中的应用研究

GMM与SVM的建模和识别性能具有较好的互补性,因此GMM-SVM在语种识别中得到广泛使用,以其为基础的GMM-MMI-SVM已成为语种识别的主流研究方法.但是SVM在判别时仅仅使用了训练样本中的一些特殊样本即支持向量,并没有使用全部样本,从而影响了系统识别性能的进一步提高.针对上述问题,提出一种基于核Fisher判别的分类算法-GMM-MMI-KFD.该算法的核心思想是用核Fisher准则(KFD)替代SVM分类准则,从语音片段中提取出特征向量序列,分别通过GMM-MMI分类器与GMM-KFD分类器进行判决打分.相对SVM,KFD更注重语音数据非线性分布的特点,并且将样本向高维空间H上投影后可以最大限度地增大类间距,减小类内距.实验数据表明,GMM-MMI-KFD方法在语种识别中具有更高的识别率.     

一种改进的Fisher判别方法在人脸识别中的应用

对核Fisher鉴别分析进行了深入分析,发现了一种等价的但更为简单的非线性特征抽取方法.该方法利用一个映射将原始输入空间变换到一个更低维的空间RN中,然后在该空间上利用线性Fisher鉴别分析进行最优特征抽取.讨论了特征提取的一般模型,并提出了一种基于矩阵相似度的特征提取算法.通过ORL人脸数据库的数值实验,表明该算法比传统Fisher算法有更好的性能.     

化学电源质量管理模型应用的研究

化学电源在现代社会应用中起着重要的作用,所以对电源产品的质量提出更高的要求,而影响电源质量可靠性最关键的因素是单体电池的一致性。本文主要采用主成分分析模型来研究影响单体电池一致性的主要因素,然后采用贝叶斯判别模型对单体电池的合格品与次品做出正确的判别分类,研究主成分分析模型使问题由复杂变简单,应用贝叶斯判别模型的研究验证和确认单体电池质量的可靠性,从而为组合电池的筛选和确保组合电池的质量可靠性提供理论依据和借鉴价值。     

模糊逆Fisher鉴别分析及其在人脸识别中的应用

在逆Fisher鉴别分析的基础上,引入了模糊数学的思想,提出了模糊逆Fisher鉴别分析并成功应用于人脸识别。模糊逆Fisher鉴别分析通过隶属度函数将样本归入所有的类别之中,根据隶属度重新定义了类间散布矩阵和类内散布矩阵,进而将样本的原始分布信息通过相应的隶属度函数完全融入到了最后提取到的特征中。在ORL和FERET人脸库上的实验结果证明了基于模糊逆Fisher鉴别准则特征提取方法的优越性。     

化学计量学方法在血红细胞判别中的应用

本文通过数值遗传算法优化彩色图像RGB三色变换参数，将彩色图像转化为灰度图，利用快速傅里叶变换计算图像的一维自相关光谱。通过PCA对一维自相关光谱矩阵的特片提取，从而实现了血红细胞中正常细胞和变异细胞分类。     

基于多线性主元分析和FLD的掌纹识别*

为了减少高维对计算成本的影响,同时提取有利于分类的判别特征,提出运用多线性主元分析(MPCA)与FLD相结合的方法进行掌纹识别。运用MPCA直接对掌纹张量进行降维和特征提取,低维特征向量作为FLD的输入,提取判别特征向量,计算特征向量间的余弦距离进行掌纹匹配。PolyU掌纹图像库的实验结果表明,与主元分析（PCA）、PCA+FLD、二维主元分析(2DPCA)、独立元分析（ICA）和MPCA相比,该算法的识别率(RR)最高为9991%,特征提取和匹配总时间为0398 s,满足实时系统的要求。     

一种新的核线性鉴别分析算法及其在人脸识别上的应用

基于核策略的核Fisher鉴别分析（KFD）算法已成为非线性特征抽取的最有效方法之一。但是先前的基于核Fisher鉴别分析算法的特征抽取过程都是基于2值分类问题而言的。如何从重叠（离群）样本中抽取有效的分类特征没有得到有效的解决。本文在结合模糊集理论的基础上,利用模糊隶属度函数的概念,在特征提取过程中融入了样本的分布信息,提出了一种新的核Fisher鉴别分析方法——模糊核鉴别分析算法。在ORL人脸数据库上的实验结果验证了该算法的有效性。     

Penalized Fisher Discriminant Analysis and Its Application to Image-Based Morphometry

Image-based morphometry is an important area of pattern recognition research, with numerous applications in science and technology (including biology and medicine). Fisher linear discriminant analysis (FLDA) techniques are often employed to elucidate and visualize important information that discriminates between two or more populations. We demonstrate that the direct application of FLDA can lead to undesirable errors in characterizing such information and that the reason for such errors is not necessarily the ill conditioning in the resulting generalized eigenvalue problem, as usually assumed. We show that the regularized eigenvalue decomposition often used is related to solving a modified FLDA criterion that includes a least-squares-type representation penalty, and derive the relationship explicitly. We demonstrate the concepts by applying this modified technique to several problems in image-based morphometry, and build discriminant representative models for different data sets.     

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一.但是在高维、小样本情况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题.文中引入压缩映射和同构映射的思想,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题,而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行,这与传统方法相比极大地降低了计算量.在此理论基础上,进一步为高维、小样本情况下的最优鉴别分析方法建立了一个通用的算法框架,即先作K-L变换,再用Fisher鉴别变换作二次特征抽取.基于该算法框架,提出了组合线性鉴别法,该方法综合利用了F-S鉴别和J-Y鉴别的优点,同时消除了二者的弱点.在ORL标准人脸库上的试验表明,组合鉴别法所抽取的特征在普通的最小距离分类器和最近邻分类器下均达到97%的正确识别率,而且识别结果十分稳定.该结果大大优于经典的特征脸和Fisherfaces方法的识别结果.     

子空间半监督Fisher判别分析

Fisher判别分析寻找一个使样本数据类间散度与样本数据类内散度比值最大的子空间, 是一种很流行的监督式特征降维方法. 标注样本数据所属的类别通常需要大量的人工, 消耗大量的时间, 付出昂贵的成本. 为了解决同时利用有类别信息的样本数据和没有类别信息的样本数据用于寻找降维子空间的问题, 我们提出了一种子空间半监督Fisher判别分析方法. 子空间半监督Fisher判别分析寻找这样一个子空间, 这个子空间即保留了从有类别信息的样本数据中学习的类别判别结构, 也保留了从有类别信息的样本数据和没有类别信息的样本数据中学习的样本结构信息. 我们还推导了基于核的子空间半监督Fisher判别分析方法. 通过人脸识别实验验证了本文算法的有效性.     

一种基于空间变换的核Fisher鉴别分析

引入空间变换的思相想，提出了一种基于空间变换的核Fisher鉴别分析，与KFDA不同的是，该方法只需在一个较低维的空间内执行，从而较大幅度地降低了求解最优鉴别矢量集的计算量，提高了计算速度，在ORL标准人脸库上的试验结果验证了所提方法的有效性。     

最大散度差鉴别分析及人脸识别

传统的Fisher线性鉴别分析(LDA)在人脸等高维图像识别应用中不可避免地遇到小样本问题。提出一种基于散度差准则的鉴别分析方法。与LDA方法不同的是,该方法利用样本模式的类间散布与类内散布之差而不是它们的比作为鉴别准则,这样,从根本上避免了类内散布矩阵奇异带来的困难。在ORL人脸数据库和AR人脸数据库上的实验结果验证算法的有效性。     

基于零空间分析的张量局部Fisher判别方法

结合局部Fisher判别、张量子空间学习和零空间分析等技术的优点,提出了一种基于零空间分析的张量局部Fisher判别算法,其特点包括:i) 引入类间判别信息,对局部Fisher判别技术进行调整,提升了算法识别性能并且降低了计算时间复杂度;ii) 通过张量型降维思想对输入样本进行双边投影变换而非单边投影,获得了更高的信息压缩率;iii) 随着训练样本量的变化,可采用基于零空间分析的求解方法和传统的直接迭代更新计算方法。通过ORL、Yale和ExYaleB 3个人脸数据库验证了所提算法的性能。     

一种基于核的快速非线性鉴别分析方法

基于“核技巧”提出的新的非线性鉴别分析方法在最小二乘意义上与基于核的Fisher鉴别分析方法等效,相应鉴别方向通过一个线性方程组得出,计算代价较小,相应分类实现极其简便．该方法的最大优点是,对训练数据进行筛选,可使构造鉴别矢量的“显著”训练模式数大大低于总训练模式数,从而使得测试集的分类非常高效;同时,设计出专门的优化算法以加速“显著”训练模式的选取．实验表明,这种非线性方法不仅具有明显的效率上的优势,且具有不低于基于核的Fisher鉴别分析方法的性能．     

基于核Fisher判别分析视频运动目标的分类

针对线性判别分析只能提取线性特征而不能描述非线性特征的缺点,采用将核函数和 Fisher判别分析方法的可分性结合起来的核 Fisher判别分析的方法对视频中的运动目标进行自动分类,运动目标包含人、汽车和宠物三类。该方法取得了较好的分类效果,且在查全率、查准率和 F1-Measure 获得了满意的性能。     

一种新的基于Schur分解的Fisher鉴别分析方法

特征抽取是模式识别研究领域的一个热点。本文提出了一种新的基于Schur分解的Fisher鉴别分析的特征抽取方法。此方法引入了零空间的概念,指出了前人算法中的不足之处;给出了一个完整的基于Schur分解的Fisher鉴别分析方法。ORL人脸数据库上的实验表明了该方法的有效性。