一种改进的核特征抽取方法及其在人脸识别中的应用

首先利用核函数技术将原始样本隐式地映射到高维特征空间;然后在高维空间里利用再生核理论建立基于Fisher鉴别极小准则的2个等价模型;最后在该空间的核类间散布矩阵的非零空间和零空间中应用Fisher极小鉴别准则求取核鉴别矢量.在人脸库上的实验结果验证了该算法的有效性.     

基于零空间核判别分析的人脸识别

提取有效特征对高维数据的模式分类起着关键作用.零空间线性判别分析(null-space linear discriminant analysis,NLDA)在数据降维和特征提取上表现出较好的性能,但是该方法本质上仍是一种线性方法.为有效提取数据的非线性特征,提出了零空间核判别分析算法(null-space kernel discriminant analysis,NKDA)并将其应用于人脸识别.利用核函数将原始样本隐式地映射到高维特征空间后,采用一次瘦QR分解求核类内散布矩阵的零空间鉴别矢量集,最后再进行一次Cholesky分解求得具正交性的核空间鉴别矢量集.与NLDA相比,NKDA具有更好的识别性能且在大样本情况下也能应用.另外,基于NKDA,提出了增量NKDA算法,当增加新的训练样本时能正确地更新NKDA鉴别矢量集.在ORL库、Yale库和PIE子库上的实验结果表明了算法的有效性和效率,在有效降维的同时能进一步提高鉴别能力.     

核的正交完备鉴别局部保持投影

针对完备鉴别局部保持投影算法所求得的最优判别矢量间存在信息冗余问题,提出了核的正交完备鉴别局部保持投影算法。通过将核函数技术与正交性原理融合,采用高斯核函数将原始样本映射到高维特征空间,在高维特征空间的局部总体散度矩阵中计算最优判别矢量,只需在整个范围内对值域空间进行特征值分解,去除局部零空间达到样本降维目的。该算法分别在 UMIST 人脸库和 JAFFE 人脸表情库上进行实验,实验结果表明算法的识别率高达95．59％。     

基于核的自适应K—Medoid聚类

针对K-Medoid算法不能有效聚类大数据集和高维数据的弱点,将核学习方法引入到K-Medoid算法,提出了基于核的自适应K-Medoid算法.该算法利用核函数将输入空间样本映射到一个高维的特征空间,在这个核空间中进行K-Medoid聚类,在聚类过程中,数据可以自适应地加入到最适合它的簇当中,并且聚类结果与初始k个中心点的选取无关,该算法可以完成对大数据集和高维数据的聚类.实验结果表明,与K-Medoid算法相比,该算法具有较高的聚类准确率.     

基于核映射的高阶Takagi-Sugeno模糊模型

本文研究规则后件为非线性函数的高阶Takagi-Sugeno(TS)模糊系统.为求解规则后件的函数表达式,首先通过一个核映射将原输入空间映射到高维特征空间,使原空间的非线性子模型转化为高维特征空间的线性子模型,获得了规则后件的非线性函数的计算公式.然后,给出了用核模糊聚类和最小二乘支持向量机设计模糊系统的一种新算法.最后通过4个公开数据集上的仿真实验验证了所提算法的逼近能力、推广能力和鲁棒性能.     

核零空间线性鉴别分析及其在人脸识别中的应用

零空间线性鉴别分析NLDA充分利用样本总类内离散度矩阵的零空间信息,能有效克服线性鉴别分析LDA的小样本问题.核方法通过非线性映射,将输入空间样本映射到高维特征空间,再在高维特征空间利用线性特征提取算法.因此,核方法属于非线性特征提取算法.文中结合LDA、NLDA和核方法的优点,引入了核零空间线性鉴别分析KNLDA,导出了KNLDA算法.该算法通过引入核函数,得到低维矩阵,有效避免了直接计算复杂的非线性映射函数,解决了高维类内离散度矩阵的维数灾难问题.同时,将KNLDA算法应用于人脸识别.基于ORL人脸数据库以及ORL与Yale混合人脸数据库的实验结果表明了KNLDA算法的有效性.     

Fisher极小准则不相关空间算法及其在人脸识别中的应用

不相关空间算法是一种基于广义Fisher准则求解不相关鉴别矢量集的快速算法,但该算法要求总体散度矩阵可逆。针对高维小样本的情况,文中提出求解不相关鉴别矢量集的改进方法。该方法的基本思路是在类间散度矩阵的值空间中运用广义Fisher极小准则求解鉴别矢量集,并讨论在该子空间中进行求解的合理性。针对高维情况下类间散度矩阵值空间的计算效率问题,提出首先利用PCA算法将数据降维,然后在低维空间中求解值空间的策略并讨论其合理性。在ORL人脸数据库上的实验验证该方法的有效性,其识别率高于传统的Fisher脸方法和不相关空间算法。     

Fisher线性鉴别分析的理论研究及其应用

Fisher线性鉴别分析已成为特征抽取的最为有效的方法之一.但是在高维、小样本情 况下如何抽取Fisher最优鉴别特征仍是一个困难的、至今没有彻底解决的问题.文中引入压缩 映射和同构映射的思想,从理论上巧妙地解决了高维、奇异情况下最优鉴别矢量集的求解问题, 而且该方法求解最优鉴别矢量集的全过程只需要在一个低维的变换空间内进行,这与传统方法 相比极大地降低了计算量.在此理论基础上,进一步为高维、小样本情况下的最优鉴别分析方法 建立了一个通用的算法框架,即先作K-L变换,再用Fisher鉴别变换作二次特征抽取.基于该 算法框架,提出了组合线性鉴别法,该方法综合利用了F-S鉴别和J-Y鉴别的优点,同时消除了 二者的弱点.在ORL标准人脸库上的试验表明,组合鉴别法所抽取的特征在普通的最小距离分 类器和最近邻分类器下均达到97%的正确识别率,而且识别结果十分稳定.该结果大大优于经 典的特征脸和Fisherfaces方法的识别结果.     

人脸识别中基于核的子空间鉴别分析

尽管基于Fisher准则的线性鉴别分析被公认为特征抽取的有效方法之一，并被成功地用于人脸识别，但是由于光照变化、人脸表情和姿势变化，实际上的人脸图像分布是十分复杂的，因此，抽取非线性鉴别特征显得十分必要。为了能利用非线性鉴别特征进行人脸识别，提出了一种基于核的子空间鉴别分析方法。该方法首先利用核函数技术将原始样本隐式地映射到高维（甚至无穷维）特征空间；然后在高维特征空间里，利用再生核理论来建立基于广义Fisher准则的两个等价模型；最后利用正交补空间方法求得最优鉴别矢量来进行人脸识别。在ORL和NUST603两个人脸数据库上，对该方法进行了鉴别性能实验，得到了识别率分别为94％和99．58％的实验结果，这表明该方法与核组合方法的识别结果相当，且明显优于KPCA和Kernel fisherfaces方法的识别结果。     

基于特征矢量集的核Logistic回归

将经典Logistic回归推广到高维RKHS空间，提出了一种基于特征矢量选择的核Logistic回归算法-FVS-KLR．该算法利用特征矢量选择（FVS）从训练样本集中选择一个特征矢量集，原样本在RKHS空间中的映射可用该集合中元素映射的线性组合近似．以特征矢量集为基得到核Logistic回归的目标泛函，并采用Newton-Raphson方法寻优，将优化的计算量由O（N^3）降到O（NL^2），L〈〈N．同时文章推导了多类情况下的核Logistic回归算法．通过与SVM的对比实验表明，该算法对后验概率的估计优于SVM方法，同时在分类错误率不高于SVM的基础上能显著降低分类器的计算量．     

一种确定高斯核模型参数的新方法

支持向量机中核函数及其参数的选择非常重要，该文提出了一种利用支持向量之间的距离求取高斯核函数参数的有效方法。该方法充分利用了支持向量机方法的最优判别函数仅仅与支持向量有关，并且支持向量为高斯核中心的特点。实验结果表明，该方法较好地反映了图像特征的本质，解决了高斯核函数参数在实际使用中不易确定的问题。     

基于图核算法的文本分类

在文本分类研究中,向量空间模型具有表示形式简单的特点,但只能表示特征词的词频信息而忽视了特征词间的结构信息和语义语序信息,所以可能导致不同文档被表示为相同向量。针对这种问题,本文采用图结构模型表示文本,把文本表示成一个有向图（简称文本图）,可有效解决结构化信息缺失的问题。本文将图核技术应用于文本分类,提出适用于文本图之间的相似度计算的图核算法--间隔通路核,然后利用支持向量机对文本进行分类。在文本集上的实验结果表明：与向量空间模型相比,间隔通路核相比于其他核函数的分类准确率更高,所以间隔通路核是一种很好的图结构相似性计算算法,能广泛应用于文本分类中。     

核聚类算法

该文提出了一种用于聚类分析的核聚类方法，通过利用Mercer核，作者把输入空间的样本映射到高维特征空间后，在特征空间中进行聚类，由于经过了核函数的映射，使原来没有显现的特征突出来，从而能够更好地聚类，该核聚类方法在性能上比以典的聚类算法有较大的改进，具有更快的收敛速度以及更为准确的聚类，仿真实验的结果证实了核聚类方法的可行性和有效性。     

人脸识别中基于学习的核图像微分滤波器

针对人脸识别应用,提出一种基于学习且具有鉴别能力的核图像微分滤波器。首先,区别于现有滤波器的手工设计方法,该滤波器利用训练集动态学习获得,通过在学习过程中融入线性判别分析（LDA）思想,可在增加滤波后图像类内相似度的同时减小类间相似度;其次,在线性滤波分类器的基础上进一步引入二阶微分信息,并结合核方法在高维空间下进行滤波器学习,使得图像中的细节和非线性信息可以得到更好的利用并获得更具鉴别力的特征描述。AR和ORL人脸库上的多组对比实验结果表明,与线性可学习图像滤波器IFL、不考虑微分信息的核图像滤波器以及只考虑一阶微分信息的核图像滤波器进行比较,所提算法可有效提高识别性能。     

基于模糊核LVQ的Sammon非线性映射算法

提出了一种基于可靠稳定的模糊核学习矢量量化（FKLVQ）聚类的Sammon非线性映射新算法。该方法通过Mercer核，将数据空间映射到高维特征空间，并在此特征空间上进行FKLVQ学习获取数据空间有效且稳定的聚类权矢量，然后在特征空间和输出空间上仅针对各空间的数据样本和它们各自的聚类权矢量进行Sammon非线性核映射。这样既降低了计算的复杂度，又使数据空间和输出空间上数据点与聚类中心间的距离信息保持相似。仿真结果验证了该方法的可靠性和稳定性。     

再生核Hilbert空间中两阶段稀疏表示目标跟踪算法

在强干扰复杂环境下,有效的特征选择对于目标跟踪模型的可解释性至关重要.针对这一问题,本文基于再生核Hilbert空间(RKHS)理论,对特征空间构建生成式的两阶段稀疏表示(TSSR)模型,从而描述图像样本与字典之间的非线性关系,避免了在字典中引入大量的琐碎模板.在第1阶段,首先建立图像样本与字典在原始低维空间中的关系,然后利用批处理最小二乘算法求得稀疏表示系数的初值,根据观测模型确定初始跟踪位置的分布;在第2阶段,首先利用核方法将原始低维空间映射到高维特征空间,然后提出一种基于核的加速近端梯度算法(KAPG),从而求得字典元素系数的核稀疏表示,最终确定跟踪目标.最后实验结果证明了本文所提出的TSSR方法在面对视角变化和部分遮挡时的有效性.     

核空间直觉模糊局部C-均值聚类分割算法研究

针对现有直觉模糊C-均值聚类仅适合呈团状数据的不足,采用非线性函数将数据样本从欧式空间映射至再生希尔伯特高维特征空间,得到核空间直觉模糊聚类算法;同时考虑相邻像素的相互影响,将邻域像素融入核空间直觉模糊聚类的最优化目标函数中,经数学推导便得到嵌入像素局部信息的核空间直觉模糊聚类分割算法。图像分割测试结果表明,核直觉模糊C-均值聚类分割法相比现有直觉模糊C-均值聚类分割法能获得更满意的分割效果;同时,嵌入局部信息的核直觉模糊C-均值聚类分割法表现出良好的抗噪鲁棒性。     

一种新的核线性鉴别分析算法及其在人脸识别上的应用

基于核策略的核Fisher鉴别分析（KFD）算法已成为非线性特征抽取的最有效方法之一。但是先前的基于核Fisher鉴别分析算法的特征抽取过程都是基于2值分类问题而言的。如何从重叠（离群）样本中抽取有效的分类特征没有得到有效的解决。本文在结合模糊集理论的基础上,利用模糊隶属度函数的概念,在特征提取过程中融入了样本的分布信息,提出了一种新的核Fisher鉴别分析方法——模糊核鉴别分析算法。在ORL人脸数据库上的实验结果验证了该算法的有效性。