基于低密度分割几何距离的半监督KFDA算法

提出了一种基于低密度分割几何距离的半监督KFDA（kernel Fisher discriminant analysis）算法（semisupervised KFDA based on low density separation geometry distance，简称SemiGKFDA）.该算法以低密度分割几何距离作为相似性度量，通过大量无标签样本，提高KFDA算法的泛化能力.首先，利用核函数将原始空间样本数据映射到高维特征空间中；然后，通过有标签样本和无标签样本构建低密度分割几何距离测度上的内蕴结构一致性假设，使其作为正则化项整合到费舍尔判别分析的目标函数中；最后，通过求解最小化目标函数获得最优投影矩阵.人工数据集和UCI数据集上的实验表明，该算法与KFDA及其改进算法相比，在分类性能上有显著提高.此外，将该算法与其他算法应用到人脸识别问题中进行对比，实验结果表明，该算法具有更高的识别精度.     

核正交UDP及其在人脸识别中的应用

针对人脸识别中的特征提取问题,对原始的非监督判别映射(UDP)算法进行了改进,提出一种基于核正交UDP的人脸识别算法.利用核的方法提取人脸图像中的非线性信息,并将其投影在一个高维非线性空间;在加入基向量正交的约束后,通过能够保持人脸图像局部几何结构的UDP算法作一个线性映射,以求取算法的正交基向量.该算法中,采用核方法可以更好地提取人脸非线性结构特征,正交基向量则可以更好地保留非线性子流形空间与度量结构有关的信息,增强了算法的识别性能.最后,通过在ORL和PIE人脸库上的人脸识别实验验证了文中算法的有效性.     

人脸识别中基于核的子空间鉴别分析

尽管基于Fisher准则的线性鉴别分析被公认为特征抽取的有效方法之一，并被成功地用于人脸识别，但是由于光照变化、人脸表情和姿势变化，实际上的人脸图像分布是十分复杂的，因此，抽取非线性鉴别特征显得十分必要。为了能利用非线性鉴别特征进行人脸识别，提出了一种基于核的子空间鉴别分析方法。该方法首先利用核函数技术将原始样本隐式地映射到高维（甚至无穷维）特征空间；然后在高维特征空间里，利用再生核理论来建立基于广义Fisher准则的两个等价模型；最后利用正交补空间方法求得最优鉴别矢量来进行人脸识别。在ORL和NUST603两个人脸数据库上，对该方法进行了鉴别性能实验，得到了识别率分别为94％和99．58％的实验结果，这表明该方法与核组合方法的识别结果相当，且明显优于KPCA和Kernel fisherfaces方法的识别结果。     

基于KIOFD算法的特征抽取及其在人脸识别中的应用

提出了一种基于核技术的融合了反转Fisher鉴别准则和正交化技术的KIOFD（Kernel Inverse Orthogonalized Fisher Discriminant）算法,并把这一算法应用于人脸识别中。线性人脸识别中存在两个突出问题:（1）在光照、表情、姿态变化较大时,人脸图像分类是复杂的、非线性的;（2）小样本问题,即当训练样本数量小于样本特征空间维数时,导致类内散布矩阵奇异。对于第1个问题,可以采用核技术提取人脸图像样本的非线性特征,对于第2个问题,采用了反转Fisher鉴别准则和正交化结合的算法。通过对ORL、Yale Group B以及UMIST3个人脸库的实验表明,提出的算法是可行的、高效的。     

核最大方差差分嵌入在生物特征提取中的应用

最大方差差分嵌入算法（VDE）最大化全局方差和局部方差之差,该算法直接通过求解一个特征值问题而获得投影矩阵,无需矩阵求逆运算,因此VDE克服了无监督鉴别投影（UDP）算法的小样本问题,为了进一步增强VDE算法的非线性描述能力,提出了核最大方差差分嵌入算法（KVDE）,该算法首先采用核函数将样本映射到非线性高维空间,然后采用核方法得到一个低维子空间,人脸和掌纹数据库上的实验表明KVDE算法比VDE算法具有更好的性能。     

有监督正交局部保留投影及其在人脸识别中的应用

针对局部保留投影算法（LPP）的无监督和非正交问题,提出了一种有监督的正交局部保留投影算法SOLPP。该算法同时考虑了样本的类别信息以及投影向量间的相互正交性,首先利用样本的类标签信息重新定义了类内和类间相似度矩阵,同时最大化类间离散度与类内离散度之比,有效地保持了样本的局部结构;其次对投影基向量进行正交化,在保持数据空间结构的同时进一步提高了人脸识别效果。在ORL和FERET人脸库上的实验表明,该方法的识别率要优于SLPP等算法。     

核的正交完备鉴别局部保持投影

针对完备鉴别局部保持投影算法所求得的最优判别矢量间存在信息冗余问题,提出了核的正交完备鉴别局部保持投影算法。通过将核函数技术与正交性原理融合,采用高斯核函数将原始样本映射到高维特征空间,在高维特征空间的局部总体散度矩阵中计算最优判别矢量,只需在整个范围内对值域空间进行特征值分解,去除局部零空间达到样本降维目的。该算法分别在 UMIST 人脸库和 JAFFE 人脸表情库上进行实验,实验结果表明算法的识别率高达95．59％。     

核无监督鉴别投影及人脸识别

提出一种基于核方法的无监督鉴别投影,在较好地描述人脸图像的同时,对图像进行有效地分类.对核局部保留投影(KLPP)和无监督鉴别投影技术(UDP)进行了相应的研究,将两者互相结合.该方法同时考虑到样本的局部特性和非局部特性,有效地利用了对分类有用的重要信息;此外,将核方法和流形学习方法结合起来,有效地描述人脸图像的非线性变化,对于人脸识别问题有较好的效果.在Yale库上的实验表明,该方法的识别率明显高于UDP和PCA,且有较好的分类效果.     

一种核正交局部敏感辨别分析算法

为了发掘嵌入在人脸样本的非线性结构信息,把核方法和基向量正交化思想引入局部敏感分析算法中,提出一种新的人脸识别算法-核正交局部敏感辨别分析(Kernel based Orthogonal Locality Sensitive Discriminant Analysis).并给出了算法的推导过程及计算步骤.首先用核方法提取人脸样本的非线性信息,并将其投影至高维非线性空间,然后采用局部敏感辨别分析做线性映射,最后采用施密特正交化方法得到正交的基向量,从而使算法更好地描述人脸非线性流形结构特征.在ORL和YaleB人脸库的人脸识别实验证明了所提算法的有效性.     

2DPCA+2DLDA和改进的LPP相结合的人脸识别算法

针对局部保持投影（LPP）算法无监督且只保留局部信息的特性,提出一种2DPCA+2DLDA和改进的LPP相结合的人脸识别算法。将训练集样本用2DPCA+2DLDA算法进行投影,保留数据整体空间信息和分类信息;引入类内、类间信息对LPP算法的关系矩阵进行优化,使LPP成为有监督的非线性学习方法,采用改进的LPP（ILPP）算法对训练集图像进行二次投影,提取样本的局部流形信息,并作为人脸识别信息进行鉴别。在Yale和ORL人脸库的测试结果验证了该方法的有效性。     

极小化类内散布度的大间距非线性鉴别分析

提出了一种新的非线性鉴别分析算法——极小化类内散布的大间距非线性鉴别分析。该算法的主要思想是将原始样本映射到更高维的空间中,利用核技术对传统的大间距分类算法进行改进,在新的高维空间中利用再生核技术寻找核鉴别矢量,使得在这个新的空间中核类内散度尽可能的小。在ORL人脸数据库上进行实验,分析了识别率及识别时间,结果表明该方法具有一定优势。     

一种基于核的半监督局部线性嵌入方法

在局部线性嵌入算法中,标签价值没有得到充分体现。针对该问题,提出一种基于核的半监督局部线性嵌入方法。考虑到欧氏距离容易破坏流形结构,将原始数据映射到高维核空间,利用高维空间中的核距离代替欧氏距离,采用半监督标签信息调整距离矩阵,通过调整后的距离矩阵对数据结构进行线性重建,从而提高算法的降维性能。在标准数据集、人脸库、字符库等数据上进行实验,结果表明,与传统局部线性嵌入算法相比,该方法的辨识率提高了2%     

基于条件正定核的SVM人脸识别

为提高人脸识别分类器的能力,采用了一种改进的可用于核学习方法的核函数—条件正定核函数。条件正定核函数一般不满足Mercer条件,但可以在核空间中计算样本间的距离,突出样本间的特征差异。对ORL、YALE、ESSEX三个标准人脸数据库进行仿真实验,结果表明基于条件正定核的SVM人脸识别算法在训练时间没有降低的情况下,与其他核函数法相比识别率有较大提高,并且当类别数增加时算法表现出较强的鲁棒性。     

隐空间中参数化直接鉴别分析及其应用

提出了一种新的非线性特征抽取方法——隐空间中参数化直接鉴别分析。其主要思想是利用一核函数将原始输入空间非线性变换到隐空间,针对在该隐空间中类内散布矩阵总是奇异等问题,利用参数化直接鉴别分析进行特征抽取。与现有的核特征抽取方法不同的是,该方法不需要核函数满足Mercer 定理,从而增加了核函数的选择范围。更为重要的是,由于在隐空间中采用了参数化直接鉴别分析,不仅保留了参数化直接鉴别分析的优点,而且有效地抽取了样本的非线性特征;在该方法中提出了一个更为合理的加权系数矩阵,提高了分类性能。在FERET人脸数据库子库上的实验结果验证了该方法的有效性。     

LDA算法及其在人脸识别中的应用

线性特征提取在人脸识别中的应用非常广泛,LDA是其主要方法之一,它基于Fisher 判别准则,然而,当人脸训练样本数小于人脸样本向量的维数时,变换矩阵将无法直接得到,因此线性判别分析过程失效。采用了一种改进的基于Fisher 准则的LDA方法,针对小样本问题提出了一种有效地解决类内散布矩阵奇异的方法,而且用ORL人脸数据进行了实验验证。实验证明该方法在正确识别率方面表现突出。     

一种基于标签传播的半监督核学习算法

一个好的核函数能提升机器学习模型的有效性,但核函数的选择并不容易,其与问题背景密切相关,且依赖于领域知识和经验。核学习是一种通过训练数据集寻找最优核函数的机器学习方法,能通过有监督学习的方式寻找到一组基核函数的最优加权组合。考虑到训练数据集获取标签的代价,提出一种基于标签传播的半监督核学习方法,该方法能够同时利用有标签数据和无标签数据进行核学习,通过半监督学习中被广泛使用的标签传播方法结合和谐函数获得数据集统一的标签分布。在UCI数据集上对提出的算法进行性能评估,结果表明该方法是有效的。     

基于特征的弹性图匹配人脸识别算法改进

针对传统人脸识别弹性图匹配算法空间复杂度高、实时性较差的问题,提出一种弹性图匹配改进算法,将人脸图片特征点经Gabor小波预处理后,结合主成分分析(PCA)和Fisher线性判别方法(FLD)对生成的特征矢量进行处理,降低维数,减少计算量,同时在不降低识别率的前提下,提高识别速度。与传统的PCA算法、FLD算法、EGM算法进行仿真比较,证明该改进算法识别率高、实时性好。     

基于近邻密度和半监督KNN的集成自训练方法

针对集成自训练算法随机初始化有标记样本容易在迭代中局部过拟合,不能很好地泛化到样本原始空间结构和集成自训练算法用WKNN分类器做数据剪辑时没有考虑到无标记样本对待测样本类别判定有影响的问题,提出结合近邻密度和半监督KNN的集成自训练算法。该算法用近邻密度方法选取初始化的已标注样本,避免已标注样本周围[k]个近邻样本成为已标注候选集。这样使初始化的已标注样本间的距离尽量分散,以更好地反应样本原始空间结构。同时在已标注样本候选集中选取密度最大的样本作为已标注样本。为了提高数据剪辑的性能,用半监督KNN代替WKNN,弥补WKNN做数据剪辑的时候只考虑到了有标记样本对待测样本类别的影响,而没有利用待测样本周围的无标记样本的问题,在UCI数据集上的对比实验验证了提出算法的有效性。