结合成对约束的近邻稀疏保留投影算法

稀疏保持投影算法是一种无监督的全局线性降维方法,无法应对训练样本不足及类内样本间差异过大的情况。针对该问题,提出一种结合成对约束机制的近邻稀疏保留投影算法。利用近邻样本求取稀疏系数以保留局部结构信息,引入成对约束监督的思想,利用样本类别指导稀疏重构过程,最后定义能最大限度保留稀疏系数中蕴含的类别信息的低维子空间。将该算法用于人脸识别,实验结果证明了算法在识别率以及运行时间上的有效性和可行性。     

基于流形学习和稀疏约束的快速特征提取算法

针对稀疏保持投影算法在特征提取过程中无监督和L1范数优化的计算量较大的问题,提出一种基于流形学习和稀疏约束的快速特征提取算法。首先通过逐类PCA构造级联字典,并基于该字典通过最小二乘法快速学习稀疏保持结构;其次构造用于描述不同子流形距离的局部类间散度函数;然后整合所学习到的稀疏表示信息和局部类间散度信息以达到既考虑判别效率又保持稀疏表示结构的目的;所提算法最终转化为一个求解广义特征值问题。在公共人脸数据库(Yale,ORL和Extended Yale B)中 的 测试结果验证了该方法的可行性和有效性。     

基于高阶结构约束的稀疏人脸识别算法

为了挖掘人脸稀疏表示的高阶结构信息,从而获得更精确的人脸分类判别信息,提出一种新的基于高阶结构约束的稀疏表示的人脸识别算法。在提取人脸图像的Gabor特征后,选取适当的训练样本构建稀疏线性编码模型,利用样本特征间的高阶结构信息约束和最优化求解测试样本的稀疏系数,将稀疏系数作为最终特征对人脸进行识别,实验结果表明,与结构约束稀疏表示和非结构约束稀疏表示的方法比较,人脸的高阶结构稀疏表示能显著提高人脸的识别准确率。     

基于L1范数的二维局部保留映射

提出了一种基于L1范数的二维局部保留映射(two-dimensional locality preserving projections based on L1-norm,2DLPP-L1)特征提取方法。与传统的基于L2范数的二维局部保留映射(2DLPP)相比,所提方法有两个优点。首先,由于L1范数对噪声不敏感,因此它具有更强的抗噪声能力;其次,它不需要进行特征值分解。在两个人脸数据库和一个手写数字数据集上的实验结果表明,当训练集中有噪声时,所提的2DLPP-L1能够取得优于传统2DLPP的分类性能。     

半监督的稀疏保持二维边界Fisher分析降维算法

针对样本集中类别标签样本不足的问题,提出一种半监督的稀疏保持二维边界fisher分析降维算法.首先利用图像像素间的空间结构信息,基于图像矩阵进行降维;然后设计类内散度矩阵和类间散度矩阵,以保持样本间的类内紧凑性和类间分离性;最后通过稀疏保持对特征间的稀疏重构性加以约束,所获得的稀疏重构权重保持了局部几何结构,而且也包含了自然鉴别信息.在YALE,ORL和AR人脸数据库上的实验结果表明,该算法具有很好的分类和识别性能.     

成对约束指导的稀疏保持投影

针对稀疏保持投影的稀疏重构过程中监督信息不足的问题,提出一种成对约束指导的稀疏保持投影算法。该算法在训练样本数据的稀疏重构的过程中,通过引入正约束和负约束监督信息指导稀疏重构,使得稀疏保持投影有效地融合了约束监督信息。在UMIST、YALE和AR人脸库人脸数据集上的实验结果表明,与无监督的稀疏保持投影相比,该方法提高了基于最近近邻分类算法的5%~15%识别准确率,有效地提高了降维分类性能。     

基于流形学习的正交稀疏保留投影鉴别分析

稀疏保留投影( SPP)是一种保留样本间的稀疏重构关系的特征提取方法。但是根据流形学习理论,考虑局部流形结构比考虑全局欧氏结构更重要。此外,SPP得到的不是一组正交的投影向量,特征间存在冗余信息。为解决该问题,文中提出一种改进的稀疏保留投影算法,在SPP中引入有监督的流形学习,使得所得投影空间正交,并用迭代的方式求解最优投影变换,称为基于流形学习的迭代正交稀疏保留鉴别分析( MLIOSDA)。同时提出一种终止准则终止迭代。在CAS-PEAL人脸数据库和PolyU掌纹数据库的实验结果表明,文中提出的方法与一些相关方法相比有效地提高了识别结果。     

基于流形学习的正交稀疏保留投影

稀疏保留投影通过保留样本之间的全局稀疏重构关系来进行特征提取,获得了良好的分类效果。但是,稀疏保留投影得到的投影变换通常不是正交的,而且在实际应用中,正交性一直被认为有利于提高鉴别能力。另外,根据流形学习理论,局部流形结构比全局欧式结构更重要。因此,文中在稀疏保留投影中引入了流形结构保留和正交投影,提出了整体正交流形稀疏保留投影（HOMSPP）和迭代正交流形稀疏保留投影（IOMSPP）两种实现算法来实现人脸和掌纹图像的特征提取。     

基于边界判别投影的数据降维

为了提取具有较好判别性能的低维特征,提出了一种新的有监督的线性降维算法——边界判别投影,即,最小化同类样本间的最大距离,最大化异类样本间的最小距离,同时保持数据流形的几何形状.与经典的基于边界定义的算法相比,边界判别投影可以较好地保持数据流形的几何结构和判别结构等全局特性,可避免小样本问题,具有较低的计算复杂度,可应用于超高维的大数据降维.人脸数据集上的实验结果表明,边界判别分析是一种有效的降维算法,可应用于大数据上的特征提取.     

基于鉴别稀疏保持嵌入的人脸识别算法

鉴于近年来稀疏表示（Sparse representation,SR）在高维数据例如人脸图像的特征提取与降维领域的快速发展,对原始的稀疏保持投影（Sparsity preserving projection,SPP）算法进行了改进,提出了一种叫做鉴别稀疏保持嵌入（Discriminant sparsity preserving embedding,DSPE）的算法. 通过求解一个最小二乘问题来更新SPP中的稀疏权重并得到一个更能真实反映鉴别信息的鉴别稀疏权重,最后以最优保持这个稀疏权重关系为目标来计算高维数据的低维特征子空间.该算法是一个线性的监督学习算法,通过引入鉴别信息,能够有效地对高维数据进行降维. 在ORL库、Yale库、扩展Yale B库和CMU PIE库上的大量实验结果验证了算法的有效性.     

基于流形学习的整体正交稀疏保留鉴别分析

稀疏保留投影是一种有效的特征提取方法,但是其主要关注样本间的全局稀疏重构关系,并且得到的投影变换通常不是正交的。在实际应用中,图像数据往往处于高维空间中的一种低维流形中,正交性一直被认为有利于提高鉴别能力。文中以有监督学习的方式在稀疏保留投影中引入了流形结构保留,并使得投影空间正交,从而提出了一种新的特征提取方法,即基于流形学习的整体正交稀疏保留鉴别分析（MLHOSDA）。在人脸和掌纹图像数据库的实验结果表明此方法具有较好的识别效果。     

基于稀疏和近邻保持的极限学习机降维

近邻与稀疏保持投影已被广泛应用于降维方法,通过优化得到满足近邻结构或稀疏结构的降维投影矩阵,然而这类方法多数只考虑单一结构特征.此外,多数非线性降维方法无法求出显式的映射函数,极大地限制了降维方法的应用.为克服这些问题,本文借鉴极限学习机的思想,提出面向聚类的基于稀疏和近邻保持的极限学习机降维算法（SNP-ELM）.SNP-ELM算法是一种非线性无监督降维方法,在降维过程中同时考虑数据的稀疏结构与近邻结构.在人造数据、Wine数据和6个基因表达数据上进行实验,实验结果表明该算法优于其他降维方法.     

稀疏保持典型相关分析及在特征融合中的应用

稀疏保持投影(Sparsity preserving projections, SPP)由于保持了数据间的稀疏重构性, 因而获取的投影向量满足旋转、尺度和平移的不变性, 并能够在无标签的情况下提取样本的自然鉴别信息, 在人脸识别领域取得了较为成功的应用. 本文在典型相关分析(Canonical correlation analysis, CCA)的基础上引入稀疏保持项, 提出一种稀疏保持典型相关分析(Sparsity preserving canonical correlation analysis, SPCCA). 该方法不仅实现了两组特征集鉴别信息的有效融合, 同时对提取特征间的稀疏重构性加以约束, 增强了特征的表示和鉴别能力. 在多特征手写体字符集与人脸数据集上的实验结果表明, SPCCA比CCA具有更优的识别性能.     

稀疏约束下快速低秩共享的字典学习方法及其人脸识别

字典学习是重要的特征表示方法之一,在人脸识别等方面有广泛的应用,特别适合解决姿态变化下的人脸识别问题,因而倍受研究者的关注.为有效增强字典的判别能力,研究者结合领域知识和抗噪等策略提出大量的字典学习模型,其中包括最近提出的同时进行降维和字典学习的方法,但这些方法侧重考虑样本中特定类的信息,未能有效考虑训练样本间的共享信息.因此,提出了一种稀疏约束下快速低秩共享的字典学习方法.该方法采用降维和字典联合进行学习的方式,并嵌入Fisher判别准则获得特定类字典和编码系数,同时施加低秩约束获得低秩共享字典,以此增强字典和编码系数的判别能力.此外,运用Cayley变换保护投影矩阵的正交性来获得紧凑的特征集合.在AR,Extended Yale B,CMU PIE和FERET四个数据集上的人脸识别实验验证所提方法的优越性.实验结果表明所提方法在表情变化下的人脸识别具有很强的鲁棒性,并对光照起到了抑制作用,尤其适合解决光照、表情变化下的小样本问题.     

基于局部与全局保持的半监督维数约减方法

在很多机器学习和数据挖掘任务中,仅仅利用边信息(side-information)并不能得到最好的半监督学习(semi-supervised learning)效果,因此,提出一种基于局部与全局保持的半监督维数约减(local and global preserving based semi-supervised dimensionality reduction,简称LGSSDR)方法.该算法不仅能够保持正、负约束信息而且能够保持数据集所在低维流形的全局以及局部信息.另外,该算法能够计算出变换矩阵并较容易地处理未见样本.实验结果验证了该算法的有效性.