完备自适应近邻图嵌入的局部鉴别投影算法

针对基于自适应近邻图嵌入的局部鉴别投影算法（Neighborhood graph embedding based local adaptive discriminant analysis, LADP ）仅仅利用局部类内离差矩阵主元空间的鉴别信息而丢失了其零空间内大量鉴别信息的不足,结合全空间的基本思想提出了完备的基于自适应近邻图嵌入的局部鉴别投影算法（ Complete LADP,CLADP）。在局部类内离差矩阵的零空间内,通过最大化局部类间离差矩阵提取不规则鉴别特征,在局部类间离差矩阵的主元空间内,通过最大化局部类间离差矩阵的同时最小化局部类 内离差矩阵提取规则鉴别特征,最后将不规则鉴别特征和规则鉴别特征串联形成CLADP特征。在ORL,Yale以及PIE人脸库上的人脸识别实验结果证明了CLADP的有效性。     

基于局部Fisher准则判别投影的人脸识别算法

为了提取更真实的样本局部分布结构以及合理利用样本标签信息,提出局部Fisher准则判别投影的人脸识别算法。通过求解样本在总体下稀疏表示来自适应选择样本的近邻参数,以使样本间分布关系尽可能符合真实情况;在获取稀疏近邻结构的基础上,利用样本标签信息设计自定义的类内局部散度矩阵和类间局部散度矩阵,以使得在保留样本间近邻关系的同时提高样本标签信息带来的判别能力。该算法可以有效保持同类样本间的稀疏近邻关系,并且破坏非同类样本间的稀疏近邻结构。在Yale库、AR库以及Yale B库上的实验结果表明:与相关的人脸识别算法相比,该算法具有更高的人脸识别率,可以有效提升人脸识别算法的识别率。     

图像空间中的鉴别型局部线性嵌入方法

为了更好地利用图像的空间关系和类信息来提高局部线性嵌入的性能,提出一种针对图像识别的鉴别型局部线性嵌入算法,并应用于人脸识别。首先,利用自适应图像欧氏距离构建近邻矩阵,计算得到的权重矩阵,再由权重矩阵重构特征,然后重构出数据内在的低维空间,最后利用线性判别分析引入类信息解决局部线性嵌入算法对测试样本无法重构以及分类的缺陷。实验基于FRAV2D和ORL人脸数据库,分析了图像欧氏距离和自适应图像欧氏距离算法提取图像空间信息的能力,并将本文提出的算法与目前已经广泛使用的人脸识别算法进行比较,其结果表明了鉴别型局部线性嵌入算法能更好地保留图像流形结构和类信息,显著提高人脸识别准确率。     

局部平衡的判别近邻嵌入算法

判别近邻嵌入算法（discriminant neighborhood embedding,DNE）通过构造邻接图,使得在投影子空间中能够保持原始数据的局部结构,能有效地发现最佳判别方向。但是它有两方面的不足：一方面不能标识样本点的近邻样本点位置信息,从而不能更好地保持邻域结构;另一方面当数据不均衡时,不能实现子空间中类内聚合或者类间分离的目的,这不利于分类。为此提出了一种新的有监督子空间学习算法--局部平衡的判别近邻嵌入算法（locality-balanced DNE,LBDNE）。在构建邻接图时,局部平衡的判别近邻嵌入算法分别建立同类邻接图和异类邻接图,并通过引入一个控制参数,有效地平衡了类内与类间的关系。该算法与其他经典算法相比,在人脸识别问题上具有较高的识别率,充分说明了局部平衡的判别近邻嵌入算法能够有效地处理识别问题。     

基于改进的自适应局部保持投影算法的人脸识别

局部保持投影(LPP)通过构造近邻图来保持样本的局部结构,在构造近邻图的过程中,LPP会遇到两个参数K和σ的选择问题。近邻图的构建对算法的识别效果起着重要的作用,因而这两个参数的选择会在很大程度上影响LPP的识别率。为了避免参数的选择对识别率造成影响,提出了一种基于改进的自适应局部保持投影的人脸识别算法。首先,构造无参数的近邻图,其能够自适应地选取样本的近邻点并确定其相应的边权。其次,由于在计算过程中出现了矩阵维数过高的问题,因此采用QR分解进行降维处理。最后,利用共轭正交化使得投影轴具有统计不相关性,以降低特征矢量间的统计相关性,提高识别率。在ORL人脸库和YALE人脸库上进行了实验,结果表明改进的算法在识别率方面整体上好于LPP算法、DLPP算法、LMMC算法。     

基于随机子空间的局部鉴别投影*

针对高维数据容易对噪声敏感及容易造成维数灾难问题,文中提出基于随机子空间的局部鉴别投影算法(RSLDP).利用随机子空间方法对高维的原始数据进行特征选择,在生成的低维特征子空间构造近邻图,降低噪声影响.RSLDP通过最大化局部类间加权散度和最小化局部类内加权散度,同时最小化样本的总体局部散度,改进局部最大间距鉴别嵌入算法,较好刻画样本与其类间类内近邻中心点的关系,有利于鉴别特征的提取.在CMU PIE和AR这2个人脸数据库上的实验表明文中算法的有效性.     

完备的无参数近邻保持及最大化非近邻算法

无参数保持投影算法无需参数设置且识别性能稳定,但算法不能有效地保持样本的局部结构,且忽略了非局部样本所起的作用,而且存在着小样本(SSS)问题,为此提出了一种完备的无参数近邻保持及最大化非近邻算法。算法以样本间余弦距离0.5为分界点将样本分成近邻及非近邻样本,为了充分利用近邻样本及非近邻样本,分别构造了近邻散度矩阵及非近邻散度矩阵,因此算法的目标函数就是求取能够最小化近邻散度矩阵的同时,最大化非近邻散度矩阵的投影矩阵。对于目标函数的求解,可先将高维样本通过主成分分析(PCA)算法降至一个低维的子空间,并通过两个定理证明了这种处理方法没有损失任何有效的判别信息;然后将目标函数转换为差形式,从而有效地解决了小样本问题。在人脸库及掌纹库上的实验结果表明,与无参数局部保持投影算法相比,所提算法平均识别率更高,验证了算法的有效性。     

加权成对约束半监督局部维数约减算法

考虑到已有的半监督维数约减方法在利用边信息时将所有边信息等同,不能充分挖掘边所含信息,提出加权成对约束半监督局部维数约减算法(WSLDR).通过构建近邻图对边信息进行扩充,使边信息数量有所增加.另外,根据边所含信息量的不同构建边的权系数矩阵.将边信息融入近邻图对其进行修正,对修正后的近邻图和加权的成对约束寻找最优投影.算法不仅保持了数据的内在局部几何结构,而且使得类内数据分布更加紧密,类间数据分布更加分散.在UCI数据集上的实验结果验证了该算法的有效性.     

局部嵌入投影及其在人脸识别中的应用

针对线性鉴别分析忽略样本间局部结构特性的缺陷,提出一种局部嵌入投影人脸识别算法.利用样本间的近邻关系和类别标签信息将所有样本分属于多个近邻类和非近邻类;采用局部均值思想,对每个样本所对应的近邻类和非近邻类,定义其类内散布和类间散布;通过最大化总体类间散布与总体类内散布之比,使得具有相同类别标签且互相邻近的样本点在投影空...     

局部结构保持的鉴别分析方法

局部投影保持LPP(Locality Preserving Projections)是一种局部特征提取算法,它能够有效地保留数据集的局部结构。不相关保局投影鉴别UDLPP(Uncorrelated Discriminant Locality Preserving Projections)在LPP的基础上考虑了类别信息,通过保留类内几何结构并最大化类间距离获得了良好的鉴别性能。结合UDLPP的思想,在UDLPP的基础上提出了一种局部结构保持的鉴别分析方法PCLSP(Pattern Classification based on Local Structure Preserving)。该方法结合了数据集的类别信息以及数据集的局部结构信息,通过最小化类内近邻分离度以及最大化类间近邻分离度来提高鉴别性能,从而进一步反映了数据的局部结构,提高了识别率。通过在ORL(Olivetti-Oracle Research Lab)和YALE两个标准人脸库上实验验证了该算法的有效性。     

中心线邻域鉴别嵌入算法及其在人脸识别中的应用*

针对边界费舍尔分析在特征提取过程中存在的不足,提出中心线邻域鉴别嵌入(CLNDE)算法,并应用于人脸识别中.CLNDE首先利用样本到类中心线的距离分别构造类内相似矩阵与类间相似矩阵;然后利用构造的相似矩阵计算样本的类间局部散度与类内局部散度;最后在最大化样本的类间局部散度的同时最小化类内局部散度,寻求最优投影矩阵.在人脸数据库上实验验证算法的优越性.     

基于大间距准则的不相关保局投影分析

局部保持投影(Locality preserving projections,LPP)算法只保持了目标在投影后的邻域局部信息,为了更好地刻画数据的流形结构, 引入了类内和类间局部散度矩阵,给出了一种基于有效且稳定的大间距准则(Maximum margin criterion,MMC)的不相关保局投影分析方法.该方法在最大化散度矩阵迹差时,引入尺度因子α,对类内和类间局部散度矩阵进行加权,以便找到更适合分类的子空间并且可避免小样本问题; 更重要的是,大间距准则下提取的判别特征集一般情况下是统计相关的,造成了特征信息的冗余, 因此,通过增加一个不相关约束条件,利用推导出的公式提取不相关判别特征集, 这样做, 对正确识别更为有利.在Yale人脸库、PIE人脸库和MNIST手写数字库上的测试结果表明,本文方法有效且稳定, 与LPP、LDA (Linear discriminant analysis)和LPMIP(Locality-preserved maximum information projection)方法等相比,具有更高的正确识别率.     

A multi-manifold discriminant analysis method for image feature extraction

In this paper, we propose a Multi-Manifold Discriminant Analysis (MMDA) method for an image feature extraction and pattern recognition based on graph embedded learning and under the Fisher discriminant analysis framework. In an MMDA, the within-class graph and between-class graph are, respectively, designed to characterize the within-class compactness and the between-class separability, seeking for the discriminant matrix to simultaneously maximize the between-class scatter and minimize the within-class scatter. In addition, in an MMDA, the within-class graph can represent the sub-manifold information, while the between-class graph can represent the multi-manifold information. The proposed MMDA is extensively examined by using the FERET, AR and ORL face databases, and the PolyU finger-knuckle-print databases. The experimental results demonstrate that an MMDA is effective in feature extraction, leading to promising image recognition performance.     

基于竞争性协同表示的局部判别投影特征提取

特征提取算法中利用样本间的协同表示关系构造邻接图只考虑所有训练样本的协同能力,而忽视了每一类训练样本的内在竞争能力。为此,本文提出一种基于竞争性协同表示的局部判别投影特征提取算法（competitive collaborative repesentation-based local discrininant projection for feature extraction,CCRLDP）,该算法利用基于具有竞争性协同表示的方法构造类间图和类内图,考虑到邻接图中各类型系数的影响,引入保留正表示系数的思想稀疏化邻接图,通过计算类内散度矩阵和类间散度矩阵来刻画图像的局部结构并得其最优投影矩阵。在一些数据集上的实验结果表明,相比同类基于局部判别投影的特征提取算法,该算法具有很高的识别率,并在噪声和遮挡上具有良好的鲁棒性,该算法能有效地提高图像的识别效率。     

Linear discriminant analysis with worst between-class separation and average within-class compactness

Linear discriminant analysis (LDA) is one of the most popular supervised dimensionality reduction (DR) techniques and obtains discriminant projections by maximizing the ratio of average-case between-class scatter to average-case within-class scatter. Two recent discriminant analysis algorithms (DAS), minimal distance maximization (MDM) and worst-case LDA (WLDA), get projections by optimizing worst-case scatters. In this paper, we develop a new LDA framework called LDA with worst between-class separation and average within-class compactness (WSAC) by maximizing the ratio of worst-case between-class scatter to average-case within-class scatter. This can be achieved by relaxing the trace ratio optimization to a distance metric learning problem. Comparative experiments demonstrate its effectiveness. In addition, DA counterparts using the local geometry of data and the kernel trick can likewise be embedded into our framework and be solved in the same way.     

相异度导引的有监督鉴别分析方法

提出了相异度导引的有监督鉴别分析方法（D-SDA）。结合模式局部信息和全局信息,定义了类内散度权重矩阵[RW]和类间散度权重矩阵[RB],分别表示类内样本的相异度、类间样本的相异度。由[RW]、[RB]导出类内散度矩阵[SW]和类间散度矩阵[SB],根据Fisher鉴别准则函数确定最优变换矩阵。在YALE和AR人脸图像库上的实验验证了这一算法的有效性。     

Feature extraction using fuzzy inverse FDA

This paper proposes a new method of feature extraction and recognition, namely, the fuzzy inverse Fisher discriminant analysis (FIFDA) based on the inverse Fisher discriminant criterion and fuzzy set theory. In the proposed method, a membership degree matrix is calculated using FKNN, then the membership degree is incorporated into the definition of the between-class scatter matrix and within-class scatter matrix to get the fuzzy between-class scatter matrix and fuzzy within-class scatter matrix. Experimental results on the ORL, FERET face databases and pulse signal database show that the new method outperforms Fisherface, fuzzy Fisherface and inverse Fisher discriminant analysis.     

局部非参数子空间分析在人脸识别中的应用

提出了一种局部非参数子空间分析算法（Local Nonparametric Subspace Analysis,LNSA）,将其应用在人脸识别中。LNSA算法结合了非参数子空间算法（Nonparametric Subspace Analysis,NSA）与局部保留投影算法（Locality Preserving Projection,LPP）。它利用LPP算法中的相似度矩阵重构NSA的类内散度矩阵,使得在最大化类间散度矩阵的同时保留了类的局部结构。在ORL人脸库和XM2VTS人脸库上作了实验并证明LNSA方法要优于其他方法。     

Orthogonal neighborhood preserving discriminant analysis for face recognition

In this paper, we propose a new linear subspace analysis algorithm, called orthogonal neighborhood preserving discriminant analysis (ONPDA). Given a set of data points in the ambient space, a weight matrix is firstly built which describes the relationship between the data points. Then optimal between-class scatter matrix and within-class scatter matrix are defined such that the neighborhood structure can be preserved. In order to improve the discriminating power, a new method is presented for orthogonalizing the basis eigenvectors. We evaluate the performance of the proposed algorithm for face recognition with the use of different databases. Consistent and promising results demonstrate the effectiveness of our algorithm.     

Feature extraction based on Laplacian bidirectional maximum margin criterion

Maximum margin criterion (MMC) based feature extraction is more efficient than linear discriminant analysis (LDA) for calculating the discriminant vectors since it does not need to calculate the inverse within-class scatter matrix. However, MMC ignores the discriminative information within the local structures of samples and the structural information embedding in the images. In this paper, we develop a novel criterion, namely Laplacian bidirectional maximum margin criterion (LBMMC), to address the issue. We formulate the image total Laplacian matrix, image within-class Laplacian matrix and image between-class Laplacian matrix using the sample similar weight that is widely used in machine learning. The proposed LBMMC based feature extraction computes the discriminant vectors by maximizing the difference between image between-class Laplacian matrix and image within-class Laplacian matrix in both row and column directions. Experiments on the FERET and Yale face databases show the effectiveness of the proposed LBMMC based feature extraction method.