一种新的有监督的局部保持典型相关分析算法

从模式识别的角度出发,在局部保持典型相关分析的基础上,提出一种有监督的局部保持典型相关分析算法(SALPCCA)。该方法在构造样本近邻图时将样本的类别信息考虑在内,由样本间的距离度量确定权重,建立样本间的多重权重相关,通过使同类内的成对样本及其近邻间的权重相关性最大,从而能够在利用样本的类别信息的同时,也能保持数据的局部结构信息。此外,为了能够更好地提取样本的非线性信息,将特征集映射到核特征空间,又提出一种核化的SALPCCA(KSALPCCA)算法。在ORL、Yale、AR等人脸数据库上的实验结果表明,该方法较其他的传统典型相关分析方法有着更好的识别效果。     

一种广义局部判别型典型相关分析算法

在局部鉴别典型相关分析(LDCCA)的基础上,提出一种广义局部判别型典型相关分析算法(GLDCCA)。该算法在准则函数的内协方差矩阵中引入样本类别信息,使其提取的特征更有利于模式分类,采用核主成份分析解决小样本问题,克服传统PCA所受到的线性约束。在人工数据集以及ORL和Yale 2个人脸库上进行实验,结果表明,与CCA算法和LDCCA算法相比,GLDCCA算法具有更高的识别性能。     

监督型局部保持的典型相关分析

利用数据集的局部结构信息和判别结构信息,构建相似度矩阵和类信息矩阵,提出监督型局部保持的典型相关分析(Supervised Locality Preserving Canonical Correlation Analysis,SLPCCA),该方法不但突破了典型相关分析(Canonical Correlation Analysis,CCA)处理数据时的线性约束,提高了处理非线性问题的能力,而且克服了局部保持的典型相关分析(Locality Preserving Canonical Correlation Analysis,LPCCA)忽视类信息的问题,提取的特征更有利于分类.在多特征手写体数据库(MFD)和美国国家邮政局手写字库(USPS)上的实验结果验证了该算法的有效性.     

有样本缺失的稀疏保持典型相关分析

在典型相关分析(CCA)的基础上,通过稀疏保持引入样本的类别信息,利用交叉相关项克服CCA及其推广算法要求不同视图样本必须成对出现的局限,提出一种有监督学习方法——有样本缺失的稀疏保持典型相关分析(SPCCAM).SPCCAM能在训练样本不成对的情况下进行多视图特征融合.在人工数据集、手写体数据集和PIE人脸数据集上的实验结果表明,SPCCAM能有效利用类信息提高分类性能.     

监督型典型相关分析及其行为识别应用

局部判别型典型相关分析CCA(LDCCA)是一种线性判别方法,只适用于处理线性可分的问题.为了更好地处理现实世界中存在的非线性现象,利用核技巧对LDCCA进行了核化,提出了一种新的有监督多模态识别方法即核化的局部判别型典型相关分析(KLDCCA).LDCCA和KLDCCA引入了样本的类信息,充分考虑了同类样本之间的局部相关与不同类样本之间的局部相关关系及其对分类的影响,因此,提取的特征能够实现同类样本之间相关最大化,同时使得不同类样本之间相关最小化,这将有利于模式的分类.在人脸识别和简单行为识别上的应用表明,LDCCA和KLDCCA能有效地利用类信息和局部信息来提高分类性能.     

类别均衡与局部中值损失联合监督的自然场景人脸表情识别

近年来,卷积神经网络在实验室控制环境下的人脸表情识别任务中取得了很大进步,但是在自然场景中人脸表情识别方面仍然存在一些挑战.针对自然场景中人脸表情数据分布不平衡,以及由姿势、光照和性别等因素引起的类内差异大的问题,提出类别均衡与局部中值(class-balancedandlocalmedian,CALM)损失函数.CALM损失函数包含类别均衡Softmax损失函数和局部中值损失函数2个部分.其中,类别均衡Softmax损失函数将数据量较少且容易错分的害怕和厌恶2种表情标记为难样本,将其余5种表情标记为易样本;在网络训练过程中对难样本自适应地增大权重,以提高难样本的识别准确率,进而提高表情识别的平均准确率.此外,在每个类别中会有一些离类别内大多数样本较远的样本,它们的存在会导致用均值方法计算出的类别中心偏离类内大多数样本.在局部中值损失函数中,采用与每个样本属于同类别的若干近邻的中值作为类别中心,在一定程度上减弱离群样本对类别中心选择的影响.在RAF(real-worldaffectivefaces)数据集上进行实验,与局部子类方法相比,该方法的平均识别准确率提升了1.32%,证明了该方法的有效性.     

基于局部稀疏表示和线性鉴别分析的典型相关分析

为在特征融合中综合利用数据的类别信息和数据结构中所蕴含的自然鉴别信息, 提出一种基于局部稀疏表示和线性鉴别分析的典型相关分析算法. 首先利用局部稀疏表示模型, 以较小的计算复杂度获取局部稀疏重构矩阵; 然后在典型相关分析的框架中实现对局部稀疏结构保持、线性鉴别分析和组合特征相关性的联合优化, 增强了融合特征的鉴别能力. 在人工数据、多特征手写字数据、人脸数据上的实验表明了所提出方法的有效性.

     

核主成分分析与典型相关分析相融合的人脸识别

人脸识别具有小样本、高维等特性。典型相关分析算法(CCA)无法准确提取人脸识别特征,不能准确刻画人脸图像的局部变化,导致人脸识别率低。为提高人脸识别率,提出一种核主成分分析与典型相关分析相融合的人脸识别算法(KPCA-CCA)。首先将人脸图像划分多个子模块,然后提取局部特征,同时采用KPCA提取全局特征,并采用CCA将两种特征进行融合,降低特征向量的维数,最后采用子模式进行人脸识别,以投票方式确定人脸的类别。采用AR与Yale数据集对KPCA-CC性能进行测试,仿真结果表明,相对于对比模型,KPCA-CCA提高了人脸识别的识别率。     

局部嵌入投影及其在人脸识别中的应用

针对线性鉴别分析忽略样本间局部结构特性的缺陷,提出一种局部嵌入投影人脸识别算法.利用样本间的近邻关系和类别标签信息将所有样本分属于多个近邻类和非近邻类;采用局部均值思想,对每个样本所对应的近邻类和非近邻类,定义其类内散布和类间散布;通过最大化总体类间散布与总体类内散布之比,使得具有相同类别标签且互相邻近的样本点在投影空...     

局部判别型典型相关分析算法

在典型相关分析（CCA）的基础上,通过引入样本的类信息,并结合局部化思想,充分考虑了同类样本之间的局部相关与不同类样本之间的局部相关关系及其对分类的影响,提出了一种新的有监督学习方法——局部判别型CCA（Locality Discriminative CCA,简记为LDCCA）。LDCCA提取的特征能够实现同类样本之间相关最大化,同时使得不同类样本之间相关最小化,这将有利于模式的分类。在人工数据集,手写体数字数据集上和ORL,Yale和AR人脸数据集的实验结果表明,LDCCA能有效地利用类信息来提高分类性能。     

A locality correlation preserving support vector machine

This paper proposes a locality correlation preserving based support vector machine (LCPSVM) by combining the idea of margin maximization between classes and local correlation preservation of class data. It is a Support Vector Machine (SVM) like algorithm, which explicitly considers the locality correlation within each class in the margin and the penalty term of the optimization function. Canonical correlation analysis (CCA) is used to reveal the hidden correlations between two datasets, and a variant of correlation analysis model which implements locality preserving has been proposed by integrating local information into the objective function of CCA. Inspired by the idea used in canonical correlation analysis, we propose a locality correlation preserving within-class scatter matrix to replace the within-class scatter matrix in minimum class variance support machine (MCVSVM). This substitution has the property of keeping the locality correlation of data, and inherits the properties of SVM and other similar modified class of support vector machines. LCPSVM is discussed under linearly separable, small sample size and nonlinearly separable conditions, and experimental results on benchmark datasets demonstrate its effectiveness.     

一种基于核的监督流形学习算法

针对流形学习算法——局部保持映射存在的参数选择及不能进行非线性特征提取的问题,提出一种基于核的监督流形学习算法.该算法作为局部保持映射算法的改进算法用样本类标识信息指导建立局部最近邻图,并在建立局部最近邻图使用无参数的相似度量.利用核方法来解决局部保持映射算法在处理线性不可分问题上的局限性问题.在两个常用数据库上验证本文算法的可行性和有效性.     

基于局部保持的核稀疏表示字典学习

为了利用核技巧提高分类性能, 在局部保持的稀疏表示 字典学习的基础上, 提出了两种核化的稀疏表示字典学习方法. 首先, 原始训练数据被投影到高维核空间, 进行基于局部保持的核稀疏表示字典学习; 其次, 在稀疏系数上强加核局部保持约束, 进行基于核局部保持的核稀疏表示字典学习. 实验结果表明, 该方法的分类识别结果优于其他方法.     

Kernel class-wise locality preserving projection

In the recent years, the pattern recognition community paid more attention to a new kind of feature extraction method, the manifold learning methods, which attempt to project the original data into a lower dimensional feature space by preserving the local neighborhood structure. Among them, locality preserving projection (LPP) is one of the most promising feature extraction techniques. However, when LPP is applied to the classification tasks, it shows some limitations, such as the ignorance of the label information. In this paper, we propose a novel local structure based feature extraction method, called class-wise locality preserving projection (CLPP). CLPP utilizes class information to guide the procedure of feature extraction. In CLPP, the local structure of the original data is constructed according to a certain kind of similarity between data points, which takes special consideration of both the local information and the class information. The kernelized (nonlinear) counterpart of this linear feature extractor is also established in the paper. Moreover, a kernel version of CLPP namely Kernel CLPP (KCLPP) is developed through applying the kernel trick to CLPP to increase its performance on nonlinear feature extraction. Experiments on ORL face database and YALE face database are performed to test and evaluate the proposed algorithm.     

多标记数据特征提取方法的核改进

针对多标记数据特征提取方法中输出核函数没有准确刻画标记间的相关性的问题,在充分度量标记间相关性的基础上,提出了两种新的输出核函数构造方法。第一种方法首先将多标记数据转化为单标记数据,并使用标记集合来刻画标记间的相关性;然后从损失函数的角度出发定义新的输出核函数。第二种方法是利用互信息来度量标记间的两两相关性,在此基础上进一步构造新的输出核函数。3个多标记数据集上2种分类器的实验结果表明,与原有核函数对应的多标记特征提取方法相比,基于损失函数的输出核函数对应的特征提取方法性能最好,5个评价指标的性能平均提高了10%左右, 尤其在Yeast数据集上,Coverage指标下降幅度达到了30%左右;基于互信息的输出核函数次之,性能平均提高了5%左右。实验结果表明,基于新的输出核函数的特征提取方法能够更加有效地提取特征,并进一步简化分类器的学习过程,提高分类器的泛化性能。     

Locality preserving and global discriminant projection with prior information

Existing supervised and semi-supervised dimensionality reduction methods utilize training data only with class labels being associated to the data samples for classification. In this paper, we present a new algorithm called locality preserving and global discriminant projection with prior information (LPGDP) for dimensionality reduction and classification, by considering both the manifold structure and the prior information, where the prior information includes not only the class label but also the misclassification of marginal samples. In the LPGDP algorithm, the overlap among the class-specific manifolds is discriminated by a global class graph, and a locality preserving criterion is employed to obtain the projections that best preserve the within-class local structures. The feasibility of the LPGDP algorithm has been evaluated in face recognition, object categorization and handwritten Chinese character recognition experiments. Experiment results show the superior performance of data modeling and classification to other techniques, such as linear discriminant analysis, locality preserving projection, discriminant locality preserving projection and marginal Fisher analysis.     

Supervised optimal locality preserving projection

In the past few years, the computer vision and pattern recognition community has witnessed a rapid growth of a new kind of feature extraction method, the manifold learning methods, which attempt to project the original data into a lower dimensional feature space by preserving the local neighborhood structure. Among these methods, locality preserving projection (LPP) is one of the most promising feature extraction techniques. Unlike the unsupervised learning scheme of LPP, this paper follows the supervised learning scheme, i.e. it uses both local information and class information to model the similarity of the data. Based on novel similarity, we propose two feature extraction algorithms, supervised optimal locality preserving projection (SOLPP) and normalized Laplacian-based supervised optimal locality preserving projection (NL-SOLPP). Optimal here means that the extracted features via SOLPP (or NL-SOLPP) are statistically uncorrelated and orthogonal. We compare the proposed SOLPP and NL-SOLPP with LPP, orthogonal locality preserving projection (OLPP) and uncorrelated locality preserving projection (ULPP) on publicly available data sets. Experimental results show that the proposed SOLPP and NL-SOLPP achieve much higher recognition accuracy.     

有监督正交局部保留投影及其在人脸识别中的应用

针对局部保留投影算法（LPP）的无监督和非正交问题,提出了一种有监督的正交局部保留投影算法SOLPP。该算法同时考虑了样本的类别信息以及投影向量间的相互正交性,首先利用样本的类标签信息重新定义了类内和类间相似度矩阵,同时最大化类间离散度与类内离散度之比,有效地保持了样本的局部结构;其次对投影基向量进行正交化,在保持数据空间结构的同时进一步提高了人脸识别效果。在ORL和FERET人脸库上的实验表明,该方法的识别率要优于SLPP等算法。     

基于改进结构保持数据降维方法的故障诊断研究

传统基于核主成分分析(Kernel principal component analysis,KPCA)的数据降维方法在提取有效特征信息时只考虑全局结构保持而未考虑样本间的局部近邻结构保持问题,本文提出一种改进全局结构保持算法的特征提取与降维方法.改进的特征提取与降维方法将流形学习中核局部保持投影(Kernel loc...