典型相关分析的理论及其在特征融合中的应用

利用典型相关分析的思想,提出了一种基于特征级融合的组合特征抽取新方法．首先,探讨了将典型分析用于模式识别的理论构架,给出了其合理的描述．即先抽取同一模式的两组特征矢量,建立描述两组特征矢量之间相关性的判据准则函数,然后依此准则求取两组典型投影矢量集,通过给定的特征融合策略抽取组合的典型相关特征并用于分类．其次,解决了当两组特征矢量构成的总体协方差矩阵奇异时,典型投影矢量集的求解问题,使之适合于高维小样本的情形,推广了典型相关分析的适用范围．最后,从理论上进一步剖析了该方法之所以能有效地用于识别的内在本质．该方法巧妙地将两组特征矢量之间的相关性特征作为有效判别信息,既达到了信息融合之目的,又消除了特征之间的信息冗余,为两组特征融合用于分类识别提出了新的思路．在肯考迪亚大学CENPARMI手写体阿拉伯数字数据库和FERET人脸图像数据库上的实验结果证实了该方法的有效性和稳定性,而且识别结果优于已有的特征融合方法及基于单一特征进行识别的方法．     

核典型相关分析特征融合方法及应用

构建了一种基于核函数的典型相关分析的特征融合算法。首先,利用核函数将图像矩阵映射到核空间,再抽取同一模式的两组特征向量,在两组特征向量之间建立描述它们的相关性的判据准则函数;然后依此准则函数抽取两组典型投影矢量集;最后通过给定的特征融合策略抽取组合的典型相关特征以用于分类识别。该算法将两组特征向量之间的相关性特征作为有效鉴别信息,既可以很好地融合信息,又可以有效地去除特征之间的信息冗余,并且避免了对映射后的数据矩阵进行分解,从而简化了数据运算。在AR、PIE、ORL、Yale人脸数据库及UCI手写体数字库上的实验结果证明了该方法的有效性和稳定性。     

一种有效的手写体汉字组合特征的抽取与识别算法

基于特征融合的思想,从有利于模式分类的角度,推广了典型相关分析的理论,建立了广义的典型相关分析用于图像识别的理论框架。在该框架下,首先利用广义的典型相关判据准则函数,求取两组特征矢量的广义投影矢量集,构成一对变换矩阵;然后根据所提出的新的特征融合策略,对两种手写体汉字特征进行融合,所抽取的模式的相关特征矩阵,在普通分类器下取得了良好的分类效果,优于已有的特征融合方法及基于单一特征的PCA 方法和FLDA 方法。     

一种新的基于最大散度差准则的特征抽取方法

本文基于最大散度差准则（MSDC），利用统计不相关投影空间，提出了一组具有统计不相关性的最佳鉴别矢量的计算方法。该方法的目标是寻求一组鉴别矢量集，既要使投影后的特征空间的类间散度最大，而类内散度最小；又要使最佳鉴别矢量之间具有统计不相关性。另外，本文还揭示了最大散度差鉴别准则与Fisher准则的内在关系。在ORL与NUST603人脸库上的实验结果表明，本文所提出的方法在识别性能上优于原MSDC特征抽取方法与传统的PCA方法。     

一种基于正交投影的特征抽取方法

本文结合Fisher鉴别准则给出了一组正交投影矢量，并引入了一种度量投影矢量相关性的简捷方法，与经典的Foley-Sammon鉴别分别法相比，所提出的正交投影法具有较强的消除样本特征之间相关性的能力和良好的鉴别能力，最后，在CENPARMI手写体阿拉伯数字库的试验结果证实了该特征抽取方法明显优于Foley-Sammon鉴别分析法。     

基于低秩分解的鲁棒典型相关分析

典型相关分析（CCA）是一种经典的多特征提取算法,它能够有效地抽取两组特征之间的相关性,现已被广泛应用于模式识别。在含噪声数据情况下,CCA的特征表示性能受到限制。为了使CCA更好地处理含噪声数据,提出一种基于低秩分解的典型相关分析算法——鲁棒典型相关分析（robust canonical correlation analysis,RbCCA）。RbCCA首先对特征集进行低秩分解,得到低秩分量和噪声分量,以此分别构建对应的协方差矩阵。通过最大化低秩分量的相关性,同时最小化噪声分量的相关性来建立判别准则函数,进而求取鉴别投影矢量。在MFEAT手写体数据库、ORL和Yale人脸数据中的实验结果表明,在包含噪声的情况下,RbCCA的识别效果优于现有的典型相关分析方法。     

子模式典型相关分析及其在人脸识别中的应用

传统的典型相关分析 (CCA) 是有效的特征提取方法之一, 已广泛应用于包括人脸识别在内的模式识别的许多领域. 但在人脸识别为代表的高维小样本问题上该方法存在如下不足: 1) 人脸识别的小样本特性使 CCA 两组特征矢量构成的总体协方差矩阵奇异, 难以直接应用; 2) 作为一种全局线性投影方法, 不足以很好地描述非线性的人脸识别问题; 3) 缺乏对局部变化的识别鲁棒性. 本文受已提出的子模式主分量分析 (SpPCA) 的启发, 提出了子模式典型相关分析 (SpCCA). 该方法将局部与全局特征矢量之间的相关性特征作为有效的判别信息, 既达到了融合局部与全局信息的目的, 又消除了特征之间的信息冗余. 通过子模式的划分, SpCCA 避免了小样本问题, 更好地描述了非线性的人脸识别问题; 并通过投票方式融合结果, 增强了对局部变化的鲁棒性. 在 AR 与 Yale 两个人脸数据集上的实验证实了该方法比对比方法不仅有更优的识别性能, 而且更加稳定和鲁棒.     

无监督模式下统计不相关最佳鉴别平面

统计不相关最佳鉴别平面是一种重要的特征抽取方法,在模式识别领域中具有广泛的应用。然而,统计不相关最佳鉴别平面是基于Fisher准则和总体散布矩阵共轭正交条件的,需要通过样本类别信息计算Fisher最佳鉴别矢量,因而只能用于有监督模式。提出了一种将统计不相关最佳鉴别平面扩展到无监督模式下的方法,其基本思想是将模糊概念引入Fisher线性判别分析,通过对模糊Fisher准则的优化,在无监督模式下计算出最佳鉴别矢量及模糊散布矩阵,再根据共轭正交约束条件,求得第二条最佳鉴别矢量,进而获得一种基于无监督统计不相关最佳鉴别平面的特征抽取方法。对UCI数据集及CMU-PIE人脸数据库进行实验,结果表明,在样本类别信息缺失的情况下,该方法尽管无法具有与有监督模式下的统计不相关最佳鉴别平面特征抽取方法同样的性能,但当类别差异较大时,能够抽取有利于分类的统计不相关特征,获得优于主成分分析与独立成分分析等常见无监督特征抽取方法的性能。     

基于并行特征组合与广义K-L变换的字符识别

针对传统的串行特征融合方法的弱点,提出了一种新的并行特征融合方法.该方法的基本思路是:首先,利用复向量将样本空间上的两组特征集组合起来,构成复特征向量空间;然后,从理论上推广了经典的K-L变换方法与3种基本的K-L展开方法,使其适用于复特征向量空间内的特征抽取.此外,还揭示了并行特征融合的对称性质,并详细讨论了并行特征组合的策略问题.最后,用所提出的方法来解决手写体字符的特征抽取与识别问题.在南京理工大学NUST603HW手写体汉字库以及Concordia大学的CENPARMI手写体阿拉伯数字数据库上的实验结果表明,所提出的特征融合方法不仅较大幅度地提高了识别率,而且识别结果优于传统的串行特征融合方法.     

一种基于特征融合的人脸识别新方法

提出了一种基于特征融合的人脸识别新方法。首先采用两种不同的K-L变换分别降低原始图像空间的维数，避开人脸识别小样本集的局限，然后利用复向量将同一样本的两组特征向量合并在一起，通过运用具有统计不相关性的复线性鉴别分析来抽取人脸图像的有效鉴别特征，最后在ORL人脸库上实验结果表明所提出的方法不仅识别性能优于经典的Fisherfaces，而且仅用14个特征识别率就达到96％。     

A novel multiset integrated canonical correlation analysis framework and its application in feature fusion

Multiset canonical correlation analysis (MCCA) is difficult to effectively express the integrated correlation among multiple feature vectors in feature fusion. Thus, this paper firstly presents a novel multiset integrated canonical correlation analysis (MICCA) framework. The MICCA establishes a discriminant correlation criterion function of multi-group variables based on generalized correlation coefficient. The criterion function can clearly depict the integrated correlation among multiple feature vectors. Then the paper presents a multiple feature fusion theory and algorithm using the MICCA method. The detailed process of the algorithm is as follows: firstly, extract multiple feature vectors from the same patterns by using different feature extraction methods; then extract multiset integrated canonical correlation features using MICCA; finally form effective discriminant feature vectors through two given feature fusion strategies for pattern classification. The multi-group feature fusion method based on MICCA not only achieves the aim of feature fusion, but also removes the redundancy between features. The experiment results on CENPARMI handwritten Arabic numerals and UCI multiple features database show that the MICCA method has better recognition rates and robustness than the fusion methods based on canonical correlation analysis (CCA) and MCCA.     

恶意代码分类的一种高维特征融合分析方法

恶意代码分类是一种基于特征进行恶意代码自动家族类别划分的分析方法。恶意代码的多维度特征融合与深度处理,是恶意代码分类研究的一种发展趋势,也是恶意代码分类研究的一个难点问题。本文提出了一种适用于恶意代码分类的高维特征融合方法,对恶意代码的静态二进制文件和反汇编特征等进行提取,借鉴SimHash的局部敏感性思想,对多维特征进行融合分析和处理,最后基于典型的机器学习方法对融合后的特征向量进行学习训练。实验结果和分析表明,该方法能够适应于样本特征维度高而样本数量较少的恶意代码分类场景,而且能够提升分类学习的时间性能。     

基于模糊CCA的图像特征提取和识别

利用典型相关分析(CCA)和隶属度的思想，提出一种基于模糊典型相关分析的图像特征提取新方法。通过分析图像样本的分布特点，定义合适的隶属度函数描述图像空间的样本分布。利用CCA进行多信息源特征提取，得到同时包含图像灰度信息和分布信息的有效判别特征。可证明Fisher线性判别分析是该算法的一种极限情形。在ORL标准人脸数据库上的实验结果表明新特征具有良好的分类能力，证实了该方法的有效性。     

核典型相关分析算法的多特征融合情感识别

为了提高情感识别的正确率,针对单模情感特征及传统特征融合方法识别低的缺陷,提出了一种核典型相关分析算法(KCCA)的多特征(multi-features)融合情感识别方法(MF-KCCA)。分别提取语音韵律特征和分数阶傅里叶域表情特征,利用两种特征互补性,采用KCCA将它们进行融合,降低特征向量的维数,利用最近邻分类器进行情感分类和识别。采用加拿大瑞尔森大学数据库进行仿真实验,结果表明,MF-KCCA有效提高了语音情感的识别率。     

基于彩色人脸图像的信息融合与识别方法

图像的彩色信息进行图像识别并有效地降低因利用颜色信息所带来的计算量大幅增加问题,提出了一种基于彩色图像的监督近邻保留嵌套的人脸识别方法,通过对图像的彩色信息进行信息融合并利用监督近邻保留嵌套算法来提高人脸识别的效率。首先,采用Gabor变换分别对彩色图像的每个彩色分量图提取Gabor特征;然后采用典型相关分析对所提取的Gabor特征进行特征融合,并采用监督近邻保留嵌套算法对高维彩色图像特征进行降维;最后,采用最近邻分类器对图像进行分类。实验基于XM2VTS和FRAV2D彩色人脸数据库,采用主成分分析、线性判别分析以及监督近邻保留嵌套对基于灰度图像的Gabor特征和基于彩色信息融合的Gabor特征进行降维,其结果说明多信通彩色图像融合技术与监督近邻保留嵌套结合的方法可以显著提高识别系统性能。