高斯核非负矩阵因子及其在表情识别中的应用

提出一种基于高斯核非负矩阵因子的人脸表情识别方法.该算法引入高斯核函数并结合NMF(Non-negative Matrix Factorization)进行表情特征提取,称之为GKNMF.与NMF、2DNMF(2-Dimensional Non-negative Matrix Factorization)等方法不同,GKNMF通过基于高斯核的非线性映射可从原始表情数据中提取更多线性和非线性的有用信息,尽可能地保留原始的表情信息.根据JAFFE和CED-WYU(1.0)两个表情数据库的识别结果表明,GKNMF特征提取方法能有效地提高识别率.     

非负矩阵因子及在人脸表情识别中的应用

提出了一种基于二维非负矩阵因子的人脸表情识别方法。该算法直接将2维人脸表情图像矩阵作为2维矩阵并结合NMF进行表情特征提取,称之为2DNMF。与NMF等不同,2DNMF充分利用表情图像矩阵中的行向量间的信息和列向量间的信息,尽可能地保留了原始的表情信息。基于CED-WYU（1.0）和JAFFE两个表情数据库的识别结果表明,基于2维非负矩阵因子的特征提取方法能有效地提高识别率及效率。     

基于图正则化的半监督非负矩阵分解

提出了一种基于图正则化的半监督非负矩阵分解算法（GSNMF）,克服了非负矩阵分解（NMF）、约束非负矩阵分解（CNMF）和图正则化非负矩阵分解（GNMF）方法忽略样本数据的局部几何结构或标签信息不足的缺陷,且NMF、CNMF和GNMF均为GSNMF的特例。也从理论上证明了GSNMF算法的收敛性。该算法对样本数据进行低维非负分解时,在图框架下既保持数据的几何结构,又利用已知样本的标签信息,在进行半监督学习时,同类样本能更好地聚集而类间距离尽可能大。在人脸数据库ORL、FERET和手写体数据库USPS上的仿真结果表明,相对于NMF及其一些改进算法,GSNMF均具有更高的聚类精度。     

基于多核学习的投影非负矩阵分解算法

非负矩阵分解(NMF)把给定的数据矩阵分解成低维的非负基矩阵和对应的系数矩阵,两者之间存在必然联系。为此,研究者将基矩阵转换为系数矩阵的投影,进一步提高分解效率。但是该方法无法处理非线性数据,核函数的引入部分解决了此问题,却同时导致核函数参数选择的问题。基于多核学习理论,提出了一种多核学习的投影非负矩阵分解(MKPNMF)算法,该算法有效地避免了核函数参数选择的问题,同时提高了学习性能。在实际人脸数据上的实验结果表明,MKPNMF较已有的NMF类方法具备明显的性能优势。     

基于(2D)2NMF及其改进算法的人脸识别

非负矩阵分解(NMF)是基于部分的特征提取方法，能够克服局部遮挡和光照问题，在图像识别任务中效果较好。然而传统算法中，NMF提取的特征是非正交的，且二维图像常被向量化处理，不仅丢失一些结构信息，还导致了数据的高维，不利于提高识别精度和速度。利用图像矩阵取代传统的图像向量表示，提出新的(2D)2NMF方法提取二维图像特征，并通过特征正交化和图像变形等措施，改善了算法性能。人脸识别实验表明，上述措施能够有效提高识别的精度和速度。     

图嵌入投影非负矩阵分解图像特征提取方法

针对投影非负矩阵分解(PNMF)不能揭示数据流形几何结构和判别信息的问题,提出了一种图嵌入投影非负矩阵分解(GEPNMF)特征提取方法。首先分别构建了描述数据流形几何结构和类间分离度的近邻图,然后采用它们的拉普拉斯矩阵设计了一个图嵌入正则项,并将其与PNMF的目标函数融合,以构造GEPNMF的目标函数。在GEPNMF目标函数中引入了图嵌入正则项,使求得的子空间能够在保持数据流形几何结构的同时,类间间距也最大。另外,还在目标函数中引入了一个正交正则项,以确保GEPNMF子空间基向量具有数据局部表示能力。对求解GEPNMF目标函数的累乘更新规则(MUR)进行了详细的推导。在Yale和CMU PIE人脸数据库上的实验结果表明,提出的图嵌入投影非负矩阵分解特征提取方法比PNMF更适用于解决分类问题。     

基于线性投影结构的非负矩阵分解

非负矩阵分解(Non-negative matrix factorization, NMF)是一个近年来非常流行的非负数据处理方法, 它常用于维数约减、特征提取和数据挖掘等. NMF定义中采用的数学模型基于非线性投影结构构造, 这决定了NMF降维需借助计算量很大的迭代操作来实现. 此外, 由此模型提取的NMF特征常不稀疏, 这与NMF的设计期望相差甚远. 为一并解决上述两个问题, 本文提出了一个新的模型---基于线性投影结构的NMF (Linear projection-based NMF, LPBNMF), 并构造了一个单调的LPBNMF算法. 从数学的角度看, LPBNMF可理解为实现NMF的一种特殊方式. LPBNMF降维通过线性变换来完成, 它所采用的数学模型的自身结构特点决定了由其得到的特征一定非常稀疏. 大量的比较实验表明, PBNMF的降维效率显著高于NMF, LPBNMF特征明显比NMF特征更稀疏和局部化. 最后, 基于AR人脸数据库的实验揭示, LPBNMF特征比NMF、LDA以及PCA等特征更适合于用最近邻分类法处理有遮挡人脸识别问题.     

非负矩阵分解在遥感图像融合中的应用

非负矩阵分解（Non-negative Matrix Factorization,NMF）算法是在矩阵中所有元素均为非负数的条件下的一种矩阵分解方法,这为矩阵分解提供了一种新的思路。非负矩阵分解方法在图像处理领域具有十分重要的应用意义。介绍了非负矩阵分解的基本思想,讨论了非负矩阵分解用于图像融合的可能性,并实现了基于非负矩阵分解的遥感SAR图像与SPOT图像的融合,NMF能通过观测图像数据找到图像的基矩阵,发现图像的特征,从而最终获得融合图像。不仅对基于NMF的融合方法进行了实验,而且对基于NMF的融合方法和基于小波的融合方法作了对比,并从主观和客观上来评价了这两种融合图像的质量。实验结果表明基于NMF的融合图像与原始的SAR图和基于小波的融合图像相比,能提供更多的信息,更适合作为实时定位的基准图。     

一种改进的基于NMF的人脸识别方法

针对NMF(非负矩阵分解)算法基于局部特征提取的特点,提出了一种对NMF基矩阵的处理方法,以提高在局部遮挡环境下人脸识别系统的识别率。首先使用离散小波变换得到样本的低频信息,利用NMF得到基矩阵;然后通过阈值判断提取能够突出表现人脸特征的部分,得到优化后的特征子空间,并将样本在该子空间上投影;最后使用支持向量机对所得到的投影系数分类。实验结果表明,优化算法其运算时间较短,且能有效地提高人脸在部分遮挡环境中的识别率。     

组合2DFLDA监督的非负矩阵分解和独立分量分析的特征提取方法*

通过对投影非负矩阵分解(NMF)和二维Fisher线性判别的分析,针对NMF的特征提取存在无监督学习以及特征维数高的问题,提出了组合2DFLDA监督的非负矩阵分解和独立分量分析(SPGNMFICA)的特征提取方法。首先对样本进行投影梯度的非负矩阵分解,将得到的NMF子图像进行二维Fisher线性判别,主要反映类间差异信息构建子空间;对子空间的向量进行独立分量分析(ICA),得到独立分量特征空间;其次将样本在独立分量特征空间上进行投影;最后使用径向基网络对投影系数进行识别。通用人脸库ORL和YALE的识别实验证明,该算法是一种有效的特征提取和识别方法。     

基于测地映射分析的核稀疏描述人脸识别

针对人脸识别系统在非控制环境下易受姿态、表情和遮挡变化影响的问题,提出了一种基于测地映射分析（Geodesic Mapping Analysis,GMA）的特征提取方法。通过计算两个像素点间的测地距离来度量相似性,对提取的GMA特征进行核稀疏描述建模,并在非线性空间中实现特征的分类识别。在ORL和Yale-B人脸数据库上的实验表明,该方法在应对重度遮挡、姿态和表情变化的自由形式人脸图像方面具有更高的识别率,大大提高了人脸识别系统应对真实复杂环境的能力。     

基于条件正定核的SVM人脸识别

为提高人脸识别分类器的能力,采用了一种改进的可用于核学习方法的核函数—条件正定核函数。条件正定核函数一般不满足Mercer条件,但可以在核空间中计算样本间的距离,突出样本间的特征差异。对ORL、YALE、ESSEX三个标准人脸数据库进行仿真实验,结果表明基于条件正定核的SVM人脸识别算法在训练时间没有降低的情况下,与其他核函数法相比识别率有较大提高,并且当类别数增加时算法表现出较强的鲁棒性。     

马氏距离多核支持向量机学习模型

支持向量机是统计机器学习中的一种重要方法,被广泛地应用于模式识别、回归分析等问题。但一般支持向量机未考虑样本的总体分布,降低了支持向量机的泛化能力。针对该问题,提出一种马氏距离支持向量机学习模型,考虑总体样本的分布,并将该模型扩展到多核学习模型。通过数学方法将欧式距离核矩阵转化为马氏距离核矩阵,降低模型的实现难度。实验结果证明,该模型不仅保持了欧式距离多核学习模型的原有性质,且具有更好的分类精确度。     

多核模糊聚类

针对单核聚类的性能局限性问题,提出将高斯核、Sigmoid核以及多项式核等多种核组成一种新的多核函数,并利用于模糊核进行聚类。高斯核在聚类中有广泛应用,同时Sigmoid核在神经网络中被证明具有很好的全局分类性能。将不同的核函数组合起来的多核函数将结合各种核函数的优点,其聚类性能优于利用单核的模糊核聚类（KFCM）,实验结果表明了该方法的有效性。     

高斯序列核支持向量机用于说话人识别

说话人识别问题具有重要的理论价值和深远的实用意义,在研究支持向量机核方法理论的基础上,将其与传统高斯混合模型（GMM）相结合构建成基于高斯序列核的支持向量机（SVM）。SVM的灵活性和强大分类能力主要在于可以根据要处理的问题来相应的选取核函数。在识别的过程中引入特征空间归正技术NAP（Nuisance Attribute Projection）对同一说话人在不同信道和环境所带来的特征差异进行弥补。用美国国家标准与技术研究所（NIST）2004年评测数据集进行实验,结果表明该方法可以大幅度提高识别率。     

基于核典型相关分析的多特征组合人脸识别

为了提高人脸的识别率,利用多特征和分类器之间的互补优势,提出一种基于核典型相关分析的多特征组合人脸识别方法（KCCA-MF）。提取人脸图像的LBP特征和Gabor特征,采用核典型相关分析算法对两种特征进行融合,以消除冗余特征,采用K近邻算法和支持向量机建立组合人脸分类器,并采用3个经典人脸库进行仿真分析。结果表明,相对于其他人脸识别方法,KCCA-MF提高了人脸识别的识别准确率和效率,可以满足人脸识别的实时性要求。     

极小化类内散布度的大间距非线性鉴别分析

提出了一种新的非线性鉴别分析算法——极小化类内散布的大间距非线性鉴别分析。该算法的主要思想是将原始样本映射到更高维的空间中,利用核技术对传统的大间距分类算法进行改进,在新的高维空间中利用再生核技术寻找核鉴别矢量,使得在这个新的空间中核类内散度尽可能的小。在ORL人脸数据库上进行实验,分析了识别率及识别时间,结果表明该方法具有一定优势。     

基于PCA初始化卷积核的CNN手写数字识别算法

针对卷积神经网络对手写数字识别训练在卷积核随机初始化情况下收敛速度慢和识别率低的问题，提出一种主成分分析（PCA）初始化卷积核的卷积神经网络（CNN）手写数字识别算法。算法首先选取训练样本集并将其送入CNN，在相应层对Feature Map进行全覆盖取图像块处理，然后进行分层PCA学习，将学习到的特征向量做为对应卷积层的卷积核参数进行初始化，最后再用这些卷积核对原始图像进行卷积操作。实验结果表明，与随机初始化卷积核的CNN手写数字识别算法相比，改进的算法在应用MNIST数据库训练时不仅收敛，而且在产生相同均方误差的情况下迭代次数少，识别率高。     

一种改进的再生核支持向量机回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数进行改进,给出一种新的支持向量机核函数,并提出一种改进的最小二乘再生核支持向量机的回归模型,该回归模型的参数被减少,且仿真实验结果表明：最小二乘支持向量机的核函数采用改进的再生核函数是可行的,改进后的再生核函数不仅具有核函数的非线性映射特征,而且也继承了该再生核函数对非线性逐级精细逼近的特征,回归的效果比一般的核函数更为细腻。