核岭回归的邻域保持最大间隔分析的人脸识别

邻域保持嵌入是局部线性嵌入的线性近似,强调保持数据流形的局部结构.改进的最大间隔准则重视数据流形的判别和几何结构,提高了对数据的分类性能.文中提出的核岭回归的邻域保持最大间隔分析既保持流形的局部结构,又使不同类别的数据保持最大间隔,以此构建算法的目标函数.为了解决数据流形高度非线性化的问题,算法采用核岭回归计算特征空间的变换矩阵.先求解数据样本在核子空间中降维映射的结果,再解得核子空间.在标准人脸数据库上的实验表明该算法正确有效,并且识别性能优于普通的流形学习算法.     

基于重叠片排列的流形学习算法

针对线性数据降维算法对处理非线性结构数据的降维效果不是很好,提出一种基于重叠片排列的流形学习算法,该算法根据局部的线性贴片处在非线性流形中的特性,将流形划分为线性互相重叠的局部区域贴片,且利用主成分分析方法得到局部区域贴片的低维表示,然后排列且对齐其低维坐标,以获得整体数据的低维坐标.通过仿真结果证明,基于重叠片排列的流形学习算法在应用于人脸识别和分类问题时以及在识别准确率方面要优于其他经典的流形学习算法.     

正交判别的线性局部切空间排列的人脸识别

为了将线性局部切空间排列算法发展为有监督的学习算法,提出了一种正交判别的线性局部切空间排列算法.该算法首先利用样本数据的类别信息计算类间散度矩阵,然后再通过对原算法的目标函数进行修改来建立新的优化问题.在解出投影子空间的基础上,再通过进行正交化来得到投影的正交子空间.在两个标准人脸数据库上进行的实验表明,由于该算法使用了局部切空间来表示数据样本所在流形的局部几何结构,不仅融合了判别信息和正交化技术,并且兼顾了局部几何结构和判别结构的保持,因此提高了识别能力.     

基于局部线性逼近的流形学习算法

流形学习方法是根据流形的定义提出的一种非线性数据降维方法,主要思想是发现嵌入在高维数据空间的低维光滑流形.局部线性嵌入算法是应用比较广泛的一种流形学习方法,传统的局部线性嵌入算法的一个主要缺点就是在处理稀疏源数据时会失效,而实际应用中很多情况还要面对处理源数据稀疏的问题.在分析局部线性嵌入算法的基础上提出了基于局部线性逼近思想的流形学习算法,其通过采用直接估计梯度值的方法达到局部线性逼近的目的,从而实现高维非线性数据的维数约简,最后在S-曲线上进行稀疏采样测试取得良好降维效果.     

一种在源数据稀疏情况下的数据降维算法

流形学习方法是根据流形的定义提出的一种非线性数据降维方法,主要思想是发现嵌入在高维数据空间的低维光滑流形。从分析基于流形学习理论的局部线性嵌入算法入手,针对传统的局部线性嵌入算法在源数据稀疏时会失效的缺点,提出了基于局部线性逼近思想的流形学习算法,并在S-曲线上采样测试取得良好降维效果。     

基于流形保持的半监督局部排列降维算法

判别局部排列是基于谱分析片排列框架下的降维算法,但是,算法只能针对单流形数据进行降维.针对判别局部排列算法存在的缺陷,着重研究了多流形学习和半监督学习技术,利用标签传播算法(LP)和线性重构分析,提出一种流行结构保持的半监督降维算法,利用标签传播后得到的全体样本标签信息进行片都构建,并通过求解目标函数的最优解来获得低维嵌入.在YALE和FERET这两个标准人连数据库上的实验,验证了算法的有效性能并体现了算法在分类上的良好性能.     

一种在源数据稀疏情况下的流形学习算法研究

传统的流形学习算法能有效地学习出高维采样数据的低维嵌入坐标,但也存在一些不足,如不能处理稀疏的样本数据.针对这些缺点,提出了一种基于局部映射的直接求解线性嵌入算法(Solving Directly Linear Embedding,简称SDLE).通过假定低维流形的整体嵌入函数,将流形映射赋予局部光滑的约束,应用核方法将高维空间的坐标投影到特征空间,最后构造出在低维空间的全局坐标.SDLE算法解决了在源数据稀疏情况下的非线性维数约简问题,这是传统的流形学习算法没有解决的问题.通过实验说明了SDLE算法研究的有效性.     

基于自适应邻域选择的局部判别投影算法

在多模数据分类中,使用局部Fisher判别分析和边界Fisher分析方法构建邻域不能充分反映流形学习对邻域的要求.为此,提出一种基于自适应邻域选择的局部判别投影算法.采用自适应方法扩大或者缩小近邻系数k,以构建邻域,从而保持局部线性结构,揭示流形的内在几何结构,利用局部化方法使得投影空间中同类近邻样本尽量紧凑、异类近邻样本尽量分开.在ORL和YALE入脸数据库中进行实验,结果表明,在不同训练样本个数下,该算法均能获得较高的识别率.     

一种改进的局部线性嵌入算法

局部线性嵌入算法(Local Linear Embedding,简称LLE)是一种非线性流形学习算法,能有效地学习出高维采样数据的低维嵌入坐标,但也存在一些不足,如不能处理稀疏的样本数据.针对这些缺点,提出了一种基于局部映射的线性嵌入算法(Local Project Linear Embedding,简称LPLE).通过假定目标空间的整体嵌入函数,重新构造样本点的局部邻域特征向量,最后将问题归结为损失矩阵的特征向量问题从而构造出目标空间的全局坐标.LPLE算法解决了传统LLE算法在源数据稀疏情况下的不能有效进行降维的问题,这也是其他传统的流形学习算法没有解决的.通过实验说明了LPLE算法研究的有效性和意义.     

一种基于核的监督流形学习算法

针对流形学习算法——局部保持映射存在的参数选择及不能进行非线性特征提取的问题,提出一种基于核的监督流形学习算法.该算法作为局部保持映射算法的改进算法用样本类标识信息指导建立局部最近邻图,并在建立局部最近邻图使用无参数的相似度量.利用核方法来解决局部保持映射算法在处理线性不可分问题上的局限性问题.在两个常用数据库上验证本文算法的可行性和有效性.     

常用Fisher判别函数的判别矩阵研究

在线性判别分析(Linear discriminant analysis, LDA)中, 比迹函数、比值函数和迹比函数是三种常用的Fisher判别函数, 每一个判别函数都可得到一个正交判别(Orthogonal discriminant, OD)矩阵和一个不相关判别(Uncorrelated discriminant, UD)矩阵. 本文的主要目的是对这6种判别矩阵的获取方法及其性质进行系统分析, 拟期更清楚地认识它们的联系与区别. 当类内协方差阵非奇异时, 比迹、比值函数的判别矩阵和迹比函数的OD矩阵的获取方法及性质已有研究, 本文对迹比函数的UD矩阵的获取方法及性质进行了补充研究, 得到了迹比函数的UD矩阵与比迹、比值函数的UD矩阵是同一矩阵以及迹比函数的UD矩阵的判别函数值不超过它的OD矩阵的结论. 当类内协方差阵奇异时, 6种判别矩阵的获取方法遇到了困难, 为克服这一困难, 本文首先用极限的思想重新定义了这三种判别函数, 然后采用求极限的方法得到了6种判别矩阵的获取方法. 从所得的获取方法可以看出, 当所需的判别向量均在类内协方差阵的零空间中时, 6个判别矩阵是同一矩阵.     

一种自适应最大拒绝鉴别分析及其鉴别矢量集

针对 MRC-Boosting方法中的弱分类器二值化以及鉴别矢量不正交等问题,提出一种自适应最大拒绝鉴别分析(AdaMRDA),进一步提高分类性能。通过已抽取的鉴别特征到期望中心的距离,设计一种自适应权重调整方法,使得后面得到的鉴别矢量更加有利于分类,并且给出最佳正交鉴别矢量集的求解方程。最后,通过在2个数据库上的实验证明,AdaMRDA方法在分类性能上明显优于MRC-Boosting方法及相关方法。     

基于类编码的判别特征学习

经典的自编码模型(BAE、SAE、DAE、CAE)都是基于输出数据对原始数据的重构,提取输入信息的低维度特征,将该特征用于图像分类不一定能够取得很好的判别效果。利用标签信息,提出了堆叠判别自编码模型(SDcAE),该模型将类编码作为隐层神经元约束加入到堆叠自编码器的训练中,使得隐层学习的特征具有更好的判别能力。同时,将类编码作为判别损失加入到Softmax分类器中,提出了类编码分类器(CEC)。由于类间样本特征误差的降低,该分类器可以取得更好的训练效果,从而提高了最终分类的正确率。实验表明,堆叠判别自编码器和类编码分类器在图像分类中是有效可行的。     

基于判别等度规映射的人脸识别

等度规映射算法旨在最大限度地保持样本间距离,没有考虑样本的类判别信息。针对该问题,提出一种基于判别等度规映射的人脸识别算法。在等度规映射算法的基础上,引入最大散度差准则,得到优化的目标函数。在嵌入低维子空间后,同类样本保持其固有的近邻几何结构关系,不同类近邻样本则彼此远离。在ORL数据库上的实验结果验证了该算法的有效性。     

基于Fisher准则的多特征融合

阐述了单个特征向量及其鉴别矢量与模式可分性的关系，最佳鉴别矢量使模式关于该特征具有最大的可分性。给出了多特征融合的一种方法，它综合考查了模式对不同的特征、不同的鉴别矢量的可分性，由多个特征经融合产生的新特征吸收了单个特征的对模式分类的优势。手写体汉字的识别试验验证了所给方法的有效性。     

基于遗传算法的线性判别分析方法

由于线性判别分析(Linear discriminant analysis,LDA)算法并不直接以训练误差作为目标函数,所以在Fisher准则不能代表最小训练误差情况下,LDA算法无法找到最优的分类子空间.本文针对这种情况,首先通过分析数据样本分布与LDA投影向量之间的关系,揭示了LDA投影向量与类间散布矩阵和类内散布矩阵特征值之间存在的关联,并以此提出一种基于遗传算法的LDA算法.该算法以子空间上的训练误差最小为目标,通过遗传算法调整LDA算法中类间矩阵特征值的大小,达到搜索最佳特征子空间的效果.通过模拟数据和真实数据的实验,表明这种方法的分类正确率比现有的线性子空间方法有明显提高.     

基于主动学习的平衡类鉴别分析

特定类的思想是将传统的多类特征提取和识别任务转化为多个两类问题,由此产生了类不平衡问题,影响最优鉴别特征的提取。为了解决该问题,文中提出了一种主动学习平衡类鉴别分析（ALCBD）方法。对于每个特定类,ALCBD从其对应的大类中选取它的部分近邻样本构成特定类的近邻样本集,接着将这个近邻样本集划分成与特定类相同样本数的多个子集,然后根据主动学习的思想挑选最优子集与特定类结合成为新样本集,最后用传统的线性鉴别分析（LDA）方法得到鉴别向量。基于USPS和Honda/UCSD数据库的实验表明ALCBD方法能够有效地解决类不平衡问题,并改善了识别性能。     

基于广义判别分析方法的人脸识别

提出基于广义判别分析的人脸识别方法,通过非线性核函数把样本映射到高维线性空间,然后在高维空间运用线性判决算法,从而获得输入空间非线性判决特征,可以很好地适应人脸图像中的光照、表情以及姿态等复杂的变化。实验证明该方法用较少的特征向量能获得比特征脸算法、Fisherfaces算法更高的分类准确率。     

基于流形距离的半监督判别分析

大量无类别标签的数据具有对分类有用的信息,有效地利用这些信息来提高分类精确度,是半监督分类研究的主要内容.提出了一种基于流形距离的半监督判别分析(semi-supervised discriminant analysis based on manifold distance,简称SSDA)算法,通过定义的流形距离,能够选择位于流形上的数据点的同类近邻点、异类近邻点以及全局近邻点,并依据流形距离定义数据点与其各近邻点之间的相似度,利用这种相似度度量构造算法的目标函数.通过在ORL,YALE人脸数据库上的实验表明,与现有算法相比,数据集通过该算法降维后,能够使基于距离的识别算法具有更高的分类精确度.同时,为了解决非线性降维问题,提出了Kernel SSDA,同样通过实验验证了算法的有效性.     

基于张量的半监督判别分析算法

边界Fisher判别分析算法因采用一维向量表示而无法很好保持图像的空间几何结构,且无法利用大量未标记样本信息.为此,提出一种基于张量的半监督判别分析算法.采用二维张量表示人脸空间中的样本图像,揭示流形的内在几何结构,利用有判别信息的标记样本和大量未标记样本,使数据在投影空间的类间分离度最大,同时保证高维空间中不相邻的点在低维空间中也不相邻.在PIE和FERET人脸库上的实验结果表明,该算法能够获得较高的识别率.