基于稀疏表示的图嵌入降维算法在人脸识别中的应用研究

随着社会的发展,公共安全对于人们来说显得愈发重要,如何快速准确的识别生物特征则是重中之重。在应用人脸识别时,通常会因为光照以及人脸的遮挡等客观因素,使得在人脸识别时的准确度降低,进而使得人脸的识别率不高。根据人脸识别过程中的技术需要,使用小波变换和数据降维算法对人脸图像降维变换处理,可以有效的提高人脸识别率。首先通过稀疏表示方法及其构图以及基于图嵌入的降维模型的研究;其中稀疏表示主要对其概念、字典构建以及构图进行研究,然后为了验证改进算法的有效性,在ORL库上进行了一系列的Matlab仿真实验,对提出的方法与其它方法进行对比,从而可以证明提出的基于稀疏表示的图嵌入降维算法在人脸识别中具有比较好的应用效果。     

基于低秩矩阵分解和协作表示的人脸图像分类

为了降低干扰因素对人脸识别准确率的影响,提出一种基于低秩矩阵分解和协作表示的人脸图像分类算法。针对噪声阴影影响,使用鲁棒主分量分析(RPCA)对人脸数据进行低秩矩阵分解,去除干扰,得到较为干净的人脸图像。通过协作表示分类方法对经RPCA处理后的低秩分量图像进行分类,通过归一化的最小重构误差来判定测试样本的具体类标。在3个人脸数据集上对算法性能进行仿真测试,结果表明,该算法在10%到50%的标记率下较其他算法均能提升分类识别率。     

基于非负稀疏嵌入投影的高光谱数据降维方法

针对因数据冗余及Hughes现象带来的高光谱数据分类精度降低问题,提出一种基于样本依赖排斥图的非负稀疏嵌入投影降维（NSEPSRG）算法.首先,利用非负稀疏表示方法,得到样本的非负稀疏重构权重矩阵.然后,利用样本的先验类别信息,构建样本依赖排斥图,有助于避免误分类和提高分类精度.最后,为保持每个样本间的稀疏结构关系和各样本的内在流形结构不变,根据非负稀疏重构权重矩阵和样本依赖排斥图的邻接矩阵,将样本嵌入投影到低维子空间,有助于从高维高光谱数据中提取信息量大的光谱波段,从而使得到的分类图像更清晰、平滑.AVIRIS高光谱数据上的实验结果表明,运用支持向量机对经过NSEPSRG降维处理后的高光谱数据进行分类,分类整体精度和Kappa系数分别达到了87.87%和0.856 6.     

基于全局距离和类别信息的邻域保持嵌入算法

提出一种基于全局距离和类别信息的邻域保持嵌入算法。该方法在使用欧氏距离构造邻域图中,加入表征全局距离的全局因子和表示类别信息的函数项,全局因子可以使分布不均匀的样本变得平滑均匀,类别信息可以使同类样本点紧凑异类样本点疏离,通过提高所选邻近点的质量,优化数据的局部邻域,使降维后的数据具有更好的可分性。试验结果表明,该算法具有较高的准确率,优于传统的邻域保持嵌入算法。     

基于信噪比的自适应小波域音频水印算法

信息隐藏是信息安全的一个新的重要内容,这里研究了语音信号中嵌入图像水印的技术,提出了利用信噪比(SNR)确定伸缩因子的加性音频水印算法.通过将水印图像降维处理,嵌入到原始语音信号的小波变换域中.根据信噪比自适应调整伸缩因子的值,更改不同音频数据段的水印嵌入强度.实验表明,采用本方法的水印在听觉不可察觉情况下,对重采样、剪切、低通滤波、噪声干扰、MP3压缩等操作具有很强的稳健性.本算法优于未采用信噪比的水印算法,对盲水印具有一定的参考价值.     

基于低秩表示投影的无监督人脸特征提取

为了构造数据之间的自适应邻接图,同时克服稀疏表示系数和协同表示系数互相独立、提取全局信息弱的缺陷,提出采用低秩表示(low-rank representation, LRR)系数构造权重矩阵的流形学习算法,即低秩表示投影(low-rank representation projections, LRRP)和判别低秩表示投影(discriminative low-rank representation projections, DLRRP)。在新算法中,将低秩表示系数表征的样本之间的邻接关系保留在特征空间;同时利用低秩系数的聚类性质,在优化目标中加入类内散度最小化项,计算出具有判别性的投影矩阵。试验结果表明,在真实人脸图像库上与其他几种流形学习算法相比,LRRP和DLRRP能够取得更好的识别率。提出的新算法是有效的特征提取算法,能够丰富流形学习框架。     

堆叠图嵌入极限学习机算法

极限学习机(Extreme learning machine,ELM)因其训练参数少、学习速度快、泛化能力强等特点,已被广泛应用于训练单隐藏层前馈神经网络。本文首先结合图嵌入框架提出一种新的极限学习机自编码器(GEELM-AE),在ELM空间中挖掘数据的局部近邻结构信息和全局结构信息。在GEELM-AE中,采用局部Fisher判别分析构建了图嵌入框架下的本征图和惩罚图。进而,通过堆叠多个GEELM-AE提出了深度框架下的堆叠图嵌入极限学习机(SGE-ELM)算法。在多个标准数据集上的实验结果表明,与已有算法比较,本文算法获得了更高的精度并具有较快的训练速度。这验证了提出的图嵌入极限学习机自编码器能够对原始数据进行有效的特征表示,堆叠的多层图嵌入极限学习机能够获得数据的有效的高层次抽象表征。     

LLE与核Fisher判别分析结合的人脸识别研究

针对人脸识别问题提出了将LLE与核Fisher相结合的识别方法LLEKF,先应用LLE方法将样本和待测试的人脸图像集降低到一定维数,再利用核Fisher判别法通过选择合适的核函数,确定最优参数,对降维后的样本图像进行训练,并对降维后的人脸图像进行分类.实验证明,利用LLE低维嵌入后的数据能够更好地保持原人脸数据的非线性特征,并降低特征提取的时间,再经过核Fisher进行分类,明显提高了分类的效率.     

自适应稀疏表示引导的无监督降维

挖掘并保持数据分布信息是无监督降维的核心问题,为解决传统无监督降维方法大多数只考虑数据分布的局部信息或者全局信息,数据分布信息在低维空间难以保持的缺点,提出一种同时考虑数据分布的全局和局部信息的自适应稀疏表示引导的无监督降维(adaptive sparse representation guided unsupervised dimensionality reduction,ASR_UDR)方法.用稀疏表示挖掘高维空间数据分布的全局信息,通过约束投影后的数据保持图上的平滑性,挖掘数据分布的局部信息,并将这两个过程统一到一个框架中,使之相辅相成,实现数据分布信息的自适应挖掘和数据降维.在WarpAR10P、USPS、MultiB、DLBCLA和DLBCLB数据集上的实验结果表明,与已有的同类无监督降维方法相比,所提方法在显著减少数据维数的同时,可更好地提升后续学习算法的性能.     

一种用于人脸识别的非迭代GLRAM算法

利用二维主成分分析算法通过协方差矩阵获得右投影变换矩阵,进一步对其投影特征矩阵降维获得左投影变换矩阵,提出了一种矩阵广义低秩逼近的新的非迭代算法．ORL和AR人脸数据库的实验研究表明,新的非迭代算法在图像重建和图像识别都取得了和矩阵广义低秩逼近的迭代算法相近的效果,同时节省了大量的训练时间,而较二维主成分分析,新算法以较大的压缩率取得了更好的图像重建效果和识别率．     

联合图嵌入与特征加权的无监督特征选择

在特征选择领域,现有的大多数方法不能同时捕获不同特征有差异的权重,?不能对投影子空间施加正交约束来提高特征的判别力.为此,?本文提出联合图嵌入与特征加权的无监督特征选择方法(Joint?Graph?Embedding?and?Feature Weighting,?JGEFW).首先,?通过图嵌入局部结构学习获得相似度矩...     

Unsupervised Feature Selection Using Structured Self-Representation

基于结构化自表达的无监督特征选择方法

刘彦北1, 刘开华1 ,王啸² ,张长青³ ,唐先超³

（1．天津大学 电子与信息工程学院,天津 300072;

2. 清华大学 计算机科学与技术系, 北京 100084;

3. 天津大学 计算机科学与技术学院,天津 300072）

创新点说明：

1） 将数据特征的局部结构信息引入到特征自表达模型中,使得选取的特征更具有代表性;

2） 提出一种简单而有效的算法以优化所提目标函数。

摘 要：

在机器学习中,面对大量的高维的无标记数据,无监督特征选择已经成为一个重要且具有挑战性的问题。同时考虑数据特征的自表达属性和局部结构信息,提出一种新颖的结构化自表达的无监督特征选择方法。具体地讲,采用数据特征的固有自表达属性,可以选择代表性的特征。同时,为了提高选取的准确性,探索了局部结构信息约束,使得特征相近则特征之间的表达系数也相近。此外,提出一个有效的算法以优化所提目标函数。最后,一个合成数据集和六个实际数据集（包括生物医学数据,数字字母识别数据和图像数据）上的实验结果表明,相比于目前的主流算法,本文所提算法具有优越性。

关键词：无监督特征选择;局部结构;自表达属性;高维数据

     

基于互信息量的生物信息数据特征标注方法

提出了一种用于排位特征变量的基于特征矩阵信息增益的无监督特征标注准则(IGC)及直接选择法(DS)、累积最大熵法(CEM)和最大信息增益法(IGM)3种新的特征过滤方法来降低聚类的复杂度.使用经典的QC或K-means聚类算法,在杆状病毒数据集(RSV)、混合血统白血病数据集(MLL)和急性白血病患者数据集(ALP)等3种不同的生物信息数据集上测试并对比了这些特征过滤方法和目前的偏差选择(VS)和基因修剃(GS)过滤方法对聚类结果的影响.试验结果表明,3种特征过滤方法在加速聚类过程及保持初始数据的聚类结构上都具有明显的优势.     

一种鲁棒的多态人脸识别算法

如何处理人脸识别中的多态性一直是人脸识别领域的一个难题。传统的图嵌入算法忽视了同类中多态子类间的同属关系,而且也没有恰当地处理异类间的区别信息。该文提出一种鲁棒的图嵌入人脸识别算法,该算法可以恰当地模拟同类中的多态间关系,而且能在局部流形结构与全局区别信息间实现平衡。基于多个公开数据库的人脸识别实验证明了该方法的有效性。     

改进的无监督同时正交基聚类特征选择

提出了一种改进的同时正交基聚类特征选择(Improved Unsupervised Simultaneous Orthogonal Basis Clustering Feature Selection,ISOCFS)方法。为有效地对无标签数据进行特征选择,利用目标矩阵来设计正则化的回归模型。目标矩阵通过正交基聚类,获取投影数据点的潜在聚类中心,引导投影矩阵选择判别性的特征。与先前的无监督特征选择方法不同,ISOCFS并不使用数据点预先计算局部结构信息描述目标函数,而是利用目标矩阵进行正交基聚类直接计算潜在的聚类信息。其次,为了减少噪声信息对估计目标矩阵和投影矩阵的干扰,在先前方法基础上,该方法增加了噪声项。另外,该方法利用简单的优化算法即可求解。最后,通过四个常见的微阵列基因表达数据集及五种最近的无监督特征选择方法进行对比实验,证明了ISOCFS方法可以获得更好的聚类效果。     

一种新的混合特征选择方法RRK

提出一种新的基于包装方法和过滤器方法的混合特征选择算法RRK。该算法主要包括两个方面:①在特征预选阶段,提出一种基于ReliefF算法的特征加权算法NReliefF和降维算法DR,以实现特征加权并去掉不太重要的特征;②在特征选择阶段,把NReliefF算法和KNN算法结合起来,将预选特征作为输入,用分类正确率来选择最优特征。分别采用一个实际的乘员类型数据集和UCI上的imagine标准数据集进行了实验。实验结果表明,采用RRK后分类的效率和正确率都有明显提高。     

基于相关性分析的基因选择算法

常用的排列法从微阵列数据中选择的基因集合会包含相关性较高的基因,这会影响分类器的性能,为了去除这些冗余基因(特征),提出了无监督的特征选择算法.该算法主要包含:将原始特征集划分为一组相似的子集(聚类);从每个聚类中选择代表性特征.特征的划分采用特征间的相关性作为测度以k近邻原则来完成.该算法无需指定聚类数量,时间复杂度低.真实的生物学数据实验证明该算法可显著提高分类器的分类准确性.     

新颖的无监督特征选择方法

针对有监督特征选择方法因为需要类信息而无法应用于文本聚类的问题,提出了一种新的无监督特征选择方法: 结合文档频和K-Means的特征选择方法。该方法首先使用文档频进行无监督特征初选,然后再通过在不同K-Means聚类结果上 使用有监督特征选择方法来实现无监督特征选择。实验表明该方法不仅能够成功地选择出最为重要的—小部分特征,而且还 能提高聚类质量。     

基于相关熵和流形学习的多标签特征选择算法

从相关熵的角度出发,提出一种基于相关熵和特征流形学习的稀疏正则化方法,用于解决多标签特征选择问题。在相关熵定义的基础上给出多标签特征选择的回归模型;结合?_{2, 1}范数的性质和特征流形学习的定义建立基于相关熵和特征流形学习的稀疏正则化多标签特征选择模型及算法;证明该算法的收敛性并且通过试验验证所给算法的有效性。