基于局部图拉普拉斯约束的鲁棒低秩表示聚类方法

针对传统低秩表示聚类方法存在的稀疏性不足及噪声敏感等问题,提出了一种基于局部图拉普拉斯约束的鲁棒低秩表示聚类模型. 一方面,通过加入图像数据局部相似性的约束,在保持表示矩阵分块对角的特性下,增强了其稀疏性;另一方面,从数据相关性的角度分析了低秩表示模型的聚类性质, 通过采用鲁棒低秩表示模型,不仅降低了噪声的干扰,而且减弱了表示字典数据之间的线性相关性,从理论上保证了最终的邻接矩阵具有分块对角的良好聚类性质. 与传统低秩表示方法相比,本文得到的表示矩阵既保证了分块性质,又更加稀疏,仿真实验结果表明聚类效果有明显提升.     

非负子空间聚类指导下的非负矩阵分解

非负矩阵分解作为一种有效的数据表示方法被广泛应用于模式识别和机器学习领域。为了得到原始数据紧致有效的低维数据表示,无监督非负矩阵分解方法在特征降维的过程中通常需要同时发掘数据内部隐含的几何结构信息。通过合理建模数据样本间的相似性关系而构建的相似度图,通常被用来捕获数据样本的空间分布结构信息。子空间聚类可以有效发掘数据内部的子空间结构信息,其获得的自表达系数矩阵可用于构建相似度图。该文提出了一种非负子空间聚类算法来发掘数据的子空间结构信息,同时利用该信息指导非负矩阵分解,从而得到原始数据有效的非负低维表示。同时,该文还提出了一种有效的迭代求解方法来求解非负子空间聚类问题。在两个图像数据集上的聚类实验结果表明,利用数据的子空间结构信息可以有效改善非负矩阵分解的性能。     

非负局部约束低秩子空间聚类算法

在低秩表示算法的基础上,提出了一个新模型。新模型构建了揭示数据内在特征联系的亲和度图以实现聚类任务。首先,根据矩阵分解原理对原始数据重新生成数据字典,在算法初始输入时筛除部分噪声。其次,利用数据间的稀疏性加强局部约束,为给定的数据向量构建非负低秩亲和度图。亲和度图中边的权重由非负低秩稀疏系数矩阵获得,系数矩阵通过每个数据样本作为其他数据样本的线性组合完成构建,如此获得的亲和度图显示了数据的子空间结构,同时表现局部线性结构。与现存的子空间算法相比,非负局部约束低秩子空间算法在聚类效果上有明显的提升。     

基于判别低秩矩阵恢复和协同表示的遮挡人脸识别

针对训练样本和测试样本均受到严重的噪声污染的人脸识别问题,传统的子空间学习方法和经典的基于稀疏表示的分类(SRC)方法的识别性能都将急剧下降。另外,基于稀疏表示的方法也存在算法复杂度较高的问题。为了在一定程度上缓解上述问题,提出一种基于判别低秩矩阵恢复和协同表示的遮挡人脸识别方法。首先,低秩矩阵恢复可以有效地从被污损的训练样本中恢复出干净的、具备低秩结构的训练样本,而结构非相关性约束的引入可以有效提高恢复数据的鉴别能力。然后,通过学习原始污损数据与恢复出的低秩数据之间的低秩投影矩阵,将受污损的测试样本投影到相应的低维子空间,以修正污损测试样本。最后,利用协同表示的分类方法(CRC)对修正后的测试样本进行分类,获取最终的识别结果。在Extended Yale B和AR数据库上的实验结果表明,本文方法对遮挡人脸识别具有更好的识别性能。     

图正则化稀疏判别非负矩阵分解

非负矩阵分解是一种流行的数据表示方法,利用图正则化约束能有效地揭示数据之间的局部流形结构。为了更好地提取图像特征,给出了一种基于图正则化的稀疏判别非负矩阵分解算法（graph regularization sparse discriminant non-negative matrix factorization,GSDNMF-L_2,1）。利用同类样本之间的稀疏线性表示来构建对应的图及权矩阵;以L_2,1范数进行稀疏性约束;以最大间距准则为优化目标函数,利用数据集的标签信息来保持数据样本之间的流形结构和特征的判别性,并给出了算法的迭代更新规则。在若干图像数据集上的实验表明,GSDNMF-L_2,1在特征提取方面的分类精度优于各对比算法。     

卷积鲁棒主成分分析

鲁棒主成分分析（RPCA）是一种经典的高维数据分析方法,可从带噪声的观测样本中恢复出原始数据。但是,RPCA能工作的前提是目标数据拥有低秩矩阵结构,不能有效处理实际应用中广泛存在的非低秩数据。研究发现,虽然图像、视频等数据矩阵本身可能不是低秩的,但它们的卷积矩阵通常是低秩的。根据这一原理,提出一种称为卷积鲁棒主成分分析（CRPCA）的新方法,利用卷积矩阵的低秩性对原始数据的结构进行约束,从而实现精确的数据恢复。CPRCA模型的计算过程是一个凸优化问题,通过乘子交替方向法（ADMM）来进行求解。通过对合成数据向量以及真实数据图片、视频序列进行实验,验证了该方法相较于其他算法如RPCA、广义鲁棒主成分分析（GRPCA）以及核鲁棒主成分分析（KRPCA）在处理数据非低秩问题上优越性。     

多矩阵低秩分解的鲁棒特征提取

由于传统的人脸识别算法效果容易受制于光照、表情、遮挡以及稀疏大噪声等外界因素的影响,如何有效提取数据特征、进一步提升算法的鲁棒性,是传统人脸识别方法发展的关键所在.本文将多矩阵低秩分解应用在人脸特征提取中,充分利用多张人脸之间的结构相似性,探索人脸图像集的低秩子空间,进而结合低秩矩阵恢复模型来提取测试样本的低秩特征.最...     

混合秩矩阵分解模型

随着推荐系统的发展,矩阵近似算法成为研究热点,而以概率矩阵分解为代表的低秩矩阵近似模型因其具有较高的推荐精度而广受关注。但是,随着大数据时代的到来,评分矩阵越来越复杂,简单的单个矩阵近似模型会使一些隐藏在数据中的信息被忽视。为了解决这个问题,提出了一种基于boosting框架的混合秩矩阵近似算法(mixture rank matrix factorization,MRMF)。该算法基于boosting框架融合多个不同秩矩阵获取丰富的评分信息。具体方法为首先从整体结构出发,获取矩阵的整体信息,然后基于boosting求偏差获得残差矩阵,抓取局部的相关性。同时为了更好地学习局部特征,引入服从拉普拉斯先验分布的样本权重,构建自适应权重的概率矩阵模型(adaptive weight matrix factorization,AWMF)。在获取残差矩阵之后,通过EM算法学习残差矩阵的权重,避免模型过拟合以及减少人工调差的复杂度。实验结果验证,所提出的算法在四个真实数据集(Ciao、Epinions、Douban、Movielens(10M))上均具有较好的推荐精度。     

低秩特征选择多输出回归算法

针对现有回归算法没有考虑利用特征与输出的关系,各输出之间的关系,以及样本之间的关系来处理高维数据的多输出回归问题易输出不稳定的模型,提出一种新的低秩特征选择多输出回归方法。该方法采用低秩约束去构建低秩回归模型来获取多输出变量之间的关联结构;同时创新地在该低秩回归模型上使用[L2,p]-范数来进行样本选择,合理地去除噪音和离群点的干扰;并且使用[L2,p]-范数正则化项惩罚回归系数矩阵进行特征选择,有效地处理特征与输出的关系和避免“维灾难”的影响。通过实际数据集的实验结果表明,提出的方法在处理高维数据的多输出回归分析中能获得非常好的效果。     

基于矩阵填充的众包学习模型研究

本文提出一种鲁棒低秩近似算法(ROLA)来学习标注者之间潜在的相似性,进而解决标注数据集中的噪声。ROLA通过构造一个低秩矩阵模型,来捕获标签中的潜在相关信息,与问题的潜在特征向量。实验结果表明,ROLA在四个数据集上的准确率最高。并且与现有算法相比,在优化时间上也存在相应优势。     

自适应图正则化的低秩非负矩阵分解算法

图正则化(nonnegative matrix factorization,NMF)算法(graph regularization nonnegative matrix factorization,GNMF)仍存在一些不足之处:GNMF算法并没有考虑数据的低秩结构;在GNMF算法中,其拉普拉斯图是使用K近邻(K nea...     

基于低秩表示的非负张量分解算法

为了提高图像分类准确率,提出了一种基于低秩表示的非负张量分解算法。作为压缩感知理论的推广和发展,低秩表示将矩阵的秩作为一种稀疏测度,由于矩阵的秩反映了矩阵的固有特性,所以低秩表示能有效的分析和处理矩阵数据,本文把低秩表示引入到张量模型中,即引入到非负张量分解算法中,进一步扩展非负张量分解算法。实验结果表明,本文所提算法与其他相关算法相比,分类结果较好。     

结构化加权稀疏低秩恢复算法在人脸识别中的应用

针对训练样本或测试样本存在污损的情况，提出一种结构化加权稀疏低秩恢复算法（structured and weighted-sparse low rank representation，SWLRR）。SWLRR对低秩表示进行加权稀疏约束和结构化约束，使得低秩表示系数更加趋近于块对角结构，进而可获得具有判别性的低秩表示。SWLRR将训练样本恢复成干净训练样本后，再根据原始训练样本和恢复后的训练样本学习到低秩投影矩阵，把测试样本投影到相应的低秩子空间，即可有效地去除测试样本中的污损部分。在几个人脸数据库上的实验结果验证了SWLRR在不同情况下的有效性和鲁棒性。     

融合块对角约束的鲁棒低秩多核聚类

针对现有的多核学习(multiple kernel learning, MKL)子空间聚类方法忽略噪声和特征空间中数据的低秩结构问题,提出一种新的鲁棒多核子空间聚类方法(low-rank robust multiple kernel clustering, LRMKC),该方法结合块对角表示(block diagonal representation, BDR)与低秩共识核(low-rank consensus kernel, LRCK)学习,可以更好地挖掘数据的潜在结构.为了学习最优共识核,设计一种基于混合相关熵度量(mixture correntropy induced metric,MCIM)的自动加权策略,其不仅为每个核设置最优权重,而且通过抑制噪声提高模型的鲁棒性;为了探索特征空间数据的低秩结构,提出一种非凸低秩共识核学习方法;考虑到亲和度矩阵的块对角性质,对系数矩阵应用块对角约束. LRMKC将MKL、LRCK与BDR巧妙融合,以迭代提高各种方法的效率,最终形成一个处理非线性结构数据的全局优化方法.与最先进的MKL子空间聚类方法相比,通过在图像和文本数据集上的大量实验验证了...     

联合低秩稀疏的多核子空间聚类算法

针对多核子空间谱聚类算法没有考虑噪声和关系图结构的问题，提出了一种新的联合低秩稀疏的多核子空间聚类算法(JLSMKC)。首先，通过联合低秩与稀疏表示进行子空间学习，使关系图具有低秩和稀疏结构属性；其次，建立鲁棒的多核低秩稀疏约束模型，用于减少噪声对关系图的影响和处理数据的非线性结构；最后，通过多核方法充分利用共识核矩阵来增强关系图质量。7个数据集上的实验结果表明，所提算法JLSMKC在聚类精度(ACC)、标准互信息(NMI)和纯度(Purity)上优于5种流行的多核聚类算法，同时减少了聚类时间，提高了关系图块对角质量。该算法在聚类性能上有较大优势。     

改进稀疏表示算法在人脸识别中的应用

人脸识别的主要难度在于，受到光照变化、表情变化以及遮挡的影响，会使得采集的不同人的人脸图像具有相似性。为有效解决基于稀疏表示的分类算法（Sparse Representation-based Classification，SRC）在人脸训练样本不足时会导致识别率降低和稀疏表示求解效率较低的问题，提出了基于判别性低秩分解与快速稀疏表示分类（Low Rank Recovery Fast Sparse Representation-based Classification，LRR_FSRC）的人脸识别算法。利用低秩分解理论得到低秩恢复字典以及稀疏误差字典，结合低秩分解和结构不相干理论，训练出判别性低秩类字典和稀疏误差字典，并把它们结合作为测试时所用的字典；用坐标下降法来求解稀疏系数以提高了计算效率；根据重构误差实现测试样本的分类。在YALE和ORL数据库上的实验结果表明，提出的基于LRR_FSRC的人脸识别方法具有较高的识别率和计算效率。     

基于低秩矩阵二元分解的快速显著性目标检测算法

近年来,基于矩阵低秩表示模型的图像显著性目标检测受到了广泛关注。在传统模型中通常对秩最小化问题进行凸松弛,即引入最小化核范数将原始输入图像分解为低秩矩阵和稀疏矩阵。但是,这种方法在每次迭代中必须执行矩阵奇异值分解（SVD）,计算复杂度较高。为此,本文提出了一种低秩矩阵双因子分解和结构化稀疏矩阵分解联合优化模型,并应用于显著性目标检测。算法不仅利用低秩矩阵双因子分解和交替方向法（ADM）来降低时间开销,而且引入分层稀疏正则化刻画稀疏矩阵中元素之间的空间关系。此外,所提算法能够无缝集成高层先验知识指导矩阵分解过程。实验结果表明,提出模型和算法的检测性能优于当前主流无监督显著性目标检测算法,且具有较低的时间复杂度。     

Discriminative low-rank preserving projection for dimensionality reduction

As an effective image clustering tool, low-rank representation (LRR) can capture the intrinsic representation of the observed samples. However, firstly, the good representation does not mean good classification performance. Secondly, no projection matrix is obtained in the training stage, and it cannot deal with the new samples. By incorporating the discriminant analysis and the local neighborhood relationship of the original samples into the low-rank representation, a novel discriminative low-rank preserving projection (DLRPP) algorithm is presented for dimensionality reduction. In DLRPP, the global structure information can be captured by LRR, and the local geometricinformation is simultaneously preserved by the manifold regularization term. The constrained term is induced by the adaptive graph, which is obtained by low-rank representation coefficients. In addition, by introducing discriminant analysis constraint term, DLRPP can learn an optimal projection matrix for data dimensionality reduction. The numerous experiments on six public image datasets prove that the proposed DLRPP can obtain better recognition accuracy compared with the state-of-the-art feature extraction methods.