低秩矩阵恢复算法综述

将鲁棒主成分分析、矩阵补全和低秩表示统称为低秩矩阵恢复,并对近年来出现的低秩矩阵恢复算法进行了简要的综述。讨论了鲁棒主成分分析的各种优化模型及相应的迭代算法,分析了矩阵补全问题及求解它的不精确增广拉格朗日乘子算法,介绍了低秩表示的优化模型及求解算法。最后指出了有待进一步研究的问题。     

A Mixture of Nuclear Norm and Matrix Factorization for Tensor Completion

In this paper, we propose a mixture model for tensor completion by combining the nuclear norm with the low-rank matrix factorization. To solve this model, we develop two algorithms: non-smooth low-rank tensor completion (NS-LRTC), smooth low-rank tensor completion (S-LRTC). When the sampling rate (SR) is high, our experiments on real-world data show that the NS-LRTC algorithm outperforms other tested methods in running time and recovery quality. In addition, whatever the SR is, the proposed S-LRTC algorithm delivers state-of-art recovery performance compared with other tested approaches. Although the objective function in our model is non-convex and non-differentiable, we prove that every cluster point of the sequence generated by NS-LRTC or S-LRTC is a stationary point.     

加权低秩矩阵恢复的混合噪声图像去噪

传统的基于低秩矩阵恢复的图像去噪算法只对低秩部分进行约束,当高斯噪声过大时,会导致去噪不充分或细节严重丢失。针对此问题,提出了一种新的鲁棒的图像去噪模型。该模型在原有的低秩矩阵核范数约束的基础上引入高斯噪声约束项,此外为了提高低秩矩阵的低秩性和稀疏矩阵的稀疏性,引入了加权的方法。为了考察方法的去噪能力,选取了不同参数类型的混合噪声图像进行仿真,并结合峰值信噪比、结构相似度评价标准与传统的基于低秩矩阵恢复的图像去噪算法进行对比。实验结果表明,加权低秩矩阵恢复的混合噪声图像去噪算法能增加低秩矩阵的低秩性和稀疏矩阵的稀疏性,在保证去噪效果的同时,保留了图像的细节信息,具有更佳的视觉效果,同时,客观评价指标均有所提高。     

Exact Low-Rank Matrix Completion from Sparsely Corrupted Entries Via Adaptive Outlier Pursuit

Recovering a low-rank matrix from some of its linear measurements is a popular problem in many areas of science and engineering. One special case of it is the matrix completion problem, where we need to reconstruct a low-rank matrix from incomplete samples of its entries. A lot of efficient algorithms have been proposed to solve this problem and they perform well when Gaussian noise with a small variance is added to the given data. But they can not deal with the sparse random-valued noise in the measurements. In this paper, we propose a robust method for recovering the low-rank matrix with adaptive outlier pursuit when part of the measurements are damaged by outliers. This method will detect the positions where the data is completely ruined and recover the matrix using correct measurements. Numerical experiments show the accuracy of noise detection and high performance of matrix completion for our algorithms compared with other algorithms.     

结合稀疏先验与多模式分解的低秩张量恢复方法

目的 各类终端设备获取的大量数据往往由于信息丢失而导致数据不完整,或经常受到降质问题的困扰。为有效恢复缺损或降质数据,低秩张量补全备受关注。张量分解可有效挖掘张量数据的内在特征,但传统分解方法诱导的张量秩函数无法探索张量不同模式之间的相关性;另外,传统张量补全方法通常将全变分约束施加于整体张量数据,无法充分利用张量低维子空间的平滑先验。为解决以上两个问题,提出了基于稀疏先验与多模式张量分解的低秩张量恢复方法。方法 在张量秩最小化模型基础上,融入多模式张量分解技术以及分解因子局部稀疏性。首先对原始张量施加核范数约束,以此捕获张量的全局低秩性,然后,利用多模式张量分解将整体张量沿着每个模式分解为一组低维张量和一组因子矩阵,以探索不同模式之间的相关性,对因子矩阵施加因子梯度稀疏正则化约束,探索张量子空间的局部稀疏性,进一步提高张量恢复性能。结果 在高光谱图像、多光谱图像、YUV（也称为YCbCr）视频和医学影像数据上,将本文方法与其他8种修复方法在3种丢失率下进行定量及定性比较。在恢复4种类型张量数据方面,本文方法与深度学习GP-WLRR方法（global prior refined weighted low-rank representation）的修复效果基本持平,本文方法的MPSNR（mean peak signal-to-noise ratio）在所有丢失率及张量数据上的总体平均高0.68dB,MSSIM（mean structural similarity）总体平均高0.01;与其他6种张量建模方法相比,本文方法的MPSNR及MSSIM均取得最优结果。结论 提出的基于稀疏先验与多模式张量分解的低秩张量恢复方法,可同时利用张量的全局低秩性与局部稀疏性,能够对受损的多维视觉数据进行有效修复。     

求解低秩矩阵融合高动态范围图像

目的 利用低秩矩阵恢复方法可从稀疏噪声污染的数据矩阵中提取出对齐且线性相关低秩图像的优点,提出一种新的基于低秩矩阵恢复理论的多曝光高动态范围（HDR）图像融合的方法,以提高HDR图像融合技术的抗噪声与去伪影的性能。方法 以部分奇异值（PSSV）作为优化目标函数,可构建通用的多曝光低动态范围（LDR）图像序列的HDR图像融合低秩数学模型。然后利用精确增广拉格朗日乘子法,求解输入的多曝光LDR图像序列的低秩矩阵,并借助交替方向乘子法对求解算法进行优化,对不同的奇异值设置自适应的惩罚因子,使得最优解尽量集中在最大奇异值的空间,从而得到对齐无噪声的场景完整光照信息,即HDR图像。结果 本文求解方法具有较好的收敛性,抗噪性能优于鲁棒主成分分析（RPCA）与PSSV方法,且能适用于多曝光LDR图像数据集较少的场合。通过对经典的Memorial Church与Arch多曝光LDR图像序列的HDR图像融合仿真结果表明,本文方法对噪声与伪影的抑制效果较为明显,图像细节丰富,基于感知一致性（PU）映射的峰值信噪比（PSNR）与结构相似度（SSIM）指标均优于对比方法：对于无噪声的Memorial Church图像序列,RPCA方法的PSNR、SSIM值分别为28.117 dB与0.935,而PSSV方法的分别为30.557 dB与0.959,本文方法的分别为32.550 dB与0.968。当为该图像序列添加均匀噪声后,RPCA方法的PSNR、SSIM值为28.115 dB与0.935,而PSSV方法的分别为30.579 dB与0.959,本文方法的为32.562 dB与0.967。结论 本文方法将多曝光HDR图像融合问题与低秩最优化理论结合,不仅可以在较少的数据量情况下以较低重构误差获取到HDR图像,还能有效去除动态场景伪影与噪声的干扰,提高融合图像的质量,具有更好的鲁棒性,适用于需要记录场景真实光线变化的场合。     

Texture Repairing by Unified Low Rank Optimization

In this paper, we show how to harness both low-rank and sparse structures in regular or near-regular textures for image completion. Our method is based on a unified formulation for both random and contiguous corruption. In addition to the low rank property of texture, the algorithm also uses the sparse assumption of the natural image: because the natural image is piecewise smooth, it is sparse in certain transformed domain (such as Fourier or wavelet transform). We combine low-rank and sparsity properties of the texture image together in the proposed algorithm. Our algorithm based on convex optimization can automatically and correctly repair the global structure of a corrupted texture, even without precise information about the regions to be completed. This algorithm integrates texture rectification and repairing into one optimization problem. Through extensive simulations, we show our method can complete and repair textures corrupted by errors with both random and contiguous supports better than existing low-rank matrix recovery methods. Our method demonstrates significant advantage over local patch based texture synthesis techniques in dealing with large corruption, non-uniform texture, and large perspective deformation.     

Low-rank image completion with entropy features

In this paper, we propose a novel method to complete the images or textures with the property of low rank. Our method leverages saliency detection with two entropy features to estimate initial corrupted regions. Then an iterative optimization model for low-rank and sparse errors recovery is designed to complete the corrupted images. Our iterative model can improve the initial corrupted regions and generate accurate and continuous corrupted regions via fully connected CRFs. By introducing a F-norm term in our model to absorb small noise, we can generate completed images which are more precise and have lower rank. Experiments indicate that our method introduces less local distortions than example-based methods for images with regular structures. It is also superior to the previous low-rank image completion method especially when the images contain low-rank corrupted regions. Furthermore, we show that the entropy features benefit the existing saliency detection methods too.     

基于结构化低秩恢复的鲁棒人脸识别算法

由于数据本身的自表示特性，当给定一个字典时，同类样本理论上具有相似的线性表示，所以所有样本的表示矩阵具有块对角结构。但在由于样本中存在的各种污损，数据子空间结构可能会被破坏。为了解决这一问题，很多基于低秩表示的恢复算法相继提出，但是仅有对表示的低秩约束并不能很好地将原始训练样本转化到理想的低秩子空间。因此，提出了一个鲁棒的结构化低秩恢复算法（Robust Structured Low-Rank Recovery，RSLRR）。RSLRR利用理想的标签矩约束阵促进低秩表示趋近于块对角结构，以此挖掘更多的潜在结构信息。同时，为了减少严格的趋近0-1标签矩阵造成的结构信息损失，RSLRR增加了一个正则化项用来减弱非块对角系数的负面影响。通过RSLRR算法可以得到一个判别的结构化字典，并可计算出一个低秩投影矩阵将所有测试样本有效的投影到其相应的低秩子空间。在AR和CMU PIE数据库上的实验结果验证了RSLRR算法的有效性和鲁棒性。     

非凸加权核范数及其在运动目标检测中的应用

目的 近年来,低秩矩阵分解被越来越多的应用到运动目标检测中。但该类方法一般将矩阵秩函数松弛为矩阵核函数优化,导致背景恢复精度不高;并且没有考虑到前景目标的先验知识,即区域连续性。为此提出一种结合非凸加权核范数和前景目标区域连续性的目标检测算法。方法 本文提出的运动目标检测模型以鲁棒主成分分析(RPCA)作为基础,在该基础上采用矩阵非凸核范数取代传统的核范数逼近矩阵低秩约束,并结合了前景目标区域连续性的先验知识。该方法恢复出的低秩矩阵即为背景图像矩阵,而稀疏大噪声矩阵则是前景目标位置矩阵。结果 无论是在仿真数据集还是在真实数据集上,本文方法都能够取得比其他低秩类方法更好的效果。在不同数据集上,该方法相对于RPCA方法,前景目标检测性能提升25%左右,背景恢复误差降低0.5左右;而相对于DECOLOR方法,前景目标检测性能提升约2%左右,背景恢复误差降低0.2左右。结论 矩阵秩函数的非凸松弛能够比凸松弛更准确的表征出低秩特征,从而在运动目标检测应用中更准确的恢复出背景。前景目标的区域连续性先验知识能够有效地过滤掉非目标大噪声产生的影响,使得较运动目标检测的精度得到大幅提高。因此,本文方法在动态纹理背景、光照渐变等较复杂场景中均能够较精确地检测出运动目标区域。但由于区域连续性的要求,本文方法对于小区域多目标的检测效果不甚理想。     

基于低秩表示与矩阵填充的人脸识别方法

基于回归分析的人脸识别方法在处理不完备数据矩阵时,先对矩阵进行填充,再使用人脸识别方法,因此会降低分类性能.为了更有效地执行关于不完备数据的识别,文中将低秩矩阵填充和低秩表示学习整合在同一个模型,提出基于低秩表示和低秩矩阵填充的人脸识别方法.通过最小化表示系数和矩阵秩交替计算样本低秩表示系数矩阵和恢复矩阵缺失项,再使用最近邻分类器实现分类.在一些公开人脸数据集上的实验表明,在训练样本矩阵元素随机缺失时,文中方法可以有效提高识别精度及降低填充误差.     

A nonconvex nonsmooth regularization method for compressed sensing and low rank matrix completion

In this paper, a nonconvex and nonsmooth method for compressed sensing and low-rank matrix completion is studied. The proposed model is formulated as nonconvex regularized least square optimization problem. At first, an alternating minimization scheme is developed in which the problem can be decomposed into three subproblems, two of them are convex and the remaining one is smooth. Then, the convergence of the sequence which is generated by the alternating minimization algorithm is proved. In addition, some recovery guarantees are also analyzed. Finally, various numerical simulations are performed to test the efficiency of the method.     

针对混合污染的结构化鲁棒低秩恢复算法在人脸识别中的应用

传统的低秩恢复算法在识别有混合污染的人脸图像时,通常只对污染部分进行一种类型的约束,并不能很好地恢复出干净的样本。针对这种情况,提出结构化鲁棒低秩恢复算法（structured and robust low-rank recovery for mixed contamination,SRLRR）。SRLRR算法利用对二维误差图像的低秩约束移除样本中的连续污染部分,同时利用稀疏约束分离样本中服从拉普拉斯分布的噪声。另外,为了学习到更具有鉴别性的低秩表示,该算法对表示系数进行了块对角结构化约束。在三个常用数据库上的实验证明了SRLRR算法的有效性和鲁棒性。     

基于非凸低秩分解判别的叠加线性稀疏人脸识别

目的 针对因采集的人脸图像样本受到污染而严重干扰人脸识别及训练样本较少（小样本）时会由于错误的稀疏系数导致性能急剧下降从而影响人脸识别的问题,提出了一种基于判别性非凸低秩矩阵分解的叠加线性稀疏表示算法。方法 首先由γ范数取代传统核范数,克服了传统低秩矩阵分解方法求解核范数时因矩阵奇异值倍数缩放导致的识别误差问题;然后引入结构不相干判别项,以增加不同类低秩字典间的非相干性,达到抑制类内变化和去除类间相关性的目的;最后利用叠加线性稀疏表示方法完成分类。结果 所提算法在AR人脸库中的识别率达到了98.67±0.57%,高于SRC（sparse representation-based classification）、ESRC（extended SRC）、RPCA（robust principal component analysis）+SRC、LRSI（low rank matrix decomposition with structural incoherence）、SLRC（superposed linear representation based classification）-l₁等算法;同时,遮挡实验表明,算法对遮挡图像具有更好的鲁棒性,在不同遮挡比例下,相比其他算法均有更高的识别率。在CMU PIE人脸库中,对无遮挡图像添加0、10%、20%、30%、40%的椒盐噪声,算法识别率分别达到90.1%、85.5%、77.8%、65.3%和46.1%,均高于其他算法。结论 不同人脸库、不同比例遮挡和噪声的实验结果表明,所提算法针对人脸遮挡、表情和光照等噪声因素依然保持较高的识别率,鲁棒性更好。     

Accelerated low rank matrix approximate algorithms for matrix completion

In this paper, we propose two accelerated algorithms for the low-rank approximate method in Wang et al. (0000) for matrix completion. The main idea is to use the successive over-relaxation technique. Based on the successive over-relaxation method for the feasible matrices or projection matrices, the low-rank matrix approximate method is modified and accelerated. Meanwhile, we discuss the convergence of the over-relaxation algorithm for the feasible matrix. Finally, the numerical experiments show them to be effective.     

自适应图正则化的低秩非负矩阵分解算法

图正则化(nonnegative matrix factorization,NMF)算法(graph regularization nonnegative matrix factorization,GNMF)仍存在一些不足之处:GNMF算法并没有考虑数据的低秩结构;在GNMF算法中,其拉普拉斯图是使用K近邻(K nea...     

融合块对角约束的鲁棒低秩多核聚类

针对现有的多核学习(multiple kernel learning, MKL)子空间聚类方法忽略噪声和特征空间中数据的低秩结构问题,提出一种新的鲁棒多核子空间聚类方法(low-rank robust multiple kernel clustering, LRMKC),该方法结合块对角表示(block diagonal representation, BDR)与低秩共识核(low-rank consensus kernel, LRCK)学习,可以更好地挖掘数据的潜在结构.为了学习最优共识核,设计一种基于混合相关熵度量(mixture correntropy induced metric,MCIM)的自动加权策略,其不仅为每个核设置最优权重,而且通过抑制噪声提高模型的鲁棒性;为了探索特征空间数据的低秩结构,提出一种非凸低秩共识核学习方法;考虑到亲和度矩阵的块对角性质,对系数矩阵应用块对角约束. LRMKC将MKL、LRCK与BDR巧妙融合,以迭代提高各种方法的效率,最终形成一个处理非线性结构数据的全局优化方法.与最先进的MKL子空间聚类方法相比,通过在图像和文本数据集上的大量实验验证了...     

基于低秩矩阵恢复的DOA稀疏重构方法

为提高非均匀噪声下波达方向（direction of arrival,DOA）角估计算法的估计精度和分辨率,基于低秩矩阵恢复理论,提出了一种二阶统计量域下的加权L1稀疏重构DOA估计算法。该算法基于低秩矩阵恢复方法,引入弹性正则化因子将接收信号协方差矩阵重构问题转换为可获得高效求解的半定规划（semidefinite programming,SDP）问题以重构无噪声协方差矩阵;而后在二阶统计量域下利用稀疏重构加权L1范数实现DOA参数估计。数值仿真表明,与传统MUSIC、L1-SVD及加权L1算法相比,所提算法能显著抑制非均匀噪声影响,具有较好的DOA参数估计性能,且在低信噪比条件下,所提算法具有较高的角度分辨力和估计精度。     

基于FPGA的低秩矩阵恢复算法研究与应用

低秩矩阵恢复算法主要包括鲁棒主成分分析、矩阵补全、低秩表示,由于矩阵补全是一个NP难的问题,低秩表示涉及到字典矩阵,复杂度高,因此本文主要针对鲁棒主成分分析在FPGA上的研究与应用进行了描述,并且在CPU以及FPGA上实现了图像恢复.实验结果表明,基于FPGA的HLS设计相对于传统CPU在速度上得到了数十倍的提高.