牛顿-软阈值迭代鲁棒主成分分析算法

针对鲁棒主成分分析（RPCA）问题，为了降低RPCA算法的时间复杂度，提出了牛顿-软阈值迭代（NSTI）算法。首先，使用低秩矩阵的Frobenius范数与稀疏矩阵的l₁-范数的和来构造NSTI算法的模型；其次，同时使用两种不同的优化方式求解模型的不同部分，即用牛顿法快速计算出低秩矩阵，用软阈值迭代算法快速计算出稀疏矩阵，交替使用这两种方法计算出原数据的低秩矩阵和稀疏矩阵的分解；最后，得到原始数据的低秩特征。在数据规模为5 000×5 000，低秩矩阵的秩为20的情况下，NSTI算法和梯度下降（GD）算法、低秩矩阵拟合（LMaFit）算法相比，时间效率分别提高了24.6%、45.5%。对180帧的视频前景背景进行分离，NSTI耗时3.63 s，时间效率比GD算法、LMaFit算法分别高78.7%、82.1%。图像降噪实验中，NSTI算法耗时0.244 s，所得到的降噪后的图像与原始图像的残差为0.381 3，与GD算法、LMaFit算法相比，时间效率和精确度分别提高了64.3%和45.3%。实验结果证明，NSTI算法能够有效解决RPCA问题并提升RPCA算法的时间效率。     

Iterative Grassmannian optimization for robust image alignment

Robust high-dimensional data processing has witnessed an exciting development in recent years. Theoretical results have shown that it is possible using convex programming to optimize data fit to a low-rank component plus a sparse outlier component. This problem is also known as robust PCA, and it has found application in many areas of computer vision. In image and video processing and face recognition, the opportunity to process massive image databases is emerging as people upload photo and video data online in unprecedented volumes. However, data quality and consistency is not controlled in any way, and the massiveness of the data poses a serious computational challenge. In this paper we present t-GRASTA, or “Transformed GRASTA (Grassmannian robust adaptive subspace tracking algorithm)”. t-GRASTA iteratively performs incremental gradient descent constrained to the Grassmann manifold of subspaces in order to simultaneously estimate three components of a decomposition of a collection of images: a low-rank subspace, a sparse part of occlusions and foreground objects, and a transformation such as rotation or translation of the image. We show that t-GRASTA is 4 × faster than state-of-the-art algorithms, has half the memory requirement, and can achieve alignment for face images as well as jittered camera surveillance images.     

牛顿-软阈值迭代鲁棒主成分分析算法

针对鲁棒主成分分析（RPCA）问题,为了降低RPCA算法的时间复杂度,提出了牛顿-软阈值迭代（NSTI）算法。首先,使用低秩矩阵的Frobenius范数与稀疏矩阵的l₁-范数的和来构造NSTI算法的模型;其次,同时使用两种不同的优化方式求解模型的不同部分,即用牛顿法快速计算出低秩矩阵,用软阈值迭代算法快速计算出稀疏矩阵,交替使用这两种方法计算出原数据的低秩矩阵和稀疏矩阵的分解;最后,得到原始数据的低秩特征。在数据规模为5 000×5 000,低秩矩阵的秩为20的情况下,NSTI算法和梯度下降（GD）算法、低秩矩阵拟合（LMaFit）算法相比,时间效率分别提高了24.6%、45.5%。对180帧的视频前景背景进行分离,NSTI耗时3.63 s,时间效率比GD算法、LMaFit算法分别高78.7%、82.1%。图像降噪实验中,NSTI算法耗时0.244 s,所得到的降噪后的图像与原始图像的残差为0.381 3,与GD算法、LMaFit算法相比,时间效率和精确度分别提高了64.3%和45.3%。实验结果证明,NSTI算法能够有效解决RPCA问题并提升RPCA算法的时间效率。     

基于运动和亮度显著性的森林烟雾分割方法

本文提出了一种基于运动和亮度显著性检测的烟雾区域分割方法,目的是解决传统的运动检测方法对于树叶抖动、摄像机抖动等不显著的运动区域比较敏感的问题.采用低秩结构化稀疏分解方法提取前景区域,然后计算烟雾的显著性,以便进一步分离.我们提出一种基于自适应参数的群稀疏鲁棒标准正交子空间学习(ROSL)的显著性测量方法.实验表明,该...     

基于低秩稀疏分解的自适应运动目标检测算法

传统的低秩稀疏分解方法使用[l1]范数把场景中的运动目标建模为稀疏离群值,分离出低秩的背景成分与稀疏的运动目标成分。然而,在许多实际场景中往往会有动态背景的情形（例如水面波纹、树木摇动）,[l1]范数并不能区分出这些干扰与真实目标,从而大大影响检测效果。实际上,运动目标区域中的像素不仅仅具有稀疏性,还具有空间分布上的连续性。通过引入空间融合稀疏约束,在空间连续性和稀疏性两方面对运动目标进行建模,使模型更符合目标像素的分布规律。同时,设计了一种自适应的参数更新方法,使算法的鲁棒性进一步提升。在公共数据集上的大量实验表明,相比于传统方法,该算法在准确率和鲁棒性方法有很大提高。     

压缩感知观测信号的低秩稀疏分解

低秩稀疏分解是可应用于视频监控的一种视频分析方法,与满足Nyquist定理的采样信号相比,压缩感知观测信号的低秩稀疏分解难度更大。借鉴在低秩稀疏分解时将信号投影到其低秩部分的正交空间方法,提出先压缩观测再投影与先投影再压缩观测两种不同的压缩观测与投影方法,推导出每种方法的投影与压缩观测合并算子,分别对稀疏前景与低秩背景进行压缩感知重构,实现时变稀疏信号压缩观测的低秩稀疏分解。由于背景的缓慢变化会使低秩矩阵的正交空间发生改变,应用结构相似度来判断相邻帧低秩矩阵的变化情况,并估计该正交空间是否需要更新。实验结果表明,与SpaRcs方法相比,该方法能够在较低的压缩采样率下实现更精确的信号低秩背景与稀疏前景的直接分离重构,每帧图像压缩感知重构结果的峰值信噪比最多能够提高2 dB左右。     

Change detection in SAR images based on matrix factorisation and a Bayes classifier

Change detection in synthetic aperture radar (SAR) images can be made as a matrix factorisation model, and it can detect the changes based on the foreground information in the image. However, these methods cannot obtain satisfactory results in the change detection of SAR images because reliable background data are often not available. In this article, we propose a matrix factorisation model based on a naïve Bayes classifier to explore the low-rank and sparse information, and then detect the changes in SAR images. The factorisation model of the low-rank and sparse matrix extracts both background and foreground information from images. From the low-rank and sparse matrices, we can get the background and foreground information recovered, respectively. Then by computing the mean and variance matrix of the unchanged and changed region information, we will obtain the statistical features. The statistical features are then used to build a naïve Bayes classifier, which is used to distinguish the change detection results, and all of them are based on the acquired data distribution. The experiments, which are based on four real data sets, indicate that the approach gets a better performance than some other state-of-the-art algorithms.     

大气湍流下退化序列图像的目标检测方法

为解决大气湍流退化序列中运动目标检测困难的问题,提出了一种结合低秩分解和检测融合的目标检测方法。首先,根据退化视频中湍流运动分量的稀疏分布特点,采用低秩矩阵描述法将每帧图像分解为低秩稳像和稀疏运动两部分,初步实现场景和湍流运动的粗分离。其次,由于稀疏部分中包含目标在内的整个场景的稀疏运动量,引入自适应阈值法剔除干扰量,分割目标并填补其中空洞;对于无湍流偏移干扰的低秩部分,采用高斯建模获得低秩中的前景区域。最后,对两部分检测结果进行联合判定,从而获得准确的目标检测结果。实验表明,本文方法目标提取的准确度较高,明显优于当前经典检测方法,在强湍流条件下检测结果仍较为理想。     

基于RPCA的皮革图像缺陷检测

提出了一种皮革视觉缺陷检测算法.通过分析皮革图像的低秩特征,将皮革图像缺陷检测问题转变为从低秩背景图像中分离稀疏矩阵图像.首先采用Gaussian高通滤波器对图像进行了预处理,然后利用鲁棒性主成成分分析(RPCA)对图像进行低秩稀疏分解,并采用效率较高的非精确增广拉格朗日乘子法(IALM)求解.对分解后的稀疏图像进行了后处理,最终在二值图像中获得缺陷的形状和位置.该算法的效率及准确率已经在实验中进行了验证,并与现有算法进行了比较.实验表明,该算法可以用来检测各种不同种类和大小的缺陷,检测准确率高且能够提供完整的缺陷掩模.     

基于随机分块的稀疏子空间聚类方法

针对稀疏子空间聚类（SSC）方法聚类误差大的问题,提出了基于随机分块的SSC方法。首先,将原问题数据集随机分成几个子集,构建几个子问题;然后,采用交替方向乘子法（ADMM）分别求得几个子问题的系数矩阵,之后将几个系数矩阵扩充成与原问题一样大小的系数矩阵,并整合成一个系数矩阵;最后,根据整合得到的系数矩阵计算得到一个相似矩阵,并采用谱聚类（SC）算法获得原问题的聚类结果。相较于稀疏子空间聚类（SSC）、随机稀疏子空间聚类（S³COMP-C）、基于正交匹配追踪的稀疏子空间聚类（SSCOMP）、谱聚类（SC）和K均值（K-Means）算法中的最优算法,基于随机分块的SSC方法将子空间聚类误差平均降低了3.12个百分点,且其互信息、兰德指数和熵3个性能指标都明显优于对比算法。实验结果表明基于随机分块的SSC方法能降低子空间聚类误差,改善聚类性能。     

基于低秩分解的精细文本挖掘方法

全文检索等应用要求对文本进行精细表示。针对传统主题模型只能挖掘文本的主题背景,无法对文本的侧重点进行精细描述的问题,提出一种低秩稀疏文本表示模型,将文本表示分为低秩和稀疏两部分,低秩部分代表主题背景,稀疏部分则是对主题中不同方面的关键词描述。为了实现文本低秩部分和稀疏部分的分解,定义了主题矩阵,并引入鲁棒性主成分分析(PCA)方法进行矩阵分解。在新闻语料数据集上的实验结果表明,模型复杂度比隐含狄利克雷分配（LDA）模型降低了25%。在实际应用中,将模型所得的低秩部分应用于文本分类,分类所需的特征减少了28.7%,能用于特征集的降维;将稀疏部分应用于全文检索,检索结果精确度比LDA模型提高了10.8%,有助于检索结果命中率的优化。     

结构约束的对称低秩表示子空间聚类算法

通过子空间聚类可获得高维数据的潜在子空间结构,但现有算法不能同时揭示数据全局低秩结构和局部稀疏结构特性,致使聚类性能受限.提出一种结构约束的对称低秩表示算法用于子空间聚类.在目标函数中添加结构约束和对称约束来限制低秩表示解的结构,构造一个加权稀疏和对称低秩的亲和度图,在此基础上,结合谱聚类方法实现高效的子空间聚类.实验...     

联合低秩稀疏的多核子空间聚类算法

针对多核子空间谱聚类算法没有考虑噪声和关系图结构的问题，提出了一种新的联合低秩稀疏的多核子空间聚类算法(JLSMKC)。首先，通过联合低秩与稀疏表示进行子空间学习，使关系图具有低秩和稀疏结构属性；其次，建立鲁棒的多核低秩稀疏约束模型，用于减少噪声对关系图的影响和处理数据的非线性结构；最后，通过多核方法充分利用共识核矩阵来增强关系图质量。7个数据集上的实验结果表明，所提算法JLSMKC在聚类精度(ACC)、标准互信息(NMI)和纯度(Purity)上优于5种流行的多核聚类算法，同时减少了聚类时间，提高了关系图块对角质量。该算法在聚类性能上有较大优势。     

Variational Bayesian sparse additive matrix factorization

Principal component analysis (PCA) approximates a data matrix with a low-rank one by imposing sparsity on its singular values. Its robust variant can cope with spiky noise by introducing an element-wise sparse term. In this paper, we extend such sparse matrix learning methods, and propose a novel framework called sparse additive matrix factorization (SAMF). SAMF systematically induces various types of sparsity by a Bayesian regularization effect, called model-induced regularization. Although group LASSO also allows us to design arbitrary types of sparsity on a matrix, SAMF, which is based on the Bayesian framework, provides inference without any requirement for manual parameter tuning. We propose an efficient iterative algorithm called the mean update (MU) for the variational Bayesian approximation to SAMF, which gives the global optimal solution for a large subset of parameters in each step. We demonstrate the usefulness of our method on benchmark datasets and a foreground/background video separation problem.     

结构图正则低秩子空间聚类

针对结构稀疏子空间聚类中不能很好地保证相似度矩阵连接性的问题,给出了一个新的统一优化模型。首先,引入了表示系数矩阵的子空间结构范数,增加了低秩表示来揭示高维数据的全局结构。其次,为了使相似度矩阵具有类内统一,类间稀疏的作用,还定义了分组效应来捕获数据的内部几何结构,提出了结构图正则低秩子空间聚类模型。最后使用自适应惩罚的线性化交替法（LADMAP）来得到最优解。实验结果表明,该模型不但可以捕获数据的全局结构,而且还可以捕获数据的内在几何结构,迫使相关数据紧密结合,不相关数据松散分离,从而使得相似度矩阵与分割矩阵变得更加一致。     

不完全鲁棒主成分分析的正则化方法及其在背景建模中的应用

针对现有的鲁棒主成分分析(RPCA)方法忽略序列数据的连续性及不完整性的情况,提出了一种低秩矩阵恢复模型——正则化不完全鲁棒主成分分析(RIRPCA)。首先基于序列数据连续性的度量函数建立了RIRPCA模型,即最小化矩阵核范数、L₁范数和正则项的加权组合;然后使用增广拉格朗日乘子法来求解所提出的凸优化模型, 此算法具有良好的可扩展性和较低的计算复杂度;最后,将RIRPCA应用到视频背景建模中。实验结果表明,RIRPCA比矩阵补全和不完全RPCA等方法在恢复丢失元素和分离前景上具有优越性。     

结合低秩和结构化稀疏的大雾图像小目标检测

针对传统的低秩稀疏分解模型不能直接应用到单幅图像进行目标检测,且忽略了目标像素的空间结构性导致检测精度不高等问题,提出一种基于低秩和结构化稀疏的单幅大雾图像小目标检测算法。首先,对原始大雾图像进行预处理得到由局部子图像构成的大雾补片图像,将小目标检测问题转化为低秩和稀疏分解问题。然后,考虑到目标像素间的空间结构关系,在对大雾补片图像进行矩阵分解时,引入结构化稀疏诱导范数对目标进行约束。最后,将矩阵分解得到的补片图像进行后处理得到背景图像和目标图像。通过对单幅大雾图像实验仿真表明,所提算法确保了小目标检测的完整性并且提高了检测精度。     

L1范数约束正交子空间非负矩阵分解

针对非负矩阵分解（NMF）相对稀疏或局部化描述原数据时导致的稀疏能力和程度比较弱的问题,提出了L1范数约束正交子空间非负矩阵分解方法.通过将L1范数约束引入到正交子空间非负矩阵分解的目标函数中,提升了分解结果的稀疏性.同时给出累乘迭代规则.在UCI、ORL和Yale三个数据库上进行的实验结果表明,该算法在聚类效果以及稀疏表达方面优于其他算法.     

基于双重低秩分解的不完整多视图子空间学习

多视图数据在现实世界中应用广泛,各种视角和不同的传感器有助于更好的数据表示,然而,来自不同视图的数据具有较大的差异,尤其当多视图数据不完整时,可能导致训练效果较差甚至失败。为了解决该问题,本文提出了一个基于双重低秩分解的不完整多视图子空间学习算法。所提算法通过两方面来解决不完整多视图问题:一方面,基于双重低秩分解子空间框架,引入潜在因子来挖掘多视图数据中缺失的信息;另一方面,通过预先学习的多视图数据低维特征获得更好的鲁棒性,并以有监督的方式来指导双重低秩分解。实验结果证明,所提算法较之前的多视图子空间学习算法有明显优势;即使对于不完整的多视图数据,该算法也具有良好的分类性能。     

Rank–sparsity balanced representation for subspace clustering

Subspace learning has many applications such as motion segmentation and image recognition. The existing algorithms based on self-expressiveness of samples for subspace learning may suffer from the unsuitable balance between the rank and sparsity of the expressive matrix. In this paper, a new model is proposed that can balance the rank and sparsity well. This model adopts the log-determinant function to control the rank of solution. Meanwhile, the diagonals are penalized, rather than the strict zero-restriction on diagonals. This strategy makes the rank–sparsity balance more tunable. We furthermore give a new graph construction from the low-rank and sparse solution, which absorbs the advantages of the graph constructions in the sparse subspace clustering and the low-rank representation for further clustering. Numerical experiments show that the new method, named as RSBR, can significantly increase the accuracy of subspace clustering on the real-world data sets that we tested.