结构正则化多视图非负矩阵分解

现存非负矩阵分解（non-negative matrix factorization,NMF）研究多考虑单一视图分解数据,忽略了数据信息的全面性。此外,NMF限制其获取数据的内在几何结构。针对以上问题,提出一个结构正则化多视图非负矩阵分解算法（structure regularized multi-view nonnegative matrix factorization,SRMNMF）。首先,通过主成分分析来对数据进行全局结构的判别式学习;其次,利用流形学习来捕获数据的局部结构;然后,通过利用多视图数据的多样性和差异性来学习表征。模型提升了算法聚类的整体性能,更加有效地挖掘数据的结构信息。此外,采用高效的交替迭代算法优化目标函数得到最优的因子矩阵。在六个数据集上与现存的代表性方法比较,所提出的SRMNMF的准确率、NMI和Purity分别最大提高4.4%、6.1%和4.05%。     

利用正则化矩阵分解技术的多视图聚类方法

为了解决具有多种特征属性的多媒体数据（多视图数据）挖掘问题,在非负矩阵分解（NMF）算法的基础上,提出了一种多视图正则化矩阵分解算法（MRMF）,该算法使用了多元非负矩阵分解技术,同时使用[L2,1]范数描述矩阵分解的损失函数,并采用多视图流形正则化对矩阵分解进行正则化约束。与现有的一些数据聚类或多视图聚类算法相比,提出的MRMF算法不易受到原始数据中噪声的影响,而且能够充分考虑到不同视图在聚类中所具有不同权重的问题,能够对多视图数据进行较为准确的聚类。MRMF算法的有效性在一些经典的公开数据集上进行了验证,并取得了较好的聚类精度。     

基于深度图正则化矩阵分解的多视图聚类算法

针对现实社会中由多种表示或视图组成的多视图数据广泛存在的问题,深度矩阵分解模型因其能够挖掘数据的层次信息而备受关注,但该模型忽略了数据的几何结构信息.为解决以上问题,本文提出基于深度图正则化矩阵分解的多视图聚类算法,通过获取每个视图的局部结构信息和全局结构信息在逐层分解中加入两个图正则化限制,保护多视图数据的几何结构信...     

基于流形正则化的非光滑非负矩阵分解

经典的非光滑非负矩阵分解方法只能发现数据中的全局统计信息,对于非线性分布数据无能为力,而流形学习方法在探索高维非线性数据集真实几何结构方面具有明显优势。鉴于此,基于流形正则化思想,提出了一种新颖的基于流形正则化的非光滑非负矩阵分解方法。该方法不仅考虑了数据的几何结构,而且对编码系数矩阵和基矩阵同时进行稀疏约束,并将它们整合于单个目标函数中。构造了一个有效的乘积更新算法,并在理论上证明了算法的收敛性。标准数据集上的实验表明了MRnsNMF的有效性。     

基于图正则化的半监督非负矩阵分解

提出了一种基于图正则化的半监督非负矩阵分解算法（GSNMF）,克服了非负矩阵分解（NMF）、约束非负矩阵分解（CNMF）和图正则化非负矩阵分解（GNMF）方法忽略样本数据的局部几何结构或标签信息不足的缺陷,且NMF、CNMF和GNMF均为GSNMF的特例。也从理论上证明了GSNMF算法的收敛性。该算法对样本数据进行低维非负分解时,在图框架下既保持数据的几何结构,又利用已知样本的标签信息,在进行半监督学习时,同类样本能更好地聚集而类间距离尽可能大。在人脸数据库ORL、FERET和手写体数据库USPS上的仿真结果表明,相对于NMF及其一些改进算法,GSNMF均具有更高的聚类精度。     

基于多视图矩阵分解的聚类分析

在计算机视觉和模式识别领域,随着多源信息越来越多,图像的描述方法也越来越丰富,多视图学习方法能更充分利用这种多源信息,进而提高聚类的准确率.因此,本文提出了两种基于多视图学习的方法：MultiGNMF和MultiGSemiNMF方法.该方法是在矩阵分解的基础之上,结合以往多视图学习的框架准则,并利用了样本的局部结构形成的.MultiGNMF和MultiGSemiNMF算法不仅能学习视图间的互补信息,同时能保持样本的空间结构.但是,MultiGNMF算法只适用于非负的特征矩阵.因此,考虑到SemiNMF算法相对于NMF算法具有更大的扩展性,结合多视图学习的框架,本文又提出了多视图学习的MultiGSemiNMF算法.实验结果证实了这两种方法有较好的性能.     

自适应图正则化的低秩非负矩阵分解算法

图正则化(nonnegative matrix factorization,NMF)算法(graph regularization nonnegative matrix factorization,GNMF)仍存在一些不足之处:GNMF算法并没有考虑数据的低秩结构;在GNMF算法中,其拉普拉斯图是使用K近邻(K nea...     

基于L21范式的多图正则化非负矩阵分解方法

针对非负矩阵分解方法对原始数据的单图约束导致的结果未知性大、满足需求单一,以及大多非负矩阵分解方法存在对噪声、离群点较敏感导致的稀疏度和鲁棒性较差等问题,提出基于L21范式的多图正则化非负矩阵分解方法.采用L21范式,提升分解结果的稀疏度和鲁棒性.构建多图约束的算法模型更好地保持数据的流形结构.构建目标函数并给出乘性迭...     

基于干净数据的流形正则化非负矩阵分解

现有的非负矩阵分解（NMF）算法往往基于欧氏距离来设计目标函数,对噪声比较敏感。为了增强算法的鲁棒性,提出一种基于干净数据的流形正则化非负矩阵分解（MRNMF/CD）算法。在MRNMF/CD算法中,把低秩约束、流形正则化和NMF技术无缝地融为一体,使算法性能较为优异。首先,通过添加低秩约束,MRNMF/CD可以从噪声数据中恢复干净数据,并获得数据的全局结构;其次,为了利用数据的局部几何结构信息,MRNMF/CD把流形正则化融入目标函数中。此外,还提出了一种求解MRNMF/CD的迭代算法,并从理论上分析了该求解算法的收敛性。在ORL、Yale和COIL20数据集上的实验结果表明,MRNMF/CD算法比现有的k-means、主成分分析（PCA）、NMF和图正则化非负矩阵分解（GNMF）算法具有更好的识别准确性。     

Non-negative Matrix Factorization with Symmetric Manifold Regularization

Non-negative matrix factorization (NMF) is becoming an important tool for information retrieval and pattern recognition. However, in the applications of image decomposition, it is not enough to discover the intrinsic geometrical structure of the observation samples by only considering the similarity of different images. In this paper, symmetric manifold regularized objective functions are proposed to develop NMF based learning algorithms (called SMNMF), which explore both the global and local features of the manifold structures for image clustering and at the same time improve the convergence of the graph regularized NMF algorithms. For different initializations, simulations are utilized to confirm the theoretical results obtained in the convergence analysis of the new algorithms. Experimental results on COIL20, ORL, and JAFFE data sets demonstrate the clustering effectiveness of the proposed algorithms by comparing with the state-of-the-art algorithms.

     

一种增量式非负矩阵分解算法

针对现有的非负矩阵分解算法在应用于问题规模逐渐增大的情形时,运算规模随之增大、空间和时间效率不高的情况,提出一种增量式非负矩阵分解算法,使用分块矩阵的思想降低运算规模,利用上一步的分解结果参与运算从而避免重复运算。实验结果表明,该算法对节约计算资源是有效的。     

基于非负矩阵分解的隐私保护协同过滤算法

提出一种基于非负矩阵分解的隐私保护协同过滤推荐算法．该算法在用户数据收集过程中采用随机扰动技术,并使用非负矩阵分解对数据进行处理,从而形成隐私保护功能,并在此基础上产生推荐．理论分析和实验结果表明,该算法在保护用户个人隐私的基础上,能够产生具有一定精确性的推荐结果.     

基于Coclus联合聚类与非负矩阵分解的推荐算法

当前推荐系统多数存在推荐准确性低、受稀疏性影响大且稳定性差的问题,因此,在Coclus聚类算法的基础上,提出一种评分矩阵与联合聚类的推荐算法。通过Coclus联合聚类,利用图模块度最大化理论分别将评分矩阵的行与列分成g类,经过行列变换形成g×g个低秩评分子矩阵,并对低秩评分子矩阵进行矩阵分解,填充缺失值,以提高推荐质量,在矩阵分解阶段采用改进的非负矩阵分解算法,通过引入L1、L2范数分别提高特征值选择能力和防止模型过拟合,并利用坐标轴下降的迭代算法进行参数更新。实验结果表明,与基线算法相比,该算法具有较高的推荐准确率,且稳定性较强。     

基于Hessian矩阵范数正则化方法的共聚焦图像复原

对于泊松噪声污染下的模糊共聚焦图像复原问题,为解决传统方法中存在的阶梯效应,提出了一种基于Hessian矩阵范数的正则化方法.在泊松概率模型的基础上,该方法引入Hessian矩阵范数作为正则条件,并应用交替方向乘子法和梯度投影方法求解最优化模型.在激光扫描共聚焦显微镜实验中,所获得的复原图像质量优于传统方法,此结果证明了该方法可以有效地复原泊松噪声污染下的模糊共聚焦图像.     

采用增量型非负矩阵分解建模的目标跟踪算法

建立鲁棒的外观模型是目标跟踪中的关键问题,为此提出一种基于增量型非负矩阵分解的目标跟踪算法.首先根据转移概率模型在当前帧中预测得到一组图像样本;随后利用非负矩阵分解获取样本在子空间中的坐标向量;在此基础上计算样本与前一帧视频中目标图像在低维坐标向量上的相关性,以具有最大相关性的图像样本作为目标在当前帧中的图像区域;最后以增量的方式完成子空间的在线更新,提高了外观模型的更新效率,且所要求的存储空间大小恒定.实验结果表明,该算法对目标物的外观变化具有良好的自适应性,能够在视频序列中对目标进行稳定的跟踪.     

基于邻近交替线性化的稀疏非负矩阵分解算法

结合稀疏约束与邻近交替线性化(PALM),提出稀疏非负矩阵分解算法(SNMF_PALM)。将非凸的平滑剪切绝对偏差函数作为稀疏正则项,获得逼近L0范数的最佳凸松弛,并利用PALM算法对非凸问题进行求解,得到SNMF_PALM算法的局部稳定最优解。在人脸数据库上将SNMF_PALM算法与SNMF、NMF算法进行实验对比,结果表明SNMF_PALM算法具有更好的聚类性能。     

Max-margin Non-negative Matrix Factorization

In this paper we introduce a supervised, maximum margin framework for linear and non-linear Non-negative Matrix Factorization. By contrast to existing methods in which the matrix factorization phase (i.e. the feature extraction phase) and the classification phase are separated, we incorporate the maximum margin classification constraints within the NMF formulation. This results to a non-convex constrained optimization problem with respect to the bases and the separating hyperplane, which we solve following a block coordinate descent iterative optimization procedure. At each iteration a set of convex (constrained quadratic or Support Vector Machine-type) sub-problems are solved with respect to subsets of the unknown variables. By doing so, we obtain a bases matrix that maximizes the margin of the classifier in the low dimensional space (in the linear case) or in the high dimensional feature space (in the non-linear case). The proposed algorithms are evaluated on several computer vision problems such as pedestrian detection, image retrieval, facial expression recognition and action recognition where they are shown to consistently outperform schemes that extract features using bases that are learned using semi-NMF and classify them using an SVM classifier.     

基于NMF的文本聚类方法

提出一种基于非负矩阵分解的文本聚类方法。该方法利用NMF分解项-文本矩阵来降低特征空间维数,并得到文本向量在概念空间上的表示,在此基础上应用聚类算法。实验表明,基于NMF的文本聚类方法能够提高文本聚类精度。     

基于非负矩阵分解的用户话题兴趣度算法

Web媒体被公认为继报纸、广播、电视之后的“第四媒体”.而Web2.0的迅速普及,又使当今的Web媒体呈现了一种“自媒体”形式,即每个用户既是信息的接受者,也是信息发布者和信息转发者,在信息传递过程中,用户与用户互动,影响信息传播的进程.用户本身的特性对于传播有很大影响,信息传播依赖于用户个体的行为模式.因此,需要对用户和传播话题之间的关系进行建模,来度量用户对某个话题的感兴趣程度.论文提出了有效的算法来对用户进行感兴趣的话题推荐,该算法基于非负矩阵分解理论,分析用户发表过的内容,将用户感兴趣的话题推荐给该用户.该文针对研究小组下载的真实数据集-科学网数据集进行实验分析,实验结果表明算法能够有效地将用户感兴趣的话题推荐给用户.