基于流形正则化的非光滑非负矩阵分解

经典的非光滑非负矩阵分解方法只能发现数据中的全局统计信息,对于非线性分布数据无能为力,而流形学习方法在探索高维非线性数据集真实几何结构方面具有明显优势。鉴于此,基于流形正则化思想,提出了一种新颖的基于流形正则化的非光滑非负矩阵分解方法。该方法不仅考虑了数据的几何结构,而且对编码系数矩阵和基矩阵同时进行稀疏约束,并将它们整合于单个目标函数中。构造了一个有效的乘积更新算法,并在理论上证明了算法的收敛性。标准数据集上的实验表明了MRnsNMF的有效性。     

基于双图正则的半监督NMF混合像元解混算法

在高光谱图像中混合像元普遍存在,这极大地阻碍了高光谱遥感技术的发展进程,因此,在利用光谱图像的过程中,如何准确高效地进行混合像元解混是一个关键问题。对于高光谱图像混合像元分解,使用原始的非负矩阵分解(Nonnegative Matrix Factorization,NMF)算法面临一些困难:首先,其目标函数为非凸函数,难以求解得到全局最优解;其次,混合像元中并不存在纯像元。为了解决这些问题,文中提出一种新的算法——基于双图正则的半监督NMF(Dual graph-regularized Constrained Nonnegative Matrix Factorization,DCNMF)混合像元解混算法。该算法采用了梯度下降法和迭代更新法则,既考虑了高光谱数据流形与光谱特征流形的几何结构,又能跳出局部极值,从而求解得到全局最优解。通过真实的高光谱图像数据仿真实验表明,DCNMF算法能够准确高效地进行混合像元分解,改善了解混效果,提高了解混精度,节约了计算时间,加快了收敛速度。     

加权小波和流形正则化的NMF融合的人脸识别

为了获取更充分的人脸特征信息以提高识别性能,应用加权小波变换和流形正则化非负矩阵分解的方法实现人脸识别。采用小波变换,提取训练样本人脸图像的加权高频分量和低频分量的特征信息;应用流形正则化非负矩阵分解方法,在保持人脸特征数据原始几何结构和局部特征的基础上获取最终的识别特征;利用最近邻方法进行分类识别。将该算法在ORL人脸库和YALE人脸库上进行测试验证,结果表明,与传统的非负矩阵分解方法相比,其识别率高出5%左右,且计算时间很低,说明该方法耗时短,效率高。     

稀疏约束图正则非负矩阵分解

非负矩阵分解(NMF)是在矩阵非负约束下的一种局部特征提取算法。为了提高识别率,提出了稀疏约束图正则非负矩阵分解方法。该方法不仅考虑数据的几何信息,而且对系数矩阵进行稀疏约束,并将它们整合于单个目标函数中。构造了一个有效的乘积更新算法,并且在理论上证明了该算法的收敛性。在ORL和MIT-CBCL人脸数据库上的实验表明了该算法的有效性。     

基于正则化方法的遥感图像混合像元分解

由于传感器的分辨率的限制,在低空间分辨率遥感图像中存在着大量的混合像元.混合像元所表示的并不是单一地面物体类别的光谱反射值,而是多种类别的反射光谱的组合.混合像元的混合模型可以分为线性混合模型和非线性混合模型.线性混合模型是最常用的一种解混合方法,对于线性混合模型的求解算法进行了研究,根据最小二乘原理,提出了基于正则化方法的线性混合模型求解算法,对实际遥感TM图像进行了解混合运算,求得了端元丰度图像和伪彩色合成图像.     

基于图正则化和稀疏约束的半监督非负矩阵分解

非负矩阵分解是在矩阵非负约束下的分解算法。为了提高识别率,提出了一种基于稀疏约束和图正则化的半监督非负矩阵分解方法。该方法对样本数据进行低维非负分解时,既保持数据的几何结构,又利用已知样本的标签信息进行半监督学习,而且对基矩阵施加稀疏性约束,最后将它们整合于单个目标函数中。构造了一个有效的更新算法,并且在理论上证明了该算法的收敛性。在多个人脸数据库上的仿真结果表明,相对于NMF、GNMF、CNMF等算法,GCNMFS具有更好的聚类精度和稀疏性。     

基于图正则化和稀疏约束的增量型非负矩阵分解

非负矩阵分解(Nonnegative Matrix Factorization,NMF)不仅可以很好地描述数据而且分解后的矩阵具有直观的物理意义。为了提高算法的有效性和识别率,提出了一种更为合理的算法——基于图正则化和稀疏约束的增量型非负矩阵分解(Graph Regularized and Incremental Nonnegative Matrix Factorization with Sparseness Constraints,GINMFSC)。该算法既保持了数据的几何结构,又充分利用上一步的分解结果进行增量学习,而且对系数矩阵施加了稀疏性约束,最后将它们整合于单个目标函数中,构造了一个有效的更新算法。在多个数据库上的仿真结果表明,相对于NMF,GNMF,INMF,IGNMF等算法,GINMFSC算法在降低运算时间的同时,还具有更好的聚类精度和稀疏性。     

端元约束下的高光谱混合像元非负矩阵分解

提出一种端元约束条件下的非负矩阵分解方法来自动反演混合像元组分。以端元光谱之间的差距为约束条件,使得目标函数综合了影像的分解误差和端元光谱的影响,并以最大后验概率方法导出了限制性非负矩阵分解的迭代算法。成像光谱数据实验结果表明该方法能够自动提取影像的端元光谱矩阵与组分信息,且分解精度比IEA方法高。     

基于干净数据的流形正则化非负矩阵分解

现有的非负矩阵分解（NMF）算法往往基于欧氏距离来设计目标函数,对噪声比较敏感。为了增强算法的鲁棒性,提出一种基于干净数据的流形正则化非负矩阵分解（MRNMF/CD）算法。在MRNMF/CD算法中,把低秩约束、流形正则化和NMF技术无缝地融为一体,使算法性能较为优异。首先,通过添加低秩约束,MRNMF/CD可以从噪声数据中恢复干净数据,并获得数据的全局结构;其次,为了利用数据的局部几何结构信息,MRNMF/CD把流形正则化融入目标函数中。此外,还提出了一种求解MRNMF/CD的迭代算法,并从理论上分析了该求解算法的收敛性。在ORL、Yale和COIL20数据集上的实验结果表明,MRNMF/CD算法比现有的k-means、主成分分析（PCA）、NMF和图正则化非负矩阵分解（GNMF）算法具有更好的识别准确性。     

基于稀疏和正交约束非负矩阵分解的高光谱解混

针对基于非负矩阵分解（NMF）的高光谱解混存在的容易陷入局部极小值和受初始值影响较大的问题，提出一种稀疏和正交约束相结合的NMF的线性解混算法SONMF。首先，从传统的基于NMF的高光谱线性解混方法出发，分析高光谱数据本身的理化特性；然后，结合丰度的稀疏性和端元的独立性两个方面，将稀疏非负矩阵分解（SNMF）和正交非负矩阵分解（ONMF）两种方法结合应用到高光谱解混当中。模拟数据和真实数据实验表明，相比顶点成分分析法（VCA）、SNMF和ONMF这三种参考解混算法，所提算法提高了线性解混的性能；其中，评价指标光谱角距离（SAD）降低了0.012~0.145。SONMF能够结合两种约束条件的优势，弥补传统基于NMF线性解混方法对高光谱数据表达的不足，取得较好的效果。     

基于特征融合的多约束非负矩阵分解算法

针对非负矩阵分解后数据的稀疏性降低、单一图像特征不能够很好地描述图像内容的问题,提出一种基于特征融合的多约束非负矩阵分解算法。该算法不仅考虑了少量已知样本的标签信息和稀疏约束,还对其进行了图正则化处理,而且将分解后的具有不同稀疏度的图像特征进行了融合,从而增强了算法的聚类性能和有效性。在Yale-32和COIL20数据集上进行的对比实验进一步验证了该算法具有更好的聚类精度和稀疏性。     

一种非负矩阵分解的快速方法

针对超高维数据进行非负矩阵分解的计算代价大,特征提取速度慢问题,提出一种非负矩阵分解的快速算法。该算法通过代数变换,把对原高维矩阵的非负分解转换成非负的低维矩阵的非负分解,其求解过程只需要对一个阶数等于样本数的对角矩阵进行非负矩阵分解,同时提取某样本特征时只需要计算该样本与所有训练样本的内积。对高维小样本的基因表达数据降维后进行k均值聚类分析,实验结果表明,该算法在不影响非负矩阵分解性能的前提下,大大提高了计算速度。     

保持拓扑性非负矩阵分解法在人脸识别的应用

提出了一种用于人脸识别新的保持拓扑性非负矩阵分解方法。该方法通过将梯度距离最小化来发现人脸模式内在的流型结构。与PCA、LDA和最初的NMF方法相比较,保持拓扑性非负矩阵分解法发现一种嵌入来保留局部拓扑信息,比如边缘和质地。该文提出的保持拓扑性非负矩阵分解法对在有光照下的面部表情的变化有效。实验结果表明该方法提供了一种更好的脸部表示模式,同时也提高了人脸识别正确率。     

基于迁移孪生非负矩阵分解的静脉识别算法

针对某一静脉图像数据集下获得的识别算法对于其他数据集缺少普适性的问题,提出了一种具有迁移性的孪生非负矩阵分解(NMF)模型.首先,通过采用两个结构相同且参数共享的NMF模型实现了对源数据集中带有相同标签静脉图像的有监督学习;然后,通过使用最大均值差异约束降低了不同数据集之间静脉特征的差异性,即将源数据集中的知识迁移至目...     

基于加权核非负矩阵分解的短文本聚类算法

对互联网产生的大量短文本进行聚类分析具有重要的应用价值,但由于短文本存在特征稀疏和特征难以提取的问题,导致传统的文本聚类算法难以有效处理该问题。为了解决该问题,利用非负矩阵分解（NMF）模型提出基于加权核非负矩阵分解（WKNMF）的短文本聚类算法。该算法通过核方法的映射关系将稀疏特征空间映射到高维隐性空间,从而可以充分利用短文本中的隐性语义特征进行聚类;另外,利用核技巧简化高维数据的复杂运算,并通过迭代更新规则不断地动态调整短文本的权重向量,从而可以区分不同短文本对聚类的重要性。在真实的微博数据集上进行了相关实验,结果表明WKNMF算法比K均值、隐含狄利克雷分布（LDA）、NMF和自组织神经网络（SOM）具有更好的聚类质量,准确度和归一化互信息分别达到了66.38%和66.91%。     

稀疏约束图正则非负矩阵分解的增量学习算法

针对非负矩阵分解后数据的稀疏性降低、训练样本增多导致运算规模不断增大的现象,提出了一种稀疏约束图正则非负矩阵分解的增量学习算法。该方法不仅考虑数据的几何信息,而且对系数矩阵进行稀疏约束,并将它们与增量学习相结合。算法在稀疏约束和图正则化的条件下利用上一步的分解结果参与迭代运算,在节省大量运算时间的同时提高了分解后数据的稀疏性。在ORL和PIE人脸数据库上的实验结果表明了该算法的有效性。     

利用稳健非负矩阵分解实现无监督高光谱解混

目的 基于非负矩阵分解的高光谱图像无监督解混算法普遍存在着目标函数对噪声敏感、在低信噪比条件下端元提取和丰度估计性能不佳的缺点。因此,提出一种基于稳健非负矩阵分解的高光谱图像混合像元分解算法。方法 首先在传统基于非负矩阵分解的解混算法基础上,对目标函数加以改进,用更加稳健的L₁范数作为重建误差项,提高算法对噪声的适应能力,得到新的无监督解混目标函数。针对新目标函数的非凸特性,利用梯度下降法对端元矩阵和丰度矩阵交替迭代求解,进而完成优化求解,得到端元和丰度估计值。结果 分别利用模拟和真实高光谱数据,对算法性能进行定性和定量分析。在模拟数据集中,将本文算法与具有代表性的5种无监督解混算法进行比较,相比于对比算法中最优者,本文算法在典型信噪比20 dB下,光谱角距离（spectral angle distance,SAD）增大了10.5%,信号重构误差（signal to reconstruction error,SRE）减小了9.3%;在真实数据集中,利用光谱库中的地物光谱特征验证本文算法端元提取质量,并利用真实地物分布定性分析丰度估计结果。结论 提出的基于稳健非负矩阵分解的高光谱无监督解混算法,在低信噪比条件下,能够获得较好的端元提取和丰度估计精度,解混效果更好。     

基于核非负矩阵分解的有向图聚类算法

现有的有向图聚类算法大多基于向量空间中节点间的近似线性关系假设,忽略了节点间存在的非线性相关性。针对该问题,提出一种基于核非负矩阵分解（KNMF）的有向图聚类算法。首先,引入核学习方法将有向图的邻接矩阵投影到核空间,并通过特定的正则项约束原空间及核空间中节点间的相似性。其次,提出了图正则化核非对称NMF算法的目标函数,并在非负约束条件下通过梯度下降方法推导出一个聚类算法。该算法在考虑节点连边的方向性的同时利用核学习方法建模节点间的非线性关系,从而准确地揭示有向图中潜在的结构信息。最后,在专利-引文网络（PCN）数据集上的实验结果表明,簇的数目为2时,和对比算法相比,所提算法将DB值和DQF值分别提高了约0.25和8%,取得了更好的聚类质量。