非负矩阵非负满秩分解的程序实现

利用欧几里得距离衡量非负矩阵非负满秩分解的近似度,将其转化为最小二乘法求最优问题。并用VC6.0与Lingo对算法进行程序实现,可以为非负矩阵分解应用研究提供一些参考。     

基于非负矩阵分解的人脸识别算法的改进

非负矩阵分解方法是基于局部特征的特征提取方法，已经成功用于人脸识别。研究基于非负矩阵分解的人脸图像识别的改进算法是一个有重要意义的研究课题。采用二维非负矩阵分解方法（2DNMF）和对角非负矩阵分解方法（DiaNMF），并且使用正交的基矩阵进行Matlab实验。实验结果表明，以上改进措施能够有效提高人脸图像识别的正确率。     

基于非负矩阵分解的人脸识别算法的改进

非负矩阵分解方法是基于局部特征的特征提取方法,已经成功用于人脸识别。研究基于非负矩阵分解的人脸图像识别的改进算法是一个有重要意义的研究课题。采用二维非负矩阵分解方法(2DNMF)和对角非负矩阵分解方法(Di-aNMF),并且使用正交的基矩阵进行Matlab实验。实验结果表明,以上改进措施能够有效提高人脸图像识别的正确率。     

基于非负矩阵分解的图像水印算法

提出一种基于非负矩阵分解NMF(Non-negative Matrix Factorization)的数字水印算法.先通过NMF构造载体图像基于部分表示的系数矩阵,将灰度水印图像嵌入其中;再利用NMF基矩阵作为密钥提取水印.为了说明有效性,该算法与主流的DCT水印算法进行相关比较实验,结果表明该算法同DCT算法一样有效,且在抗剪切和抗滤波性能上优于DCT算法.     

基于非负矩阵分解的语音深层低维特征提取方法

作为一种基于深层神经网络提取的低维特征,瓶颈特征在连续语音识别中取得了很大的成功。然而训练瓶颈结构的深层神经网络时,瓶颈层的存在会降低网络输出层的帧准确率,进而反过来影响该特征的性能。针对这一问题,本文基于非负矩阵分解算法,提出一种利用不包含瓶颈层的深层神经网络提取低维特征的方法。该方法利用半非负矩阵分解和凸非负矩阵分解算法对隐含层权值矩阵分解得到基矩阵,将其作为新的特征层权值矩阵,然后在该层不设置偏移向量的情况下,通过数据前向传播提取新型特征。实验表明,该特征具有较为稳定的规律,且适用于不同的识别任务和网络结构。当使用训练数据充足的语料进行实验时,该特征表现出同瓶颈特征几乎相同的识别性能;而在低资源环境下,基于该特征识别系统的识别率明显优于深层神经网络混合识别系统和瓶颈特征识别系统。     

非负矩阵分解算法及其在生物信息学中的应用研究

非负矩阵分解是近年来快速发展的一类机器学习算法,能够实现对高维数据的维度规约及局部特征提取,在诸多生物信息问题的分析与处理中得到了广泛应用,并衍生出一系列实用算法。本文系统分析了非负矩阵分解的数学理论基础及其特有的局部表达属性,综述了标准非负矩阵分解与各种衍生算法的发展历程及算法初始化与参数选取方法的研究进展,并从序列特征分析、表达模式与功能模块识别、生物医学文献挖掘等几个方面总结了非负矩阵分解算法在生物信息学领域的应用成果。最后,指出了非负矩阵分解算法研究及其应用于生物信息处理所面临的问题,分析和预测了可能的发展方向。     

一种增量式非负矩阵分解算法

针对现有的非负矩阵分解算法在应用于问题规模逐渐增大的情形时,运算规模随之增大、空间和时间效率不高的情况,提出一种增量式非负矩阵分解算法,使用分块矩阵的思想降低运算规模,利用上一步的分解结果参与运算从而避免重复运算。实验结果表明,该算法对节约计算资源是有效的。     

图像融合的非负矩阵分解算法

提出一种将非负矩阵分解思想用于图像融合的算法．在非负矩阵分解过程中,适当地选取特征空间的维数可以获取原始数据的局部特征．首先分析了使用非负矩阵分解算法提取图像综合特征的原理,并给出了一个可视化实例;将参与融合的图像作为原始数据,特征空间的维数选为1,利用非负矩阵分解得到的特征基包含了原始图像的整体特征,这个特征基图像就是原始图像的融合结果．多类不同模态图像融合的实验结果表明,文中算法比小波变换的方法具有更好的融合效果．     

基于非负矩阵分解方法的汉字基本部件识别

将NMF方法应用到汉字字形的处理中,成功地从一些汉字样本中抽取出构成这些汉字的基本部件。通过引入合适的惩罚因子,提出了一种扩展的NMF方法,对同样的汉字样本进行处理可以获得更好的结果,抽取出的基本部件就是构成这些汉字的偏旁部首。     

深度非负矩阵分解的链路预测方法研究

链路预测是根据现有的网络结构信息预测潜在的边,其已成为复杂网络中的热点之一。在链路预测中,传统非负矩阵分解直接将原始网络映射到隐空间中,不能充分挖掘复杂网络的深层隐结构信息,导致在稀疏网络中预测能力有限。针对以上问题,提出一种基于深度非负矩阵分解的链路预测方法（Deep Non-negative Matrix Factorization,DNMF）。通过对系数矩阵多次分解,得到一组基矩阵和一个系数矩阵相乘,进而构建深度隐特征模型的目标函数。采用两阶段法去调整训练参数,即在预训练阶段通过逐层分解作为预分解结果,在微调阶段整体微调训练参数。根据微调训练后的基矩阵和系数矩阵,计算网络相似矩阵。该方法可以在保证真实网络的深层隐结构信息表达的同时使其可以获得更加全面的网络结构信息。通过对10个典型实际网络进行实验,表明该方法比现有经典链路预测方法具有更好的预测性能。     

非负矩阵分解特征提取技术的研究进展

非负矩阵分解（non-negative matrix factorization,NMF）算法是在矩阵中所有元素均为非负的条件下对其实现的非负分解,基于非负矩阵分解的图像特征提取技术通过将图像表示为一系列非负基图像非减的叠加组合来提取图像的特征,这种特征提取方法不但具有良好的局部表征特性、有一定的稀疏性,而且对遮挡、光照不均及图像质量较差等情形具有卓越的效果。自正式提出以来,该方法得到了许多改进,但目前关于这些改进的综述都只是罗列了这些方法,并没有系统深入地分析,因而在大量阅读文献的基础上分析其内部联系,分类总结了非负矩阵分解的研究进展和各种改进方法的实质。首先介绍非负矩阵分解的基本思想,以手指静脉图像为例说明其应用于图像特征提取的方式,然后重点深入讨论了非负矩阵分解方法的改进算法,提出了非负矩阵分解应用中有待进一步研究的新问题。     

基于核非负分解的人脸图像特征提取与分类

针对非负矩阵分解算法在样本维数过高情况下收敛效果差的问题,提出了一种核矩阵非负分解算法。通过核映射方法获得表征样本间相似度的核矩阵,以减小样本类内散度,增大样本类间散度,从而改善样本内部噪声干扰,提高样本间的线性可分度;再将核矩阵在非负条件约束下分解为基向量及其加权系数矩阵,用系数矩阵作为原样本特征。经人脸图像特征提取与分类实验验证,新算法可更好地提取高维人脸图像的低维特征,提高分类正确率。     

Kernel nonnegative matrix factorization for spectral EEG feature extraction

Nonnegative matrix factorization (NMF) seeks a decomposition of a nonnegative matrix X0 into a product of two nonnegative factor matrices U0 and V0, such that a discrepancy between X and UV is minimized. Assuming U=XW in the decomposition (for W0), kernel NMF (KNMF) is easily derived in the framework of least squares optimization. In this paper we make use of KNMF to extract discriminative spectral features from the time–frequency representation of electroencephalogram (EEG) data, which is an important task in EEG classification. Especially when KNMF with linear kernel is used, spectral features are easily computed by a matrix multiplication, while in the standard NMF multiplicative update should be performed repeatedly with the other factor matrix fixed, or the pseudo-inverse of a matrix is required. Moreover in KNMF with linear kernel, one can easily perform feature selection or data selection, because of its sparsity nature. Experiments on two EEG datasets in brain computer interface (BCI) competition indicate the useful behavior of our proposed methods.     

基于分块非负矩阵分解人脸识别增量学习*

非负矩阵分解(NMF)算法可以提取图像的局部特征,然而NMF算法有两个主要缺点：a）当矩阵维数较大时,NMF算法非常耗时;b）当增加新的训练样本或类别时,NMF算法必须进行重复学习。为克服NMF算法这些缺点,提出了一种新的分块NMF算法(BNMF)。特别地,该方法还可用于增量学习。通过在FERET和CMU PIE人脸数据库上进行实验,结果表明该算法均优于NMF和PCA算法。     

应用非负矩阵分解和RBPNN模型的掌纹识别方法

提出一种基于非负矩阵分解（NMF）和径向基概率神经网络的掌纹识别方法。NFM是一种有效的图像局部特征提取算法,用于图像分类时能得到较高的识别率。考虑PolyU掌纹图像数据库,应用NMF、局部NMF（LNMF）、稀疏NMF（SNMF）和具有稀疏度约束的NMF（NMFSC）算法分别对掌纹图像进行特征提取,并对提取到的局部特征基图像进行分析对比;在特征提取的基础上,应用径向基概率神经网络（RBPNN）模型对掌纹特征进行分类,分类结果表明了RBPNN模型对掌纹特征具有较好的识别能力。实验对比结果证明了基于RBPNN的NMF掌纹识别方法在掌纹识别中的有效性,具有一定的理论研究意义和实用性。     

Local discriminant non-negative matrix factorization feature extraction for hyperspectral image classification

Non-negative matrix factorization (NMF) ignores both the local geometric structure of and the discriminative information contained in a data set. A manifold geometry-based NMF dimension reduction method called local discriminant NMF (LDNMF) is proposed in this paper. LDNMF preserves not only the non-negativity but also the local geometric structure and discriminative information of the data. The local geometric and discriminant structure of the data manifold can be characterized by a within-class graph and a between-class graph. An efficient multiplicative updating procedure is produced, and its global convergence is guaranteed theoretically. Experimental results on two hyperspectral image data sets show that the proposed LDNMF is a powerful and promising tool for extracting hyperspectral image features.     

图嵌入正则化投影非负矩阵分解人脸图像特征提取

目的 针对投影非负矩阵分解（PNMF）不能揭示数据空间的流形几何结构和判别信息的缺点,提出一种图嵌入正则化投影非负矩阵分解（GEPNMF）人脸图像特征提取方法。 方法 首先构建了描述数据空间的流形几何结构和类间分离度的两个近邻图,然后采用它们的拉普拉斯矩阵设计了一个图嵌入正则项,并将该图嵌入正则项与PNMF的目标函数融合以建立GEPNMF的目标函数。由于引入了图嵌入正则项,GEPNMF求得的子空间能在保持数据空间的流形几何结构的同时,类间间距最大。此外,在GEPNMF目标函数中引入了一个正交正则项,以确保GEPNMF子空间基向量具有数据局部表示能力。最后,对求解GEPNMF目标函数的累乘更新规则（MUR）进行了详细推导,并从理论上证明了其收敛性。结果 在ORL、Yale和CMU PIE人脸图像数据库上分别进行了人脸识别实验,识别率分别达到了94.00%、64.33%和98.58%。结论 实验结果表明,GEPNMF提取的人脸图像特征用于人脸识别时,具有较高的识别率。     

动态WNMF及在图像融合中的应用研究

标准非负矩阵分解图像融合算法全局特征提取能力有限,造成融合图像的对比度不高,视觉效果不好,针对这一问题,对加权非负矩阵分解算法进行了深入研究,提出了动态加权非负矩阵分解思想并将之应用于红外与可见光图像融合.动态加权非负矩阵分解算法首先通过加权系数的设计指定重要特征,并在迭代过程中根据各区域相对重要程度的变化对加权系数进行动态调整,与标准非负矩阵分解算法相比较,动态加权非负矩阵分解算法全局特征提取能力得到了显著提升.对比实验表明,相对于目前常见标准非负矩阵分解图像融合算法,采用区域突变度作为目标函数的动态加权非负矩阵分解算法平均梯度提高了36%以上,标准差提高了17%以上.     

具有普适性的改进非负矩阵分解图像特征提取方法

为提高图像特征提取的普适性,提出了一种基于改进非负矩阵分解（NMF）的图像特征提取方法。首先,考虑到提取的图像特征的实际意义,选用非负矩阵分解模型进行图像特征的降维处理;其次,为实现用较小数量系数来描述图像特征,将稀疏约束作为非负矩阵分解模型的正则项之一;然后,为使降维后优化得到的特征具有较好的类间区分性,将聚类属性作为非负矩阵分解的另一个正则项;最后,通过对模型的梯度下降优化求解,获得最优的特征基向量与图像特征向量。实验结果表明,针对3种图像数据库,所提的图像特征更有利于图像正确分类或识别,错误接受率（FAR）与错误拒绝率（FRR）分别可以降低到0.021与0.025。     

用于独立特征学习的稀疏非负矩阵分解算法

为了防止特征的共适应性,提出利用余弦相似度来减少潜在特征之间的相关性,从而提高非负矩阵分解（non-negative matrix decomposition,NMF）的独立特征学习能力。此外,为了使得分解后的矩阵具有较好的稀疏性,提出在传统NMF模型中引入◢L◣▼2,1/2▽稀疏约束,增强了算法的局部学习能力和稳健性。因此,潜在特征中的语义信息更加明显,潜在空间的表示更具有判别性。在fetch_20newsgroups数据集上对文档聚类的实验结果表明,提出的INMF算法在一系列评价指标上效果都优于传统的NMF、SNMF等算法模型。