基于非负矩阵分解的有向网络半监督社区检测

有向网络上的社区检测是网络科学领域一个重要的课题. 针对这一问题, 本文提出了一种基于非负矩阵分解的有向网络半监督社区检测算法, 首先利用先验信息重构邻接矩阵, 然后使用先验信息对节点的社区隶属度进行惩罚, 并通过行归一化消除节点度异质性的影响, 最后运用交替迭代更新给出了目标函数的求解方法. 在真实网络数据上的对比实验验证了算法的有效性, 相对于基于非负矩阵分解的现有方法, 本文方法能显著提高社区发现的准确性.     

基于迭代框架的主动链接选择半监督社区发现算法

针对非负矩阵分解（NMF）半监督社区发现方法随机选择先验约束,导致提升相同性能需要更多约束信息的问题,提出一种基于迭代框架的主动链接选择半监督社区发现算法——ALS_GNMF。在迭代框架下,首先,主动选择不确定性高且对社区划分指导性强的链接对作为先验信息;其次,为主动选择的链接对增加must-link约束,增强社区间连接,生成先验矩阵;同时,增加cannot-link约束,减弱社区间连接,修改邻接矩阵;最后,将先验矩阵作为正则项,加入基于NMF的最优化目标函数,并融合网络拓扑结构信息,以期用较少的先验信息,达到较高的社区发现准确性和鲁棒性。实验结果表明,ALS_GNMF算法在真实网络及人工网络上,相同的先验比例下,性能比未采用迭代框架和主动策略的NMF半监督社区发现方法有更大的提升,且在结构不清晰的网络中表现稳定。     

基于Fisher判别分析的增量式非负矩阵分解算法

增量式非负矩阵分解算法是基于子空间降维技术的无监督增量学习方法.文中将Fisher判别分析思想引入增量式非负矩阵分解中,提出基于Fisher判别分析的增量式非负矩阵分解算法.首先,利用初始样本训练的先验信息,通过索引矩阵对新增系数矩阵进行初始化赋值.然后,将增量式非负矩阵分解算法的目标函数改进为批量式的增量学习算法,在此基础上施加类间散度最大和类内散度最小的约束.最后,采用乘性迭代的方法计算分解后的因子矩阵.在ORL、Yale B和PIE等3个不同规模人脸数据库上的实验验证文中算法的有效性.     

动态WNMF及在图像融合中的应用研究

标准非负矩阵分解图像融合算法全局特征提取能力有限,造成融合图像的对比度不高,视觉效果不好,针对这一问题,对加权非负矩阵分解算法进行了深入研究,提出了动态加权非负矩阵分解思想并将之应用于红外与可见光图像融合.动态加权非负矩阵分解算法首先通过加权系数的设计指定重要特征,并在迭代过程中根据各区域相对重要程度的变化对加权系数进行动态调整,与标准非负矩阵分解算法相比较,动态加权非负矩阵分解算法全局特征提取能力得到了显著提升.对比实验表明,相对于目前常见标准非负矩阵分解图像融合算法,采用区域突变度作为目标函数的动态加权非负矩阵分解算法平均梯度提高了36%以上,标准差提高了17%以上.     

基于链接模型的主动半监督社区发现方法

链接模型可对网络的社区发现问题建模,相比具有相同目标的对称模型和条件模型,PPL模型处理网络类型更多、社区发现准确率更高。但PPL模型是一个无监督模型,在网络社区结构不清晰时效果不佳,且不能利用易获取的先验信息。为使用尽可能少的先验,获得社区发现链接模型性能较大的提升,提出了一个主动节点先验学习（ANPL）算法,该算法主动选择效用高、易标记的成对约束进行标记,基于标记的约束对自动生成信息量更大的标记节点集合。基于PPL模型设计了一个融合网络拓扑结构和标记节点先验的半监督社区发现（SPPL）模型,并给出模型用于半监督社区发现的参数估计算法。人工网络和实际网络上的实验结果表明,利用ANPL获得的标记节点先验和网络拓扑结构,SPPL模型的社区发现准确率高于无监督PPL模型及当前流行的基于非负矩阵分解（NMF）的半监督社区发现模型。     

基于先验知识的非负矩阵半可解释三因子分解算法

非负矩阵三因子分解是潜在因子模型中的重要组成部分,由于能将原始数据矩阵分解为三个相互约束的潜因子矩阵,被广泛应用于推荐系统、迁移学习等研究领域,但目前还没有非负矩阵三因子分解的可解释性方面的研究工作.鉴于此,将用户评论文本信息当作先验知识,设计了一种基于先验知识的非负矩阵半可解释三因子分解(PE-NMTF)算法.首先利...     

基于非负矩阵分解的半监督模型用于多层网络聚类

真实世界多层网络具有多维度、高复杂性的特征，使得仅使用网络拓扑信息进行聚类的算法往往不能精准挖掘网络的公共社区结构。为了解决这一问题，本文提出一种基于非负矩阵分解的半监督模型（Semi-supervised Model with Non-negative Matrix Factorization, SeNMF）。首先，该模型设计基于PageRank算法的贪婪搜索方法获取网络的共识先验信息，用以增强每一层网络的拓扑结构，降低网络噪声；然后利用整体非负矩阵分解将所有网络层的低维表示在格拉斯曼流形上融合以获取更优的公共低维表示矩阵；最后利用K-means聚类得到网络的公共社区结构。实验表明，无论是网络层数的增加还是层间噪声的增强，SeNMF模型相较其他算法在多层网络聚类时均具有一定的优越性。     

基于对称非负矩阵分解的重叠社区发现方法

针对重叠社区中的重要节点(重叠节点、中心节点、离群节点)及其固有的重叠社区结构的发现问题,提出了一种新的对称非负矩阵分解算法。首先将误差逼近项和非对称惩罚项的和作为目标函数,然后基于梯度更新的原则及非负约束条件推导出该算法。对5个实际网络进行了仿真实验,结果显示所提算法能将实际网络的重要节点及其固有的社区结构发现出来。从社区发现结果的平均导电率和算法的执行时间看,所提方法优于非负矩阵分解社区发现(CDNMF)方法;从准确率和召回率的调和平均值的加权平均值看,所提方法比较适合较大数据集的重叠社区发现。     

SAR图像目标检测的互信息非负矩阵分解算法

提出了满足指数分布的概率模型框架下实现非负矩阵分解的目标函数和相应的算法。同时针对非负矩阵分解方法中的基向量无序性这一特点,将基于互信息的特征选择算法 与其结合起来解决了基向量的排序问题。利用目标的先验知识获得有利目标表示的特征向量组,然后用该特征向量组进行滤波,分别获得待测图像的特征图,通过加权的方式将所 有的特征图合并为一个总的特征图,最后在特征图上通过选取合适的阈值将目标提取出来。使用MIT林肯实验室ADTS（advanced detection technology sensor）高分辨率机载SAR 目标数据进行仿真,结果表明该方法是一种精度较高的目标检测算法。     

基于联合矩阵分解的动态异质网络社区发现方法

动态网络的社区发现是目前复杂网络分析领域的重要研究内容,然而现有动态网络社区发现方法主要针对同质网络,当网络包含多种异质信息时,现有方法不再适用。针对这个问题,本文提出了一个基于联合矩阵分解的动态异质网络社区发现方法,首先计算动态异质网路中各个快照图的拓扑相似度矩阵和多关系相似度矩阵,其次利用时序联合非负矩阵分解方法,约束各个时刻快照图的社区划分,最后在真实网络数据集上的实验结果表明,该算法可以有效检测出动态异质网络中潜在的社区结构。     

Semi-supervised community detection on attributed networks using non-negative matrix tri-factorization with node popularity

The World Wide Web generates more and more data with links and node contents, which are always modeled as attributed networks. The identification of network communities plays an important role for people to understand and utilize the semantic functions of the data. A few methods based on non-negative matrix factorization (NMF) have been proposed to detect community structure with semantic information in attributed networks. However, previous methods have not modeled some key factors (which affect the link generating process together), including prior information, the heterogeneity of node degree, as well as the interactions among communities. The three factors have been demonstrated to primarily affect the results. In this paper, we propose a semi-supervised community detection method on attributed networks by simultaneously considering these three factors. First, a semi-supervised non-negative matrix tri-factorization model with node popularity (i.e., PSSNMTF) is designed to detect communities on the topology of the network. And then node contents are integrated into the PSSNMTF model to find the semantic communities more accurately, namely PSSNMTFC. Parameters of the PSSNMTFC model is estimated by using the gradient descent method. Experiments on some real and artificial networks illustrate that our new method is superior over some related stateof- the-art methods in terms of accuracy.     

Source separation using regularized NMF with MMSE estimates under GMM priors with online learning for the uncertainties

We propose a new method to incorporate priors on the solution of nonnegative matrix factorization (NMF). The NMF solution is guided to follow the minimum mean square error (MMSE) estimates of the weight combinations under a Gaussian mixture model (GMM) prior. The proposed algorithm can be used for denoising or single-channel source separation (SCSS) applications. NMF is used in SCSS in two main stages, the training stage and the separation stage. In the training stage, NMF is used to decompose the training data spectrogram for each source into a multiplication of a trained basis and gains matrices. In the separation stage, the mixed signal spectrogram is decomposed as a weighted linear combination of the trained basis matrices for the source signals. In this work, to improve the separation performance of NMF, the trained gains matrices are used to guide the solution of the NMF weights during the separation stage. The trained gains matrix is used to train a prior GMM that captures the statistics of the valid weight combinations that the columns of the basis matrix can receive for a given source signal. In the separation stage, the prior GMMs are used to guide the NMF solution of the gains/weights matrices using MMSE estimation. The NMF decomposition weights matrix is treated as a distorted image by a distortion operator, which is learned directly from the observed signals. The MMSE estimate of the weights matrix under the trained GMM prior and log-normal distribution for the distortion is then found to improve the NMF decomposition results. The MMSE estimate is embedded within the optimization objective to form a novel regularized NMF cost function. The corresponding update rules for the new objectives are derived in this paper. The proposed MMSE estimates based regularization avoids the problem of computing the hyper-parameters and the regularization parameters. MMSE also provides a better estimate for the valid gains matrix. Experimental results show that the proposed regularized NMF algorithm improves the source separation performance compared with using NMF without a prior or with other prior models.     

基于小波去噪的有向加权社团发现研究

目前大部分社团发现方法都是针对无向无权图,但实际的社会媒体中的社团内部个体交互过程可以抽象为一个有向加权图,并且权重中含有大量的噪声.为解决有向加权社团的划分问题,本文提出一种基于非负矩阵分解(Nonnegative matrix factorization,NMF)可去噪声的社团发现方法.该方法通过小波阈值去噪对社会网络数据进行去噪处理,结合有向加权的非负矩阵分解算法对去噪后的数据集进行社团发现,准确找出社团结构.在社会媒体的实验数据集和标准数据集上的实验结果表明,该算法针对带噪声的有向加权图社团发现问题具有良好划分性能,SNR为15时,在Lesmis数据集上的社团划分准确率达到96％,划分模块度值提高了29％.本文为解决带噪的有向加权的社会网络数据提供了切实有效的处理方法.     

Community Discovery Algorithm Based on Multi-Relationship Embedding

Complex systems in the real world often can be modeled as network structures, and community discovery algorithms for complex networks enable researchers to understand the internal structure and implicit information of networks. Existing community discovery algorithms are usually designed for single-layer networks or single-interaction relationships and do not consider the attribute information of nodes. However, many real-world networks consist of multiple types of nodes and edges, and there may be rich semantic information on nodes and edges. The methods for single-layer networks cannot effectively tackle multi-layer information, multi-relationship information, and attribute information. This paper proposes a community discovery algorithm based on multi-relationship embedding. The proposed algorithm first models the nodes in the network to obtain the embedding matrix for each node relationship type and generates the node embedding matrix for each specific relationship type in the network by node encoder. The node embedding matrix is provided as input for aggregating the node embedding matrix of each specific relationship type using a Graph Convolutional Network (GCN) to obtain the final node embedding matrix. This strategy allows capturing of rich structural and attributes information in multi-relational networks. Experiments were conducted on different datasets with baselines, and the results show that the proposed algorithm obtains significant performance improvement in community discovery, node clustering, and similarity search tasks, and compared to the baseline with the best performance, the proposed algorithm achieves an average improvement of 3.1% on Macro-F1 and 4.7% on Micro-F1, which proves the effectiveness of the proposed algorithm.     

动态加权网络中的演化社区发现算法研究

在动态网络中发现社区结构是一个非常复杂而有意义的过程,可以更好地观察和分析网络的演化情况。针对动态加权网络中的社区发现问题,提出了一种结合历史网络社区结构的算法,叫做动态加权网络中的演化社区发现算法（ECDA）。该算法分为两步：结合历史社区和网络结构信息,计算当前时间跳的输入矩阵;然后通过该输入矩阵计算得到结合历史时间跳信息的社区划分结果。该算法有以下优点：可以自动发现动态加权网络中每个时间跳的社区结构;对网络结构的变化和社区结构的变化具有较高的敏锐性。在人工数据集和真实数据集中进行了实验,实验结果证明该算法可以有效地发现动态加权网络中的社区结构,与其他算法相比具有较好的竞争力。     

非负二维主成分分析及在人脸识别中的应用

二维主成分分析是一种基于整体脸的方法,保留人脸部件之间的拓扑关系.而非负矩阵分析是基于局部特征的识别,是通过提取局部信息来实现分类.文中将两种思想的优点融合在一起,提出非负二维主成分分析.该方法改善传统非负矩阵分解只是从矩阵分解的角度考虑,没有加强分类的问题.此外,该方法在矩阵分解之前不需要将图像矩阵转换为图像向量,能快速降低鉴别特征的维数.在ORL和FERET人脸库上的实验结果表明,该方法在识别性能上优于其它方法,且更具有鲁棒性.     

图卷积网络增强的非负矩阵分解社区发现方法

非负矩阵分解（nonnegative matrix factorization,NMF）因其有效性和易解释性强被广泛应用于社区发现领域。然而,现有大多数基于NMF的社区发现方法都是线性的,无法有效处理复杂网络的非线性特征,从而导致社区发现性能还有待进一步提高。针对该问题,提出了一种图卷积网络（graph convolutional network,GCN）增强的非线性NMF社区发现方法NMFGCN。NMFGCN包含两个主要模块：GCN和NMF,其中GCN用于学习网络节点表示,NMF将节点表示作为输入获得网络的社区表示。此外,提出一个联合优化方法以训练NMFGCN,不仅使得NMFGCN具有非线性特征表示能力,而且可以使得GCN和NMF相互促进并获得更好的社区划分结果。在人工合成网络和真实网络上进行大量实验,结果表明NMFGCN优于目前基于NMF的社区发现方法,从而证明NMFGCN确实可以提高NMF社区发现方法的性能。此外,NMFGCN还优于DeepWalk和LINE常用图表示学习方法。