基于深度学习的异质信息网络表示学习方法综述

万物依存而在，现实世界中的实体之间存在着各种不同的关联关系，如人与人之间的关系可以构成社交网络，学者通过共同发表论文、引用文献构成引文网络。同质网络将节点和边抽象为单一类型，但是这会造成大量的信息丢失。为了更大程度地保证信息的完整性和丰富性，有研究者提出了异质信息网络的概念，即包含多种类型节点和边的网络模式。将异质信息网络中的拓扑结构和语义信息嵌入到低维向量空间中，下游任务能够利用异质信息网络中的丰富信息进行机器学习或数据挖掘任务。文中总结了近年来基于深度学习模型的异质信息网络表示学习方法的研究成果，同时聚焦两类关键问题——异质信息网络语义自动提取和动态异质信息网络的表示学习方法，列举了异质信息网络表示学习新的应用场景，并展望了异质信息网络的未来发展趋势。     

基于异质信息网络的推荐系统研究综述

推荐系统旨在为用户提供个性化匹配服务,从而有效缓解大数据时代的信息过载问题,并且改善用户体验,增加用户粘性,极大地促进了电子商务等领域的发展。然而,在实际应用场景中,由于数据稀疏和冷启动问题的存在,推荐系统往往难以得到精准的推荐结果;而复杂的模型设计也导致推荐系统的可解释性不尽如人意。因此,如何充分利用交互、属性、以及各种辅助信息提升推荐的性能和可解释性是推荐系统的核心问题。另一方面,异质信息网络作为一种全面地建模复杂系统中丰富的结构和语义信息的方法,在融合多源信息、捕捉结构语义等方面具有显著优势,已经被成功应用于相似性度量、节点聚类、链接预测、排序等各种数据挖掘任务中。近年来,采用异质信息网络统一建模推荐系统中不同类型对象的复杂交互行为、丰富的用户和商品属性以及各种各样的辅助信息,不仅有效地缓解了推荐系统的数据稀疏和冷启动问题,而且具有较好的可解释性,并因此得到了广泛关注与应用。本文旨在对基于异质信息网络的推荐系统进行全面地综述,首次系统地梳理现有工作,弥补该领域缺乏综述的空白。具体而言,本文首先介绍了异质信息网络和推荐系统的核心概念和背景知识,简要回顾了异质信息网络和推荐系统的研究现状,并且阐述了将推荐系统建模为异质信息网络的一般步骤。然后,本文根据模型原理的不同将现有方法分为三类,分别是基于相似性度量的方法、基于矩阵分解的方法和基于图表示学习的方法,并对每类方法的代表性工作进行了全面的介绍,指出了每类方法的优缺点和不同方法之间的发展脉络与内在关系。最后,本文讨论了现有方法存在的问题,并展望了该领域未来的几个潜在的研究方向。     

基于注意力机制和异质信息网络元路径的推荐系统

异质信息网络（HIN）包含丰富的网络结构和语义信息使其常见于推荐系统中。然而,当前推荐系统的研究工作主要是基于元路径提供的间接信息进行推荐,而未充分利用直接交互信息。为了充分利用这些信息,提出一种融合注意力机制和异质信息网络元路径的三元交互模型（AMMRec）。在异质信息网络中使用隐式反馈矩阵构造用户相似度矩阵和项目相似度矩阵,运用异质信息网络的表示学习方法获得对应的特征向量嵌入,通过注意力机制对其进行修正;设计注意力神经网络,将不同元路径的表示向量进行融合;拼接用户嵌入、元路径嵌入和项目嵌入,通过全连接神经网络生成推荐结果。在真实数据集上的实验结果表明,AMMRec的推荐精度最高提升了9.5%。此外,AMMRec对推荐结果具有良好的可解释性。     

异质信息网络高阶层次化嵌入学习与推荐预测

异质信息网络是一种异质数据表示形式,如何融合异质数据复杂语义信息,是推荐系统面临的挑战之一.利用弱关系具有的丰富语义和信息传递能力,构建一种面向推荐系统的异质信息网络高阶嵌入学习框架,主要包括:初始化信息嵌入、高阶信息嵌入聚合与推荐预测3个模块.初始化信息嵌入模块首先采用基于弱关系的异质信息网络最佳信任路径筛选算法,有效地避免在全关系异质信息网络中,采样固定数量邻居造成的信息损失,其次利用新定义的基于多头图注意力的多任务共享特征重要性度量因子,筛选出节点的语义信息,并结合交互结构,有效地表征网络节点;高阶信息嵌入聚合模块通过融入弱关系及网络嵌入对知识良好的表征能力,实现高阶信息表达,并利用异质信息网络的层级传播机制,将被采样节点的特征聚合到待预测节点;推荐预测模块利用高阶信息的影响力推荐方法,实现了推荐任务.该框架具有嵌入节点类型丰富、融合共享属性和隐式交互信息等特点.最后,实验验证UI-HEHo学习框架可有效地改善评级预测的准确性,以及推荐生成的针对性、新颖性和多样性,尤其是在数据稀疏的应用场景中,具有良好的推荐效果.     

基于超图卷积的异质网络半监督节点分类

近几年,图神经网络(Graph Neural Network)由于能够较好地提取网络结构信息以获得网络表示,逐渐成为网络节点分类的主流算法.然而,与广泛研究的同质信息网络相比,真实世界中网络往往是由不同类型的对象通过复杂关系相互连接所构成的异质信息网络.异质信息网络包含复杂的结构信息和丰富的语义信息,这也给网络节点分类提供了新的机遇与挑战.在异质信息网络中,网络模体(Motif)能够用于理解和探索复杂网络,其既能描述复杂的语义信息,又能保存网络中高阶近邻结构信息.因此,提出基于网络模体的异质超图卷积网络模型MHGCN(Motif-based HyperGraph Convolutional Network).首先,将重复出现的高阶网络模体建模为多个相关节点所构成的超边(hyperedge),进而将整个异质信息网络转换成由不同超边构成的超图,以克服同质网络中只能描述节点之间(pair-wise)关系的缺点;然后,利用超图的基本性质和谱理论设计超图上的卷积操作,同时引入超边自注意力机制聚合超图内部不同类型的节点,并通过在超图网络中加入自环解决在模型的前向传播过程中对异质信息网络覆盖不足的问题;最后,通过注意力机制对于不同语义的超图表示进行聚合,从而使最终的节点表示可以有效保持高阶近邻关系和复杂的语义信息.由于MHGCN是端到端的,最终模型直接学习得到节点的分类标签,并通过半监督节点分类任务进行验证,与其它方法相比,MHGCN在DBLP-P、DBLP-A数据集上比最好的基准方法micro-F1提高了0.56％～3.51％,macro-F1提高了0.54％～4.37％,验证了MHGCN模型的有效性.     

用于冷启动推荐的异质信息网络对比元学习

在推荐系统中,冷启动推荐由于缺乏用户和物品交互信息而具有很大的挑战性.该问题可以由数据层和模型层的策略进行缓解.传统的数据层方法利用如特征信息的辅助信息来增强用户和物品表示的学习.最近,异质信息网络被整合于推荐系统中.它可以提供更丰富的辅助信息和更有意义的语义信息.但是,这些模型无法充分利用结构和语义信息,并且忽视了网络中的无标签信息.模型层的方法应用了元学习框架,该框架通过学习相似任务的先验知识然后利用很少的标签信息适应新任务,与冷启动问题相似.综上,我们提出了一个基于异质信息网络的对比元学习框架CM-HIN,同时在数据层和模型层解决冷启动问题.具体的,利用元路径和网络模式两个视图分别刻画异质信息网络的高阶以及本地结构信息.在元路径和网络模式视图中,采用对比学习挖掘异质信息网络的无标签信息并整合两个视图.在三个基准数据集上的三个冷启动推荐场景的大量实验中,CM-HIN超越了所有先进的基线模型.     

异质信息网络中基于网络嵌入的影响力最大化

针对当前大部分影响力最大化算法忽略了异质信息网络包含多种节点类型和多种关系类型,且不同类型节点在原始空间无法直接度量的问题,提出了一种异质信息网络中基于网络嵌入的影响力最大化模型（influence maximization based on network embedding,IMNE）,用于选择初始扩散节点实现影响力最大化。该模型不仅可以在对异质信息网络进行编码的同时表征异质信息网络中潜在的信息,还可以捕获不同类型节点间影响力的不确定和复杂性。在3个真实数据集上的实验验证了IMNE算法的有效性。     

一种基于元路径的异质信息网络链路预测模型

真实世界中不同类型的对象之间相互连接,形成异质信息网络.预测网络中对象之间的连接或交互是网络分析中的一个重要任务.不同于传统的同质性网络的链路预测,异质信息网络中,由于存在多种类型的节点和边,节点之间可以通过不同的关系进行连接.文中使用元路径,即通过一组关系连接了多种节点类型的路径,来描述异质信息网络中不同类型对象之间各种连接的不同语义,从而提出一种异质信息网络链路预测模型,通过组合对象之间在不同元路径上建立连接的概率来进行链路预测.在DBLP和Last.fm两个真实数据集上的实验结果表明:在7种关系的链路预测中,相比最好的基准方法,文中方法的AUC值平均提升了5.93%;另外,在链路预测中,通过元路径区分不同类型的节点和边之后,预测精度得到了明显提升;最后,为了平衡预测精度和模型的可扩展性,实验分析表明链路预测中仅考虑路径长度小于5的元路径就已经足够产生很好的预测结果.     

面向异质信息网络的双通道协同聚类算法

网络聚类广泛应用于现实世界的各个领域，受到了越来越多的关注.由于保留了节点和链接关系的异质性，异质信息网络聚类相较于同质网络聚类具有更优的性能.然而，现有基于图神经网络的异质信息网络聚类忽略了节点属性以及拓扑结构对聚类的权重不同的问题.此外，这些方法仅对单一类型的目标节点聚类，而没有考虑其余类型节点的辅助作用.为此，提出了面向异质信息网络的双通道协同聚类算法（B3C），其能够有效地融合节点属性和拓扑结构，并挖掘异质节点间的潜在相关性，从而提高聚类性能.首先，设计了一个简单有效的双通道编码器以聚合拓扑结构及相似矩阵的邻域信息；接着，应用自训练聚类的同时学习异质信息网络表示以及优化聚类分配，并采用协同聚类机制，以对不同类型节点同时聚类；最后，利用三元中心损失（Triplet-Center Loss）学习具有区分度的节点表示，以凝聚相似节点，分离不相似节点.在公开数据集上进行了大量实验，验证了本文提出的双通道编码器性能相较于广泛使用的图神经网络编码器有显著提升，并且B3C精度优于现有的基于学习的异质信息网络聚类方法.     

基于邻域交互和图神经网络的推荐模型

异质图中包含丰富的关系，图神经网络(Graph Neural Networks, GNNs)能够自然地整合节点关系，因此图神经网络在推荐领域显示出巨大的潜力.然而，现有基于图神经网络的推荐大多聚焦于学习用户和项目的表示，忽略了用户和项目间的交互信息.其次，这些模型很少学习元路径的明确表示.为了解决上述问题，本文提出一种基于邻域交互和图神经网络的推荐模型NGRec.该模型学习用户和项目的表示，并通过元路径引导的邻域来获取用户和项目间的交互，最后将节点表示和交互信息进行融合用于推荐.该模型在得到节点有效表示的基础上，融合节点间的交互，增强了推荐效果.在3种不同类型的异质图上进行大量的实验，证明了所提模型在性能上的提升.     

异质信息网络表征学习综述

随着信息技术的快速发展,信息网络无处不在,例如社交网络、学术网络、万维网等.由于网络规模不断扩大以及数据的稀疏性,信息网络的分析方法面临巨大挑战.作为应对网络规模及数据稀疏挑战的有效方法,信息网络表征学习旨在利用网络的拓扑结构、节点内容等信息将节点嵌入到低维的向量空间中,同时保留原始网络固有的结构特征和内容特征,从而使...     

异构图卷积网络研究进展

现实世界中的很多场景都能用多种节点类型和边类型组成的异构网络表示。网络中蕴含着丰富语义关系,并具有实际应用价值,引起了学术界和工业界的关注。传统的方法都是基于浅层模型进行异构网络挖掘。近几年,由于图卷积网络在同构网络中表现优越,有许多学者将图卷积网络应用到异构网络的挖掘,在各个任务中都取得了优异的成绩。通过对异构图卷积网络的研究进展进行评述,来了解相关领域的发展状况。介绍了异构图卷积网络的发展,将异构图卷积网络分为基于元路径和自适应异构信息的模型进行详细介绍及归纳,并综合分析了不同的聚合方法。介绍了异构图卷积网络在推荐系统、生物化学、异常检测和自然语言处理中的应用。分析了异构图卷积网络未来面临的挑战以及值得研究的问题。     

基于朴素贝叶斯算法的社交网络数据挖掘技术研究

近年来,随着互联网技术飞速发展与普及,大量社交网络平台迅速崛起。社交网络平台拉近了日常人际关系,提供了便捷的信息通讯交流通道。同时,针对社交网络平台数据挖掘的技术研究成为不可缺少的网络数据研究领域一部分。现有社交网络数据挖掘技术所采用的传统数据挖掘算法与数据分离模式,存在大数据多元特征条件下,数据挖掘准确度降低、挖掘分类逻辑混乱等现象。针对问题产生根源,提出基于朴素贝叶斯算法的社交网络数据挖掘技术研究。采用基于朴素贝叶斯算法设计的PCIE-FN社交网络数据挖掘平台进行全面化的深入性解决。通过实验证明,提出的基于朴素贝叶斯算法的社交网络数据挖掘技术研究,各项数据满足社交网络数据挖掘日常应用要求。     

符号网络研究综述

符号网络是指边具有正或负符号属性的网络,其中,正边和负边分别表示积极的关系和消极的关系.真实世界的许多复杂网络中都存在对立的关系,尤其是在信息、生物和社会领域.利用边的符号属性去分析、理解和预测这些复杂网络的拓扑结构、功能、动力学行为具有十分重要的理论意义,并且对个性化推荐、态度预测、用户特征分析与聚类等都具有重要的应用价值.然而,当前人们对网络的符号属性关注较少.综述了符号网络的研究背景及意义、国内外研究现状和最新进展,并讨论了目前存在的主要问题,试图让人们对符号网络这一研究方向能有清晰而全面的认识,为网络数据挖掘、复杂网络分析、社会学、生物信息学等相关领域的研究者提供有益的参考.     

异质网络社区发现研究进展*

异质网络将复杂系统中的信息抽象成不同类型的节点和链接关系,不同于同质网络,基于异质网络的社区发现能够挖掘出更加精确的社区结构。异质网络的社区发现通过对异质网络中的多维结构、多模信息、语义信息、链接关系等信息进行建模表示和提取分析,以发现其中相对紧密稳定的社区结构,对网络信息的获取与挖掘、信息推荐以及网络演化预测具有重要的研究价值。首先对社区发现当前研究的不足进行了简单阐述,接着引出了异质网络的定义;随后结合实例介绍了异质网络社区发现的现有研究方法,包括基于主题模型、基于排序和聚类相结合、基于数据重构和基于降维的方法等,并针对各类方法指出了其特点和局限性;最后讨论了当前该领域在结构复杂性、信息多样性、数据规模等方面面临的挑战。在将来,基于并行化、可扩展、动态增量的研究更能适应当前的变化环境。     

支持复杂社会网络演化的过程挖掘技术综述

复杂社会网络演化过程研究对于发现社会网络群体的隐含结构和演化规律,以及风险预测具有重要意义。首先梳理了过程挖掘技术的发展脉络,阐述复杂社会网络分析方法与过程挖掘技术相结合在复杂社会网络演化模式研究、组织结构发现中的应用现状,结合社会网络分析方法和大数据技术,运用服务工程思想,进而从社会和资源维度综述社会网络跨组织业务过程发现、动态社会网络演化过程发现、角色挖掘与服务挖掘等技术,指出现有复杂社会网络过程挖掘研究面对大数据质量和跨组织异构等研究方面的不足,对大规模社会网络过程挖掘领域的研究难点和发展趋势进行了讨论。     

智能配电网大数据典型应用场景研究

随着配电网自动化、信息化和智能化水平的逐步提升,海量异构、多态数据可在智能配电网中发挥巨大价值,如何应用这些数据,既是机遇也是挑战。首先总结了智能配电网大数据来源及特征,既包括电网内部数据,也包括社会经济等外部数据,并阐述了智能配电网中大数据挖掘和分析应用的方法,实现数据的清洗转换、分析处理和大数据应用,然后详细介绍了智能配电大数据分析应用平台,包括总体架构和信息安全防护体系,最后基于平台,结合湖南公司的业务需求,对负荷预测、故障综合研判、配网运行状态评估与预判等典型应用场景开展研究和实际应用。研究和应用结果表明,运用大数据技术充分挖掘和分析智能配电网数据的特征和关联关系,可有效提升配电网精益化管理水平。     

Contrastive Meta-learning on Heterogeneous Information Networks for Cold-start Recommendation

In recommender systems, the cold-start issue is challenging due to the lack of interactions between users or items. Such an issue can be alleviated via data-level and model-level strategies. Traditional data-level methods employ auxiliary information like feature information to enhance the learning of user and item embeddings. Recently, Heterogeneous Information Networks (HINs) have been incorporated into the recommender system as they provide more fruitful auxiliary information and meaningful semantics. However, these models are unable to capture the structural and semantic information comprehensively and neglect the unlabeled information of HINs during training. Model-level methods propose to apply the meta-learning framework which naturally fits into the cold-start issue, as it learns the prior knowledge from similar tasks and adapts to new tasks quickly with few labeled samples. Therefore, we propose a contrastive meta-learning framework on HINs named CM-HIN, which addresses the cold-start issue at both data level and model level. In particular, we explore meta-path and network schema views to describe the higher-order and local structural information of HINs. Within meta-path and network schema views, contrastive learning is adopted to mine the unlabeled information of HINs and incorporate these two views. Extensive experiments on three benchmark datasets demonstrate that CM-HIN outperforms all state-of-the-art baselines in three cold-start scenarios.