一种基于增强图卷积神经网络的协同推荐模型

图卷积神经网络是一种针对图结构数据的深度学习模型,由于具有强大的特征提取和表示学习能力,它也成为当前推荐系统研究的热门方法.以推荐系统中的评分预测为研究对象,通过分析指出了现有的基于图卷积神经网络的推荐模型存在2个方面的不足：图卷积层仅仅利用了1阶协同信号和未考虑用户观点的差异.为此,提出一种端到端的、基于增强图卷积神经网络的协同推荐模型.它采用一种增强的图卷积层,不仅聚合了2阶协同信号而且融合用户观点的影响,从而更合理地利用协同信号学习实体节点的嵌入表示,并通过堆叠多个图卷积层对其进行精化;最后,采用了非线性的多层感知机实现评分预测.基于5种推荐数据集上的实验结果表明：新模型的预测误差相比于几种主流的推荐模型具有明显的降低.     

异质网中基于图卷积神经网络的链路预测方法

综合考虑异质信息网络具有的复杂性和异质性的特点,提出一种异质网中基于图卷积神经网络(heterogeneous graph convolution neural network embedding,HeGCNE)的链路预测方法.针对经典图卷积神经网络逐层传递规则的不足,提出改进的逐层传递规则,对异质节点进行表征学习,融...     

基于轻量图卷积和注意力增强的多行为推荐模型

近年来,图卷积网络被广泛应用于多行为推荐中,以进一步缓解数据稀疏问题。但目前许多方法都是直接使用图卷积网络,使得模型时间复杂度较高,还忽略了邻域的不同聚合权重和各行为对用户偏好的不同贡献。为此,提出一种基于轻量图卷积和注意力增强的多行为推荐模型(MB-LGCA)。首先根据多行为数据构建用户—项目二部图,采用一种轻量图卷积网络聚合邻域特征获得高阶协同信息,同时利用注意力机制融入邻域权重,增强节点嵌入表示;利用k-阶用户嵌入传播来获取各行为对用户偏好的不同重要性,使模型具有更好的可解释性;最后合并不同层的嵌入表示进行预测。两个真实数据集上的实验结果表明,该模型具有较好的性能。     

基于多图卷积和注意力的长时交通预测研究

城市交通预测是构建高效安全的新型城市交通体系的重要组成部分，预测未来一段时间内交通状况的变化趋势在实际的应用中很有价值。将多图卷积和注意力机制纳入Seq2Seq框架中，提出一个基于多图卷积和注意力的长时交通预测框架（multi-graph convolution and attention network for long-time traffic prediction,MGANL）。在纽约自行车真实数据集上进行实验，验证所提出框架在长时交通预测场景的有效性，并分析不同解码器结构对长时预测的影响，为其他短时预测模型扩展到长时预测场景提供参考。     

一种基于图神经网络的电信诈骗识别方法

通信技术的普及给人们带来便捷的同时,电信欺诈行为也急剧增加。由于诈骗行为特征、号码类型等与正常业务具有极高相似性,传统基于统计的电信欺诈检测方法难于筛选。提出将用户通信关系转换为一组拓扑特征,建立通信社交有向图,将具有统计特征的顶点表示用户,具有关系特征的边表示他们之间的活动。在通信社交图基础上,通过图卷积模块捕获用户的通信行为规律和通信社交关系特征,通过池化读出机制聚合通信社交网络的潜在特征,以识别电信欺诈行为。真实通信历史数据验证表明了该方法的有效性。     

基于门控图卷积神经网络的有机化学反应预测

随着现代医药技术和计算机技术的发展,采用人工智能技术来加速药物的研发进度成为了研究热点,而对有机化学反应产物的高效预测是药物逆合成路线设计中的关键问题。针对样本数据集中化学反应类型分布不均匀的问题,提出了一种主动采样训练下的门控图卷积神经网络（ASGGCN）模型。首先,输入化学反应物的简化分子线性输入规范（SMILES）编码,通过门控图卷积神经网络（GGCN）以及注意力机制预测反应中心所在位置;然后,根据化学约束条件和候选反应中心枚举出可能的化学键组合来生成候选产物,再通过门控图卷积差分网络对候选产物进行筛选;最终,得到反应产物。门控图卷积神经网络拥有三个权重参数矩阵并通过门控对信息加以融合,与传统的图卷积神经网络相比,它能获取更加丰富的原子隐藏特征信息。通过主动采样的方式进行训练,使得该模型能够兼顾较差样本和普通样本的分析能力。实验结果表明,所提模型对化学反应产物的Top-1预测准确率可达87.2%,对比Weisfeiler-Lehman差分网络（WLDN）模型提高了1.6个百分点,可见模型能够更准确地预测有机化学反应产物。     

基于注意力机制的CNN-GCN模型及其应用

现有多变量时间序列(multivariate time series,MTS)预测方法模型主要采用循环神经网络和注意力机制提取MTS的复杂时空特征,这些方法对MTS变量之间的空间依赖关系的捕获能力不足。图卷积网络对复杂数据的空间特征提取能力较强。为此提出一种融入图卷积网络、注意力机制和深度学习中的卷积神经网络的三通道网络框架模型,将该框架模型用于多变量时间序列预测任务。实验结果表明,该模型在国际汇率这一多变量时间序列数据集上的性能表现要优于目前较先进的几个基线模型。     

融合超图注意力机制与图卷积网络的信息扩散预测

针对传统的信息预测缺乏对用户全局性依赖挖掘进行研究,提出了一种融合超图注意力机制与图卷积网络的信息扩散预测模型(HGACN)。首先构建用户社交关系子图,采样获得子级联序列,输入图卷积神经网络学习用户社交关系结构特征;其次,综合考虑用户间和级联间的全局依赖,采用超图注意机制(HGAT)学习用户不同时间间隔的交互特征;最后,将学习到的用户表示捕获到嵌入模块,利用门控机制将其融合获得更具表现力的用户表示,利用带掩码的多头注意力机制进行信息预测。在Twitter等五个数据集上的实验结果表明,提出的HGACN模型在hits@N提高了4.4%,map@N提高了2.2%,都显著优于已有的MS-HGAT等扩散预测模型,证明HGACN模型是合理、有效的。这对谣言监测以及恶意账户的检测有非常重大的意义。     

基于多交通模式改进的共享单车需求预测算法研究

现有的共享单车预测模型大多将共享单车视为封闭交通系统,忽略了不同交通系统之间的交互影响,因此设计了一种使用非负矩阵分解算法改进的图卷积神经网络。首先,利用非负矩阵分解算法将其他交通系统的需求数据分解为不同的出行模式;其次,确定不同出行模式的含义;最后,将分解后的需求信息作为辅助信息与共享单车需求数据一同输入图卷积神经网络中进行预测。实验结果表明：与不考虑其他交通方式影响的模型相比,使用非负矩阵分解算法改进的图卷积神经网络的平均绝对误差下降了10.84%,并且非负矩阵分解方法能较好地解释辅助交通系统是如何提升单车需求预测效果的。     

深度森林在用户购买预测中的应用

针对电商大数据时代用户未来购买行为预测，在京东平台真实数据集上，提出时间滑动窗口技术和窗口权重递减设置，从五方面构建整体用户行为特征，综合考虑深度学习的表征学习能力和集成学习的训练效率，引入多层异源集成算法，将随机森林、XGBoost等多种算法进行组合，搭建基于深度森林模型的用户购买行为预测算法框架，实现准确高效的用户购买预测结果。算法训练时间为68 s,预测准确率达89.3%,相对于集成学习算法和深度神经网络模型取得了更好的效果。     

基于粗糙图的图卷积神经网络算法

图卷积神经网络在解决节点分类问题时,使用拓扑图刻画节点间关系,并根据该拓扑图进行节点特征更新.然而,传统的拓扑图只能刻画节点之间的确定关系(即连接边权重为固定值),忽略真实世界中广泛存在的不确定性.这些不确定性不仅影响节点之间的关系,同时影响模型最终的分类性能.为了克服该缺陷,文中提出基于粗糙图的图卷积神经网络算法.首先,使用上下近似理论和传统拓扑图的边理论构造粗糙边,在粗糙边中使用成对出现的最大-最小关系值刻画节点之间的不确定关系,从而构建粗糙图.然后,设计基于粗糙图的可端到端训练的神经网络架构,将使用粗糙权重系数训练后的粗糙图输入图卷积神经网络,使用这些不确定信息更新节点特征.最后,根据这些学习的节点特征进行节点分类.在真实数据上的实验表明,文中算法可提高节点分类的准确率.     

基于双路信息时空图卷积网络的交通预测模型

随着深度学习的发展,神经网络在各个领域都有着大量的应用,智慧交通系统也不例外.交通流预测是智慧交通系统的基石,是整个交通预测的核心所在.近年来,图卷积神经网络的利用有效地提高了交通预测的性能,如何进一步提高对图的时空特征进行捕获的能力,将会成为热点.为了提升交通预测的精度,提出了一种基于双路信息时空图卷积网络的交通预测模型.首先,针对图卷积网络的交通预测模型在长距离依赖上建模有所不足,并且没有完全挖掘时空图信息之间的隐藏关系以及在时空图结构上还有信息缺失,提出了一种三重池化注意力机制来建模全局上下文信息.通过对图卷积层和时间卷积层各增加并行的三重池化注意力路径,构造了一个双路信息时空卷积层,提升了卷积层的泛化能力及模型捕获长距离依赖的能力,同时让时空卷积层能够很好地捕获时空图结构上的空间和时间特征,从而有效地提升了交通预测性能.在两个公共交通数据集(METR-LA和PEMS-BAY)上的实验结果表明,该模型具有较好的性能.     

基于图卷积网络的交通路口流量预测模型

交通流量预测是建设智慧城市中一项重要性高且挑战性大的任务。准确预测需要考虑如节假日、相似节点和天气等多种影响因素组成的时空特征。为了准确捕获到路网路口的时空特征,提出了一种基于图卷积神经网络、时序算法Prophet和Pearson相关系数的预测模型,以实现考虑空间结构、相似节点、节假日及其他影响因素对路口流量的准确预测。首先,为降低相似节点影响引入Pearson相关系数,改进时序算法,实现时间特征的捕捉;然后,采用图卷积神经网络实现空间特征的捕捉;最后,通过线性回归确定图卷积网络和时序算法的融合权重,得到时空融合预测的结果。最终基于成都市出租车轨迹数据分析提取出路口流量数据,并进行了流量预测实验。结果表明,提出的模型准确性优于大多现有的基线方法,与T-GCN、ASTGCN、AGCRN模型相比,MAE分别降低了1.623、0.724、0.161,精度分别提高了0.144、0.068、0.021,验证了该模型在交通路口流量预测中的有效性。     

基于残差时序图卷积网络的交通速度预测

准确的交通速度预测是现代智慧交通系统中重要的组成部分，对解决交通拥堵和保障公众出行安全具有重要的意义。针对现有的交通预测模型存在对交通速度中长期预测任务效果不是很好的问题，提出一个新的基于残差时序图卷积网络深度学习框架RSATCN。首先利用可学习的遮罩矩阵和图卷积网络相结合来捕捉空间特征，再利用时间注意力提取时间序列的动态相关性，最后用残差时序网络捕捉时间特征和速度特征。在两个真实世界的数据集上的实验表明，提出的模型在预测交通速度中长期任务方面优于最新的基线。     

基于图卷积网络的短时交通速度预测

交通预测是构建智能交通系统的重要技术,实时准确的交通预测有利于规划路线,提高出行效率.为提高交通速度预测精度,提出一种基于图卷积网络的短时交通速度预测模型.首先对交通速度数据进行时空特征分析,然后结合数据空间特性构造可学习的邻接矩阵来建立图卷积网络,同时考虑到交通数据的时间特性,因此在图卷积的基础上又添加了长短期记忆网...     

基于图卷积神经网络的文本分类方法研究综述

文本分类是自然语言处理领域中常见的任务,机器学习和深度学习在该任务中已有较多研究并取得了很大进展,然而,这些传统方法只能处理欧氏空间的数据,不能完全有效地表达出文本的语义信息。为了打破传统的学习模式,诸多研究开始尝试用图表示文本中各实体间的丰富关系,并利用图卷积神经网络学习文本表示。文中对基于图卷积神经网络的文本分类方法进行了综述,首先概述了图卷积神经网络的背景与原理;其次,利用不同类型的图网络详细阐述了基于图卷积神经网络的文本分类方法,同时分析了图卷积神经网络在网络深度上的局限性,并介绍了深层网络在文本分类任务上的最新进展;最后,通过实验比较了各模型的分类性能,并探讨了该领域的难点与未来的发展方向。     

基于图卷积神经网络的小分子属性预测模型

图神经网络作为近年来的热门深度学习算法,已被应用于各个领域。分子性质预测作为药物开发过程中的一项基本任务,围绕着分子属性预测任务涌现出许多优秀的机器学习模型,然而传统机器学习模型大多采用人工设计的分子描述符作为分子表示,这会导致信息丢失从而影响预测效果。图神经网络将分子数据表示为分子图,可以有效避免这一问题。文章采用图卷积神经网络对分子属性预测任务进行建模。模型在大型基准数据集QM9中取得了优于其他模型的误差分数。     

一种用于方面级情感分析的知识增强双图卷积网络

近年来,深度神经网络特别是图神经网络在方面级情感分析任务上取得了较大进展,但是仍存在未充分利用外部知识信息、句法依赖树的边关系信息以及知识图谱结构信息的缺陷.针对上述问题,本文提出了一种知识增强的双图卷积网络BGCN-KE(Knowledge-enhanced Bi-Graph Convolutional Network).首先,提出一种融合句法依赖关系与外部知识的子图构造算法,得到节点间语义关系更紧密的知识子图.其次,提出了双图卷积网络,分别利用两个图卷积网络在句法依赖知识子图中引导评论文本的节点学习邻接节点的外部知识,以及在评论文本的句法依赖图中融合特定方面相关的语义信息,从而增强评论文本的特定方面知识表示和语义表示.再次,BGCN-KE引入边关系注意力机制,更好地捕获特定方面和上下文词语间的语义关系.最后,提出了一种多级特征融合机制,充分融合特定方面相关的外部知识、语义信息和边关系特征.多个公共数据集上的实验证明,BGCN-KE的性能优于最新的对比模型.     

一种深度神经网络的分布式训练方法

深度神经网络在高维数据的分类和预测中取得了巨大成功。训练深度神经网络是数据密集型的任务，需从多个数据源收集大规模的数据。这些数据中通常包含敏感信息时，使得深度神经网络的训练过程容易泄露数据隐私。针对训练过程中的数据隐私和通信代价问题，提出了一种深度神经网络的分布式训练方法，允许基于多个数据源共同训练深度神经网络。首先，提出了分布式训练架构，由1个计算中心和多个代理组成。其次，提出了基于多代理的分布式训练算法，允许代理在数据不出本地和减少通信代价的情况下，通过切割深度神经网络，实现分布式地共同训练模型。然后，分析了算法的正确性。最后，实验结果表明该方法是有效的。     

基于多图卷积神经网络和注意力机制的学术新星预测方法

从学术新人中发掘出有潜力的学术新星能够为人才引进、项目评审和专家库构建等任务提供决策支持,具有重要的研究意义与应用价值,因此受到学术界的广泛关注。然而现有的学术新星预测方法并没有将学者的合作关系和个体属性信息进行有机结合,导致准确率低下。为解决上述问题,提出了一种基于多图卷积神经网络与注意力机制的学术新星预测方法MGCNA。综合考虑了合作网络与相似网络,基于2种网络使用图卷积神经网络学习作者的特征表示,再利用注意力机制进行信息融合,从而预测潜力较高的学术新星。最后在来自ArnetMiner平台的真实数据集上进行了实验,实验结果表明了MGCNA在预测学术新星任务上的有效性。