用于推荐系统的图卷积交叉网络

推荐系统中,因子分解机(FM)等特征交叉模型通常孤立地对待每个用户-物品交互样本,无法显式地利用样本中对象之间的隐含关系,造成了信息孤岛问题,导致学到的特征嵌入不是是最优的、冷门物品无法获得精准的推荐.因此,论文提出结合图表示学习和特征交叉的图卷积交叉网络(GraphCross):图卷积部分利用不同训练样本中对象的关联性构建异构图,并在此基础之上进行图卷积,使得生成的对象嵌入囊括其紧密相关的邻域节点对象的信息,破除了样本的孤立状态;特征交叉部分为FM模型,利用图卷积网络生成的对象嵌入构建特征交叉.GraphCross亦可推广为基于图表示学习-特征交叉的推荐算法框架.实验结果表明,利用图结构可有效提升推荐系统性能,尤其是针对冷门物品的推荐.     

面向推荐系统的图卷积网络

图卷积网络是一种针对图信号的深度学习模型,由于具有强大的特征表征能力得到了广泛应用.推荐系统可视为图信号的链接预测问题,因此近年来提出了使用图卷积网络解决推荐问题的方法.推荐系统中存在用户与商品间的异质顶点交互和用户(或商品)内部的同质顶点交互,然而,现有方法中的图卷积操作要么仅在异质顶点间进行,要么仅在同质顶点间进行,留下了提升此类推荐系统性能的空间.考虑到这一问题,提出了一种新的基于图卷积网络的推荐算法,使用两组图卷积操作同时利用两种不同的交互信息,其中异质顶点卷积用于挖掘交互图谱域中存在的连接信息,同质顶点卷积用于使相似顶点具有相近表示.实验结果表明,该算法比现有算法具有更优的精度.     

一种融合用户显隐式阅读偏好的论文推荐模型

在海量学术文献的个性化推荐中,现存基于内容的方法以CNN作为特征提取工具,关注用户的显式阅读偏好,却忽略了全局语义特征,而基于图的方法通常忽略用户和论文之间的高阶关联结构信息。针对以上问题,提出一种混合推荐模型GNPR(Graph Neural Paper Recommendation),能够学习更完整的用户显式阅读偏好及用户和论文之间的高阶关联信息。该方法使用Word2vec和DCNN(Dual Convolutional Neural Network)处理文本,以双层自注意力的特征抽取模式学习文本全局特征,补充用户显式阅读偏好。针对概念、用户、论文和论文元数据等数据构建知识图谱,使用改进的图卷积网络学习用户和论文之间的高阶关联信息,从而挖掘用户隐式的阅读偏好。在CiteULike-a等数据集上验证了GNPR模型的有效性。     

融合协同知识图谱与优化图注意网络的推荐算法

考虑到推荐算法存在数据稀疏及模型复杂度较高等问题,提出了一种融合协同知识图谱与优化图注意网络的推荐模型。将用户/项目知识图谱与用户-项目交互图结合为协同知识图谱,嵌入到优化的图注意网络模型中,这不仅可以很好地缓解数据稀疏问题,还能更大程度地挖掘用户的潜在兴趣和高阶关系;使用优化的图卷积网络,通过去除特征转换和非线性激活模块,可以在不影响整体推荐性能的基础上极大地降低模型复杂度;结合基于偏差的注意力机制,及时感知候选项目与用户真实感兴趣项目之间的偏差,提升模型的训练效率。在Movielens数据集和Douban数据集上进行仿真实验,结果表明该算法在推荐性能和时间复杂度方面,相比对比算法均得到了有效的提升。     

图网络层级信息挖掘分类算法综述

深度学习作为人工智能的一个研究分支发展迅速,而研究数据主要是语音、图像和视频等,这些具有规则结构的数据通常在欧氏空间中表示。然而许多学习任务需要处理的数据是从非欧氏空间中生成,这些数据特征和其关系结构可以用图来定义。图卷积神经网络通过将卷积定理应用于图,完成节点之间的信息传播与聚合,成为建模图数据一种有效的方法。尽管图卷积神经网络取得了巨大成功,但针对图任务中的节点分类问题,由于深层图结构优化的特有难点——过平滑现象,现有的多数模型都只有两三层的浅层模型架构。在理论上,图卷积神经网络的深层结构可以获得更多节点表征信息,因此针对其层级信息进行研究,将层级结构算法迁移到图数据分析的核心在于图层级卷积算子构建和图层级间信息融合。本文对图网络层级信息挖掘算法进行综述,介绍图神经网络的发展背景、存在问题以及图卷积神经网络层级结构算法的发展,根据不同图卷积层级信息处理将现有算法分为正则化方法和架构调整方法。正则化方法通过重新构建图卷积算子更好地聚合邻域信息,而架构调整方法则融合层级信息丰富节点表征。图卷积神经网络层级特性实验表明,图结构中存在层级特性节点,现有图层级信息挖掘算法仍未对层级特性节点的图信息进行完全探索。最后,总结了图卷积神经网络层级信息挖掘模型的主要应用领域,并从计算效率、大规模数据、动态图和应用场景等方面提出进一步研究的方向。     

三通道神经协同过滤算法

传统的神经协同过滤算法在隐式反馈数据集上对用户和项目建模,由于隐式反馈数据天然带有很强的噪音,这给模型的学习带来了挑战.为了缓解该问题,文中提出了一种基于三通道的神经协同过滤算法,该方法使用自编码器去挖掘用户和项目的特征向量,然后结合用户和项目的辅助信息一起通过多层感知机去学习特征向量不同维度之间的高阶交互关系,并将其与传统的神经协同过滤算法融合,以此来提高模型的泛化能力和命中率.此外,在隐式反馈数据集上进行负采样不易且采样结果会极大程度影响模型的表现,文中采用一种基于传统矩阵分解的概率负采样方法克服这个问题,提高了模型的鲁棒性.本文在公开数据集MovieLens上进行了大量实验,实验结果表明基于本文提出的算法比其他先进算法有更优的表现.     

融合社交关系的轻量级图卷积协同过滤推荐方法

图卷积网络(graph convolution network, GCN)因其强大的建模能力得到了迅速发展,目前大部分研究工作直接继承了GCN的复杂设计（如特征变换,非线性激活等）,缺乏简化工作。另外,数据稀疏性和隐式负反馈没有被充分利用,也是当前推荐算法的局限。为了应对以上问题,提出了一种融合社交关系的轻量级图卷积协同过滤推荐模型。模型摒弃了GCN中特征变换和非线性激活的设计;利用社交关系从隐式负反馈中产生一系列的中间反馈,提高了隐式负反馈的利用率;最后,通过双层注意力机制分别突出了邻居节点的贡献值和每一层图卷积层学习向量的重要性。在2个公开的数据集上进行实验,结果表明所提模型的推荐效果优于当前的图卷积协同过滤算法。     

基于隐式反馈和加权用户偏好的推荐算法

针对现有隐式反馈算法中正负样本划分不合理、忽略用户操作频次、无法准确建模用户偏好等问题,提出一种基于隐式反馈和加权用户偏好的推荐算法(IFW-LFM)。该算法考虑了用户操作频次与正负样本划分间的关系,学习并改进wALS算法,根据用户操作频次从缺失值中重新挖掘潜在正负样本,将用户操作频次大于1时的样本设置为正样本,用户操作频次为1或0时的样本为正样本或负样本,不再需要人为引入负样本;根据用户操作频次对用户偏好程度的影响,定义了置信度,明确用户偏好,并将其应用在隐因子模型的框架中;利用用户收听歌曲起止时间、收听时长等隐式反馈数据,提高隐式反馈样本利用度。在两个音乐数据集上的对比实验结果说明,该算法在准确率、召回率与NDCG值上与5个经典隐式反馈算法(UserCF、ItemCF、LFM、BPR、SVD)相比最大平均提升了45.81%,83.83%和60.33%,具有更优的推荐效果。     

融合画像和文本信息的轻量级关系图注意推荐模型

针对当前基于图神经网络的推荐系统受数据稀疏影响推荐效率不高的问题,提出融合画像和文本信息的轻量级关系图注意推荐模型(LightRGAN)。首先,利用用户画像和项目画像初始化用户和项目的嵌入表示。其次,引入评论、项目描述和项目类型作为辅助信息,并通过基于多头注意力机制的文本嵌入网络挖掘同一用户评论集和描述集中文本之间的潜在联系。然后,通过融合注意力机制的轻量级关系图卷积网络学习用户和项目的嵌入表示。最后,对各层嵌入表示加权求和并通过预测网络计算匹配分数。在三个公开数据集上的实验结果表明LightRGAN的效果优于多个现有的基线模型,评估指标HR@20、NDCG@20较最优基线模型最少提升了2.58%、2.37%。     

融合图卷积和胶囊网络的内容感知排序推荐

为提升内容感知推荐算法的性能,提出一种基于排序学习融合胶囊网络和图卷积网络的内容感知推荐算法。构建图卷积网络学习文本特征并捕获非连续和长距离的语义信息,利用胶囊网络提取文本信息中的层次结构信息,融合这两个网络学习文本的细粒度特征;基于项目偏好排序和文本内容相关性排序,构建一个基于扩展BPR模型的联合似然函数损失函数,实现Top-N的排序推荐。真实数据集的实验结果表明,该算法有效提升了推荐性能。     

基于二分图卷积表示的推荐算法

随着数据驱动智能技术的快速发展,个性化推荐算法及相关应用成为了研究热点。推荐可视为将用户与物品进行匹配的问题,但用户与物品之间存在的语义差距不便于两者之间的直接匹配。现有的许多基于深度学习的推荐算法采用的思路都是将不同空间中的实体映射到统一潜在语义空间,利用其嵌入表示来进行匹配度计算。随着网络表示学习方法的出现,由于用户和物品的交互可构成二分图,用户和物品的嵌入表示可被视作二分图节点表示,许多基于二分图节点表示的推荐算法被提出,但现有算法仍难以对高阶交互信息进行有效提取。针对这一问题,文中提出了一种基于二分图卷积表示学习的推荐算法BGCRRA(Bipartite Graph Convolution Representation-based Recommendation Algorithm)。该算法首先将用户和物品交互视作二分图,然后通过实现自适应融合多阶、多层次的图卷积模型来对节点进行嵌入表示,最后计算用户和物品的匹配度,并实现推荐。文中在3个公开的数据集上进行对比实验,通过将该算法与当前表现优异的算法进行HR和NDCG(Normalized Discounted Cumulative Gain)指标的比较分析,验证了所提推荐算法的有效性。     

基于图注意力网络表示学习的协同过滤推荐算法

针对传统的基于模型的协同过滤推荐算法未能有效利用用户与项目的属性信息以及用户之间与项目之间的关系结构信息, 本文提出一种基于图注意力网络表示学习的协同过滤推荐算法. 该算法使用知识图谱表示节点的属性特征信息和节点间的关系结构信息, 并在用户和项目的同质网络上进行节点的图注意力网络表示学习, 得到用户和项目的网络嵌入特征表示, 最后构建融合网络嵌入信息的神经矩阵分解模型获得推荐结果. 本文在Movielens数据集上与相关算法进行对比实验, 实验证明该算法能优化模型的推荐性能, 提高推荐的召回率HR@K和归一化折损累计增益NDCG@K.     

一种基于文本卷积神经网络的推荐算法

传统的矩阵因子分解模型不能有效提取用户和物品特征,而基于深度学习模型可以很好地提取特征信息。当前,主流的基于深度学习推荐算法只是单一地将神经网络的输出或物品特征与用户特征乘积的形式来做推荐预测,不能充分挖掘用户和物品之间的关系。基于此,本文提出一种基于文本卷积神经网络与带偏置项的奇异值分解(BiasSVD)结合的推荐算法,利用文本卷积神经网络(TextCNN)来充分提取用户和物品的特征信息,然后用奇异值分解方法来做推荐,深层次理解文档上下文信息,进一步提高推荐的准确性。将该算法在MovieLens的2个真实数据集上做广泛的评估分析,推荐的准确度要明显优于ConvMF算法及主流深度学习推荐算法。     

区分交互意图的图卷积协同过滤算法

近几年提出了一些基于图卷积网络的协同过滤推荐模型,然而大部分模型将邻域权重视为常量且不区分用户和物品间的交互关系,无法获取令用户满意的推荐列表。因此,为了得到用户和物品更准确的嵌入表示,提出一种区分交互意图的图卷积协同过滤推荐算法MiGCCF(multi-intention graph convolutional collaborative filtering)。该算法将交互关系进行分解,细粒度分析用户与物品间的交互意图,并引入注意力机制,在消息传播过程中赋予邻域可学习的注意力权重,挖掘用户对于不同交互物品的喜爱度。在Gowalla与Amazon-book上的实验表明,该算法相比于基准算法,在两个数据集上的HR@50和NDCG@50指标分别提高了12.5%和8.5%,具有更好的性能表现。     

基于图对比学习的MOOC推荐方法

随着MOOC在线教育平台的飞速发展,课程和用户数量激增,学习者在面对种类繁多的课程时往往较难选择,传统的推荐方法在MOOC课程推荐中应用存在对曝光次数较低的课程推荐效果差和对噪声数据鲁棒性不足的问题。为给学习者提供高质量的推荐,提出一种图对比学习的MOOC推荐方法,同时针对二分图结构给出一种新的数据增强方法。对输入的用户项目交互的二分图随机添加或者删除边进行数据增强,得到两个子视图,使用图卷积神经网络对原始二分图和两个子视图进行节点特征提取得到用户和项目的节点表征,并构建推荐监督任务和对比学习的辅助任务进行联合优化,在此基础上将用户和项目的节点表征进行点积获得推荐结果。在MOOC数据集上进行Top-K推荐的实验结果表明,相较于LightGCN模型,该方法在Recall@5和NDCG@5上均有显著提升,最高分别提升7.8%和7.3%,能够有效提高模型对于曝光次数较低的课程的推荐准确性和对于噪声数据的鲁棒性。     

图神经网络会话推荐系统综述

会话推荐立足于目标用户的当前会话,根据项目类别、跨会话的上下文信息、多种用户行为等辅助信息学习项目间的依赖关系,从而捕捉用户的长短期偏好进行个性化推荐。近年来,流行的深度学习系列方法已经成为会话型推荐系统这个研究热点的前沿方法,尤其是图神经网络的引入,使会话推荐系统的性能得到了进一步提升。鉴于此,该综述从问题定义与会话推荐因素出发,从构图方面进行分析;将相关工作分为基于图卷积网络、门控图神经网络、图注意力网络和其他图神经网络架构的会话推荐系统,并进行归纳与对比;对各工作实验部分中的损失函数类别、所选用的数据集和模型性能评估指标三方面进行深入分析。重点从算法原理和性能分析两方面对各模型框架进行评估和梳理,旨在对近五年基于图神经网络的会话推荐系统相关工作进行评述、总结与展望。     

基于模块度和标签传递的推荐算法

针对基于网络信息的商品推荐的问题，提出了在二部网络上基于社区挖掘和标签传递的推荐算法。首先，用带权的二部图来表达用户-项目的评分矩阵，利用标签传递技术对二部网络进行社区挖掘；然后，基于二部网络中的社区结构信息，充分利用用户所在的社区之间的相似性以及项目之间、用户之间的相似性来挖掘用户可能感兴趣的项目；最后，向用户进行项目的推荐。在实际网络上的实验结果表明，与基于双向关联规则项目评分预测的推荐算法（BAR-CF）、基于项目评分预测的推荐算法（IR-CF）、基于网络链接预测的用户偏好预测方法（PLP）和改进的基于用户的协同过滤的方法（MU-CF）相比，该算法的平均绝对差（MAE）低0.1~0.3，准确率高0.2。因此，所提算法可以取得比其他类似方法更高质量的推荐结果。     

基于模块度和标签传递的推荐算法

针对基于网络信息的商品推荐的问题,提出了在二部网络上基于社区挖掘和标签传递的推荐算法。首先,用带权的二部图来表达用户-项目的评分矩阵,利用标签传递技术对二部网络进行社区挖掘;然后,基于二部网络中的社区结构信息,充分利用用户所在的社区之间的相似性以及项目之间、用户之间的相似性来挖掘用户可能感兴趣的项目;最后,向用户进行项目的推荐。在实际网络上的实验结果表明,与基于双向关联规则项目评分预测的推荐算法（BAR-CF）、基于项目评分预测的推荐算法（IR-CF）、基于网络链接预测的用户偏好预测方法（PLP）和改进的基于用户的协同过滤的方法（MU-CF）相比,该算法的平均绝对差（MAE）低0.1~0.3,准确率高0.2。因此,所提算法可以取得比其他类似方法更高质量的推荐结果。     

融合知识图谱和轻量级图卷积网络推荐系统的研究

基于协同过滤的算法是推荐系统中最重要的方法,由于冷启动和数据稀疏性的特点,限制了其推荐性能。为了应对以上问题,提出了知识图谱和轻量级图卷积网络推荐系统相结合的模型,该模型通过将知识图谱中的各个实体（项目）进行多次迭代嵌入传播以获取更多的高阶邻域信息,通过轻量聚合器进行聚合,进而预测用户和项目之间的评分。最后,在3个真实的数据集上MovieLens-20M、Last.FM和Book-Crossing的实验结果表明,该模型与其他基准模型相比可以得到较好的性能。