基于自适应图卷积注意力神经协同推荐算法

随着互联网的快速发展,推荐系统可以用来处理信息过载的问题。由于传统推荐系统的诸多问题导致其无法处理发掘隐藏信息,提出一种自适应图卷积注意力神经协同推荐算法（ANGCACF）。首先获取用户和项目交互图,通过图卷积神经网络自适应的聚合用户和项目特征信息;其次对用户和项目特征信息添加自适应扩充数据,以解决数据稀疏性,利用注意力机制对用户和项目特征信息及添加的自适应扩充数据重新分配权重;最后将得到的用户和项目特征表示使用基于矩阵分解的协同过滤的算法框架得出最终推荐结果。在MovieLens-1M、MovieLens-100K和 Amazon-baby三个公开数据集上的实验表明,该算法在推荐准确率、召回率、MRR、命中率和 NDCG 五个指标上均优于基线方法。     

改进图卷积网络的协同过滤推荐模型

图卷积网络（GCN）已应用于各领域并取得巨大成功,其中包括推荐系统。推荐系统的核心目标是推测用户偏好从而主动为用户提供有价值有针对性的消息,协同过滤是经典且广泛应用的一种推荐方法。但基于GCN的推荐方法仍存在诸多问题,如GCN递归地合并来自不同阶邻域的消息,难以区分地混合不同的节点消息导致训练困难,以及过平滑等问题对推荐模型产生了很大的约束。与目前基于GCN的方法不同,针对以上问题,提出使用简单GCN模型分别汇总不同顺序的邻域消息用于协同过滤,然后以分层方式将它们聚合,无需引入其他模型参数。之后,将Dropout思想迁移至模型中,通过在每一层随机丢弃邻居消息来减轻过平滑的影响,很好地防止了过拟合并提升了模型性能。在三个数据集上进行的实验结果证明了所提模型的有效性。     

融合交互意图的图神经网络协同过滤算法

传统的协同过滤方法很大程度上以一种统一的方式进行建模,未从交互意图的细粒度上考虑建模关系。为此提出一种融合交互意图的图神经网络协同过滤算法（INTNGCF）。首先,通过将边分解成多个潜在空间来识别潜在意图;其次,利用交互意图融合层确定这些潜在意图的重要性;最后,生成用户对项目的预测评分。在三个真实数据集上与七种基线模型进行对比实验,结果表明,提出的算法与其他先进的推荐模型相比具有一定的性能优势。     

融合社交关系的轻量级图卷积协同过滤推荐方法

图卷积网络(graph convolution network, GCN)因其强大的建模能力得到了迅速发展,目前大部分研究工作直接继承了GCN的复杂设计（如特征变换,非线性激活等）,缺乏简化工作。另外,数据稀疏性和隐式负反馈没有被充分利用,也是当前推荐算法的局限。为了应对以上问题,提出了一种融合社交关系的轻量级图卷积协同过滤推荐模型。模型摒弃了GCN中特征变换和非线性激活的设计;利用社交关系从隐式负反馈中产生一系列的中间反馈,提高了隐式负反馈的利用率;最后,通过双层注意力机制分别突出了邻居节点的贡献值和每一层图卷积层学习向量的重要性。在2个公开的数据集上进行实验,结果表明所提模型的推荐效果优于当前的图卷积协同过滤算法。     

融合协同知识图谱和图卷积网络的推荐算法

推荐系统广泛应用于互联网,缓解信息过载问题。现有研究通常将知识图谱引入推荐算法中,但不能有效获取用户与项目的高阶建模以及存在数据稀疏性的问题。该文提出了一种融合协同知识图谱和图卷积网络的推荐算法(CKGCN)。首先,将用户-项目交互矩阵与项目知识图谱构建为协同知识图谱,利用知识感知注意力机制对邻居节点进行权重分配,递归地捕获用户和项目的特征向量,搜索用户对项目的潜在喜好,有效缓解数据稀疏性的问题。其次,采用基于图卷积网络的邻域聚合算法捕捉每层实体网络之间的高阶联系,将实体与邻域实体聚合,丰富实体语义表示。另外,通过交叉压缩单元协作处理项目特征向量与实体特征向量,探索二者的高阶特征交互,从而过滤实体的冗余信息、挖掘项目更深层次的联系。最后,对用户特征向量与项目特征向量进行计算得出用户对项目的预测概率。经过点击率预测及Top-k推荐实验证明,在书籍Book＿Crossing和音乐Last.FM两个公开的数据集上,该算法与五种基线算法相比较,AUC,ACC,F1,Recall@k和Precision@k评价指标值均有提升,表明该模型具有良好的推荐性能。     

基于Rényi差分隐私的图卷积协同过滤推荐算法

近年来,图卷积网络作为一种强大的图嵌入技术在推荐系统领域得到广泛应用.主要原因是推荐系统中大多数信息可以建模为图结构,而图卷积网络是一种基于图结构的深度学习模型,有助于挖掘图数据中用户和项目之间的潜在交互,从而提高推荐系统的性能.由于推荐系统的建模通常需要收集和处理大量的敏感数据,因此可能会面临隐私泄露的风险.差分隐私是一种具有坚实理论基础的隐私保护模型,已被广泛应用于推荐系统中解决用户隐私泄露的问题.目前基于差分隐私的研究主要是面向独立同分布的数据模型.然而,在基于图卷积网络的推荐系统中,数据之间关联性强且不具有独立性,这使得现有方法难以对其进行有效的隐私保护处理.为解决该问题,提出基于Rényi差分隐私的图卷积协同过滤推荐算法RDP-GCF,旨在保护用户与项目交互数据安全的前提下,实现隐私性和效用性之间的平衡.该算法首先利用图卷积网络学习用户/项目的嵌入向量;然后,采用高斯机制对嵌入向量进行随机化处理,同时基于采样的方法放大隐私预算,减少差分噪声注入量,以提升推荐系统的性能;最后,通过加权融合的方式得到用户/项目的最终嵌入向量,并应用于推荐任务.在3组公开数据集上进行实验验证.结果表明,与现有同类方法相比,所提算法能更好地实现隐私保护与数据效用之间的平衡.     

多空间交互协同过滤推荐

大数据时代,由于信息过载,用户很难从海量数据中寻找出感兴趣的内容,个性化推荐系统的诞生极好地解决了这个问题.协同过滤算法被广泛应用于个性化推荐领域,但由于模型的限制,推荐效果未能得到进一步提升.现有的基于协同过滤模型的改进方法大多都是通过引入表示学习方法来得到更好的用户表示向量和项目表示向量,或通过改进用户项目匹配函数来提升推荐能力,但此类工作都致力于从单个交互提取用户-项目交互信息.文中提出了一种多空间交互协同过滤推荐算法,将用户向量和项目向量映射到多空间,从多角度做用户-项目交互,使用两层注意力机制聚合最终的用户表示向量和项目表示向量,以进行评分预测.在公开的真实数据集上,多空间交互协同过滤模型(MSICF)与多个基线模型进行了对比实验,MSICF模型的评估优于对比的基线方法.     

基于交互注意力图卷积网络的方面情感分类

基于方面的情感分类任务旨在识别句子中给定方面词的情感倾向性.以往的方法大多基于长短时记忆网络和注意力机制,这种做法在很大程度上仅依赖于建模句子中的方面词与其上下文的语义相关性,但忽略了句中的语法信息.针对这种缺陷,提出了一种交互注意力的图卷积网络,同时建模了句中单词的语义相关性和语法相关性.首先使用双向长短时记忆网络来...     

基于门控图卷积网络和协同注意力的视觉问答

经典的视觉注意力模型缺乏视觉对象间空间关系的推理能力,忽略了图像和问题文本之间的密集语义交互,导致在预测答案过程中对噪声的处理能力不足。针对上述问题,提出了一种基于门控图卷积网络和协同注意力的视觉问答模型。该模型基于图像中视觉对象之间的相对空间位置构建空间关系图;同时以问题为引导,在图卷积网络的基础上增加门控机制,能够动态控制具有不同空间关系的邻居对节点的贡献程度;然后将问题的词特征和带有空间关系感知能力的视觉特征输入双向引导的协同注意力模块,共同学习它们之间的密集语义交互。在VQA2.0数据集进行实验,结果表明：该模型具有较强的显式关系推理能力,在test-std测试集的总体准确率为70.90%,优于该数据集上的经典模型,有效地提升了视觉问答的准确率。     

融合注意力机制的深度混合推荐算法

大量研究利用用户或项目的边信息来缓解视频推荐中的数据稀疏和冷启动问题,取得了一定的效果,但是没有关注辅助信息中的关键信息.针对此问题进行了研究,提出了一种融合双注意力机制的深度混合推荐模型.该模型通过融合自注意力机制的卷积神经网络挖掘项目端隐藏因子,同时融合自注意力机制的堆栈去噪自编码器提取用户端隐藏因子,深度挖掘项目端和用户端的重要信息.最后,通过结合概率矩阵分解实现视频评分预测.在两个公开数据集上的大量实验结果表明,提出的方法结果在已有ConvMF+、PHD、DUPIA等基线模型基础上有一定提升.     

基于胶囊图卷积的解缠绕会话感知推荐方法

针对会话推荐模型中存在的推荐准确率不高的问题,提出了一种基于胶囊图卷积的解缠绕会话感知推荐方法(CGCD)。具体来说,采用解缠绕学习技术将项目嵌入转换为基于多个子通道的因子嵌入,利用图卷积网络对因子嵌入进行细粒度的学习。然后,利用胶囊动态融合策略聚合不同的因子获得新的项目嵌入。此外,采用多头注意力机制为会话中每个项目分配权重。最后,根据分配的权重将项目嵌入与当前会话中的其他项目进行聚合,进而生成准确的会话表示,实现项目推荐。在两个公开真实数据集上的实验表明,所提模型在推荐的Pre@10,Pre@20,MRR@10和MRR@20上平均提高了5.17%、2.99%、6.56%和2.94%,验证了其有效性与高效性。     

基于邻接矩阵优化和负采样的图卷积推荐

为了缓解推荐系统中随机初始化用户和物品的嵌入、忽视不同卷积层的重要程度以及负样本数量太少且质量不高的问题,提出了一种基于邻接矩阵优化和负采样的图卷积推荐方法（graph convolution recommendation method based on adjacency matrix optimization and negative sampling,AMONS）。具体来说,模型利用邻接矩阵对用户和物品进行嵌入优化,并在卷积层聚合时引入层衰减系数,区分不同层的重要程度。接着,为每对用户-正样本生成一组经过筛选的负样本,让模型能够充分利用用户-物品的历史交互数据,更好地学习用户偏好。在Gowalla和Amazon-Books两个公开数据集上进行了充分的实验,与相关方法相比,AMONS取得了最佳的性能表现,证明了方法的有效性。     

融合知识图谱与注意力机制的项目推荐算法

知识图谱蕴含丰富的语义信息;广泛应用在不同的推荐场景中。现有的基于知识图谱的推荐方法在图神经网络的建模过程中;粗粒度地考虑用户和项目交互的关系;构建用户特征模型时;忽略不同历史项目的重要性。针对此类问题;提出一种融合知识图谱与注意力机制的项目推荐算法。该算法聚合用户特征;使用注意力机制学习知识图谱高阶潜在关系;构建项目特征时传播其邻域之间的项目嵌入表示;用图卷积网络进行特征聚合;最后使用多层神经网络进行预测。该算法在两组公开数据集上;与基线算法进行对比实验;召回率最高提升6.9%。     

融合协同知识图谱与优化图注意网络的推荐算法

考虑到推荐算法存在数据稀疏及模型复杂度较高等问题,提出了一种融合协同知识图谱与优化图注意网络的推荐模型。将用户/项目知识图谱与用户-项目交互图结合为协同知识图谱,嵌入到优化的图注意网络模型中,这不仅可以很好地缓解数据稀疏问题,还能更大程度地挖掘用户的潜在兴趣和高阶关系;使用优化的图卷积网络,通过去除特征转换和非线性激活模块,可以在不影响整体推荐性能的基础上极大地降低模型复杂度;结合基于偏差的注意力机制,及时感知候选项目与用户真实感兴趣项目之间的偏差,提升模型的训练效率。在Movielens数据集和Douban数据集上进行仿真实验,结果表明该算法在推荐性能和时间复杂度方面,相比对比算法均得到了有效的提升。     

RA-GCN：抑制过平滑现象的文本分类算法

现有大多数利用图神经网络的算法进行文本分类时,忽略了图神经网络的过度平滑问题和由于文本图拓扑差异引入的误差,导致文本分类的性能不佳。针对这一问题,提出了衡量多个文本图表示的平滑度方法WACD以及抑制过平滑现象的正则项RWACD。随后提出了基于注意力和残差的网络结构ARS,用于弥补由于图拓扑差异引起的文本信息的损失。最后,提出了图卷积神经网络文本分类算法RA-GCN。RA-GCN在图表示学习层使用ARS融合文本表示,在读出层使用RWACD抑制过平滑现象。在六个中英文数据集上进行实验,实验结果证明了RA-GCN的分类性能,并通过多个对比实验验证了RWACD和ARS的作用。     

基于轻量图卷积和注意力增强的多行为推荐模型

近年来,图卷积网络被广泛应用于多行为推荐中,以进一步缓解数据稀疏问题。但目前许多方法都是直接使用图卷积网络,使得模型时间复杂度较高,还忽略了邻域的不同聚合权重和各行为对用户偏好的不同贡献。为此,提出一种基于轻量图卷积和注意力增强的多行为推荐模型(MB-LGCA)。首先根据多行为数据构建用户—项目二部图,采用一种轻量图卷积网络聚合邻域特征获得高阶协同信息,同时利用注意力机制融入邻域权重,增强节点嵌入表示;利用k-阶用户嵌入传播来获取各行为对用户偏好的不同重要性,使模型具有更好的可解释性;最后合并不同层的嵌入表示进行预测。两个真实数据集上的实验结果表明,该模型具有较好的性能。     

融合协同过滤信息的知识图注意力网络

知识图谱（KG）能够缓解协同过滤算法存在的数据稀疏和冷启动问题,在推荐领域被广泛地研究和应用。现有的很多基于KG的推荐模型混淆了用户物品二部图中的协同过滤信息和KG中实体间的关联信息,导致学习到的用户向量和物品向量无法准确表达其特征,甚至引入与用户、物品无关的信息从而干扰推荐。针对上述问题提出一种融合协同信息的知识图注意力网络（KGANCF）。首先,为了避免KG实体信息的干扰,网络的协同过滤层从用户物品二部图中挖掘出用户和物品的协同过滤信息;然后,在知识图注意力嵌入层中应用图注意力机制,从KG中继续提取与用户和物品密切相关的属性信息;最后,在预测层将用户物品的协同过滤信息和KG中的属性信息融合,得到用户和物品最终向量表示,进而预测用户对物品的评分。在MovieLens-20M和Last.FM数据集上进行了实验,与协同知识感知注意力网络（CKAN）相比,KGANCF在MovieLens-20M数据集上的F1分数提升了1.1个百分点,曲线下面积（AUC）提升了0.6个百分点;而在KG相对稀疏的Last.FM数据集上,模型的F1分数提升了3.3个百分点,AUC提升了8.5个百分点。实验结果表明,KGANCF能够有效提高推荐结果的准确度,在KG稀疏的数据集上显著优于协同知识嵌入（CKE）、知识图谱卷积网络（KGCN）、知识图注意网络（KGAT）和CKAN模型。