基于双重最相关注意力网络的协同过滤推荐算法

基于项目的协同过滤从用户的历史交互项目中学习用户偏好,根据用户的偏好推荐相似的新项目。现有的协同过滤方法认为用户所交互的一组历史项目对用户的影响是相同的,并且将所有历史交互项目在对目标项目作预测时的贡献看作是相同的,导致这些推荐方法的准确性受限。针对上述问题,提出了一种基于双重最相关注意力网络的协同过滤推荐算法,该算法包含两层注意力网络。首先,使用项目级注意力网络为不同历史项目分配不同的权重来捕获用户历史交互项目中最相关的项目;然后,使用项目交互级注意力网络感知不同历史项目与目标项目之间的交互关联度;最后,通过两层注意力网络的使用来同时捕获用户在历史交互项目上和目标项目上的细粒度偏好,从而更好地进行下一步推荐工作。在MovieLens和Pinterest两个真实数据集上进行实验,实验结果表明,所提算法在推荐命中率上与基准模型基于深度学习的项目协同过滤（DeepICF）算法相比分别提升了2.3个百分点和1.5个百分点,验证了该算法在为用户进行个性化推荐上的有效性。     

基于双重最相关注意力网络的协同过滤推荐算法

基于项目的协同过滤从用户的历史交互项目中学习用户偏好，根据用户的偏好推荐相似的新项目。现有的协同过滤方法认为用户所交互的一组历史项目对用户的影响是相同的，并且将所有历史交互项目在对目标项目作预测时的贡献看作是相同的，导致这些推荐方法的准确性受限。针对上述问题，提出了一种基于双重最相关注意力网络的协同过滤推荐算法，该算法包含两层注意力网络。首先，使用项目级注意力网络为不同历史项目分配不同的权重来捕获用户历史交互项目中最相关的项目；然后，使用项目交互级注意力网络感知不同历史项目与目标项目之间的交互关联度；最后，通过两层注意力网络的使用来同时捕获用户在历史交互项目上和目标项目上的细粒度偏好，从而更好地进行下一步推荐工作。在MovieLens和Pinterest两个真实数据集上进行实验，实验结果表明，所提算法在推荐命中率上与基准模型基于深度学习的项目协同过滤（DeepICF）算法相比分别提升了2.3个百分点和1.5个百分点，验证了该算法在为用户进行个性化推荐上的有效性。     

一种基于自注意力机制的组推荐方法

基于自注意力网络和神经协同过滤模型（neural collaborative filtering,NCF）提出一种基于自注意力机制的组推荐系统模型SAGR（self-attention group recommendation）,用于建模用户交互数据以及学习群组潜在偏好的表示。通过在用户级和项目级分别使用自注意力机制,动态调整组中每个用户的权重,解决偏好融合问题从而得到组表示。再通过多层神经网络框架NCF从数据中挖掘组和项目之间的交互,最终完成群组推荐。在CAMRa2011和MovieLens数据集上与同类方法进行对比,实验结果表明SAGR方法能够取得更好的组推荐结果。     

基于多视图的知识感知推荐系统

现在基于知识图谱的推荐方法中,大多采用单一用户或项目表示,存在用户兴趣干扰、信息不完全利用和数据稀疏的问题。本文提出一种基于多视图的知识感知推荐模型（Multi-view Knowledge-aware,MVKA）。首先,该模型在用户-项目图融合注意力机制捕获用户的兴趣表示;引入项目-实体图,设计图注意力网络进行特征提取获取项目的嵌入表示;然后在2个视图之间构造图视角的对比学习方法,最后进行求和和串联操作得到用户和项目的最终表示,并通过内积预测用户对项目的匹配分数。为了验证本文模型的准确性和计算效率,在MovieLens-1M、Book-crossing和Last FM公开数据集上进行了大量的实验,并且与其他传统方法和图神经网络模型相比,AUC和F1值评价指标均有明显提升,说明MVKA模型可显著利用各种信息关系数据来改善知识感知推荐任务。     

融合协同过滤信息的知识图注意力网络

知识图谱（KG）能够缓解协同过滤算法存在的数据稀疏和冷启动问题,在推荐领域被广泛地研究和应用。现有的很多基于KG的推荐模型混淆了用户物品二部图中的协同过滤信息和KG中实体间的关联信息,导致学习到的用户向量和物品向量无法准确表达其特征,甚至引入与用户、物品无关的信息从而干扰推荐。针对上述问题提出一种融合协同信息的知识图注意力网络（KGANCF）。首先,为了避免KG实体信息的干扰,网络的协同过滤层从用户物品二部图中挖掘出用户和物品的协同过滤信息;然后,在知识图注意力嵌入层中应用图注意力机制,从KG中继续提取与用户和物品密切相关的属性信息;最后,在预测层将用户物品的协同过滤信息和KG中的属性信息融合,得到用户和物品最终向量表示,进而预测用户对物品的评分。在MovieLens-20M和Last.FM数据集上进行了实验,与协同知识感知注意力网络（CKAN）相比,KGANCF在MovieLens-20M数据集上的F1分数提升了1.1个百分点,曲线下面积（AUC）提升了0.6个百分点;而在KG相对稀疏的Last.FM数据集上,模型的F1分数提升了3.3个百分点,AUC提升了8.5个百分点。实验结果表明,KGANCF能够有效提高推荐结果的准确度,在KG稀疏的数据集上显著优于协同知识嵌入（CKE）、知识图谱卷积网络（KGCN）、知识图注意网络（KGAT）和CKAN模型。     

融合全局和近邻协同信息的会话推荐算法

现有基于会话的推荐算法主要通过挖掘单个目标会话的项目转换关系进行推荐,对来自其他不同会话中项目之间的复杂转换信息考虑较少。为此,提出一种融合全局和近邻协同信息的会话推荐算法SFGN-GNN,同时考虑来自全局与近邻会话的协同信息,以充分挖掘用户偏好。通过学习会话表示来表达用户偏好,先按目标会话与近邻会话的成对项目转移关系构建近邻图,依据所有会话中的成对项目转移关系构建全局图,再利用图神经网络获取目标会话节点近邻级和全局级的项目表示,采用融合门融合得到会话级项目表示,并在其中嵌入项目在目标会话中的位置信息和时间信息,然后通过软注意力机制得到最终的会话表示,最后经过softmax函数预测下一个可能交互的项目。在两个数据集上的实验验证了SFGN-GNN算法有效性。     

基于跨会话知识图谱的图注意力网络推荐方法

基于会话的推荐方法旨在根据匿名用户行为序列预测下一个项目。然而,现有会话推荐方法多基于当前会话建模用户偏好,忽略了会话间蕴含的语义信息及知识图谱中丰富的实体和关系信息,无法有效缓解数据稀疏性的问题。提出一种基于跨会话信息与知识图谱的图注意力网络推荐方法。通过有效整合跨会话信息和知识图谱中的项目知识构建跨会话知识图谱,利用知识感知的注意力机制计算各邻居节点的重要性分数,以更新项目节点表示,采用门控循环单元和图注意力网络将每个会话表示为该会话的当前偏好和全局偏好的组合。在此基础上,将会话嵌入和项目嵌入拼接后输入到多层感知机,得到目标会话和候选项目的预测分数,从而实现会话推荐。实验结果表明,与GRU4REC、SR-GNN、FGNN等方法相比,该方法在KKBOX和JDATA两个真实数据集上的推荐命中率分别至少提高了8.23和2.41个百分点,能有效增强会话推荐性能。     

融合序列局部信息的日期感知序列推荐算法

基于自注意力机制的序列推荐算法利用用户的交互序列建模用户的动态偏好,预测用户未来的行为。但是,将交互序列直接输入自注意力层将会限制算法对序列局部关联信息的有效利用。此外,现有的大部分推荐算法利用用户最近的行为表征与目标项目的点积计算项目得分,这将削弱先前交互项目对推荐结果的影响。提出融合序列局部信息的日期感知序列推荐算法,使用多个垂直过滤器融合各交互项目在交互序列中的多种局部关联信息,同时使用交叉注意力机制捕获所有历史交互项目和目标项目的关系,并且抛弃了传统的位置嵌入方法,改用交互发生的日期作为绝对时间嵌入。在多个公开数据集上的实验表明,该算法在不同的评估指标上较基线算法均有一定程度的提升。     

结合注意力CNN与GNN的信息融合推荐方法

稀疏性问题一直是推荐系统面临的主要挑战,而信息融合推荐可以利用用户的评论、评分以及信任等信息发掘用户的偏好来缓解这一问题,从而为目标用户生成相应的推荐.用户、项目信息的充分学习是构建一个成功推荐系统的关键.但不同用户对不同项目有不同的偏好,且用户的兴趣偏好及社交圈是动态变化的.提出一种结合深度学习与信息融合的推荐方法来解决稀疏性等问题.特别地,构建了一种新的深度学习模型——结合注意力卷积神经网络(attention CNN)与图神经网络(GNN)的信息融合推荐模型ACGIF.首先,在CNN中加入注意力机制来处理评论信息,从评论信息中学习用户和项目的个性化表示.根据评论编码学习评论表示,通过用户/项目编码学习评论中用户/项目表示.加入个性化注意力机制来筛选不同重要性级别的评论.然后,利用GNN来处理评分和信任信息.对于每个用户来说,扩散过程从最初的嵌入开始,融合相关特性和捕获潜在行为偏好的自由用户潜在向量.设计了一个分层的影响传播结构,以模拟用户的潜在嵌入如何随着社交扩散过程的继续而演变.最后,对前两部分得到的用户对项目的偏好向量进行加权融合,获得最终的用户对于项目的偏好向量.在4组公开...     

知识图谱增强的图神经网络推荐研究进展

已有推荐方法主要基于用户与项目的历史交互行为,未充分运用用户及项目相关特征信息,推荐效果并不理想。知识图谱（knowledge graph,KG）增强的图神经网络（graph neural network,GNN）推荐,是以用户与项目交互行为构建的交互图为基础,引入同为图结构的知识图谱,并运用图神经网络技术进行处理,从而实现个性化推荐。深入探讨了现有知识图谱增强的图神经网络推荐研究进展。首先在对图神经网络推荐和知识图谱推荐进行探讨的基础上,从项目知识图谱和协同知识图谱视角,深入分析了当前知识图谱增强的图神经网络推荐取得的相关研究成果;然后从大规模动态知识图谱处理、用户对项目属性的偏好挖掘、知识图谱的图嵌入学习等方面,指出了已有知识图谱增强的图神经网络推荐研究存在的主要问题;最后从动态时序知识图谱增强的GNN推荐、元学习的知识图谱增强GNN推荐、多模态知识图谱增强的GNN推荐、知识图谱增强的GNN跨领域推荐等方面,展望了知识图谱增强的图神经网络推荐未来主要研究方向。     

区分交互意图的图卷积协同过滤算法

近几年提出了一些基于图卷积网络的协同过滤推荐模型,然而大部分模型将邻域权重视为常量且不区分用户和物品间的交互关系,无法获取令用户满意的推荐列表。因此,为了得到用户和物品更准确的嵌入表示,提出一种区分交互意图的图卷积协同过滤推荐算法MiGCCF(multi-intention graph convolutional collaborative filtering)。该算法将交互关系进行分解,细粒度分析用户与物品间的交互意图,并引入注意力机制,在消息传播过程中赋予邻域可学习的注意力权重,挖掘用户对于不同交互物品的喜爱度。在Gowalla与Amazon-book上的实验表明,该算法相比于基准算法,在两个数据集上的HR@50和NDCG@50指标分别提高了12.5%和8.5%,具有更好的性能表现。     

一种融合用户动态偏好和注意力机制的跨领域推荐方法

作为当今电子商务中的一项重要技术,推荐系统的重要性日益提升.在项目空间上用户的评分数据十分稀疏,导致推荐系统的质量不佳.商品评论中蕴含着丰富的信息,通过提取评论文本信息能够有效地减少数据稀疏性带来的影响.事实上,用户的偏好并非一成不变的,将不同时间段设置不同的权重能更有效地描述用户的整体状况.在神经网络算法广泛应用的背景下,将神经网络引入到跨领域推荐中可以发现不同领域用户偏好的映射关系.此外,注意力机制是一种流行的深度学习方法,将注意力机制与主题模型结合,提出一种基于注意力机制的跨领域推荐方法.首先,使用LDA(Latent Dirichlet Allocation)主题模型分别提取源领域和目标领域的项目主题分布.接着,将其与用户评分、时间权重因子、注意力机制结合,得到用户的动态偏好.然后,使用BP(Back Propagation)神经网络学习用户偏好的映射关系,并将用户在源领域与目标领域的偏好结合.最后,通过协同过滤的方法进行评分预测.实验结果表明,提出的推荐方法在亚马逊电子商品、影视与以及音乐的评分评论数据集上较其它传统推荐策略有着更好的推荐效果.     

融合增强协同信息和知识图谱信息的推荐模型

将知识图谱引入推荐系统,能一定程度解决数据稀疏和冷启动问题,但是往往忽略了高阶协同信息和不同协同信息的重要程度对探索用户潜在偏好的重要性,由此提出了一种融合增强协同信息和知识图谱信息的推荐模型(CIKG)。该模型首先利用用户和项目的历史交互数据,获取一阶协同信息和高阶协同信息,同时使用注意力机制捕获重要信息,得到增强协同信息,用来补充用户和项目的特征表示。其次通过将用户交互的项目与知识图谱中的实体对应,在知识图谱中执行传播操作,得到知识图谱信息,用于挖掘用户的偏好并且增强模型的可解释性。最后通过聚合器将增强协同信息和知识图谱信息结合得到用户和项目的最终表示,从而进行预测。在Last-fm和Book-crossing两个数据集上进行的实验结果表明CIKG相比其他对比的模型推荐效果有较大提升。     

基于知识图注意网络的个性化推荐算法

现有的大多数利用知识图谱的推荐算法在探索用户的潜在偏好时没有有效解决知识图谱中存在的不相关实体的问题,导致推荐结果准确率不高。针对这一问题,提出了基于知识图谱和图注意网络的推荐算法KG-GAT(knowledge graph and graph attention network)。该算法将知识图谱作为辅助信息,在图注意网络中使用分层注意力机制嵌入与实体相关的近邻实体的信息来重新定义实体的嵌入,得到更有效的用户和项目的潜在表示,生成更精确的top-N推荐列表,并带来了可解释性。最后利用两个公开数据集将所提算法和其他算法进行实验对比,得出所提算法KG-GAT能够有效解决沿着知识图谱中的关系探索用户的潜在偏好时存在的不相关实体的问题。     

面向会话的需求感知注意图神经网络推荐模型

针对现有基于图的会话推荐方法忽略了反馈数据中由于用户行为不确定性引起的噪声影响,存在无法准确和有效地捕捉用户偏好的问题,提出一种面向会话的需求感知注意图神经网络推荐模型（DAAGNNSR）。将具有时序性的会话数据构建为图,通过引入图神经网络学习图上节点嵌入表示;将提取的项目特征使用需求感知聚合器线性聚合为用户潜在需求矩阵,以自动削弱噪声干扰,同时用低秩多头注意力网络将该矩阵与全部项目特征进行逐项兴趣交互生成需求增强的项目表征;联合独立位置编码进一步分析项目间顺序关联,并且将生成的独立位置嵌入与项目表征进行线性融合;经过预测层生成推荐列表。将所提模型在Diginetica、Tmall和Nowplaying三个公共数据集上进行训练和测试,实验结果表明,该模型的推荐精度在各指标上均优于其他基线模型,与基于图上下文自注意力机制模型（GCSAN）相比,Diginetica上NDCG@10提高了5.6%,Tmall上Recall@10提高了6.4%;与基于图神经网络的SRGNN相比,Tmall上Precision@10提高了5.0%,推荐性能显著提升。     

多空间交互协同过滤推荐

大数据时代,由于信息过载,用户很难从海量数据中寻找出感兴趣的内容,个性化推荐系统的诞生极好地解决了这个问题.协同过滤算法被广泛应用于个性化推荐领域,但由于模型的限制,推荐效果未能得到进一步提升.现有的基于协同过滤模型的改进方法大多都是通过引入表示学习方法来得到更好的用户表示向量和项目表示向量,或通过改进用户项目匹配函数来提升推荐能力,但此类工作都致力于从单个交互提取用户-项目交互信息.文中提出了一种多空间交互协同过滤推荐算法,将用户向量和项目向量映射到多空间,从多角度做用户-项目交互,使用两层注意力机制聚合最终的用户表示向量和项目表示向量,以进行评分预测.在公开的真实数据集上,多空间交互协同过滤模型(MSICF)与多个基线模型进行了对比实验,MSICF模型的评估优于对比的基线方法.     

基于图注意力的神经协同过滤社会推荐算法

互联网技术的发展使得信息过载问题日趋严重，为了解决传统推荐技术的数据稀疏和冷启动问题，社会推荐逐渐成为近年来的研究热点。图神经网络(GNNs)作为一种能够自然整合节点信息和拓扑结构的网络，为改进社会推荐提供了巨大的潜力。但基于图神经网络的社会推荐还存在许多挑战，例如，如何从用户项目交互图和社交网络图中学习准确的用户和项目的潜在因子表示；简单映射用户和项目的固有属性来获取嵌入，但用户项目交互的关键协作信号未被学习。为了学习更准确的潜在因子表示，捕获关键的协作信号，提升推荐系统的性能，提出了基于图注意力的神经协同过滤社会推荐模型(AGNN-SR)。该模型基于用户项目交互图和社交网络图，通过多头注意力机制多角度地学习用户和项目的潜在因子；此外，图神经网络利用高阶连通性递归地在图上传播嵌入信息，显式编码协作信号，探索用户和项目之间的深层复杂的交互关系。最后，在3个真实数据集上验证了AGNN-SR模型的有效性。     

基于知识图谱和图注意力的众包任务推荐算法

为解决目前众包任务推荐存在未考虑任务文本信息和数据稀疏的问题,提出一种基于知识图谱与图注意力的众包任务推荐模型。该模型首先利用自然语言处理技术提取任务文本信息中的关键要素,用于丰富图谱信息和缓解数据稀疏性;通过融合用户—任务交互图中的协同信息来构建协同知识图谱,在协同知识图谱中按协同邻居的类型分别运用图注意力网络;为获取用户准确的偏好,聚合邻居信息时按注意力得分从高到低采样固定数目的邻居;最后通过聚合不同类型的协同信息生成用户和任务的嵌入表示并得到交互概率。在构建的众包数据集上进行实验的结果表明,该模型在AUC、精准率、召回率和NDCG四个指标上均优于基线模型,验证了模型的可行性和有效性。     

基于双层注意力机制的深度学习电影推荐系统

传统协同过滤技术仅使用用户对物品的评分矩阵,没有充分利用用户和物品的其他多种特征,而且由于评分矩阵非常稀疏,导致推荐系统的推荐准确率严重下降。近几年深度学习技术在机器学习的多个领域取得了显著的成就,本文针对传统协同过滤推荐系统的问题,提出一种基于双层注意力机制的深度学习推荐系统。以电影推荐为例,使用深度学习框架处理推荐系统中的多种输入特征信息,同时引入双层注意力机制,分别学习用户和电影每个特征之间的偏好以及用户与其观影列表中每一部电影间的偏好,从而尽可能多地利用用户和电影的特征数据,学习用户的行为偏好,在一定程度上改善了推荐的效果。     

基于自注意力网络的时间感知序列化推荐

随着信息技术的发展, 推荐系统作为信息过载时代的重要工具, 正扮演着越来越重要的角色. 基于内容和协同过滤的传统推荐系统, 倾向于以静态方式对用户与商品交互进行建模, 以获取用户过去的长期偏好. 考虑到用户的偏好往往是动态的, 且具有非持续性和行为依赖性, 序列化推荐方法将用户与商品的交互历史建模为有序序列, 能有效捕获商品的依赖关系和用户的短期偏好. 然而多数序列化推荐模型过于强调用户-商品交互的行为顺序, 忽视了交互序列中的时间信息, 即隐式假设了序列中相邻商品具有相同的时间间隔, 在捕捉包含时间动态的用户偏好上具有局限性. 针对以上问题, 文中提出基于自注意力网络的时间感知序列化推荐(self-attention-based network for time-aware sequential recommendation, SNTSR)模型, 该模型将时间信息融入改进的自注意力网络中, 以探索动态时间对下一商品预测的影响. 同时, SNTSR独立计算位置相关性, 以消除可能引入的噪声相关性, 增强捕获用户序列模式的能力. 在两个真实世界数据集上的大量实验表明, SNTSR始终优于一组先进的序列化推荐模型.