基于知识图谱嵌入与多神经网络的序列推荐算法

循环神经网络在序列推荐中占有重要地位,但在推荐中,用户的行为序列远比自然语言处理中的句子或计算机视觉中的图像要复杂得多。单一的循环神经网络结构难以充分地挖掘用户偏好,因此提出一种新型的序列推荐算法,同时考虑序列的时间信息以及内容信息。主要分为2个部分：改进的项目嵌入和序列偏好学习。首先,提出一种融合知识图谱的项目嵌入方法,用于生成高质量的项目向量;其次,提出一种卷积神经网络结合长短时记忆神经网络的序列建模方法。更进一步地提出一个基于注意力的框架,动态地结合用户的兴趣点。在公开数据集MovieLens10M上与传统方法以及现有的同类型方法进行了比较。实验结果表明,所提算法在推荐评价指标平均倒数排名MRR@N以及召回率Recall@N上有显著的提升,验证了该算法的有效性。     

基于双通道轻量图卷积的序列推荐算法

传统基于图神经网络的序列推荐算法,在构图阶段忽略了其他用户序列中项目的转换关系,针对这一问题,提出了一种基于双通道轻量图卷积的序列推荐算法。首先,为目标用户找到其邻居用户序列,将目标用户序列和得到的邻居序列合并成一个有向序列图,充分利用了用户之间潜在的协作信息。然后,通过双通道轻量图卷积,分别对2种序列进行信息传播,每个通道通过指数分母的形式组合每一层的信息,融合2个通道得到的嵌入生成最终的项目嵌入。最后,对得到的项目嵌入通过后几项取平均的方式提取短期偏好,再通过引入挤压激励网络的多头自注意力机制提取长期偏好,整合长短期偏好得到用户的最终偏好。在2个公开数据集Beauty和MovieLens-20M上进行充分的实验并验证了算法的有效性。     

基于多维上下文感知图嵌入模型的兴趣点推荐

近些年来,兴趣点推荐系统已经逐渐成为移动推荐系统领域的研究热点之一.多种因素联合建模的方法逐渐深入,如时间、空间、序列、社会化和语义信息被引入统一模型,以建模多维情景下的用户偏好.其中,嵌入学习模型作为一种有效的多因素联合建模方法,在移动推荐领域有较好的性能.然而,多数嵌入学习的模型只是简单地将显式因素,如时间戳、项目、区域、序列等嵌入到相同的空间,由于缺乏对用户和项目的语义特征的深层次挖掘,在用户签到极端稀疏时,难以精准获取用户偏好.鉴于此,提出一种多维上下文感知的图嵌入模型——MCAGE.在MCAGE中,利用主题模型提取用户和项目间的潜在语义特征,并重新定义了一系列图的节点及关联规则,设计了更有效的用户偏好公式,以此提升刻画移动用户偏好的精准度.最后,通过在真实数据集上的实验分析,证明了该模型具有更好的推荐性能.     

一种分层注意力机制与用户动态偏好融合的序列推荐算法

针对现有的序列推荐算法通常仅采用单一项目信息来捕获项目的潜在特征,以及循环神经网络存在时间依赖性随序列中位置单调变化的问题,提出一种分层注意力机制与用户动态偏好融合的序列推荐算法.首先,针对单一项目信息不足以学习项目准确表示的问题,提出一种分层注意力机制用于学习高质量的项目表示.其次,针对循环神经网络的时间依赖性严重损害了用户近期偏好建模的问题,引入文本卷积神经网络来提取循环隐藏状态之间的短期序列模式,并根据用户意图将用户长期偏好与近期偏好进行动态融合.此外,针对传统自注意力机制无法对序列中元素的相对位置信息进行建模的问题,对现有的自注意力机制进行了改进,充分捕获序列中元素的相对位置信息.并在公开数据集MovieLens-1M与Amazon-Book上与现有优秀算法作比较,实验结果证明了所提算法的有效性.     

双通道异构图神经网络序列推荐算法

基于用户行为序列的推荐系统的目的是根据上一次序列的顺序预测用户的下一次点击。目前的研究一般是根据用户行为序列中项目的转换来了解用户偏好。然而,行为序列中的其他有效信息被忽略,如用户配置文件,这会导致模型无法了解用户的特定偏好。提出了一种基于双通道异构图神经网络的用户行为序列推荐算法（DC-HetGNN）,该方法通过异构图神经网络通道和异构图线图通道学习行为序列嵌入,并捕获用户的特定偏好。DC-HetGNN会根据行为序列构造包含各种类型节点的异构图,可以捕获项目、用户和序列之间的依赖关系。其次,异构图神经网络通道和异构图线图通道捕获物品复杂转换及序列之间的交互信息,并学习包含用户信息的物品嵌入。最后,考虑到用户长期和短期偏好的影响,将局部和全局序列嵌入与注意力网络相结合,得到最终的序列嵌入。在两个电商用户行为序列数据集Diginetica和Tmall上进行的实验表明,DCHetGNN与新近模型FGNN相比在指标平均倒数排名（MRR）和召回率（Recall）中平均分别提升2.08%和0.78%,与TGSRec相比在指标MRR@n和Recall@n中平均分别提升2.70%和0.49%。     

基于生成对抗模型的序列推荐算法

针对传统序列推荐算法时间信息和项目内容信息运用不充分的问题,该文提出基于生成对抗模型的序列推荐算法。通过生成对抗模型将序列建模与时间、内容信息建模分离,充分挖掘用户项目交互的序列信息和项目内容信息。运用卷积神经网络作为生成对抗模型的生成器,捕获用户项目交互的序列模式。运用注意力机制作为生成对抗模型的判别器,捕获交互序列的时间信息和项目内容信息。针对传统序列推荐算法时间信息建模不充分的问题,提出一种改进的时间嵌入方式,充分建模用户项目交互关于时间的周期性模式。利用生成对抗模型同时建模用户的稳定偏好和动态偏好,提升推荐系统的用户体验,并在公开数据集MovieLens-1M和Amazon-Beauty上与现有的优秀算法做比较。实验证明,该文所提出的算法在评价指标HR@N和NDCG@N上较基线方法均有一定提升。     

融合序列局部信息的日期感知序列推荐算法

基于自注意力机制的序列推荐算法利用用户的交互序列建模用户的动态偏好,预测用户未来的行为。但是,将交互序列直接输入自注意力层将会限制算法对序列局部关联信息的有效利用。此外,现有的大部分推荐算法利用用户最近的行为表征与目标项目的点积计算项目得分,这将削弱先前交互项目对推荐结果的影响。提出融合序列局部信息的日期感知序列推荐算法,使用多个垂直过滤器融合各交互项目在交互序列中的多种局部关联信息,同时使用交叉注意力机制捕获所有历史交互项目和目标项目的关系,并且抛弃了传统的位置嵌入方法,改用交互发生的日期作为绝对时间嵌入。在多个公开数据集上的实验表明,该算法在不同的评估指标上较基线算法均有一定程度的提升。     

结合注意力CNN与GNN的信息融合推荐方法

稀疏性问题一直是推荐系统面临的主要挑战,而信息融合推荐可以利用用户的评论、评分以及信任等信息发掘用户的偏好来缓解这一问题,从而为目标用户生成相应的推荐.用户、项目信息的充分学习是构建一个成功推荐系统的关键.但不同用户对不同项目有不同的偏好,且用户的兴趣偏好及社交圈是动态变化的.提出一种结合深度学习与信息融合的推荐方法来解决稀疏性等问题.特别地,构建了一种新的深度学习模型——结合注意力卷积神经网络(attention CNN)与图神经网络(GNN)的信息融合推荐模型ACGIF.首先,在CNN中加入注意力机制来处理评论信息,从评论信息中学习用户和项目的个性化表示.根据评论编码学习评论表示,通过用户/项目编码学习评论中用户/项目表示.加入个性化注意力机制来筛选不同重要性级别的评论.然后,利用GNN来处理评分和信任信息.对于每个用户来说,扩散过程从最初的嵌入开始,融合相关特性和捕获潜在行为偏好的自由用户潜在向量.设计了一个分层的影响传播结构,以模拟用户的潜在嵌入如何随着社交扩散过程的继续而演变.最后,对前两部分得到的用户对项目的偏好向量进行加权融合,获得最终的用户对于项目的偏好向量.在4组公开...     

基于时间和关系感知的图协同过滤跨域序列推荐

跨域序列推荐旨在从给定的某用户在不同领域中的历史交互序列中挖掘其偏好,预测其在多个领域中最可能与之交互的下一个项目,以缓解数据稀疏对用户意图捕捉和预测的影响.受协同过滤思想启发,提出一种基于时间和关系感知的图协同过滤跨域序列推荐（timeandrelation-awaregraph collaborative filtering for cross-domain sequential recommendation, TRaGCF）算法,充分挖掘用户高阶行为模式同时利用跨域用户行为模式双向迁移,解决序列推荐中的数据稀疏问题.首先,为获得用户行为序列中项目间复杂的时序依赖关系,提出时间感知图注意力（time-aware graph attention, Ta-GAT）学习项目的域间序列级表示;其次,通过域内用户-项目交互二部图挖掘用户的行为偏好,提出关系感知图注意力（relation-aware graph attention, Ra-GAT）学习项目协同表示和用户协同偏好表示,为用户偏好特征的跨域迁移提供基础;最后为同步提高2个领域中的推荐效果,提出用户偏好特征双向迁移模块（user p...     

基于内容的加权粒度序列推荐算法

为了提高个性化推荐系统的准确率,提出了一种基于内容的加权粒度序列推荐算法。通过分析项目属性关系将项目粒度化,计算每个粒度的贡献度得到项目特征矩阵。再根据用户行为信息生成用户粒度序列并进行粒度映射,利用Apriori算法提取出用户偏好矩阵。最后将项目特征矩阵和用户偏好矩阵做乘积运算,其结果代入改进的sigmoid函数中进行喜好概率预测,从而完成Top-N项目推荐。实验选取MovieLens数据集,结果表明基于内容的加权粒度序列的推荐算法准确率达到72.27%,高于当前流行的推荐算法;在效率方面,推荐时间少于相同用户数量下的协同过滤推荐算法;综合测度评分为0.393,充分验证了算法的整体性能优于其他推荐算法。     

基于知识图嵌入的协同过滤推荐算法

利用知识图谱进行推荐的一个巨大挑战在于如何获取项目的结构化知识并对其进行语义特征提取.针对这一问题,提出了一种基于知识图嵌入的协同过滤推荐算法(KGECF).首先从Freebase知识图谱中提取与项目相关的知识信息,并与历史交互项目进行链接构建子知识库;然后通过基于TransR的Xavier-TransR方法得到子知识库中实体、关系表征;设计一种端到端的联合学习模型,将结构化信息与历史偏好信息嵌入到统一的向量空间中;最后利用协同过滤方法进一步计算这些向量并生成精确的推荐列表.在MovieLens-1 M和Amazon-book两个公开数据集上的实验表明,该算法在推荐准确率、召回率、F1值和NDCG四个指标上均优于基线方法,能够集成大规模的结构化和非结构化数据,同时获得高精度的推荐结果.     

序列生成对抗网络在推荐系统中的应用

推荐系统旨在根据用户的历史行为数据发现该用户可能感兴趣的新项目,并产生相应的推荐。当前大部分的推荐系统多根据用户的历史行为数据,挖掘相似用户,并从相似用户的历史数据中选出彼此历史数据中未出现的新项目;或者根据用户感兴趣的历史项目匹配相似的新项目,从而实现推荐。但这些推荐方式对原始数据有着较强的依赖关系,且难以发觉不同项目之间隐含的序列关系。因此提出一种融合Item2vec和生成对抗网络（Generative Adversarial Networks,GAN）方法的推荐算法,可以学习得到项目间难以表达的关系;挖掘用户历史数据中的序列关系,学习用户兴趣偏好的真实分布;实现用户兴趣偏好的预测。实验发现该推荐算法具有较好的表现。     

融合自注意力机制与长短期偏好的序列推荐模型

针对现有的序列推荐算法仅利用短期顺序行为进行推荐,而没有充分考虑用户的长期偏好和项目之间更深层次的联系等问题,提出一种融合自注意力机制与长短期偏好的序列推荐模型(combines self-attention with long-term and short-term recommendation,CSALSR)。该模型首先建模用户和项目的潜在特征表示,将用户短期交互序列中的项目成对编码为三向张量,然后经过自注意力机制模块并使用卷积神经网络(convolutional neural network,CNN)从用户的顺序模式中提取项目间更深层次的联系。同时考虑用户的长期偏好,将相似用户的嵌入作为补充增强用户表征。在MovieLens-1M和Gowalla数据集上,实验结果表明提出的方法在准确率precision@N、召回率recall@N、均值平均精度(mean average precision,MAP)上优于其他方法。     

基于对比学习的多模态序列推荐算法

针对如何利用商品的多模态信息提高序列推荐算法准确性的问题,提出一种基于对比学习技术的多模态序列推荐算法。该算法首先通过改变商品颜色和截取商品图片中心区域等手段进行数据增强,并把增强后的数据与原数据进行对比学习,以提取到商品的颜色和形状等视觉模态信息;其次对商品的文本模态信息进行低维空间嵌入,从而得到商品多模态信息的完整表达;最后根据商品的时序性,采用循环神经网络（RNN）建模多模态信息的序列交互特征,得到用户的偏好表达,从而进行商品推荐。在两个公开的数据集上进行实验测试的结果表明,与现有的序列推荐算法LESSR相比,所提算法排序性能有所提升,且该算法在特征维度值到达50后,推荐性能基本保持不变。     

基于用户多样性偏好的top-N推荐算法

传统推荐算法主要关注推荐准确性,而用户对项目的不同偏好和多样性需求也影响着用户体验和满意度。针对该问题,提出了一种新的算法,在计算项目相似度时结合了用户对不同项目的评分差异,以此可以提高项目相似度计算的准确性,根据用户历史评分数据和项目类别数据得到用户-类别权重矩阵,一方面以此计算基于熵的多样性,另外根据用户对项目的兴趣计算公式,生成一个降序排列的初始推荐序列,根据用户偏好误差门限,并结合用户-类别权重矩阵实现基于用户偏好的推荐,最终生成[N]个推荐的项目,同时保证准确率和多样性的前提下,提高用户满意度。在数据集movielens的多个版本上,与多个经典算法比较,实验结果表明,提出的算法可以有效提高推荐精度和用户满意度。     

融合全局和近邻协同信息的会话推荐算法

现有基于会话的推荐算法主要通过挖掘单个目标会话的项目转换关系进行推荐,对来自其他不同会话中项目之间的复杂转换信息考虑较少。为此,提出一种融合全局和近邻协同信息的会话推荐算法SFGN-GNN,同时考虑来自全局与近邻会话的协同信息,以充分挖掘用户偏好。通过学习会话表示来表达用户偏好,先按目标会话与近邻会话的成对项目转移关系构建近邻图,依据所有会话中的成对项目转移关系构建全局图,再利用图神经网络获取目标会话节点近邻级和全局级的项目表示,采用融合门融合得到会话级项目表示,并在其中嵌入项目在目标会话中的位置信息和时间信息,然后通过软注意力机制得到最终的会话表示,最后经过softmax函数预测下一个可能交互的项目。在两个数据集上的实验验证了SFGN-GNN算法有效性。     

融合注意力机制的深度协同过滤推荐算法

传统基于项目的协同过滤算法在计算项目之间相似度时只考虑历史项目的评分，而忽略了历史项目偏好对其的影响，以至于推荐精度不够理想。针对此问题，提出了一种融合注意力机制的深度电影推荐算法。根据得到的隐性反馈，在特征级注意力框架上，从项目内容特征提取网络开始，学习项目特征的偏好；将项目特征偏好与项目特征加权得到项目内容特征向量；在项目级特征注意力框架中，通过项目内容特征向量学习对项目偏好的评分，从而产生最终的推荐结果。实验结果表明，提出的推荐算法在MovieLens 100K和MovieLens 1M两个公开数据集上的准确率和推荐个性化较传统算法均有不同程度的提高，表现出较为优越的推荐性能。     

基于超图卷积网络和目标多意图感知的会话推荐算法

当前先进的会话推荐算法主要通过图神经网络从全局和目标会话中挖掘项目的成对转换关系,并将目标会话压缩成固定的向量表示,忽略了项目间复杂的高阶信息和目标项目对用户偏好多样性的影响。为此提出了基于超图卷积网络和目标多意图感知的会话推荐算法HCN-TMP。通过学习会话表示来表达用户偏好,首先依据目标会话构建会话图,依据全局会话构建超图,通过意图解纠缠技术将原有反映用户耦合意图的项目嵌入表示转换为项目多因素嵌入表示,再经图注意力网络和超图卷积网络分别学习目标会话节点的会话级和全局级项目表示,并使用距离相关性损失函数增强多因素嵌入块间的独立性;然后嵌入目标会话中节点位置信息,加权每个节点的注意力权重,得到全局级和会话级会话表示;利用对比学习最大化两者互信息,经目标多意图感知,针对不同的目标项目自适应地学习目标会话中多意图的用户偏好,得到目标感知级会话表示,最后线性融合三个级别的会话表示得到最终的会话表示。在Tmall和Nowplaying两个公开数据集上进行大量实验,实验结果验证了HCN-TMP算法的有效性。     

适用于RPA工具的卷积序列推荐算法

在机器人流程自动化(Robotic Process Automation, RPA)软件中,经常采用序列推荐系统让机器人完成判断、选择等人工处理的任务。然而常用的序列推荐系统受限于序列信息的提取困难等问题,难以得到广泛应用。为了解决这一问题,构建一种基于Inception的卷积序列推荐模型,把时间和潜在空间中的用户行为序列信息嵌入进一幅“图像”中,并通过动态和静态2种不同的卷积层提取其中的局部特征,全面地提取用户的短期兴趣偏好,同时将用户嵌入矩阵作为用户的长期兴趣偏好嵌入到卷积层的输出中,共同构建完整的用户兴趣偏好,提升推荐性能。通过在3种公开数据集MovieLens 1M、Gowalla、Steam上分别进行实验,验证了基于Inception的卷积序列推荐模型的性能优于最新的序列推荐模型,在Top-N序列推荐的3种评价指标中（精确率、召回率、平均AP值）,平均提升幅度在10%左右,单个指标上的最大提升幅度为14%。     

基于图注意力网络表示学习的协同过滤推荐算法

针对传统的基于模型的协同过滤推荐算法未能有效利用用户与项目的属性信息以及用户之间与项目之间的关系结构信息, 本文提出一种基于图注意力网络表示学习的协同过滤推荐算法. 该算法使用知识图谱表示节点的属性特征信息和节点间的关系结构信息, 并在用户和项目的同质网络上进行节点的图注意力网络表示学习, 得到用户和项目的网络嵌入特征表示, 最后构建融合网络嵌入信息的神经矩阵分解模型获得推荐结果. 本文在Movielens数据集上与相关算法进行对比实验, 实验证明该算法能优化模型的推荐性能, 提高推荐的召回率HR@K和归一化折损累计增益NDCG@K.