双通道异构图神经网络序列推荐算法

基于用户行为序列的推荐系统的目的是根据上一次序列的顺序预测用户的下一次点击。目前的研究一般是根据用户行为序列中项目的转换来了解用户偏好。然而,行为序列中的其他有效信息被忽略,如用户配置文件,这会导致模型无法了解用户的特定偏好。提出了一种基于双通道异构图神经网络的用户行为序列推荐算法（DC-HetGNN）,该方法通过异构图神经网络通道和异构图线图通道学习行为序列嵌入,并捕获用户的特定偏好。DC-HetGNN会根据行为序列构造包含各种类型节点的异构图,可以捕获项目、用户和序列之间的依赖关系。其次,异构图神经网络通道和异构图线图通道捕获物品复杂转换及序列之间的交互信息,并学习包含用户信息的物品嵌入。最后,考虑到用户长期和短期偏好的影响,将局部和全局序列嵌入与注意力网络相结合,得到最终的序列嵌入。在两个电商用户行为序列数据集Diginetica和Tmall上进行的实验表明,DCHetGNN与新近模型FGNN相比在指标平均倒数排名（MRR）和召回率（Recall）中平均分别提升2.08%和0.78%,与TGSRec相比在指标MRR@n和Recall@n中平均分别提升2.70%和0.49%。     

将行为依赖融入多任务学习的个性化推荐模型

多种类型行为数据的引入缓解了协同过滤算法存在的数据稀疏和冷启动问题，在推荐领域被广泛研究和应用。尽管当前对多行为推荐的研究已经取得很大进展，但仍然存在以下问题：未能全面捕获行为之间复杂的依赖关系；忽略了行为特征与用户和项目的相关性。这导致学习到的特征向量无法准确表达用户的兴趣偏好，使得推荐结果存在偏差。为了解决以上问题，提出了将行为依赖融入多任务学习的个性化推荐模型（BDMR），将行为之间复杂的依赖关系分为特征相关性和时序相关性。首先，设置用户个性化行为向量，利用图神经网络处理多个单行为交互图，联合用户、项目和行为特征聚合高阶邻域信息，结合注意力机制学习行为之间的特征相关性；其次，将行为特征和项目特征构成的交互序列输入长短期记忆网络，捕获行为之间的时序相关性；最后，将个性化行为向量融入多任务学习框架获取更加准确的用户、行为和项目特征。为了验证提出模型的性能，在三个真实数据集上进行对比实验，在Yelp数据集上，相较于最优基线，HR和NDCG分别提升了1.5%和2.9%；在ML20M数据集上，HR和NDCG分别提升了2.0%和0.5%；在Tmall数据集上，HR和NDCG分别提升了25.6...     

基于时间和关系感知的图协同过滤跨域序列推荐

跨域序列推荐旨在从给定的某用户在不同领域中的历史交互序列中挖掘其偏好,预测其在多个领域中最可能与之交互的下一个项目,以缓解数据稀疏对用户意图捕捉和预测的影响.受协同过滤思想启发,提出一种基于时间和关系感知的图协同过滤跨域序列推荐（timeandrelation-awaregraph collaborative filtering for cross-domain sequential recommendation, TRaGCF）算法,充分挖掘用户高阶行为模式同时利用跨域用户行为模式双向迁移,解决序列推荐中的数据稀疏问题.首先,为获得用户行为序列中项目间复杂的时序依赖关系,提出时间感知图注意力（time-aware graph attention, Ta-GAT）学习项目的域间序列级表示;其次,通过域内用户-项目交互二部图挖掘用户的行为偏好,提出关系感知图注意力（relation-aware graph attention, Ra-GAT）学习项目协同表示和用户协同偏好表示,为用户偏好特征的跨域迁移提供基础;最后为同步提高2个领域中的推荐效果,提出用户偏好特征双向迁移模块（user p...     

基于时序模型和矩阵分解的推荐算法

时间序列数据是一种数据属性随时间变化的高维数据类型,反映了用户兴趣的动态变化。基于时序数据的推荐系统利用用户的行为时间提高推荐的准确性,但是不适用于大规模数据集的推荐任务,矩阵分解方法是处理高维数据集时常用的降维方法。为此,提出一种基于时序模型和矩阵分解的推荐算法。基于该方法,首先利用矩阵分解提取原始时序数据的特征,然后通过时序模型挖掘特征的趋势,最后根据预测的特征得到预测结果并进行推荐。实验结果表明：所提出的算法与已有的推荐算法相比,在均方根误差(Root Mean Square Error, RMSE)和平均准确率(Mean Average Precision, MAP)两个指标上均有较好表现,且适用于大规模数据的推荐任务。     

动态融合社交信息的社会化推荐

针对推荐算法中的数据稀疏问题,通常引入社交数据作为辅助信息进行社会化推荐。传统的社会化推荐算法忽略用户的兴趣迁移,导致模型无法描述用户兴趣的动态变化特征,也忽略了社交影响的动态特性,导致模型将很久以前的社交行为与近期社交行为同等对待。针对这两点提出一种社交信息动态融合的社会化推荐模型SLSRec。首先,利用自注意力机制构建用户交互物品的序列模型,以实现对用户兴趣的动态描述;然后,设计具有时间遗忘的注意力机制对社交短期兴趣进行建模,并设计具有协同特性的注意力机制对社交长期兴趣进行建模;最后,融合社交的长短期兴趣与用户的短期兴趣来获得用户的最终兴趣并产生下一项推荐。利用归一化折损累计增益（NDCG）和命中率（HR）指标在稀疏数据集brightkite和稠密数据集Last.FM上把所提模型与序列推荐模型（自注意力序列推荐（SASRec）模型）和社会化推荐模型（社会推荐的神经影响扩散（DiffNet）模型）进行对比验证。实验结果显示,SLSRec模型与DiffNet模型相比,在稀疏数据集上的HR指标提升了8.5%;与SASRec模型相比,在稠密数据集上的NDCG指标提升了2.1%,表明考虑社交信息的动态特性使推荐结果更加准确。     

基于组合类别空间的随机游走推荐算法

传统的类别驱动方法只考虑类别间的关联或是将其组织成扁平或层次结构，而项目和类别对应关系复杂，其他信息容易被忽略。针对这个问题提出基于组合类别空间的随机游走推荐算法，更好地组织了项目类别信息、缓解了数据稀疏。首先，建立一个用哈斯图表示的项目组合类别空间，将项目和类别复杂的一对多关系映射成一对一的简单关系，并表示用户上下层次、同层次及跨层次的项目类别间的跳转；接着，定义组合类别空间的语义关系及链接、偏好两种语义距离，更好地定性、定量描述用户动态偏好的变化；然后，结合组合类别空间上用户浏览图的语义关系、语义距离、用户行为跳转、跳转次数、时序、评分等各种信息，利用随机游走建立用户个性化类别偏好模型；最后，根据用户个性化偏好完成基于用户的协同过滤项目推荐。在MovieLens数据集上的实验显示，与基于用户的协同过滤（UCF）、基于类别关联的推荐模型（UBGC和GENC）相比，所提算法推荐的F1-score提高了6~9个百分点，平均绝对误差（MAE）减小了20%~30%；与基于类别层次潜在因子模型（CHLF）相比，所提算法推荐的F1-score提高了10%。实验结果表明，所提算法在排序推荐上优于传统基于类别的推荐算法。     

一种改进时序卷积网络的序列推荐方法

序列推荐在构建现代推荐系统中起着十分重要的作用,如何对序列进行建模是当前学术界研究的热点.针对传统推荐算法难以表示用户兴趣的动态变化,基于循环神经网络的推荐方法在捕捉复杂的序列关系方面的不足,提出了一种嵌入压缩-激励模块的改进时序卷积网络来提取序列特征.模型利用扩张卷积增大感受野,捕获更多的序列关系,利用残差连接减小反...     

融合MHS与AIM-RT的谱聚类优化推荐算法

传统协同过滤推荐算法存在时序性过低以及用户过多时数据稀疏相似用户计算复杂度高等问题。针对这些问题,提出融合最小哈希签名（MHS）与时序模型预测（AIM-RT）的谱聚类优化推荐算法。首先使用MHS与Levenshtein距离测度对用户—项目评分矩阵提取相似用户;然后利用时序模型进行权重拟合的AIM-RT预测算法预测评分补全相似用户稀疏矩阵;最后结合谱聚类进行相似用户优化,找到最优相似用户集合完成最终推荐。通过实验分析验证表明,所提推荐算法能够在计算复杂度、评分预测精度、数据缺失填补等方面提高整体推荐性能。     

基于时序推理的分层会话感知推荐模型

基于会话的推荐系统,旨在根据匿名会话预测用户下一时刻的行为,这在很多互联网服务中颇为常见。该问题的主要挑战在于,如何模拟目标会话中用户行为的时序关系,并利用有限长度的会话刻画用户的兴趣。现有的方法根据目标会话中邻近物品的时序关系来建模用户的行为模式,并对目标会话中的物品信息进行选择性地保留和利用,进而聚合为会话的整体特征,并将其作为目标会话对应的用户兴趣。为了更好地建模用户行为模式和用户兴趣,文中提出了一种基于时序推理的分层会话感知推荐模型。一方面,不同于以往工作对目标会话中"邻近物品即相关"的假设,文中对目标会话中交互物品之间的依赖关系进行推理,并在会话中学习更灵活的时序关系,以建模用户的行为模式;另一方面,从目标会话中的物品和物品特征两个层次进行物品信息的聚合,实现更细粒度的用户兴趣推断。在两个公共数据集上的实验中,所提模型均优于其他基准模型,验证了其有效性。     

基于多头注意力机制和位置信息的xDeepFM推荐模型

为了解决推荐模型中无法挖掘用户兴趣多样性和捕捉用户行为序列之间的顺序信息,以及交互发生在元素级并非特征向量之间等问题,提出一种基于多头注意力机制和位置信息的xDeepFM推荐模型(extreme deep multiple attention and location information factorization machine,xDMALFM).首先通过多头注意力机制进行不同子空间的特征深度提取,然后利用位置信息去捕捉用户行为序列之间的顺序关系.最后,利用三个公开数据集进行对比实验,以AUC指标进行评估.实验结果表明所提算法相比xDeepFM模型具有更好的推荐性能,验证了其有效性与可行性.     

小波卷积增强的对比学习推荐算法

推荐算法是一种用于解决信息过载问题的方法,序列化推荐通过建模用户购买的物品序列预测下一个物品。现有的序列化推荐算法通常忽视用户行为序列中的噪声、跨序列信息和物品间的组合依赖等问题,导致推荐性能受限。为此,提出一种小波卷积增强的对比学习推荐算法WCLR。利用数据的内在相关性获得自监督信号,并根据预训练的方法来增强数据表示。给出3个辅助的自监督学习任务,利用信息最大化原理学习属性、物品、序列与邻居序列的相关性,通过互信息最大化提供一种统一的方式描述不同类型数据间的相关性。由于小波卷积网络能提取物品的组合依赖,降低用户交互序列中的噪声,设计一个多核小波卷积模块,通过多尺寸用户序列多方面捕获用户的潜在兴趣,将自监督学习和小波卷积融入到推荐算法模型中,降低序列数据稀疏性和噪声,提高推荐精度。在LastFM、Beauty和Toys 3个数据集上的实验结果表明,与8个序列化推荐模型相比,WCLR算法的命中率、归一化折损累计增益和平均倒数秩分别提升了3.30%、1.47%和2.17%。     

基于对偶四元数的协同知识图谱推荐模型

为减轻用户-商品交互数据稀疏和冷启动问题对协同过滤算法推荐效果的影响,许多研究者将知识图谱引入推荐系统.然而既往工作对协同知识图谱中关系的建模较为单一,表达能力较弱,不利于建模实体间的复杂关系以及学习用户和商品的嵌入.为克服这一问题,本文提出基于对偶四元数的协同知识图谱推荐模型(DQKGR),利用富有表达力的对偶四元数嵌入表示用户和商品,以有效建模实体和关系之间复杂的潜在依赖.在商品和用户的嵌入学习部分,本文设计了一个新的知识图谱嵌入模型(DQKGE),可基于莫比乌斯变换捕捉协同知识图谱中实体间多种复杂关系,并基于此设计偏好传播与聚合方法以利用知识图谱中的结构信息进行推荐.为验证所提DQKGR模型的有效性,在公开的Last-FM、MovieLens-20M和Book-Crossing数据集上进行大量实验,结果表明所提DQKGR模型推荐结果在多个评测指标上优于现有方法,可在平均意义上产生2.83%以上的性能提升.     

基于改进胶囊网络的会话型推荐模型

针对现有的会话型推荐模型难以从简短的会话中捕获项目之间的依赖关系的问题,在考虑了复杂的项目交互和动态的用户兴趣变化后,提出了一种基于会话型推荐的改进胶囊网络（SR-ECN）模型。首先,利用图神经网络（GNN）处理会话序列数据,以得到每个项目嵌入向量;然后,利用胶囊网络的动态路由机制,从交互历史中聚合高级用户的偏好;此外,所提模型引入自注意力网络进一步考虑用户和项目的潜在信息,从而为用户推荐更合适的项目。实验结果表明,在Yoochoose数据集上,所提模型的召回率和平均倒数排名（MRR）均优于SR-GNN(Session-based Recommendation with GNN)、TAGNN(Target Attentive GNN)等所有对比模型,与基于无损边缘保留聚合和快捷图注意力的推荐（LESSR）模型相比,所提模型的召回率和MRR分别提升了0.92和0.45个百分点,验证了改进胶囊网络对用户兴趣偏好提取的有效性。     

知识增强的图神经网络序列推荐模型

现有基于图神经网络的序列推荐模型大多仅关注用户与项目交互的结构性信息,序列偏好的学习仅涉及项目交互顺序,缺乏项目自身的内容信息,并且未有效利用用户信息及挖掘项目之间更深层的语义关系。提出一种知识增强的图神经网络序列推荐模型KGGNN,引入知识图谱,并结合用户交互数据构建协同知识图谱,学习得到项目语义关联辅助信息以及用户关联辅助信息。将交互序列构建成有向序列图,利用门控图神经网络以及用户关联辅助信息学习序列中项目节点的结构性信息。通过注意力机制组合项目向量作为全局序列偏好,将最近交互的项目作为当前兴趣偏好,融合两者形成最终序列偏好,并结合项目语义关联辅助信息进行模型预测。在Amazon-Book、Last-FM、Yelp2018这3个公开数据集上的实验结果表明,辅助信息能有效提升序列推荐的准确性,该模型在命中率（HIT@K）和归一化折损累计增益（NDCG@K）2个指标上相较于GRU4Rec、NARM、SASRec等模型均有显著提升。当评估指标K值选取10时,与KGSR模型相比,其HIT@10指标在3个数据集上分别提升12.9%、4.5%、6.9%,NDCG@10指标在3个数据集上分别提升...     

基于可变时序移位Transformer-LSTM的集成学习矿压预测方法

现有的矿压预测模型多为依赖固定长度时序序列特征的单一预测模型,难以准确捕捉矿压时序数据的复合特征,影响矿压预测的准确度。针对该问题,提出一种基于可变时序移位Transformer-长短时记忆（LSTM）的集成学习矿压预测方法。基于拉依达准则和拉格朗日插值法,剔除矿压监测数据中的异常值,插入缺失值,并进行归一化预处理;提出可变时序移位策略,划分不同尺度的矿压时序数据,避免固定长度时序序列可能存在的数据偏移问题;在此基础上,构建基于Transformer-LSTM的集成学习矿压预测模型,通过结合注意力机制和准确的时序特征表示能力,多层次捕捉矿压变化规律的动态特征,采用集成学习的投票算法,联合预测矿压数据,克服单一预测模型的局限性。实验结果表明：采用集成学习的投票算法可降低矿压预测平均绝对误差（MAE）和均方根误差（RMSE）的波动性,有效减小不同尺度特征序列对矿压预测结果的敏感性影响;Transformer-LSTM模型在2个综采工作面顶板矿压数据集上预测结果的MAE较Transformer模型分别提高了8.9%和9.5%,RMSE分别提高了12.7%和16.5%,且高于反向传播（BP）神...     

序列生成对抗网络在推荐系统中的应用

推荐系统旨在根据用户的历史行为数据发现该用户可能感兴趣的新项目,并产生相应的推荐。当前大部分的推荐系统多根据用户的历史行为数据,挖掘相似用户,并从相似用户的历史数据中选出彼此历史数据中未出现的新项目;或者根据用户感兴趣的历史项目匹配相似的新项目,从而实现推荐。但这些推荐方式对原始数据有着较强的依赖关系,且难以发觉不同项目之间隐含的序列关系。因此提出一种融合Item2vec和生成对抗网络（Generative Adversarial Networks,GAN）方法的推荐算法,可以学习得到项目间难以表达的关系;挖掘用户历史数据中的序列关系,学习用户兴趣偏好的真实分布;实现用户兴趣偏好的预测。实验发现该推荐算法具有较好的表现。     

基于会话的多粒度图神经网络推荐模型

基于会话的推荐旨在根据当前用户的匿名会话的点击序列信息来预测用户的下一次点击行为。现有方法多数都是通过对用户会话点击序列的物品信息进行建模,并学习物品的向量表示,进而进行推荐。而作为一种粗粒度的信息,物品的类别信息对物品有聚合作用,可作为物品信息的重要补充。基于此,提出了基于会话的多粒度图神经网络推荐模型（SRMGNN）。首先,使用图神经网络（GNN）得到会话序列中的物品和物品类别的嵌入向量表示,并使用注意力网络捕捉用户的注意力信息;然后,将赋予了不同注意力权重值的物品和物品类别信息进行融合后,输入到门限循环单元（GRU）里;最后,通过GRU学习会话序列的物品时序信息,并给出推荐列表。在公开的Yoochoose数据集和Diginetica数据集上进行实验,实验结果验证了该模型在增加了物品类别信息后的优势,且实验结果表明了在Precision@20和MRR@20这2种评价指标上,该模型相较于短期注意力/记忆优先级（STAMP）模型、神经注意力（NARM）模型、GRU4REC等8种模型均有更好的效果。     

下一个购物篮推荐系统算法研究

下一个购物篮推荐旨在为用户推荐下一次想购买的商品,与传统推荐不同,它考虑了商品间的时序相关性,购物篮中的商品可能相互依赖,而非彼此独立.如何更好地挖掘用户的时序行为特征是下一个购物篮推荐的难点和挑战.该文首先阐述了下一个购物篮推荐的内涵及研究意义,并对它做基本介绍.然后重点梳理了下一个购物篮推荐的研究进展,对其算法整理...     

融合项目序列与微观行为的序列推荐方法

针对现有的大多数序列推荐模型只考虑与用户交互的项目序列，却经常忽视用户的微观行为即用户与项目交互的具体操作行为的问题，本文提出了一种融合用户项目序列和微观行为的序列推荐方法，在学习用户宏观项目序列特征的基础上，将用户微观行为考虑进来.首先进行多层次序列特征的学习与提取，由于宏观项目序列和微观操作序列表现着不同的转换模式且对序列推荐任务有着不同的影响，因此分别利用图神经网络与Transformer对项目序列与操作序列进行建模，以充分捕获序列中项目的转换模式，学习到更加细粒度的特征，然后计算可能成为下一项推荐的得分，为用户生成下一项推荐.实验验证了本文提出方法的有效性.     

Twitter社交网络用户行为理解及个性化服务推荐算法研究

随着社交网迅速发展,产生了大量带有时空信息的短文本数据.这些短文本数据因其文本长度过短且所带地理位置信息过于稀疏导致用户行为主题难于捕捉.此外,由于目前大多数用户行为理解相关研究工作缺少对行为要素间依赖关系的适度融合,因而造成行为理解具有片面性.基于此,首先提出2种综合考虑用户行为发生时间、活动内容、活动区域的用户-时间-活动模型(user-time-activity model, UTAM)和用户-时间-区域模型(user-time-region model, UTRM),用于深刻理解用户行为规律;然后利用LDA(latent Dirichlet allocation)技术,抽取用户活动-服务主题,提出活动-服务主题模型(activity-to-service topic model, ASTM),用于挖掘活动和服务间的对应关系;最后将服务地点属性内耦合性纳入考虑,提出了基于耦合和距离的矩阵分解(matrix factorization based on couple & distance, MFCD)算法,用于提高推荐质量.为验证所提模型和算法的有效性,在真实Twitter数据集上进行了扩展性实验,结果表明:所提模型对提高个性化服务推荐质量是有效的,MFCD算法对于用户的行为理解效果也优于传统矩阵分解算法.