利用图神经网络的互补产品推荐

互补产品推荐可以提供互补搭配的产品,为用户提供便利.然而现有使用图神经网络的工作忽视了产品的多模态信息,以及多模态模型在模态信息缺失时性能会受到影响.现有多模态模型只是将模态简单拼接,忽略了模态间的联系.因此,提出了一种利用图神经网络的互补产品推荐模型(complementary product recommendation using graph neural network,CPRUG).该模型将图神经网络与多模态信息结合,强化产品的表征;利用图注意力网络,应对多模态缺失问题,维持模型的性能,提高模型的鲁棒性;使用共同注意力机制和矩阵分解双线性池化方法来融合多模态特征,学习产品的互补关系.在Amazon数据集上进行了实验,实验结果表明,模型的性能优于其他基线模型.     

基于标签推理和注意力融合的多标签文本分类方法

目前许多多标签文本分类方法主要关注文档表示,而丢失了大量标签相关的语义信息,导致分类效果不理想。针对以上问题,提出一种基于标签推理和注意力融合的分类方法,挖掘文档中与标签相关的特征以及相似标签之间的相关性,学习标签信息进行标签推理,同时采用注意力机制自学习地融合文档表示和标签表示,最终完成多标签分类任务。在AAPD和RCV1-V2数据集上进行实例验证,该方法的F1值分别达到了0.732和0.887,与其他最新方法相比其准确度均有提升,实验结果证明了标签推理和注意力融合策略的有效性。     

基于Transformer和双重注意力融合的分层交互答案选择模型

答案选择是问答系统中的关键组成部分,提升其准确性是问答系统研究的重要内容之一。近年来深度学习技术广泛应用于答案选择,获得了良好效果,但仍旧有一定的局限性。其中模型对问题语义信息利用度低、缺乏局部语义重视、句子间交互感知能力差等问题尤为突出。针对上述问题提出了一种基于Transformer和双重注意力融合的答案选择模型NHITAS（new hierarchical interactive Transformer for answer selection）。首先,在信息预处理部分提取问题类别和关键词对答案进行初步筛选,并引入外部知识作为句子额外语义补充;其次,采用分层交互的Transformer对句子进行语义上下文建模,提出了UP-Transformer（untied position-Transformer）和DA-Transformer（decay self-attention-Transformer）两种结构学习语义特征;最后,通过双重注意力融合过滤句子噪声,增强问题和答案之间的语义交互。在WikiQA和TrecQA数据集上对NHITAS的性能进行测试,实验结果表明所提模型对比其他模型,能够有效提升答案选择任务的效果。     

基于多视图注意力机制的多维度价格预测模型研究

传统的股票价格预测模型只针对单一维度价格进行预测,忽略了多维度价格之间的复杂关系。因此,为了更好地对股票价格进行准确预测和为决策者提供前瞻性信息,提出了一种新的基于多视图注意力机制的多维度价格预测模型。通过多视图的深度可分离卷积网络学习多维度股票价格潜在的复杂的输入—输出关系,更好地提取股票价格的时空特征,实现时空数据的智能关联,并使用注意力机制进一步提升模型的预测性能,进而通过时空多维度的股价历史数据来预测单和多时间步长股票价格。该模型与其他四种模型在中国银行股价数据集上进行实验和比较,发现所提模型在不同预测时长下相比于表现最好的模型,平均绝对误差分别降低了0.4%、0.5%、4.2%、3.9%,均方误差分别降低了0.8%、2%、1.9%、1.9%,平均百分比误差分别降低了0.15%、0.21%、1.24%和1.34%。因此所提模型预测精度最高,预测性能最好,并且在对其他维度的股票价格预测上具有普适性。     

基于位置社交网络的兴趣点推荐研究

兴趣点推荐是基于位置社交网络中的研究热点之一。首先对从Web of Science收集的兴趣点推荐研究文献进行了分析;然后分析了影响兴趣点推荐的多种因素,并在分析传统兴趣点推荐方法基础上重点从用户历史签到信息建模和用户社交生成信息提取两个方面对基于深度学习的兴趣点推荐方法进行了分析;最后,对未来可能提高兴趣点推荐效果的研究方向进行了展望。     

融合知识图谱与注意力机制的项目推荐算法

知识图谱蕴含丰富的语义信息;广泛应用在不同的推荐场景中。现有的基于知识图谱的推荐方法在图神经网络的建模过程中;粗粒度地考虑用户和项目交互的关系;构建用户特征模型时;忽略不同历史项目的重要性。针对此类问题;提出一种融合知识图谱与注意力机制的项目推荐算法。该算法聚合用户特征;使用注意力机制学习知识图谱高阶潜在关系;构建项目特征时传播其邻域之间的项目嵌入表示;用图卷积网络进行特征聚合;最后使用多层神经网络进行预测。该算法在两组公开数据集上;与基线算法进行对比实验;召回率最高提升6.9%。     

注入注意力机制的深度特征融合新闻推荐模型

现有新闻推荐模型在挖掘新闻特征和用户特征时,往往没有考虑所浏览新闻之间的关系、时序变化以及不同新闻对用户的重要性,从而缺乏全面性;同时,现有模型在新闻更细粒度的内容特征挖掘方面有欠缺.因此构建了一个能够全面而不冗余地进行用户表征并能提取新闻更细粒度片段特征的新闻推荐模型——注入注意力机制的深度特征融合新闻推荐模型.该模...     

结合注意力CNN与GNN的信息融合推荐方法

稀疏性问题一直是推荐系统面临的主要挑战,而信息融合推荐可以利用用户的评论、评分以及信任等信息发掘用户的偏好来缓解这一问题,从而为目标用户生成相应的推荐.用户、项目信息的充分学习是构建一个成功推荐系统的关键.但不同用户对不同项目有不同的偏好,且用户的兴趣偏好及社交圈是动态变化的.提出一种结合深度学习与信息融合的推荐方法来解决稀疏性等问题.特别地,构建了一种新的深度学习模型——结合注意力卷积神经网络(attention CNN)与图神经网络(GNN)的信息融合推荐模型ACGIF.首先,在CNN中加入注意力机制来处理评论信息,从评论信息中学习用户和项目的个性化表示.根据评论编码学习评论表示,通过用户/项目编码学习评论中用户/项目表示.加入个性化注意力机制来筛选不同重要性级别的评论.然后,利用GNN来处理评分和信任信息.对于每个用户来说,扩散过程从最初的嵌入开始,融合相关特性和捕获潜在行为偏好的自由用户潜在向量.设计了一个分层的影响传播结构,以模拟用户的潜在嵌入如何随着社交扩散过程的继续而演变.最后,对前两部分得到的用户对项目的偏好向量进行加权融合,获得最终的用户对于项目的偏好向量.在4组公开...     

融合层级知识图谱嵌入与注意力机制的推荐方法

知识图谱在推荐系统中已广泛应用;有助于缓解用户与项目交互数据稀疏性问题。现有基于知识图谱的推荐方法主要依赖路径挖掘或信息传播来探索用户与项目之间的潜在关联;但未能充分利用知识图谱中的丰富语义和结构信息;且易引入无关噪声;影响推荐的准确性。为此;提出了一种融合层级知识图谱嵌入与注意力机制的推荐方法（HKSAR）;旨在挖掘知识图谱的高阶语义和结构信息以缓解数据稀疏性问题。构建用户与项目的高阶子图;显式刻画用户与项目之间的复杂关联关系。通过层级子图嵌入模块;对子图中的高阶语义和拓扑结构进行编码;并结合自注意力机制;区分子图中各实体的重要性;最终生成高质量的子图嵌入表示;实现对用户偏好的精准建模。实验结果表明;在三个真实数据集上;相较于现有最优基线模型;所提方法在Hit和NDCG指标上分别实现了平均10.7%和13.6%的提升;且在不同数据稀疏程度的场景下推荐效果均占优;有效缓解了数据稀疏性问题。     

融合知识图谱与注意力机制的推荐算法

为了解决信息过载问题,提出了一种融合知识图谱与注意力机制的推荐模型.在该模型中,将知识图谱作为辅助信息进行嵌入,可以缓解传统推荐算法数据稀疏和冷启动问题,并且给推荐结果带来可解释性.为了提升推荐准确率以及捕捉用户兴趣的动态变化,再结合深度学习中的神经网络以及注意力机制生成用户自适应表示,加上动态因子来更好地捕捉用户动态...     

基于生成对抗模型的序列推荐算法

针对传统序列推荐算法时间信息和项目内容信息运用不充分的问题,该文提出基于生成对抗模型的序列推荐算法。通过生成对抗模型将序列建模与时间、内容信息建模分离,充分挖掘用户项目交互的序列信息和项目内容信息。运用卷积神经网络作为生成对抗模型的生成器,捕获用户项目交互的序列模式。运用注意力机制作为生成对抗模型的判别器,捕获交互序列的时间信息和项目内容信息。针对传统序列推荐算法时间信息建模不充分的问题,提出一种改进的时间嵌入方式,充分建模用户项目交互关于时间的周期性模式。利用生成对抗模型同时建模用户的稳定偏好和动态偏好,提升推荐系统的用户体验,并在公开数据集MovieLens-1M和Amazon-Beauty上与现有的优秀算法做比较。实验证明,该文所提出的算法在评价指标HR@N和NDCG@N上较基线方法均有一定提升。     

推荐系统中神经网络结合注意力机制研究综述

探讨神经网络如何结合注意力机制及其变种,以更好地学习用户和物品间复杂和隐含的关系,从而提高推荐的准确性和个性化水平。从多层感知机、卷积神经网络、循环神经网络、自编码器、图神经网络以及反向传播神经网络这六类典型神经网络出发,研究它们与注意力机制相结合进行推荐的过程,具体结合点击率预测、标签推荐和评论评分预测等典型应用场景进行优缺点分析。通过将神经网络与注意力机制相结合,模型能够聚焦于输入数据中的关键信息,降低对次要信息的注意程度,甚至直接过滤掉无关信息。现有将注意力机制与神经网络结合的推荐模型,在很大程度上能够满足常见的推荐任务需求。但是这类模型在跨域推荐、深度强化学习推荐以及多模态推荐等复杂推荐场景中,仍面临一些挑战,例如跨域推荐需要模型具备迁移学习的能力,强化学习推荐需要进行长期奖励建模。     

面向多视图融合的用户一致性社交推荐

针对传统社交推荐准确率不高的问题;提出一种基于多视图融合的用户一致性社交推荐模型。该社交推荐模型考虑到社交网络中用户的不一致性和单一视图信息对推荐结果的影响;使用注意力机制动态过滤出不一致的社交邻居;并结合用户-项目交互信息来学习用户特征表达;同时从知识图谱（knowledge graph;KG）、用户-项目历史交互信息等多个视图学习项目在低维空间的特征表示;最后将用户和项目的特征表示进行内积操作;从而完成最终的推荐任务。为了验证推荐算法的有效性;在Douban和Yelp两个公开的数据集上与六个基线模型进行对比实验;并采用召回率、归一化折损累计增益（normalized discounted cumulative gain;NDCG）和精确率作为评估指标;实验结果表明;所提出的社交推荐模型的性能优于其他模型。     

基于注意力门控神经网络的社会化推荐算法

针对社会化推荐算法中存在的推荐准确率不高的问题,提出了一种多头注意力门控神经网络(MAGN)算法.具体来说,采用门控神经网络对输入的用户和用户-朋友对进行融合得到联合嵌入,利用注意力记忆网络来获取不同朋友在不同方面对用户的影响,利用多头注意力来获取在不同方面对用户影响程度偏高的几位朋友.采用门控神经网络将朋友影响和用户...     

基于知识图谱嵌入与多神经网络的序列推荐算法

循环神经网络在序列推荐中占有重要地位,但在推荐中,用户的行为序列远比自然语言处理中的句子或计算机视觉中的图像要复杂得多。单一的循环神经网络结构难以充分地挖掘用户偏好,因此提出一种新型的序列推荐算法,同时考虑序列的时间信息以及内容信息。主要分为2个部分：改进的项目嵌入和序列偏好学习。首先,提出一种融合知识图谱的项目嵌入方法,用于生成高质量的项目向量;其次,提出一种卷积神经网络结合长短时记忆神经网络的序列建模方法。更进一步地提出一个基于注意力的框架,动态地结合用户的兴趣点。在公开数据集MovieLens10M上与传统方法以及现有的同类型方法进行了比较。实验结果表明,所提算法在推荐评价指标平均倒数排名MRR@N以及召回率Recall@N上有显著的提升,验证了该算法的有效性。     

融合三重注意力和评论评分的深度推荐算法

许多购物网站中存在用户编写的大量评论信息,大部分推荐系统虽然利用了评论信息,但仍有很大的改进空间。一方面是评论中信息参差不齐,掺杂了很多无用信息;另一方面是大多数现有的推荐系统都假设一个用户对于某一商品特征的关注对于所有的商品都是相同的,无法准确体现用户偏好。本文提出一种融合三重注意力和评论评分的方面感知深度推荐模型ANAP（Attention and Neural Aspect Perception）,从词和特征2个层面出发,通过构造2种不同的注意力网络提取评论文本中的重要信息,降低无用信息的影响;为了准确体现用户偏好,通过构造注意力交互网络捕捉用户对不同项目各个方面的不同关注度,实现方面感知的细粒度建模。本文在6个真实数据集上进行实验,同时设计了注意力机制对比实验,结果表明ANAP模型有效提高了评分预测精度,平均绝对误差（Mean Absolute Error, MAE）比现有最佳算法降低了4.86个百分点。     

基于邻域感知图神经网络的会话推荐

在基于会话的推荐中;图神经网络及其改进模型将会话内复杂的交互关系建模为图结构并从中捕获项目特征;是现有推荐模型中性能较好的一类方法。然而大多数模型都忽略了不同会话之间可能存在的有效信息;仅对当前会话建模难以利用其他会话;也无法发挥邻域信息的辅助作用。因此提出基于邻域感知图神经网络的会话推荐（NA-GNN）。该模型构建会话层和全局邻域层的图结构捕获项目表示;结合注意力机制聚合两种项目表征;将会话序列之间的互信息最大化地结合到网络训练中。在真实的数据集Yoochoose和Diginetica上进行实验;与性能最优的基准模型相比;模型P@20在Yoochoose上提高了1.85%;在Diginetica上提升了7.19%;MRR@20分别提升了0.48%和8.36%;证明模型的有效性和合理性。     

基于循环神经网络的空载电动出租车的充电桩推荐方法

提出了一种基于循环神经网络的空载电动出租车的充电桩推荐方法(CPRM-IET,charging pile recommendation method for idle electric taxis),来为空载状态下的电动出租车推荐最佳充电桩.空载状态下的电动出租车移动一般依赖于驾驶人的潜意识移动倾向和驾驶习惯,因此需要...     

融合用户社交关系的自适应图卷积推荐算法

为了缓解推荐系统中不同用户社交空间与兴趣空间的内在信息差异和忽视高阶邻居的问题,提出了一种融合用户社交关系的自适应图卷积推荐算法（adaptive graph convolutional recommendation algorithm integrating user social relationships,AGCRSR）。首先,模型在嵌入层使用映射矩阵将初始特征向量转换为自适应嵌入;其次,引入注意力机制聚合不同方面的用户嵌入,通过图卷积网络来线性学习用户和项目的潜在表示;最后,通过自适应模块聚合用户表示并利用内积函数预测用户对项目的最终推荐结果。在数据集LastFM和Ciao上与其他基线算法进行了对比实验,实验结果表明AGCRSR的推荐效果较其他算法有显著提升。