融合双层注意力机制的群组偏好融合策略研究

当前推荐系统研究热点及其演变趋势之一是个性化推荐由关注个体推荐逐步转向关注群体推荐。目前多数群组推荐方法在选择偏好融合策略时习惯采用预定义的静态策略,而静态策略的特点就导致算法无法最大化模拟出群组决策的真实过程。在前人研究的基础之上提出一种基于双层注意力机制的群组推荐方法,该方法充分考虑到群体用户的差异性和相互影响,以及对于不同领域的决策权等问题。计算群组内每位成员对其他成员的注意力权重,获得群组成员特征向量,再计算每个成员在选择某一个项目的注意力权重,为群组生成对于该项目的偏好向量,以此来充分还原群组用户之间的交互以及群组决策的过程。通过在CAMRa2011和Meetup数据集上与COM、SIG、AGR、AGREE、FastGR等方法在不同参数条件下进行了对比,在归一化折扣累计增益和命中率两个指标上,相较基线模型平均提高了0.025 4和0.030 7。     

融合自注意力和图卷积的多视图群组推荐

为了解决大多数现有的群组推荐仅仅从群组和用户的单一交互中学习群组表示,以及固定融合策略难以动态调整权重的问题。提出了一种融合自注意力和图卷积的多视图群组推荐模型（MVGR）,设计了成员级、项目级和组级三个不同的视图,来捕捉群组、用户和项目三者之间的高阶交互信息,缓解数据稀疏问题,增强群组表示建模过程;对于项目级视图,利用基于二分图的图卷积神经网络来学习群组偏好向量以及项目嵌入;进一步提出了自适应融合组件来动态调整不同视图权重,得到最终的群组偏好向量。在两个真实数据集上的实验结果表明,与基线模型相比,MVGR模型的命中率（HR）和归一化折损累计增益（NDCG）在Mafengwo数据集上平均提高了8.89个百分点和1.56个百分点,在CAMRa2011数据集上平均提高了2.79个百分点和2.7个百分点。     

融合注意力机制和上下文信息的实时交通标志检测算法

近年来交通标志检测任务得到了广泛的关注,然而现有方法常无法满足检测实时性要求,并且现有方法在检测小尺度交通标志时存在较多漏检情况,为此,提出融合注意力机制和上下文信息的实时交通标志检测算法。该算法以YOLOv5为基准模型,首先,在主干网络中嵌入空间注意力机制自适应地强化关键位置的特征,抑制干扰信息,提高主干网络的特征提取能力;其次,设计跨阶段局部窗口Transformer模块用于学习不同位置间信息的关联性,捕获交通标志周围丰富的上下文信息,有助于提高小尺度交通标志的检测精度;再次,提出轻量的特征融合网络对不同尺度的特征图进行融合,减少计算量的同时确保有效的特征融合;最后,在后处理阶段提出高斯加权融合方法修正检测框,进一步提高定位精度。在TT100K和DFG交通标志检测数据集上的实验表明,提出的算法有效地改善了小尺度交通标志的漏检情况,具有较高的准确性和实时性,可以满足实际场景的交通标志检测需求。     

融合注意力机制和上下文信息的微光图像增强

目的 微光图像存在低对比度、噪声伪影和颜色失真等退化问题,造成图像的视觉感受质量较差,同时也导致后续图像识别、分类和检测等任务的精度降低。针对以上问题,提出一种融合注意力机制和上下文信息的微光图像增强方法。方法 为提高运算精度,以U型结构网络为基础构建了一种端到端的微光图像增强网络框架,主要由注意力机制编/解码模块、跨尺度上下文模块和融合模块等组成。由混合注意力块(包括空间注意力和通道注意力)引导主干网络学习,其空间注意力模块用于计算空间位置的权重以学习不同区域的噪声特征,而通道注意力模块根据不同通道的颜色信息计算通道权重,以提升网络的颜色信息重建能力。此外,跨尺度上下文模块用于聚合各阶段网络中的深层和浅层特征,借助融合机制来提高网络的亮度和颜色增强效果。结果 本文方法与现有主流方法进行定量和定性对比实验,结果显示本文方法显著提升了微光图像亮度,并且较好保持了图像颜色一致性,原微光图像较暗区域的噪点显著去除,重建图像的纹理细节清晰。在峰值信噪比(peak signal-to-noise ratio,PSNR)、结构相似性(structural similarity,SSIM)和图像感知...     

一种基于自注意力机制的组推荐方法

基于自注意力网络和神经协同过滤模型（neural collaborative filtering,NCF）提出一种基于自注意力机制的组推荐系统模型SAGR（self-attention group recommendation）,用于建模用户交互数据以及学习群组潜在偏好的表示。通过在用户级和项目级分别使用自注意力机制,动态调整组中每个用户的权重,解决偏好融合问题从而得到组表示。再通过多层神经网络框架NCF从数据中挖掘组和项目之间的交互,最终完成群组推荐。在CAMRa2011和MovieLens数据集上与同类方法进行对比,实验结果表明SAGR方法能够取得更好的组推荐结果。     

融合注意力与深度因子分解机的时间上下文推荐模型

对于许多在线电商,预测用户购买商品的可能性至关重要。由于用户与商品的交互通常是高维且稀疏的,所以深度因子分解机算法（DeepFM）将因子分解机算法（FM）与深度神经网络（DNN）结合在一起,用FM处理低阶特征组合,用DNN处理高阶特征组合,通过并行的方式组合这2种方法,很好地解决了高维稀疏的问题。但是,它忽略了用户购买商品的先后性问题,也就是时间上下文信息。针对这一缺陷,本文提出一种融合注意力（Attention）与DeepFM的时间上下文推荐模型（DeepAFM）,更好地利用用户与商品交互的时间上下文信息,相比较于未加入时间上下文信息的DeepFM模型,AUC提升了1.84%。对比验证结果表明,DeepAFM模型具有更优越的性能。     

基于自注意力机制与知识图谱的序列推荐算法

针对现有的序列推荐算法难以充分挖掘序列间内在关系,以及项目之间更深层次联系等问题,提出一种新颖的序列推荐算法.算法主要分为两个主要部分,即项目嵌入和偏好学习.首先基于知识图谱创建一种新的项目嵌入方法,用于获得每个项目的统一表示.然后,通过自注意力机制学习序列的上下文信息,获取用户的个性化偏好向量,生成下一项推荐.在真实...     

一种融合注意力机制与上下文信息的交通标志检测方法

针对当前交通标志检测中存在小目标检测精度低、检测实时性不高以及目标漏检等问题,在YOLOv3基础上提出了一种融合了注意力机制与上下文信息的交通标志检测方法。首先通过改进通道注意力机制的压缩方式,对特征图通道重新进行标定;然后引入空间金字塔池化模块SPP;最后增加特征映射并拼接到原特征融合网络中的小目标部分,充分利用上下文信息增强对小目标的检测。实验结果表TT100K(Tsinghua-Tencent 100K)交通标志数据集上,与YOLOv3网络相比,在每秒传输帧数(Frame Per Second,FPS)变化不大的情况下,平均精度均值和小目标的精度均值分别提升3.03%和4.59%。实验结果证明了改进网络在小目标检测和整体检测中的有效性。     

融合因子分解的上下文推荐算法研究

推荐系统作为帮助用户快速获取有用信息的重要工具之一,得到了深入的研究和广泛的应用.为了更好地挖掘基于上下文信息的推荐场景中"用户-项目-上下文"三者之间的潜在关系,定位用户可能的兴趣点,进而提升推荐准确度和用户体验.通过分析目前已有的关于上下文情景数据处理技术的原理和特点,在时间复杂度或者时效性方面仍存在着不足之处,这...     

基于注意力机制的音乐深度推荐算法

在海量音乐中,如何根据用户的历史收听记录分析用户需求以实现歌曲推荐是音乐推荐领域具有挑战性课题之一。现有的音乐推荐方法仅简单将用户听过的所有音乐均作为音乐推荐的上下文,导致不同类型音乐学习到的上下文权重分配相同,其严重影响了音乐推荐精度。针对此问题,提出了一种基于注意力机制的音乐深度推荐方法,针对不同用户的历史收听音乐动态分配不同的注意力,即学习出不同的上下文权重,使推荐结果更符合用户的实际偏好。通过在公开音乐数据集Million Song Dateset上的测试,所提方法的推荐准确率有很大的提升。     

基于多头注意力机制和位置信息的xDeepFM推荐模型

为了解决推荐模型中无法挖掘用户兴趣多样性和捕捉用户行为序列之间的顺序信息,以及交互发生在元素级并非特征向量之间等问题,提出一种基于多头注意力机制和位置信息的xDeepFM推荐模型(extreme deep multiple attention and location information factorization machine,xDMALFM).首先通过多头注意力机制进行不同子空间的特征深度提取,然后利用位置信息去捕捉用户行为序列之间的顺序关系.最后,利用三个公开数据集进行对比实验,以AUC指标进行评估.实验结果表明所提算法相比xDeepFM模型具有更好的推荐性能,验证了其有效性与可行性.     

融合全局和近邻协同信息的会话推荐算法

现有基于会话的推荐算法主要通过挖掘单个目标会话的项目转换关系进行推荐,对来自其他不同会话中项目之间的复杂转换信息考虑较少。为此,提出一种融合全局和近邻协同信息的会话推荐算法SFGN-GNN,同时考虑来自全局与近邻会话的协同信息,以充分挖掘用户偏好。通过学习会话表示来表达用户偏好,先按目标会话与近邻会话的成对项目转移关系构建近邻图,依据所有会话中的成对项目转移关系构建全局图,再利用图神经网络获取目标会话节点近邻级和全局级的项目表示,采用融合门融合得到会话级项目表示,并在其中嵌入项目在目标会话中的位置信息和时间信息,然后通过软注意力机制得到最终的会话表示,最后经过softmax函数预测下一个可能交互的项目。在两个数据集上的实验验证了SFGN-GNN算法有效性。     

融合注意力机制的互补产品推荐方法

互补产品推荐是为用户推荐可以一起搭配使用的产品。现有产品推荐方法考虑了产品的图像与文本的所有特征,但没有考虑到视觉和文本模态间的关系,此外并不是所有的特征对互补关系的贡献都相同。基于此种情况,提出了一种融合注意力机制的互补产品推荐模型（complementary product recommendation fusing with attention mechanism,CPRFA）。该模型首先用产品的图像和文本信息来丰富其特征表示;其次为了将异质产品与多模态信息统一起来,将其进一步转换为图像和文本向量表示;然后使用注意力机制自适应地为产品的不同特征分配权重;最后学习产品与候选产品之间的关系,进行互补产品的推荐。在基于Amazon数据集的实验中,所提CPRFA模型在各项指标上均优于其他基线模型,表明CPRFA模型可以更准确地为用户推荐互补产品。     

基于注意力机制的深度学习推荐研究进展

近年来,注意力机制AM被广泛应用到基于深度学习的自然语言处理任务中,基于注意力机制的深度学习推荐也成为推荐系统研究的一个新方向.探讨了注意力机制的结构和分类标准,从基于注意力机制的DNN推荐、CNN推荐、RNN推荐、GNN推荐4个方面分析了现有融合注意力机制的深度学习推荐研究的主要进展和不足,阐明了其中的主要难点,最后指出了多特征交互的注意力机制推荐、多模态注意力机制深度学习推荐、融入注意力机制的多种深度神经网络混合推荐和注意力机制的群组推荐等基于注意力机制的深度学习推荐未来的主要研究方向.     

融合注意力机制的深度混合推荐算法

大量研究利用用户或项目的边信息来缓解视频推荐中的数据稀疏和冷启动问题,取得了一定的效果,但是没有关注辅助信息中的关键信息.针对此问题进行了研究,提出了一种融合双注意力机制的深度混合推荐模型.该模型通过融合自注意力机制的卷积神经网络挖掘项目端隐藏因子,同时融合自注意力机制的堆栈去噪自编码器提取用户端隐藏因子,深度挖掘项目端和用户端的重要信息.最后,通过结合概率矩阵分解实现视频评分预测.在两个公开数据集上的大量实验结果表明,提出的方法结果在已有ConvMF+、PHD、DUPIA等基线模型基础上有一定提升.     

基于异质信息网络分析的主题感知群推荐方法研究

在社交网络上面向群组推荐物品时,已有研究大多基于群成员的完整偏好,运用一些合成策略生成群推荐结果。但在实际中,促使群成员加入目标群的可能只是其完整偏好中与该群相关的部分偏好。因此,使用群成员的完整偏好进行推荐便会带来大量的噪声,损害推荐效果。为解决这一问题,提出了一种基于异质信息网络分析的主题感知群推荐方法HINGR_GT（heterogeneous information network analysis based group recommendation method with group topic considered）,针对每个群组构建面向群组的异质社交网络子图,将成员偏好中与群组无关的偏好提前排除在外,在此基础上使用异质网络表示学习方法为群组生成物品推荐。为验证所提方法的有效性,在豆瓣电影数据集上进行了实验,结果表明所提方法在所有评价指标上均取得了更好的效果。     

面向在线社区用户的群体推荐算法研究

结合现有两种主要群体推荐算法的优势, 建立新的算法框架, 并引入差异度因素对模型进行优化。另外, 考虑到在线社区用户的特点, 定义互动度指标来描述群体成员间的互动程度, 通过分析其与推荐精度之间的关系, 探讨互动度对群体推荐的影响。选取豆瓣网数据进行实验, 并与传统方法进行比较, 结果表明, 融入差异度的算法具有更好的推荐效果, 且有效的互动机制能够保证较高的推荐精度。     

融合社交关系和标签信息的混合新闻推荐算法

针对传统新闻推荐的数据稀疏性和用户的兴趣爱好快速变化问题,提出了一种融合社交关系和标签信息的混合新闻推荐算法。首先,该算法充分利用社交网络中的社交关系和标签信息;然后使用概率主题模型(latent Dirichlet allocation,LDA)对用户兴趣进行建模;最后采用基于内容与协同过滤相结合的混合推荐算法来完成新闻推荐。实验结果表明,所提算法与已有的推荐算法相比较,在精确度上提升了10.7%、平均倒数排名上(mean reciprocal rank,MRR)提升了4.1%,在归一化折损累计增益(normalized discounted cumulative gain,NDCG)上提升了10%。该算法可在一定程度上提高新闻推荐算法的精度及推荐质量。     

动态融合社交信息的社会化推荐

针对推荐算法中的数据稀疏问题,通常引入社交数据作为辅助信息进行社会化推荐。传统的社会化推荐算法忽略用户的兴趣迁移,导致模型无法描述用户兴趣的动态变化特征,也忽略了社交影响的动态特性,导致模型将很久以前的社交行为与近期社交行为同等对待。针对这两点提出一种社交信息动态融合的社会化推荐模型SLSRec。首先,利用自注意力机制构建用户交互物品的序列模型,以实现对用户兴趣的动态描述;然后,设计具有时间遗忘的注意力机制对社交短期兴趣进行建模,并设计具有协同特性的注意力机制对社交长期兴趣进行建模;最后,融合社交的长短期兴趣与用户的短期兴趣来获得用户的最终兴趣并产生下一项推荐。利用归一化折损累计增益（NDCG）和命中率（HR）指标在稀疏数据集brightkite和稠密数据集Last.FM上把所提模型与序列推荐模型（自注意力序列推荐（SASRec）模型）和社会化推荐模型（社会推荐的神经影响扩散（DiffNet）模型）进行对比验证。实验结果显示,SLSRec模型与DiffNet模型相比,在稀疏数据集上的HR指标提升了8.5%;与SASRec模型相比,在稠密数据集上的NDCG指标提升了2.1%,表明考虑社交信息的动态特性使推荐结果更加准确。