融合短文本层级注意力和时间信息的推荐方法

信息过载造成的数据稀疏性问题制约着基于评分数据的矩阵分解模型的推荐性能,融合评论文本的推荐模型能够有效缓解评分数据稀疏性.当前的推荐系统利用评论文本为用户和项目建模时,大多仅将用户对项目的评论作为数据来源,而忽视了时间信息对用户和项目属性的影响.针对此问题,提出了一种融合短文本层级注意力和时间信息的推荐方法(RHATR),该方法能够充分地挖掘评论文本潜在的语义信息,并为用户偏好和项目特征的动态变化进行建模.通过对单条评论文本应用单词级注意力,挖掘单条评论文本中情感词和关键词等有效信息,学习用户和项目表示;对含有时间因素的用户评论集和项目评论集分别应用评论级注意力,提取有效的评论,进一步学习用户偏好和项目特征动态表示.将从评论文本中学到的用户和项目表示以及基于ID的项目和用户嵌入作为最终特征,来捕获各用户和项目的潜在因素.实验结果表明,提出的方法相对于当前基线方法在Amazon和Yelp数据集上的均方根误差(RMSE)取得了较好的效果.     

融合评论文本与评分交互特征的推荐方法

为缓解协同过滤推荐算法中评分数据稀疏问题对推荐结果的影响,提出一种融合文本评论和用户评分交互的推荐算法。通过将用户和商品评论各自潜在主题向量与用户、商品的潜在因子向量进行融合并各自进行评分,经过动态线性加权融合做出整体评分预测。在公开的多组数据集上,以推荐结果的均方根误差(RMSE)和平均绝对误差(MAE)为评估指标进行实验验证。实验结果表明,提出算法可以更好地刻画用户偏好和商品特征,有效缓解了评论数据稀疏性影响,提高推荐结果的准确性。     

融合深度去噪自编码器和注意力机制的推荐算法

传统推荐算法无论在特征提取还是相似度计算方面仍存在数据稀疏和大量噪声数据问题,导致推荐效率不高、用户满意度低等问题,由此提出一种融合深度去噪自编码器和注意力机制的推荐算法。将深度去噪自编码器融入到基于项目相似度的协同过滤推荐算法中,同时加入了注意力机制,以惩罚活跃用户对实验结果的影响,既可以挖掘到用户与项目的线性特征又可以学习到用户与项目非线性特征。实验选取了MovieLens和Pinterest两个公开数据集,与传统推荐算法和近些年较先进算法相比,该算法能够显著提升传统推荐算法的性能,并可以缓解传统推荐算法存在的数据稀疏和冷启动问题。     

融合评分矩阵和评论文本深度神经网络推荐模型

针对个性化推荐中用户评分矩阵数据集稀疏,用户和项目描述信息未充分利用的问题,提出融合评分矩阵和评论文本的深度神经网络推荐模型(deep neural network recommendation model,DeepRec)。首先将通过数据预处理得到的用户偏好特征和项目属性特征的文本集合分别输入到卷积神经网络进行训练,得到用户和项目的深层次非线性特征,同时将评分矩阵输入多层感知机得到用户偏好隐表示,并对两种模型提取的用户偏好隐表示进行融合;其次利用多层感知机建模用户和项目隐表示对用户进行个性化推荐;最后基于三组数据集以均方根误差为评估指标进行对比实验。结果表明DeepRec的预测误差更低,有效提高了推荐的精准度。     

融合评分矩阵和评论文本的深度学习推荐模型

用户对项目评分数据的稀疏性是影响推荐质量的主要因素之一,提出了融合评分数据和评论文本的深度学习模型,通过引入辅助信息缓解评分数据稀疏性的影响.利用评论文本可以获取用户的偏好信息和项目特征,而评分数据中又包含了用户和项目之间的潜在关联.现有的融合模型对评分数据的处理大多数都是采用矩阵分解方法,为了更好地利用评分数据中的有...     

融合注意力机制的深度混合推荐算法

大量研究利用用户或项目的边信息来缓解视频推荐中的数据稀疏和冷启动问题,取得了一定的效果,但是没有关注辅助信息中的关键信息.针对此问题进行了研究,提出了一种融合双注意力机制的深度混合推荐模型.该模型通过融合自注意力机制的卷积神经网络挖掘项目端隐藏因子,同时融合自注意力机制的堆栈去噪自编码器提取用户端隐藏因子,深度挖掘项目端和用户端的重要信息.最后,通过结合概率矩阵分解实现视频评分预测.在两个公开数据集上的大量实验结果表明,提出的方法结果在已有ConvMF+、PHD、DUPIA等基线模型基础上有一定提升.     

基于近邻用户评论的推荐辅助网络

评论数据存在稀疏问题,不足以支撑学习出更全面的用户偏好。针对评论稀疏问题进行了研究,并提出一种应对评论稀疏的“即插即用”辅助网络（NRSN）,其能与不同的模型进行结合,以添加辅助信息的方式,来重新调整当前模型输出的用户偏好向量。首先根据目标用户,使用aspect-attention机制从其近邻用户评论中学习出近邻用户的偏好,然后采用co-attention机制将近邻用户和目标用户进行契合度匹配,调整出目标用户新的偏好向量。在三组公开数据集下的实验结果表明,NRSN不仅能提高所结合模型的推荐性能,且能有效应对“冷启动”场景下的评论稀疏问题。     

基于评论个性化多层注意力的商品推荐算法

目前基于评论的推荐算法大多都忽略了用户(商品)的个性化信息来对评论进行编码.对此提出一种单词级别、评论级别的个性化注意力机制,分别对单词和评论进行个性化编码.设计一种基于门控机制的融合方式,来更好地融合用户和商品的隐向量来提高评分预测性能.在3组公开数据集上进行对比实验,以预测评分的均方误差(MSE)作为评估指标,验证...     

基于评论文本图表示学习的推荐算法

基于卷积或循环神经网络的推荐系统主要捕捉评论文本中相邻词之间的局部和连续依赖关系,对长期、全局、非连续的依赖关系的捕捉能力有限。针对该问题,提出一种基于评论文本图表示学习的推荐算法RGP。将每个用户或项目的评论文本表示成图,图的节点为评论文本的词,图的边为词与词的连接关系。针对图中的每个节点,使用基于连接关系的图注意力网络加权融合其邻点信息,利用基于交互关系的注意力机制对节点重新赋权,并加权融合图中所有节点的表征从而得到整个图的表征。在此基础上,将基于用户和项目ID的嵌入表征及其评论图表征耦合输入并采用因子分解机进行评分预测,以得到最终的推荐结果。实验结果表明,与NARRE、DAML等算法相比,RGP算法可有效提高推荐精度。     

基于用户评论的动态方面注意力电商推荐深度学习模型

为了提供个性化推荐,推荐系统会将用户和物品分别表达为用户偏好向量和物品特征向量。物品特征向量中不同维度分别对应物品不同的特征。用户偏好向量中各维度表示用户对物品对应维度(特征)的喜好程度。目前大部分的推荐算法都假设为对于不同物品、同一用户的偏好向量是相同的。然而在现实生活中,该假设是不成立的。为此,提出一种结合注意力机制的深度学习模型,其能根据不同的用户-物品对,相应地学习到一个注意力权重向量,最终达到动态调整用户偏好向量的目的。在3组公开数据集上进行对比实验,以预测评分的均方误差(MSE)作为评估指标,实验结果表明该方法比已有的相关算法的效果更好。     

融合注意力机制的深度协同过滤推荐算法

传统基于项目的协同过滤算法在计算项目之间相似度时只考虑历史项目的评分，而忽略了历史项目偏好对其的影响，以至于推荐精度不够理想。针对此问题，提出了一种融合注意力机制的深度电影推荐算法。根据得到的隐性反馈，在特征级注意力框架上，从项目内容特征提取网络开始，学习项目特征的偏好；将项目特征偏好与项目特征加权得到项目内容特征向量；在项目级特征注意力框架中，通过项目内容特征向量学习对项目偏好的评分，从而产生最终的推荐结果。实验结果表明，提出的推荐算法在MovieLens 100K和MovieLens 1M两个公开数据集上的准确率和推荐个性化较传统算法均有不同程度的提高，表现出较为优越的推荐性能。     

联合注意力和自编码器的协同过滤推荐

面对数量庞大的用户和物品数量,推荐系统通常面临着数据稀疏的问题,为缓解此问题,提出了一个融合注意力机制和自编码器的协同过滤模型.该模型将评分信息送入一个基于自编码器的协同过滤子模型中以挖掘用户整体偏好,同时将评分信息送入一个融合了注意力机制的基于物品的协同过滤子模型中以挖掘物品与物品之间的局部依赖信息,随后将两个子模型...     

结合注意力机制的长文本分类方法

新闻文本常包含几十至几百条句子,因字符数多、包含较多与主题无关信息,影响分类性能。对此,提出了结合注意力机制的长文本分类方法。首先将文本的句子表示为段落向量,再构建段落向量与文本类别的神经网络注意力模型,用于计算句子的注意力,将句子注意力的均方差作为其对类别的贡献度,进行句子过滤,然后构建卷积神经网络（CNN）分类模型,分别将过滤后的文本及其注意力矩阵作为网络输入。模型用max pooling进行特征过滤,用随机dropout防止过拟合。实验在自然语言处理与中文计算（NLP&CC）评测2014的新闻分类数据集上进行。当过滤文本长度为过滤前文本的82.74%时,19类新闻的分类正确率为80.39%,比过滤前文本的分类正确率超出2.1%,表明结合注意力机制的句子过滤方法及分类模型,可在句子级信息过滤的同时提高长文本分类正确率。     

基于评论和物品描述的深度学习推荐算法

评论文本中蕴含着丰富的用户和物品信息,将其应用于推荐算法有助于缓解数据稀疏问题,提高推荐准确度.然而,现有的基于评论的推荐模型对评论文本的挖掘不够充分和有效,并且大多忽视了用户兴趣随时间的迁移和蕴含物品属性的物品描述文档,使得推荐结果不够准确.基于此,文中提出了一种基于深度语义挖掘的推荐模型(Deep Semantic...     

融合注意力LSTM的协同过滤推荐算法

针对传统协同过滤算法难以学习深层次用户和项目的隐表示,以及对文本信息不能充分提取单词之间的前后语义关系的问题,该文提出一种融合辅助信息与注意力长短期记忆网络的协同过滤推荐模型。首先,附加堆叠降噪自编码器利用评分信息和用户辅助信息提取用户潜在向量;其次,基于注意力机制的长短期记忆网络利用项目辅助信息来提取项目的潜在向量;最后,将用户与项目的潜在向量用于概率矩阵分解中,从而预测用户偏好。在两个真实数据集MovieLens-100k和MovieLens-1M上进行实验,采用RMSE和Recall指标进行评估。实验结果表明,该模型与其他相关推荐算法相比在推荐性能上有所提升。     

基于注意力机制与评论文本深度模型的推荐方法

传统推荐系统依赖人工进行规则设计和特征提取,对评论文本内容的特征和隐信息的提取能力有限。针对该问题,融合注意力机制并基于深度学习对推荐系统进行改进,提出一种对评论文本深度建模的推荐方法。使用词嵌入模型表达数据集评论中的语义,引入注意力机制对输入内容进行重新赋权,通过并行的卷积神经网络挖掘用户和项目评论数据中的隐含特征,将两组特征耦合输入并采用因子分解机进行评分预测,得到推荐结果。实验结果表明,该方法可有效提高推荐准确率,均方误差较DeepCoNN方法提升2%以上。     

融合注意力和裁剪机制的通用文本分类模型

针对当前分类模型通常仅对一种长度文本有效,而在实际场景中长短文本大量混合存在的问题,提出了一种基于混合神经网络的通用型长短文本分类模型（GLSTCM-HNN）。首先,利用BERT(Bidirectional Encoder Representations from Transformers)对文本进行动态编码;然后,使用卷积操作提取局部语义信息,并构建双通道注意力机制（DCATT）对关键文本区域增强;同时,使用循环神经网络（RNN）捕获全局语义信息,并建立长文本裁剪机制（LTCM）来筛选重要文本;最后,将提取到的局部和全局特征进行融合降维,并输入到Softmax函数里以得到类别输出。在4个公开数据集上的对比实验中,与基线模型（BERT-TextCNN）和性能最优的对比模型（BERT）相比,GLSTCMHNN的F1分数至多分别提升了3.87和5.86个百分点;在混合文本上的两组通用性实验中,GLSTCM-HNN的F1分数较已有研究提出的通用型模型——基于Attention的改进CNN-BiLSTM/BiGRU混联文本分类模型（CBLGA）分别提升了6.63和37.22个百分点。实验结果表...