基于注意力增强的热点感知新闻推荐模型

完全个性化的新闻推荐工作通常只基于用户兴趣，可能会导致推荐结果与点击过的内容过于相似甚至重复.事实上即使一些热点新闻并不完全符合用户兴趣，用户也可能希望点击类似的新闻.目前基于热点的新闻推荐方法不能很好挖掘潜在新闻的热点特征、灵活平衡用户兴趣和热点特征.本文提出一种新颖的注意力增强的热点感知新闻推荐模型（Hotspot-aware Attention enhaNced model,HAN），充分利用注意力网络和自注意力网络等深度神经网络的优势，在个性化推荐中将个性化兴趣与新闻热点性进行更好平衡与利用.该模型包括新闻编码器、热点特征提取器、用户兴趣提取器和点击预测器四个组件.提出一个热点特征提取器，使用注意力网络动态聚合热点新闻学习热点表示以更好挖掘热点特征；提出一个新颖的点击预测器来灵活融合热点特征、用户兴趣和候选新闻，以提升候选新闻的点击预测准确率.真实数据集上的实验表明HAN模型在AUC(Area Under the Curve of ROC)和F1两项指标上分别提升了7.51%和8.63%，且能够有效缓解用户冷启动问题.     

基于序列特征提取的个性化推荐

基于序列的推荐是推荐系统研究的热点,序列中包含许多重要信息,如物品的点击规律和用户的兴趣,有效利用序列信息是提高推荐准确率的关键.为了有效提取序列信息,提出了ACRec推荐系统模型,利用多头自注意力机制和卷积神经网络从动态和静态两个方面提取序列信息,并利用矩阵分解增强模型中用户与序列的语义关系.在MovieLen-1M和Video_Games两大公开数据集上实验证明,相比于其他基线模型,ACRec提高了推荐的准确率,Hit@10分别提高了1.03％和18.4％,NDCG@10分别提高了2.6％和20.9％.     

基于序列特征提取的个性化推荐

基于序列的推荐是推荐系统研究的热点,序列中包含许多重要信息,如物品的点击规律和用户的兴趣,有效利用序列信息是提高推荐准确率的关键.为了有效提取序列信息,提出了ACRec推荐系统模型,利用多头自注意力机制和卷积神经网络从动态和静态两个方面提取序列信息,并利用矩阵分解增强模型中用户与序列的语义关系.在MovieLen-1M和Video_Games两大公开数据集上实验证明,相比于其他基线模型,ACRec提高了推荐的准确率,Hit@10分别提高了1.03％和18.4％,NDCG@10分别提高了2.6％和20.9％.     

基于深度学习的混合兴趣点推荐算法

针对现有兴趣点推荐的初始化和忽视评论信息语义上下文信息的问题,将深度学习融入推荐系统中已经成为兴趣点推荐研究的热点之一。该文提出一种基于深度学习的混合兴趣点推荐模型(MFM-HNN)。该模型基于神经网络融合评论信息与用户签到信息来提高兴趣点推荐的性能。具体地,利用卷积神经网络学习评论信息的特征表示,利用降噪自动编码对用户签到信息进行初始化。进而,基于扩展的矩阵分解模型融合评论信息特征和用户签到信息的初始值进行兴趣点推荐。在真实签到数据集上进行实验,结果表明所提MFM-HNN模型相比其他先进的兴趣点推荐具有更好的推荐性能。

     

基于时空上下文信息的POI推荐模型研究

随着基于位置的社交网络(LBSN)技术的快速发展,为移动用户提供个性化服务的兴趣点(POI)推荐成为关注重点。由于POI推荐面临着数据稀疏、影响因素多和用户偏好复杂的挑战,因此传统的POI推荐往往只考虑签到频率以及签到时间和地点对用户的影响,而忽略了签到序列中用户前后行为的关联影响。为了解决上述问题,该文通过序列的表示考虑签到数据的时间影响和空间影响,建立了时空上下文信息的POI推荐模型(STCPR),为POI推荐提供了更精准的个性化偏好。该模型基于序列到序列的框架下,将用户信息、POI信息、类别信息和时空上下文信息进行向量化后嵌入GRU网络中,同时利用了时间注意力机制、全局和局部的空间注意力机制来综合考虑用户偏好与变化趋势,从而向用户推荐感兴趣的Top-N的POI。该文通过在两个真实的数据集上实验来验证模型的性能。实验的结果表明,该文所提出的方法在召回率(Recall)和归一化折损累计增益(NDCG)方面优于几种现有的方法。     

基于艾宾浩斯遗忘曲线和注意力机制的推荐算法

传统基于注意力机制的推荐算法只利用位置嵌入对用户行为序列进行建模,忽略了具体的时间戳信息,导致推荐性能不佳和模型训练过拟合等问题。提出基于时间注意力的多任务矩阵分解推荐模型,利用注意力机制提取邻域信息对用户和物品进行嵌入编码,借助艾宾浩斯遗忘曲线描述用户兴趣随时间的变化特性,在模型训练过程中引入经验回放的强化学习策略模拟人类的记忆复习过程。真实数据集上的实验结果表明,该模型比现有推荐模型具有更好的推荐性能。     

基于时空特征的恶意加密流量检测

加密技术保护了用户的隐私,但也使得恶意攻击可以隐藏一定的攻击特征,增加了检测难度。针对传统的检测方法存在的对于加密字段无法进行有效检测和过于依赖专家经验难以建立对应特征库等缺点,提出了一种不依赖专家经验、自动提取数据的时空特征的恶意加密流量检测方法 CNN-MHGRU。基于网络流量的数据结构,结合卷积神经网络（Convolutional Neural Networks,CNN）和门控循环单元（Gate Recurrent Unit,GRU）的时空特征提取能力,并加入多头注意力机制,使得GRU能够更好地处理长序列数据之间的联系。在公开数据集上进行二分类和多分类实验,CNN-MHGRU模型的准确率分别达到99.92%和92.98%,在对未知恶意加密流量二分类检测实验中准确率达到了99.89%,在整体上均优于实验对比模型。     

融合用户行为序列预测的混合推荐算法

对于用户行为序列中隐藏用户兴趣的捕捉是近年来推荐算法研究的热门方向。传统的序列预测模型使用用户最后一次点击的商品为目标,建立用户行为和目标商品间的关联,并没有充分挖掘用户序列间的先后关系。文中在传统的DIN模型的基础上进行了改进,采用一段时间内的连续行为作为目标向量,使用transformer结构完成序列到序列的预测任务,进一步提取和利用了用户行为序列中的用户深度兴趣,并将其作为辅助特征结合DIN进行推荐。在亚马逊图书数据集和电子数据集上的实验结果表明,文中提出的基于DIN混合推荐模型比原DIN模型的AUC指标分别提升了约0.7%和1.9%。由此可知,基于用户行为序列预测的混合推荐可以在多特征推荐系统中起到一定的辅助作用。此外,文中还对用户序列长度对模型结果造成的影响进行了探究。     

基于用户行为及知识传播的图神经网络推荐系统

协同过滤算法存在数据稀疏和冷启动问题,当前的推荐方法普遍引入知识图谱来缓解协同过滤算法的缺陷,但这些方法大都专注于利用知识图谱来构建用户及物品的特征表示,忽略了对用户交互信息的有效利用。本文提出了一种基于用户行为和知识图谱的推荐方法,该方法由交互传播以及知识传播两部分组成。前者通过图神经网络,利用用户-物品交互图来构建用户物品的高阶交互特征;后者利用知识图谱中传播得到相关实体来补充对物品的描述。在两个基准数据集上的大量实验表明,相对于基线模型,本文提出的基于用户行为及知识传播的图神经网络推荐系统具有较好的推荐效果以及泛化能力。     

融合图神经网络与长短期偏好的序列推荐算法

针对序列推荐在捕获用户动态偏好方面存在明显不足,而且难以捕获用户复杂的长期依赖关系等问题。提出了一种融合图神经网络与长短期偏好的序列推荐算法。算法主要包含短期偏好学习和长期偏好学习。首先基于图神经网络进行短期偏好学习,图神经网络具有强大的图数据拟合能力,用图神经网络捕获用户兴趣点的联系并准确生成短期偏好表示。历史长期偏好具有全局性,波动较小,利用双向LSTM进行长期偏好兴趣学习,获得用户长期偏好表示。实验结果表明,融合图神经网络与长短期偏好的序列推荐算法显著优于其他先进的序列推荐方法。     

基于SFO-GRU模型的短期负荷预测

为提高短期负荷预测精度,提出一种基于旗鱼优化算法(SFO)和GRU神经网络的短期负荷预测模型.通过使用负荷、气象等真实数据对GRU神经网络的权重参数进行训练并建立GRU预测模型,同时采用旗鱼优化算法(SFO)优化GRU模型的迭代次数、学习率和隐藏层神经元数量,仿真实验结果表明,与BP、LSTM等经典预测模型相比,SFO...     

基于用户行为序列的短视频用户多行为点击预测模型

目前主流的点击预测模型采用线性模型和深度神经网络相结合的方法学习用户与物品之间特征交互,忽略了用户的历史行为本质上是一个动态序列的事实,从而导致无法有效捕获用户行为序列中蕴含的时间信息。为此,该文提出了基于用户行为序列的短视频用户多行为点击预测模型(USCP)。该模型将用户的历史行为按交互时间的顺序排序,生成用户历史行为序列。在DeepFM模型的基础上引入词嵌入模型Word2Vec,根据用户历史行为序列自适应学习到该用户的动态兴趣,有效捕获到用户兴趣的变化。在某短视频平台上公开的脱敏数据集上进行了对比实验,评价指标采用GAUC(Group AUC),结果表明该模型性能优于其他几个模型。     

考虑多层次潜在特征的个性化推荐模型

个性化推荐已成为解决信息过载的最有效手段之一,也是海量数据挖掘研究领域的热点技术。然而传统推荐算法往往只使用用户对物品的评分信息,而缺少对用户与物品潜在特征的综合考虑。基于因子分解机、宽神经网络、交叉网络和深度神经网络的融合,提出一种新的考虑多层次潜在特征的模型,可以提取用户与物品的浅层潜在特征、低阶非线性潜在特征、线性交叉潜在特征以及高阶非线性潜在特征。在4个常用的数据集上的实验结果表明,考虑用户与物品多层次潜在特征可以有效提高个性化推荐的预测精度。最后,研究了嵌入层维度以及神经元数量等因素对新模型预测性能的影响。     

基于GRU模型的高机动试飞航空器轨迹预测方法研究

文章利用注意力机制提取试飞运动轨迹数据中的有效信息,采用门控循环神经网络(Gated Recurrent Neural Net-work,GRU)模型处理时序问题,提出了一种高机动试飞航空器实时多步轨迹预测方法.在结合注意力机制和门控循环神经网络进行航迹预测的基础上,根据轨迹预测结果进行高机动试飞航空器防相撞检测,提高...     

基于行为延迟共享网络的个性化商品推荐方法

针对电商平台难以利用历史浏览行为进行个性化商品推荐的问题,该文提出了一种行为延迟共享网络模型(BDSN),充分结合历史浏览信息,对用户进行精准浏览推荐.该模型提出行为延迟门控循环神经单元(BD-GRU),将历史浏览时间间隔作为用户活跃度因子,对神经元状态进行更新,用于计算用户的兴趣表示.为了提高向量表示的一致性,该模型提出共享参数网络,将用户侧和商品侧的表示向量收敛到统一空间,解决个性化商品推荐点击率预估问题.并在真实数据集上进行实验,结果表明,BDSN模型在验证集上的AUC指标和损失函数均处于最优,在测试集上的AUC指标相较基本模型提高37％,能够有效提升商品推荐的准确性.     

基于行为延迟共享网络的个性化商品推荐方法

针对电商平台难以利用历史浏览行为进行个性化商品推荐的问题,该文提出了一种行为延迟共享网络模型(BDSN),充分结合历史浏览信息,对用户进行精准浏览推荐。该模型提出行为延迟门控循环神经单元(BDGRU),将历史浏览时间间隔作为用户活跃度因子,对神经元状态进行更新,用于计算用户的兴趣表示。为了提高向量表示的一致性,该模型提出共享参数网络,将用户侧和商品侧的表示向量收敛到统一空间,解决个性化商品推荐点击率预估问题。并在真实数据集上进行实验,结果表明,BDSN模型在验证集上的AUC指标和损失函数均处于最优,在测试集上的AUC指标相较基本模型提高37%,能够有效提升商品推荐的准确性。     

基于改进的深度兴趣网络推荐系统研究

针对推荐系统中用户兴趣度标签消失问题,在排序层提出一种改进的深度兴趣网络模型。首先,将深度兴趣网络模型应用于视频推荐领域,并在改进的模型中加入平衡因子,有效地解决了在训练过程中用户兴趣度标签消失问题。其次针对推荐系统整体召回率问题,在召回层提出一种混合推荐模型。使用Item2vec模型和贝叶斯个性化排序模型组合成一种混合推荐模型。实验结果显示：改进后的深度兴趣网络和混合模型应用在视频推荐系统中很好地提高了推荐效果。     

边缘网络中一种VNF需求预测方法

针对当前虚拟网络功能（Virtualization Network Functions,VNF）需求预测方法准确率较低且不适用于边缘网络的问题,提出了一种在边缘网络中基于支持向量回归（Support Vector Regression,SVR）与门控循环单元（Gated Recurrent Unit,GRU）神经网络模型结合的VNF需求预测方法。考虑到网络边缘流量具有突发性、自相似性及长相关性等特点,结合SVR和GRU两种模型的优点,利用计算复杂度较低的SVR和GRU模型分别提取网络服务历史时序数据的短期特征和长期特征,以提高VNF需求预测准确率,实现边缘网络中VNF的提前放置。实验表明,所提出的预测方法在边缘网络中针对不同网络服务的预测较于传统方法、循环神经网络（Recurrent Neural Networks,RNN）、长短期记忆网络（Long Short-Term Memory,LSTM）模型能够降低20%~30%的误差,有更佳的预测效果。     

TAGAN:一种融合细粒度语义特征的学术论文对抗推荐算法

学术论文推荐旨在为用户提供个性化的论文资源,针对协同过滤方法面临数据高度稀疏和缺乏负样本的问题,提出了一种融合细粒度语义特征的学术论文对抗推荐模型——TAGAN（title and abstract GAN）。首先,基于具有语义特征的标题和摘要,使用卷积神经网络（CNN）提取标题的全局特征,并构建一个双层的长短期记忆（LSTM）网络分别对摘要的单词序列和语句序列建模,同时,引入注意力机制将标题和摘要进行语义上的关联。然后,将论文的语义特征融入基于生成对抗网络（GAN）的推荐框架中并进行训练,其生成模型会拟合用户的兴趣偏好,能有效替代负采样过程。最后,通过在公开数据集上的实验对比,TAGAN在各个指标上都优于基线模型,验证了TAGAN的有效性。     

基于多层注意力表示的音乐推荐模型

目前的音乐推荐方法只能挖掘用户与歌曲之间的一般性关系,无法区分不同用户对同一首歌曲的差异性偏好.为此,本文提出了基于多层注意力表示的音乐推荐模型,利用用户属性信息和歌曲内容信息从多维度学习歌曲表征,挖掘用户与歌曲之间的偏好关系.为了区分用户对歌曲多域特征的差异性偏好,设计了用户特征依赖的注意力网络;为了区分不同历史行为对用户偏好的差异性,挖掘用户行为的时序依赖关系,设计了歌曲依赖的注意力网络.最后,利用Softmax函数计算用户对候选歌曲的偏好分布并产生推荐.在30Music和MIGU数据集上的实验结果表明,相比目前的推荐模型,本文提出的模型在Recall和MRR均得到了显著提升.