基于深度神经网络和加权隐反馈的个性化推荐

改进的矩阵分解(SVD++)将用户和物品特征向量的内积作为用户对物品的评分,而内积无法捕捉用户与物品之间复杂的高阶非线性关系.此外,SVD++在融入用户隐式反馈时,未区分不同交互物品对于用户特征表达的贡献.针对上述问题,文中提出基于深度神经网络和加权隐反馈的推荐算法(DeepNASVD++),采用深度神经网络建模用户与物品之间的关系,使用注意力机制计算历史交互物品在建模用户隐式反馈时的权重.在公开数据集上的实验验证文中算法的有效性.     

融合偏置深度学习的距离分解Top-N推荐算法

针对传统矩阵分解算法大多是浅层的线性模型,难以学习到深层次的用户和物品的隐特征向量,且在数据稀疏的情况下容易产生过拟合的问题,文中提出一种融合偏置深度学习的矩阵分解算法,在解决数据稀疏问题的同时,还能学习到表征能力更强的距离特征向量.首先,通过用户与物品的显式和隐式数据构建用户与物品的交互矩阵,并将交互矩阵转化为相应的距离矩阵;其次,将距离矩阵分别按行和按列输入加入偏置层的深度神经网络,学习得到具有非线性特征的用户和物品的距离特征向量;最后,根据用户和物品的距离特征向量计算用户和物品之间的距离,用距离值对物品按升序排列,生成Top-N的推荐列表.在4个真实数据集上进行实验,采用Precision,Recall,MAP,MRR和NDCG指标进行评估,结果表明所提算法在上述指标方面相比其他主流推荐算法有明显提升.     

基于注意力机制的协同卷积动态推荐网络

一直以来, 各种推荐系统关注于如何挖掘用户与物品特征间的潜在关联, 特征信息的充分利用有利于用户到物品的精准匹配. 基于矩阵分解和分解机的推荐算法是该领域的主流, 前者学习用户历史行为而后者分析对象特征关系, 但都难以兼顾用户行为与个体特征. 而近年来, 深度神经网络凭借其强大的特征学习能力和灵活可变的结构被应用到了推荐系统领域. 鉴于此, 本文提出了一种基于注意力机制的协同卷积动态推荐网络(Attentionbased collaborative convolutional dynamic network, ACCDN), 它通过注意力机制实现用户历史行为、用户画像与物品属性的多重交互, 再通过卷积网络逐层捕捉更高阶的特征交互. 网络同时接受不同组块输出的低阶至高阶信息, 最后给出用户对指定物品青睐评分概率的预估. 而且本文还提出了一种基于无参时间衰减的用户兴趣标签来量化用户关注的变化. 通过比较若干先进模型在两个现实数据集的表现, 本文设计的动态推荐模型不但能够缓解推荐时滞性, 还能明显提高推荐质量, 为用户带来更好的个性化服务体验.     

基于偏置度量分解与隐反馈的协同过滤推荐算法

矩阵分解由于其简单可靠的特性,是推荐系统中最重要的算法之一,由于内积无法完全捕捉用户和商品间的交互,矩阵分解的性能难以继续提升。为了解决这个问题,改进了基础的距离度量分解模型,提出了基于偏置度量分解与隐反馈的协同过滤推荐算法,并对用户评分时间动态建模,进一步提升了模型性能。针对推荐系统中最常见的评分预测任务,分别在三个数据集上进行实验验证,实验结果表明所提出的模型的预测准确率有明显提升。     

基于物品的统一推荐模型

用户-物品交互模式建模是个性化推荐的一项重要任务,许多推荐系统都基于用户与商品之间存在线性关系的假设,忽略了现实物品与历史物品之间交互的复杂性和非线性,导致这些系统不足以捕捉到用户的复杂决策过程。为此,将一个更有表现力的Top-N推荐系统的物品相似性因子模型解决方法与多层感知机方法相结合,以有效地建模物品之间的高阶关系,捕获更复杂的用户决策。分别在三个数据集MovieLens、Foursquare和ratings_Digital_Music上验证了结合后的效果,并与基准方法MLP、分解物品相似度模型（FISM）、DeepICF和ItemKNN进行对比,结果表明,所提出的方法在推荐性能上有明显的提高。     

结合灰色预测的动态概率矩阵分解

推荐系统的目标是找出符合用户喜好的物品, 但是用户的喜好和物品的特征是动态变化的, 这种变化会影响推荐系统的准确性. 很多推荐系统只是简单的使用概率矩阵分解模型, 缺乏对这个问题的有效解决. 本文利用灰色系统理论中的灰色预测模型对用户和物品的动态性建模, 继而提出了一个基于概率矩阵分解和灰色预测模型的动态推荐系统.首先, 利用概率矩阵分解模型生成各个连续时间窗中用户和物品的隐式向量. 接着, 利用灰色预测模型得到未来时间窗中用户和物品的隐式向量, 继而进行推荐. 实验结果说明本文的算法能够有效地对用户和商品的动态性进行建模, 且优于一些现存的最好的算法.     

结合灰色预测的动态概率矩阵分解（英文）

推荐系统的目标是找出符合用户喜好的物品,但是用户的喜好和物品的特征是动态变化的,这种变化会影响推荐系统的准确性.很多推荐系统只是简单的使用概率矩阵分解模型,缺乏对这个问题的有效解决.本文利用灰色系统理论中的灰色预测模型对用户和物品的动态性建模,继而提出了一个基于概率矩阵分解和灰色预测模型的动态推荐系统.首先,利用概率矩阵分解模型生成各个连续时间窗中用户和物品的隐式向量.接着,利用灰色预测模型得到未来时间窗中用户和物品的隐式向量,继而进行推荐.实验结果说明本文的算法能够有效地对用户和商品的动态性进行建模,且优于一些现存的最好的算法.     

基于知识图谱与深度涟漪网络的推荐系统

利用知识图谱和深度学习进行推荐的方法得到了广泛的研究和应用，但是大多数推荐模型对物品表示建模不够完整，也未能全面捕捉和充分利用用户及物品的高阶交互信息。针对用户特征和物品特征高阶表示的提取问题，对用户与物品间的交互信息和知识图谱的关联信息进行联合提取，提出一种知识图谱交叉涟漪网络(KGCRN)。利用涟漪网络传播对用户偏好和物品特征进行建模，同时丰富两者的表示，提升推荐的性能。此外，设计一种改进的交叉压缩单元处理涟漪网络的输出，利用涟漪网络传播和交叉压缩单元的高阶特征交互获得准确、全面的物品高阶表示，提高模型推荐精度并增强模型应对数据稀疏场景的能力。在MovieLens-20M、Book-Crossing和Last.FM数据集上的实验结果表明，与KGCN、libFM、CKE等基线方法相比，KGCRN在点击通过率预测、Top-K推荐和应对数据稀疏场景下的性能均得到显著提升，其中，相比KGCN，点击通过率预测实验中KGCRN的AUC增益分别提高0.4、5.1、2.4个百分点，F1值分别提升3.29、2.86、0.96个百分点。     

基于深度学习的矩阵分解推荐模型

通过对深度学习和矩阵分解技术进行结合,设计一个深度神经网络对用户和物品进行特征提取,形成用户隐向量和物品隐向量的方法,计算这两个隐向量的内积得到用户对物品的评分预测.为提高推荐精度,提出使用显式数据和隐式数据并设计新的损失函数能够同时计算这两类数据损失的方法.在两个公开数据集上的实验结果表明,该方法比基线模型在HR和N...     

基于矩阵分解的社交网络正则化推荐模型

社交网站的快速发展和普及使得实现高效的好友推荐成为了一个热点问题,而矩阵分解算法是被业界广泛采用的方法.虽然传统的矩阵分解算法能够带来良好的效果,但是仍然存在一些问题.首先,算法没有充分利用用户之间的社交网络结构化关系;其次,算法依赖的用户-物品评分矩阵只有二级评分不能充分表达用户的喜好.提出了一种基于矩阵分解的社交网络正则化推荐模型,利用社交网络中用户的近邻关系进行建模,并将其作为一种辅助信息融合到矩阵分解模型当中,该模型能够解决传统矩阵分解面临的问题.通过在腾讯微博数据集上进行实验对比,验证了本文提出的方法与传统的推荐方法相比能取得更高的推荐平均准确度.     

基于深度学习的多交互混合推荐模型

传统的推荐系统中，基于矩阵分解的协同过滤方法只考虑单一的评分信息，而且作为浅层模型无法学习到更深层次的特征信息。提出一种基于深度学习的多交互混合推荐模型，通过深度学习模型融合更多的辅助信息作为输入，能够缓解数据的稀疏性问题；利用多层交互的非线性网络结构去学习更抽象、稠密的深层次特征表示；通过对用户和项目的隐表示进行多次内积交互获得不同层次的特征表示结果；聚合所有的交互结果进行预测。在Movieles latest 100K数据集上进行实验，采用[RMSE]指标进行评估，结果表明所提模型在推荐效果上有所提升。     

基于高阶偏差的因子分解机推荐算法

在推荐系统中,因评分尺度差异而造成的偏差问题一直影响着协同过滤算法的预测准确性。其中针对矩阵因子分解算法中的偏差问题,本文提出一种基于高阶偏差的因子分解机算法。该算法首先按照评分偏差的现实特征对用户和项目进行划分,再将偏差类别作为辅助特征集成到因子分解机中,实现了评分预测中不同偏差用户、项目的高阶交互。在Movielens数据集上的实验结果表明,相比传统矩阵因子分解算法,本文提出的算法具有更低的预测误差,体现了其更好的推荐性能。     

基于深度距离分解的推荐算法研究

针对推荐系统中的矩阵分解算法只根据用户和物品的特征向量进行点积运算,无法准确衡量不同用户对物品偏好的弊端,该文提出了一种基于深度距离分解模型的推荐算法。首先,改变传统矩阵分解直接对评分值进行分解的模式,将用户与物品的评分矩阵转化为距离矩阵;然后,将距离矩阵分别按行和按列输入两个深度神经网络进行训练,得到用户和物品的距离特征向量;接下来,用距离特征向量计算用户和物品之间的距离值,通过设计的损失函数使预测距离值与真实距离值的误差达到最小;最后,将用户与物品的预测距离值转化为预测评分。实验结果表明,在不同数据集中,该文提出的基于深度距离分解模型的推荐算法在RMSE和MAE指标上均优于基线推荐算法。     

融合矩阵补全与深度矩阵分解的推荐算法

深度矩阵分解采用深层非线性映射,从而突破了矩阵分解中双线性关系影响推荐系统性能的瓶颈,但它没有考虑用户对未评分项目的偏好,且对于稀疏性较高的大规模数据其推荐性能不具有优势,为此提出一种融合矩阵补全与深度矩阵分解的推荐算法.首先通过矩阵补全模型将原始评分矩阵中的未知元素进行填补,然后依据补全后的矩阵,利用深度学习模型分别构建用户和项目潜在向量.最后,在MovieLens和SUSHI数据集上进行测试,实验结果表明,与深度矩阵分解相比,所提算法显著地提高了推荐系统的性能.     

一种基于文本卷积神经网络的推荐算法

传统的矩阵因子分解模型不能有效提取用户和物品特征,而基于深度学习模型可以很好地提取特征信息。当前,主流的基于深度学习推荐算法只是单一地将神经网络的输出或物品特征与用户特征乘积的形式来做推荐预测,不能充分挖掘用户和物品之间的关系。基于此,本文提出一种基于文本卷积神经网络与带偏置项的奇异值分解(BiasSVD)结合的推荐算法,利用文本卷积神经网络(TextCNN)来充分提取用户和物品的特征信息,然后用奇异值分解方法来做推荐,深层次理解文档上下文信息,进一步提高推荐的准确性。将该算法在MovieLens的2个真实数据集上做广泛的评估分析,推荐的准确度要明显优于ConvMF算法及主流深度学习推荐算法。     

基于多维特征交叉的深度协同过滤算法

基于深度学习的推荐算法最初以用户和物品的ID信息作为输入,但是ID无法很好地表现用户与物品的特征。在原始数据中,用户对物品的评分数据在一定程度上能表现出用户和物品的特征,但是未考虑用户的评分偏好以及物品的热门程度。在评分任务中使用隐式反馈和ID信息作为用户与物品的特征,在消除用户主观性对特征造成的噪声的同时在一定程度上缓解冷启动问题,利用单层神经网络对原始高维稀疏特征降维,使用特征交叉得到用户与物品的低阶交互,再利用神经网络捕获用户与物品的高阶交互,有效提取了特征间的高低阶交互。在四个公开数据集上的实验表明,该算法能有效提高推荐精度。     

基于度量学习的多空间推荐系统

隐式反馈具有数据获取成本小、形式广泛的特点,因此在现代推荐系统中被广泛使用.由于用户的隐式反馈通常是稀疏,不平衡,且含义不明确的.因此,想要准确学习用户和物品之间的复杂交互具有挑战性.传统的基于矩阵分解的推荐方法只能建模用户-物品之间的相似性.同时,矩阵分解使用点积运算作为相似度评估方式,而点积运算不满足三角不等式,即不能将用户-物品相似性传递到用户-用户以及物品-物品的相似性建模.因此,矩阵分解不足以在隐式反馈中充分建模用户和物品的关系.尽管现在有基于隐式反馈使用欧式距离来度量用户-物品相似度的度量学习方法,使得对应的推荐方法能够满足三角不等式.但是,现有的度量方法通常会将每个用户或者物品表示为度量空间中的单个点,进而在单个空间内通过用户-物品之间的距离来表征用户-物品之间的相似性.由于在不同的环境下,用户对于同一种类型的物品的偏好也可能存在差异.基于单个空间的用户、物品嵌入向量有可能无法满足用户具有的多种偏好和物品具有的多种属性,进而限制了推荐系统的性能.为了充分刻画用户和物品,我们尝试从多个侧面对于用户和物品进行表示,并提出了一个基于多空间的度量学习(MML)框架.通过设计整合多个空间相似性的度量方式,我们将用户和物品投影到多个空间中进行细粒度的表示.另外,我们设计了一种经过校准的优化策略,包括经过校准的最大间隔损失函数和经过校准的采样方法.在保持多空间度量学习表示能力的同时,确保框架的有效性.最后,模型通过训练好的用户、物品向量,对于稀疏的用户-物品交互矩阵进行填补.在动态更新空间权重的同时,可以赋予模型新的训练视角,最终实现端到端的训练.通过四个真实世界推荐数据集上进行的大量实验表明,MML可以在Recall和nDCG衡量指标上将目前最优的对比算法提高40%以上.     

DCFM：基于深度学习的混合推荐模型

传统推荐算法大多都仅考虑用户-商品评级信息来进行推荐,这种忽略了用户属性和商品属性信息的推荐模型准确率不高。因子分解机可在数据稀疏情况下挖掘用户与商品的关联关系,交叉网络可挖掘属性特征与其高阶特征的线性组合关系,以及深度神经网络有效识别高阶非线性关联关系,基于三种模型的优势,提出了一种基于深度学习的混合推荐模型（Deep and Cross Factorization Machine,DCFM）。三部分并联组合,共享输入层,各部分结果线性组合后作为模型整体输出。通过在MovieLens电影数据集上仿真实验,并与因子分解机（FM）、深度因子分解机（DeepFM）、深度交叉网络（DCN）模型做比较,结果证明该模型在准确率、F1-Score和AUC值上均得到了提高和改善。     

增强型高阶注意力因子分解机点击率预测模型

特征交互的建模对于推荐系统中预测用户的点击率至关重要。设计了增强型高阶注意力因子分解机模型EHAFM（enhanced high-order attentive factorization machine）,其主要由Embedding层、显式特征交互层、输出层构成。在每个显式特征交互层中,通过聚合其他特征的表示来更新特征的表示,并针对无用特征交互对预测产生干扰的问题,提出了增强型元素级注意力机制,利用投影矩阵拓展特征表示空间,以增强注意力矩阵的学习能力。通过融合多个增强型元素级注意力头的信息,以解决模型泛化能力不足问题。通过堆叠显式特征交互层可以将特征表示更新到任意高阶,将高阶特征交互部分与一阶线性部分结合进行点击率预测。EHAFM模型在Criteo、Movielens-1M两个数据集上进行实验,结果表明相较基准模型在两个数据集上分别有0.21%和0.92%的AUC提升。