融合偏置深度学习的距离分解Top-N推荐算法

针对传统矩阵分解算法大多是浅层的线性模型,难以学习到深层次的用户和物品的隐特征向量,且在数据稀疏的情况下容易产生过拟合的问题,文中提出一种融合偏置深度学习的矩阵分解算法,在解决数据稀疏问题的同时,还能学习到表征能力更强的距离特征向量.首先,通过用户与物品的显式和隐式数据构建用户与物品的交互矩阵,并将交互矩阵转化为相应的距离矩阵;其次,将距离矩阵分别按行和按列输入加入偏置层的深度神经网络,学习得到具有非线性特征的用户和物品的距离特征向量;最后,根据用户和物品的距离特征向量计算用户和物品之间的距离,用距离值对物品按升序排列,生成Top-N的推荐列表.在4个真实数据集上进行实验,采用Precision,Recall,MAP,MRR和NDCG指标进行评估,结果表明所提算法在上述指标方面相比其他主流推荐算法有明显提升.     

融合社交信息的矩阵分解改进推荐算法

矩阵分解的推荐模型具有推荐精度高和易扩展等特点,已成为目前融合社交信息构建推荐系统的主要模型,但在分解过程中,用户偏好矩阵和物品特征矩阵初始赋值的随机性影响了推荐的性能,忽略了物品以及用户之间隐含的联系与区别。为此,提出一种基于社交信息的矩阵分解改进算法。将评分值分别与社交信息和物品的特征属性相结合,构建用户相似网络与物品相似网络,同时应用社区划分充分挖掘用户、物品之间的潜在关系,并按不同类型节点的近邻差异性,通过建立核心、非核心节点的偏好向量与特征向量得到矩阵分解初始矩阵。在公开数据集上的实验结果表明,该算法的推荐性能优于MF、SR2等同类型算法,运行迭代次数明显降低。     

一种基于文本卷积神经网络的推荐算法

传统的矩阵因子分解模型不能有效提取用户和物品特征,而基于深度学习模型可以很好地提取特征信息。当前,主流的基于深度学习推荐算法只是单一地将神经网络的输出或物品特征与用户特征乘积的形式来做推荐预测,不能充分挖掘用户和物品之间的关系。基于此,本文提出一种基于文本卷积神经网络与带偏置项的奇异值分解(BiasSVD)结合的推荐算法,利用文本卷积神经网络(TextCNN)来充分提取用户和物品的特征信息,然后用奇异值分解方法来做推荐,深层次理解文档上下文信息,进一步提高推荐的准确性。将该算法在MovieLens的2个真实数据集上做广泛的评估分析,推荐的准确度要明显优于ConvMF算法及主流深度学习推荐算法。     

基于自适应提升的概率矩阵分解算法

针对推荐系统中概率矩阵分解模型(PMF)泛化能力(对新用户和物品的推荐性能)较差、预测准确性不高的问题,提出一种新的基于自适应提升的概率矩阵分解算法(AdaBoostPMF)。该算法首先为每个样本分配样本权重;然后根据PMF中的每一轮随机梯度下降法学习用户和物品特征向量,并计算总体预测误差均值和标准差。从全局的角度利用AdaBoost思想自适应调整样本权重,使算法更注重学习预测误差较大的样本;最后对预测误差分配样本权重,让用户和物品特征向量找到更合适的优化方向。相比传统的PMF算法,AdaBoostPMF算法能够将预测精度平均提高约2.5%。实验结果表明,该算法通过加权预测误差较大的样本,能够较好地拟合用户特征向量和物品特征向量,提高预测精度,可以有效地应用于研究个性化推荐。     

HRS-DC：基于深度学习的混合推荐模型

针对传统的矩阵分解算法,仅利用评分信息作为推荐依据,当评分数据稀疏时,不能准确获取隐式反馈,影响推荐的准确性,充分利用辅助信息进行隐式特征的提取成为研究热点之一,提出一种基于深度学习的推荐模型HRS-DC,利用深度神经网络和卷积神经网络从辅助信息中分别提取出用户和项目的隐性特征向量,再将特征向量经过改进的神经协同过滤得出新的评分矩阵。通过在三个真实的数据集上进行验证,与概率矩阵分解（PMF）、协同过滤主题回归（CTR）、协同过滤深度学习（CDL）、卷积矩阵分解ConvMF算法相比提高了评分预测的准确性,也在一定程度上缓解了冷启动问题。     

基于状态空间模型和概率矩阵分解的推荐算法

传统的矩阵分解算法在时间上将全部训练数据作为整体进行计算以获得用户兴趣特征,忽略了用户兴趣漂移问题。针对此问题,提出一种基于状态空间模型和概率矩阵分解的推荐算法。首先将用户兴趣特征向量与用户评分数据的矩阵分解映射到线性高斯状态空间中;然后使用EM算法和卡尔曼滤波器对模型参数进行动态求解;最后根据前后获得用户兴趣特征向量确认用户兴趣是否发生漂移,并进行相应推荐。实验结果表明,该算法与传统的矩阵分解推荐算法相比,能更好地感知用户兴趣漂移,提高推荐质量。     

引入评分偏置的二项矩阵分解推荐算法

针对推荐系统中的评分预测问题,在矩阵分解的基础上实现了一种修正的二项矩阵分解算法。假设用户对物品的评分基于二项分布,由于用户的评分习惯存在差异,物品的受欢迎程度也存在差异,导致用户—物品评分矩阵存在偏置量。通过引入偏置量对矩阵分解和评分预测进行修正,采用最大后验估计建模,并通过随机梯度下降算法优化模型。实验结果表明,在MovieLens 100K数据集上,引入评分偏置的二项矩阵分解算法在推荐精度、离线计算时间等方面均优于传统的二项矩阵分解算法。     

基于FunkSVD矩阵分解和相似度矩阵的推荐算法

传统基于用户的协同过滤推荐算法在计算用户相似性时经常面临数据稀疏的问题,同时忽略了不同评分项目之间的差异。针对这些问题,提出一种基于FunkSVD矩阵分解和相似度矩阵的推荐算法。利用用户评分数据与物品标签数据计算出用户的相似度矩阵;利用FunkSVD对得到的相似度矩阵进行矩阵分解,生成新的用户相似度矩阵;根据用户之间评分数据对两个相似度矩阵中的用户相似度加权组合,并生成用户的综合相似度矩阵来对用户进行评分预测。经过Movielens数据集的实验表明,该算法提高了预测的准确性,优于传统的推荐算法。     

基于深度神经网络和加权隐反馈的个性化推荐

改进的矩阵分解(SVD++)将用户和物品特征向量的内积作为用户对物品的评分,而内积无法捕捉用户与物品之间复杂的高阶非线性关系.此外,SVD++在融入用户隐式反馈时,未区分不同交互物品对于用户特征表达的贡献.针对上述问题,文中提出基于深度神经网络和加权隐反馈的推荐算法(DeepNASVD++),采用深度神经网络建模用户与物品之间的关系,使用注意力机制计算历史交互物品在建模用户隐式反馈时的权重.在公开数据集上的实验验证文中算法的有效性.     

融合显隐式反馈协同过滤的差分隐私保护算法

由于协同过滤推荐算法依赖用户的数据,因而存在很大的隐私泄露风险.差分隐私保护技术可提供严格的隐私保护效果,但目前大多数基于差分隐私的推荐算法没有考虑隐式反馈数据,针对该问题,提出了一种新的基于差分隐私保护的协同过滤推荐算法.首先对隐式反馈矩阵进行矩阵分解,得到用户和物品的隐式特征向量;然后把得到的隐式特征向量融合到显式反馈模型求解中,通过在模型求解过程中加入均值扰动和梯度扰动,使算法满足ε-差分隐私保护;最后应用此算法预测评分,并在MovieLens数据集上对算法进行有效性评价.实验结果表明,所提算法能在推荐结果的准确性和用户的隐私保护之间实现有效的平衡.     

基于差值矩阵分解的推荐算法

矩阵分解已经成为预测用户对物品评分的一种常用方法。传统的矩阵分解技术没有考虑到用户评分之间的差异性,针对上述问题在矩阵分解的基础上,提出差值矩阵分解模型。算法将每个用户对物品的评分减去与其社会属性相似用户对该物品评分的平均分,得到一个差值矩阵,然后对差值矩阵进行分解。在Movielens 1M数据集的实验结果表明,该算法的预测精度较贝叶斯概率矩阵分解、矩阵分解、融合用户属性的隐语义模型都有较为明显的提升。     

基于高阶偏差的因子分解机推荐算法

在推荐系统中,因评分尺度差异而造成的偏差问题一直影响着协同过滤算法的预测准确性。其中针对矩阵因子分解算法中的偏差问题,本文提出一种基于高阶偏差的因子分解机算法。该算法首先按照评分偏差的现实特征对用户和项目进行划分,再将偏差类别作为辅助特征集成到因子分解机中,实现了评分预测中不同偏差用户、项目的高阶交互。在Movielens数据集上的实验结果表明,相比传统矩阵因子分解算法,本文提出的算法具有更低的预测误差,体现了其更好的推荐性能。     

融合矩阵补全与深度矩阵分解的推荐算法

深度矩阵分解采用深层非线性映射,从而突破了矩阵分解中双线性关系影响推荐系统性能的瓶颈,但它没有考虑用户对未评分项目的偏好,且对于稀疏性较高的大规模数据其推荐性能不具有优势,为此提出一种融合矩阵补全与深度矩阵分解的推荐算法.首先通过矩阵补全模型将原始评分矩阵中的未知元素进行填补,然后依据补全后的矩阵,利用深度学习模型分别构建用户和项目潜在向量.最后,在MovieLens和SUSHI数据集上进行测试,实验结果表明,与深度矩阵分解相比,所提算法显著地提高了推荐系统的性能.     

基于深度学习的多交互混合推荐模型

传统的推荐系统中，基于矩阵分解的协同过滤方法只考虑单一的评分信息，而且作为浅层模型无法学习到更深层次的特征信息。提出一种基于深度学习的多交互混合推荐模型，通过深度学习模型融合更多的辅助信息作为输入，能够缓解数据的稀疏性问题；利用多层交互的非线性网络结构去学习更抽象、稠密的深层次特征表示；通过对用户和项目的隐表示进行多次内积交互获得不同层次的特征表示结果；聚合所有的交互结果进行预测。在Movieles latest 100K数据集上进行实验，采用[RMSE]指标进行评估，结果表明所提模型在推荐效果上有所提升。     

融合矩阵分解与距离度量学习的社会化推荐算法

为解决传统推荐系统中存在的冷启动难题,基于距离反映偏好的假设提出了一种融合矩阵分解与距离度量学习的社会化推荐算法。该算法同时对样本和距离度量进行训练,在满足距离约束的前提下更新距离度量和用户与项目的坐标,并将用户与项目嵌入到统一的低维空间,利用用户与项目之间的距离生成推荐结果。基于豆瓣和Epi-nions数据集的对比实验结果验证了该方法可有效提高推荐系统的可解释性和精确度,明显优于基于矩阵分解的推荐方法。研究结果表明,所提方法缓解了传统推荐系统中存在的冷启动问题,为推荐系统的研究提供了另一种可供参考的研究思路。     

Leveraging clustering to improve collaborative filtering

Extensive work on matrix factorization (MF) techniques have been done recently as they provide accurate rating prediction models in recommendation systems. Additional extensions, such as neighbour-aware models, have been shown to improve rating prediction further. However, these models often suffer from a long computation time. In this paper, we propose a novel method that applies clustering algorithms to the latent vectors of users and items. Our method can capture the common interests between the cluster of users and the cluster of items in a latent space. A matrix factorization technique is then applied to this cluster-level rating matrix to predict the future cluster-level interests. We then aggregate the traditional user-item rating predictions with our cluster-level rating predictions to improve the rating prediction accuracy. Our method is a general “wrapper” that can be applied to all collaborative filtering methods. In our experiments, we show that our new approach, when applied to a variety of existing matrix factorization techniques, improves their rating predictions and also results in better rating predictions for cold-start users. Above all, in this paper we show that better quality and more quantity of these clusters achieve a better rating prediction accuracy.     

ACMF:基于卷积注意力模型的评分预测研究

评分数据稀疏是影响评分预测的主要因素之一。为了解决数据稀疏问题,一些推荐模型利用辅助信息改善评分预测的准确率。然而大多数推荐模型缺乏对辅助信息的深入理解,因此还有很大的提升空间。鉴于卷积神经网络在特征提取方面和注意力机制在特征选择方面的突出表现,该文提出一种融合卷积注意力神经网络(Attention Convolutional Neural Network, ACNN)的概率矩阵分解模型: 基于卷积注意力的矩阵分解(Attention Convolutional Model based Matrix Factorization, ACMF),该模型首先使用词嵌入将高维、稀疏的词向量压缩成低维、稠密的特征向量;接着,通过局部注意力层和卷积层学习评论文档的特征;然后,利用用户和物品的潜在模型生成评分预测矩阵;最后计算评分矩阵的均方根误差。在ML-100k、ML-1m、ML-10m、Amazon数据集上的实验结果表明,与当前取得最好预测准确率的PHD模型相比,ACMF模型在预测准确率上分别提高了3.57%、1.25%、0.37%和0.16%。     

基于偏置度量分解与隐反馈的协同过滤推荐算法

矩阵分解由于其简单可靠的特性,是推荐系统中最重要的算法之一,由于内积无法完全捕捉用户和商品间的交互,矩阵分解的性能难以继续提升。为了解决这个问题,改进了基础的距离度量分解模型,提出了基于偏置度量分解与隐反馈的协同过滤推荐算法,并对用户评分时间动态建模,进一步提升了模型性能。针对推荐系统中最常见的评分预测任务,分别在三个数据集上进行实验验证,实验结果表明所提出的模型的预测准确率有明显提升。     

深度矩阵分解推荐算法

协同过滤推荐算法中的矩阵分解因其简单、易于实现,得到了广泛的应用.但是矩阵分解通过简单的线性内积建模用户和物品之间的非线性交互关系,限制了模型的表达能力.为此,He等人提出了广义矩阵分解模型,通过非线性激活函数和连接权重,将矩阵分解推广到广义矩阵分解,为模型赋予建模用户和物品间的二阶非线性交互关系的能力.但是广义矩阵分解模型是一个浅层模型,并不能很好地建模用户和物品间高阶交互关系,一定程度上可能会影响模型性能.受广义矩阵分解模型启发,提出了深度矩阵分解模型（deep matrix factorization,简称DMF）,在广义矩阵分解模型的基础上引入隐藏层,利用深层神经网络来学习用户和物品间高阶交互关系.深度矩阵分解模型不仅解决了简单内积的线性问题,同时还能够建模用户和物品间的高阶交互,具有很好的表达能力.此外,在MovieLens和Anime两个数据集上进行了大量丰富的对比实验,验证了模型的可行性和有效性;同时,通过实验确定了模型的最优参数.