基于自注意力机制和迁移学习的跨领域推荐算法

传统的单领域推荐算法受限于用户和项目的稀疏关系,存在用户/项目冷启动的问题,并且,其仅以用户对项目评分进行建模,忽略了评论文本中所蕴含的信息。基于评论文本的跨领域推荐算法在辅助领域提取用户/项目的评论信息来缓解目标领域的数据稀疏问题,以提高推荐的准确率。文中提出了结合自注意力机制和迁移学习的跨领域推荐算法SAMTL(Self-Attention Mechanism and Transfer Learning)。与现有算法不同,SAMTL充分融合了目标领域和辅助领域的知识。首先,引入自注意力机制建模用户的喜好信息;其次,通过交叉映射跨域传输网络实现借助一个领域的信息来提高另一个领域的推荐准确率;最后,在知识融合模块和评分预测模块整合两个域的信息,进行评分预测。在Amazon数据集上的实验表明,与现有的跨领域推荐模型相比,SAMTL的MAE和MSE值更高,在3种不同的跨领域数据集上的MAE值分别提高了8.4%,13.2%和19.4%,MSE值分别提高了6.3%,7.8%和5.6%。通过多项实验验证了自注意力机制和迁移学习的有效性,以及它们在缓解数据稀疏和用户冷启动问题方面的优势。     

目标域特征感知与互补用户迁移的跨域推荐模型

冷启动问题一直是推荐系统中十分有挑战性的问题.目前,基于映射的跨域推荐技术在解决冷启动问题上已取得了十分不错的效果,其方法主要分为两类,一类关注共性,即所有用户共享一个映射函数;另一类则关注个性,即为每个用户分别分配个性化的映射函数;然而,这两类方法均没有考虑到用户共性与个性的互补性;此外,这两类方法也忽视了目标域知识本身的挖掘.为了解决以上问题,本文提出了目标域特征感知与互补用户迁移的跨域推荐模型.一方面,提出个性-共性互补映射模块以显式建模用户个性和共性的互补信息,另一方面,提出了关系网络以挖掘目标域知识.最后,在Amazon数据集上的实验取得了目前最优的效果,验证了本文所提出模型的有效性.     

融合多信息的跨域推荐算法

针对目前跨域协同过滤算法仅通过评分矩阵相似性进行信息提取推荐,并未利用数据中含有的更多信息,从而导致推荐结果不理想的情况。提出一种融合多信息的改进跨域协同过滤算法。算法通过改进传统跨域协同过滤中的信息提取方式,融入了数据源中的时间与类型信息,提高了信息提取的精度与推荐的准确性。通过在MovieLens数据集与豆瓣数据集上进行对比实验,结果表明,跨域推荐算法能够在多域间进行信息传递,融入了多信息的跨域推荐算法能更为有效地提升推荐的准确性。     

基于迁移学习的领域自适应推荐方法研究

协同过滤在目标评分数据非常稀疏时，其推荐效果往往会下降。跨领域推荐方法在一定程度上可以解决数据稀疏性的问题。对于不同领域异构的数据，如果不进行特征映射处理，则可能会导致负迁移；采用单一的迁移模式，则会造成潜在信息缺失。因此，提出一种领域自适应的方法，以应用于跨领域推荐。具体包括：利用GFK特征映射后，以增加共享信息的一致性和减少潜在信息的缺失；采用联合用户侧重和项目侧重多元迁移模式来预测缺失评分的目标域矩阵，以提升预测评分的准确性。经开源数据集上的实验测试，证实了该模型可提高推荐的精准度。     

基于评论方面级用户偏好迁移的跨领域推荐算法

为解决推荐系统中数据稀疏造成的用户冷启动问题,文中提出了一种基于方面级用户偏好迁移的跨领域推荐算法(Cross-Domain Recommendation via Review Aspect-Level User Preference Transfer, CAUT),设计了基于两阶段生成对抗网络的用户方面级偏好跨领域迁移结构,通过用户历史评论挖掘用户细粒度方面级偏好。CAUT利用预训练源领域编码器参数对目标领域编码器进行参数初始化,在固定源领域编码器参数的同时引入领域鉴别器,以解决源领域与目标领域数据分布差异的问题,进而可以有效利用源领域的丰富数据,缓解目标领域数据稀疏造成的用户冷启动问题。在亚马逊电商平台真实数据集上进行了实验,结果表明,与最新算法相比,CAUT在用户对商品的评分预测均方根误差(RMSE)指标上有明显的提升,说明CAUT可有效缓解用户冷启动问题。     

跨领域文本情感分类研究进展

作为社会媒体文本情感分析的重要研究课题之一,跨领域文本情感分类旨在利用源领域资源或模型迁移地服务于目标领域的文本情感分类任务,其可以有效缓解目标领域中带标签数据不足问题.从3个角度对跨领域文本情感分类方法行了归纳总结:(1)按照目标领域中是否有带标签数据,可分为直推式和归纳式情感迁移方法;(2)按照不同情感适应性策略,可分为实例迁移方法、特征迁移方法、模型迁移方法、基于词典的方法、联合情感主题方法以及图模型方法等;(3)按照可用源领域个数,可分为单源和多源跨领域文本情感分类方法.此外,还介绍了深度迁移学习方法及其在跨领域文本情感分类的最新应用成果.最后,围绕跨领域文本情感分类面临的关键技术问题,对可能的突破方向进行了展望.     

基于领域知识的协同过滤推荐算法

传统协同过滤推荐算法中项目相似度的计算建立在用户评分项目交集之上,没有考虑不同项目之间所存在的语义关系,致使推荐准确率低。基于领域知识进行项目相似度计算的协同过滤算法在用户评分的共同项目很少的情况下仍能给出不错的推荐。实验结果表明,该算法可以有效地解决用户评分数据极端稀疏的问题,提高推荐系统的推荐质量。     

基于领域知识的个性化推荐算法研究

提出了利用领域知识进行相似度计算的协同过滤算法,使用户在评分的共同项目很少或为零的情况下也能找到最近邻进行协同推荐。实验结果表明,该算法解决了传统协同过滤算法中相似性度量方法“过严”的问题,在过滤初期显著地提高了推荐质量。     

面向跨领域情感分类的统一框架

文本的情感分类问题,即判断文本中的论断是持支持态度还是反对态度.已有的研究表明,监督分类方法对情感分类很有效.但是多数情况下,已有的标注数据与待判断情感类别的数据不属于同一个领域,此时监督分类算法的性能明显下降,由此产生的即为跨领域情感分类问题.为解决此问题,提出一个统一框架,分多阶段进行跨领域情感分类:首先利用训练域文本的准确标签来得到测试域文本的初始标签;然后将测试域建成一个加权网络,将一些较准确的测试文本作为"源点"和"汇点",进一步利用热传导思想迭代进行跨领域情感分类.实验结果表明,此方法能大幅度提高跨领域情感分类的精度.     

基于语义层次建模的跨语言知识单元迁移方法

为解决领域小语种知识匮乏和不完备的问题,更好地进行网络空间内容治理,提出一种基于语义层次建模的跨语言知识单元迁移方法(SHACUT),知识模型借助多语言丰富知识库将知识图谱嵌入极坐标系,显式体现不同知识的语义层次结构,迁移模型借助对齐种子库对不同语言向量空间进行线性转换及置信度计算,实现对图谱中知识单元对齐和迁移。分别在公开通用语言数据集和领域小语种数据集上进行了跨语言知识单元迁移的仿真验证,实验表明SHACUT不仅能够对公开通用语言数据集进行有效的跨语言迁移,也在领域小语种数据集上取得不错的效果,相比baseline能够更好地对知识图谱语义层次进行建模,实现跨语言知识单元迁移。     

一种基于跨领域典型相关性分析的迁移学习方法

作为迁移学习的一个重要研究方向,基于特征映射的方法学习各领域特有特征与领域共享特征之间的相关性,通过一些相关特征减少领域之间的差异,已经获得了广泛的关注和研究。典型相关性分析是一种用来分析两组随机变量之间相关性的统计分析工具。将典型相关性分析引入迁移学习,结合基于特征映射迁移学习的思路,提出了一种跨领域典型相关性分析算法。该算法在保持各领域特有特征与领域共享特征相关性的基础上,通过选择合适的基向量组合训练分类器,使降维后的相关特征在领域间具有相似的判别性。在20Newsgroups 上864个分类问题以及多领域情感分析数据集上12个分类问题的实验结果表明,跨领域典型相关性分析算法可以有效地提高跨领域迁移分类准确率。     

特征和实例迁移相融合的跨领域倾向性分析

在情感倾向性分析中,经常会发生由于领域知识的变化引起的分类精度下降的问题。为解决此类问题,该文提出了一种基于实例和特征相融合的知识迁移方法,首先通过三部图构建了源领域和目标领域的领域依赖特征词之间的关联,并得到一个公共的语义空间来对原有的向量空间模型进行重建,然后再通过带偏置的马尔科夫模型,建立源领域和目标领域实例之间的关联,从而有效的将源领域学习到的情感倾向性知识迁移到目标领域中,高于其它方法的实验结果验证了算法的有效性。     

TrSVM:一种基于领域相似性的迁移学习算法

迁移学习是对传统监督学习的扩展,试图利用其他相关领域中的现存数据来帮助完成当前领域的学习任务.对于归纳式迁移学习算法,当目标领域只有少量数据时,已有的算法容易受到选择性偏差的影响,不能充分发挥相关领域数据的作用.为解决该问题,提出一种利用领域相似性的新途径:通过定义领域弱相似性的概念,将相似性的约束与目标分类器联系起来,能在训练过程中有效利用相关领域的大量数据,设计出一种基于支持向量机的迁移学习算法TrSVM,并给出求解过程.在大量数据集上的实验结果表明了新算法的有效性.     

数字文化资源知识图谱多目标跨域推荐方法

数字文化资源具有资源丰富、种类繁多等特点。针对数字文化资源的推荐,考虑到其资源类型的异构多样性,又可以划分为多个不同的子类别域。然而目前大多数的推荐方法仅针对单个物品类别域,无法捕获用户偏好在多个域之间的传播,并有效地利用其他域所提供的信息。基于此,一种基于知识图谱的多目标跨域推荐模型（knowledge graph multi-target cross-domain recommendation model,KGMT）被提出。首先通过知识图谱构建不同域之间的联系,并生成其中有关用户和物品的全局域嵌入。然后采用一种基于自注意力机制的融合注意力模块来联合目标域和全局域的嵌入表征,有效地利用全局域信息来提高每个目标域的推荐效果。最后分别在豆瓣和国家文化云平台的真实数据集上进行了多组实验,实验结果证明KGMT的表现优于基线模型,同时提高了多个目标域的推荐指标。     

推荐算法研究进展

随着互联网的发展,全球数据量爆炸式增长,信息过载现象严重,如何获取用户真正关注的信息成为困扰人们的难题之一.在此背景下,推荐算法在各个领域得到了广泛应用.本文首先介绍了目前主流推荐算法的分类方法和主要评价指标.其次,分别介绍了当前各类推荐算法的研究进展,其中包括传统推荐算法的基础推荐原理和研究进展以及神经网络在推荐算法...     

基于深度稀疏辨别的跨领域图像分类

在图像分类任务中,由于图像背景、光照、拍摄角度等的变化,从源领域上训练的分类模型常常不适用于相关目标领域的图像数据。为此,提出一种基于深度卷积神经网络的迁移学习方法——稀疏辨别迁移模型。该方法通过自适应地学习目标领域辨别性特征分布优化分类函数,同时与特征预处理方法相结合,可获得较好的互补性作用。实验结果表明,与现有的基准与深度迁移方法相比,该方法在Office-Caltech和Office-31 2个标准跨领域分类数据集上均取得了较好的分类性能。     

基于共享评级迁移的跨域推荐算法

数据稀疏和用户冷启动一直是推荐系统中亟待解决的问题,因此提出了一种基于共享评级迁移的跨域推荐算法(shared ratings transfer cross-domain recommendation,SRTCD).首先,该算法考虑到不同领域间存在着用户群体/项目信息潜在特征的相似性,对各个领域评分矩阵进行概率矩阵分解,得到用户和项目的潜在特征;再利用基于模拟退火和遗传算法优化的K-means算法对用户和项目分别进行聚类,将用户类别和项目类别的内积作为共享评级;然后利用各领域数据集的共享评级和目标领域数据集的特定评级得出推荐结果.最后,利用公共数据集对所提方法SRTCD进行验证,结果表明该方法的推荐性能明显优于常用推荐算法.