融合注意力机制的深度混合推荐算法

大量研究利用用户或项目的边信息来缓解视频推荐中的数据稀疏和冷启动问题,取得了一定的效果,但是没有关注辅助信息中的关键信息.针对此问题进行了研究,提出了一种融合双注意力机制的深度混合推荐模型.该模型通过融合自注意力机制的卷积神经网络挖掘项目端隐藏因子,同时融合自注意力机制的堆栈去噪自编码器提取用户端隐藏因子,深度挖掘项目端和用户端的重要信息.最后,通过结合概率矩阵分解实现视频评分预测.在两个公开数据集上的大量实验结果表明,提出的方法结果在已有ConvMF+、PHD、DUPIA等基线模型基础上有一定提升.     

融合注意力LSTM的协同过滤推荐算法

针对传统协同过滤算法难以学习深层次用户和项目的隐表示,以及对文本信息不能充分提取单词之间的前后语义关系的问题,该文提出一种融合辅助信息与注意力长短期记忆网络的协同过滤推荐模型。首先,附加堆叠降噪自编码器利用评分信息和用户辅助信息提取用户潜在向量;其次,基于注意力机制的长短期记忆网络利用项目辅助信息来提取项目的潜在向量;最后,将用户与项目的潜在向量用于概率矩阵分解中,从而预测用户偏好。在两个真实数据集MovieLens-100k和MovieLens-1M上进行实验,采用RMSE和Recall指标进行评估。实验结果表明,该模型与其他相关推荐算法相比在推荐性能上有所提升。     

融合知识图谱表示学习的栈式自编码器推荐算法

针对目前协同过滤推荐算法中数据稀疏和语义信息欠缺问题,提出一种融合知识图谱表示学习的栈式自编码器推荐算法(SAEKG-CF).将评分矩阵作为栈式自编码器的输入,训练得到项目的隐性特征向量,并据此计算特征相似性矩阵;利用知识图谱表示学习算法将项目中的实体映射到低维向量空间,并计算出低维向量空间中实体间的语义相似性矩阵;将...     

融合注意力机制的深度协同过滤推荐算法

传统基于项目的协同过滤算法在计算项目之间相似度时只考虑历史项目的评分，而忽略了历史项目偏好对其的影响，以至于推荐精度不够理想。针对此问题，提出了一种融合注意力机制的深度电影推荐算法。根据得到的隐性反馈，在特征级注意力框架上，从项目内容特征提取网络开始，学习项目特征的偏好；将项目特征偏好与项目特征加权得到项目内容特征向量；在项目级特征注意力框架中，通过项目内容特征向量学习对项目偏好的评分，从而产生最终的推荐结果。实验结果表明，提出的推荐算法在MovieLens 100K和MovieLens 1M两个公开数据集上的准确率和推荐个性化较传统算法均有不同程度的提高，表现出较为优越的推荐性能。     

一种基于自注意力机制的组推荐方法

基于自注意力网络和神经协同过滤模型（neural collaborative filtering,NCF）提出一种基于自注意力机制的组推荐系统模型SAGR（self-attention group recommendation）,用于建模用户交互数据以及学习群组潜在偏好的表示。通过在用户级和项目级分别使用自注意力机制,动态调整组中每个用户的权重,解决偏好融合问题从而得到组表示。再通过多层神经网络框架NCF从数据中挖掘组和项目之间的交互,最终完成群组推荐。在CAMRa2011和MovieLens数据集上与同类方法进行对比,实验结果表明SAGR方法能够取得更好的组推荐结果。     

联合注意力和自编码器的协同过滤推荐

面对数量庞大的用户和物品数量,推荐系统通常面临着数据稀疏的问题,为缓解此问题,提出了一个融合注意力机制和自编码器的协同过滤模型。该模型将评分信息送入一个基于自编码器的协同过滤子模型中以挖掘用户整体偏好,同时将评分信息送入一个融合了注意力机制的基于物品的协同过滤子模型中以挖掘物品与物品之间的局部依赖信息,随后将两个子模型的结果相融合,拟合出最终的结果。模型在MovieLens和Pinterest数据集上进行了实验验证,实验结果与基准相比有所改善。     

基于深度卷积网络和卷积去噪自编码器的水声信号识别方法

针对复杂水声信号的分类识别问题,提出了一种新的网络模型结构,将卷积神经网络和卷积去噪自编码器结合到一起应用于水声信号Lofar谱的分类识别中。实验结果表明,该模型能够利用更少的参数学习更丰富的鲁棒性特征,目标识别的总体准确率达到81.2%,与传统卷积神经网络识别方法相比具有更高的识别准确率。     

融合自注意力和自编码器的视频异常检测

目的 视频异常检测通过挖掘正常事件样本的模式来检测不符合正常模式的异常事件。基于自编码器的模型广泛用于视频异常检测领域,由于自监督学习的特征提取具有一定盲目性,使得网络的特征表达能力有限。为了提升模型对正常模式的学习能力,提出一种基于Transformer和U-Net的视频异常检测方法。方法 首先,编码器对输入的连续帧进行下采样提取低层特征,并将最后一层特征图输入Transformer编码全局信息,学习特征像素之间的相关信息。然后解码器对编码特征进行上采样,通过跳跃连接与编码器中相同分辨率的低层特征融合,将全局空间信息与局部细节信息结合从而实现异常定位。针对近景康复动作的异常反馈需求,本文基于周期性动作收集了一个室内近景数据集,并进一步引入动态图约束引导网络关注近景周期性运动区域。结果 实验在4个室外公开数据集和1个室内近景数据集上与同类方法比较。在室外数据集CUHK(Chinese University of Hong Kong)Avenue,UCSD Ped1(University of California, San Diego, pedestrian1),UCSD Ped2,L...     

基于混合自编码器的协同过滤推荐算法优化

协同过滤算法已广泛应用在推荐系统中,在实现新异性推荐功能中效果显著,但仍存在数据稀疏、扩展性差、冷启动等问题,需要新的设计思路和技术方法进行优化.近几年,深度学习在图像处理、目标识别、自然语言处理等领域均取得突出成果,将深度神经网络模型与推荐算法结合,为构建新型推荐系统带来新的契机.本文提出一种新式混合神经网络模型,该模型由栈式降噪自编码器和深度神经网络构成,学习得到用户和项目的潜在特征向量以及用户-项目之间的交互行为模型,有效解决数据稀疏问题从而提高系统推荐质量.该推荐算法模型通过MovieLens电影评分数据集测试,实验结果与SVD、PMF等传统推荐算法和经典自编码器模型算法作对比,其推荐质量得到显著提升.     

融合复杂先验与注意力机制的变分自动编码器

传统变分自动编码器模型通常使用标准正态分布作为隐向量先验,当应用于推荐系统等复杂任务时容易导致模型过度正则化和隐向量解耦表现不佳。融合复杂隐向量先验与注意力机制,建立变分自动编码器模型。使用多层神经网络生成的隐向量先验分布替代标准正态分布作为假设先验分布,使得模型能根据数据学习先验分布并获得更多的潜在表征。在单层隐向量的基础上添加辅助隐向量,联合辅助隐向量与数据特征向量再生成隐向量,增强了隐向量的低维表现能力和解耦性。借助注意力机制的特征信息选择特点,对隐向量中重要节点赋予更大的权重值,使其能传递更重要的信息。在数据集Movielens-1M、Movielens-Latest-Small、Movielens-20M和Netflix上的实验结果表明,该模型的Recall@20、Recall@50、NDCG@100相较于基线模型平均提升了12.95%、10.80%、10.48%,具有更高的推荐精确度。     

基于注意力机制的深度学习推荐算法

针对目前基于评论文本的推荐算法存在文本特征和隐含信息提取能力不足的问题, 提出一种基于注意力机制的深度学习推荐算法. 通过分别构建用户和项目的评论文本表示, 利用双向门控循环单元提取文本的上下文依赖关系以获得文本特征表示, 引入注意力机制, 更准确的获取用户兴趣偏好和项目属性特征. 将生成的用户和项目评论数据的两组隐含...     

基于注意力机制的音乐深度推荐算法

在海量音乐中,如何根据用户的历史收听记录分析用户需求以实现歌曲推荐是音乐推荐领域具有挑战性课题之一。现有的音乐推荐方法仅简单将用户听过的所有音乐均作为音乐推荐的上下文,导致不同类型音乐学习到的上下文权重分配相同,其严重影响了音乐推荐精度。针对此问题,提出了一种基于注意力机制的音乐深度推荐方法,针对不同用户的历史收听音乐动态分配不同的注意力,即学习出不同的上下文权重,使推荐结果更符合用户的实际偏好。通过在公开音乐数据集Million Song Dateset上的测试,所提方法的推荐准确率有很大的提升。     

注意力机制和自编码器构造的零水印算法

零水印技术为保护图像版权的有效手段之一.然而,现有的许多零水印算法大多采用传统的数学理论进行人工提取特征,在结合神经网络进行图片特征提取的零水印方向上并没有广泛研究.目前神经网络在图像特征提取上已经取得了很好的成绩,充分利用卷积自编码器和注意力机制,提出了一种用于构造零水印的深度注意自编码器模型(attention mechanism and autoencoder, AMAE).首先是利用带有注意力的卷积神经网络构建自编码器,然后对自编码器进行训练;其次,利用训练好的编码器输出的特征构造图像的整体特征;最后,将获得的特征图进行二值模式处理得到特征二值矩阵,再与水印图像异或运算得到零水印,并在知识产权信息数据库进行注册,零水印一旦注册,原图像便处于水印技术的保护下.在训练过程中,借鉴对抗训练的思想,对模型进行加噪训练,这提高了模型的鲁棒性.实验结果表明,本文的零水印算法在旋转、噪声和滤波等攻击下,提取水印图像与原水印图像的归一化系数(normalized correlation, NC)值均超过0.9,证明了提出算法的有效性和优越性.     

基于去噪自编码器的极限学习机

针对极限学习机算法（ELM）参数随机赋值降低算法鲁棒性及性能受噪声影响显著的问题，将去噪自编码器（DAE）与ELM算法相结合，提出了基于去噪自编码器的极限学习机算法（DAE-ELM）。首先，通过去噪自编码器产生ELM的输入数据、输入权值与隐含层参数；然后，以ELM求得隐含层输出权值，完成对分类器的训练。该算法一方面继承了DAE的优点，自动提取的特征更具代表性与鲁棒性，对于噪声有较强的抑制作用；另一方面克服了ELM参数赋值的随机性，增强了算法鲁棒性。实验结果表明，在不含噪声影响下DAE-ELM相较于ELM、PCA-ELM、SAA-2算法，其分类错误率在MNIST数据集中至少下降了5.6%，在Fashion MNIST数据集中至少下降了3.0%，在Rectangles数据集中至少下降了2.0%，在Convex数据集中至少下降了12.7%。     

融合上下文信息与自注意力机制的群组推荐算法

针对群组推荐中组内成员存在偏好动态复杂性的问题,群组成员间的偏好会彼此影响,提出了一种融合上下信息与自注意力机制的群组推荐算法。首先,为了更好地捕捉群组成员间的动态关系,利用自注意力机制自动学习群组内用户的上下文信息与群组中其他成员间的关系权重;其次,根据自注意力机制学习到的组矩阵取其均值嵌入得到群组偏好表示;最后,根据群组偏好利用贝叶斯个性化排序方法进行群组推荐。将提出的方法在MovieLens-1M和CAMRa2011两个数据集上进行实验,并且与基准算法进行比较分析,该方法在推荐的命中率HR和NDCG两个指标上均有提升,实验结果证明该方法得到了更优的群组推荐结果。     

基于堆栈降噪自编码器改进的混合推荐算法

针对传统协同过滤算法仅利用评分信息作为推荐依据,没有利用用户评论和标签信息,无法准确反映用户对项目特征的偏好,推荐精确度低且容易过拟合等问题,提出一种基于堆栈降噪自编码（SDAE）改进的混合推荐（SDHR）算法。首先利用深度学习模型SDAE从用户自由文本标签中抽取项目的显式特征信息;然后,改进隐因子模型（LFM）算法,使用显式项目特征信息替换LFM中的抽象特征,进行矩阵分解训练;最后通过用户-项目偏好矩阵为用户提供推荐。在公开数据集MovieLens上的实验测试,与三组推荐模型（基于标签权重及协同过滤、基于SDAE和极限学习机、基于循环神经网络）比较,该算法推荐精确度分别提高了45.2%、38.4%和16.1%。实验结果表明,所提算法可以充分利用项目自由文本标签信息提高推荐性能。