一种基于矩阵分解和随机森林算法的推荐模型

针对传统环境下运行的推荐算法预测精度不高的问题,提出一种基于矩阵分解和随机森林算法的推荐模型.提出的基于数据分割策略和新的学习过程的分布式推荐模型是在Apache Spark上设计的.通过数据分区、模型训练和偏好预测三个步骤处理大规模数据,提高预测质量,解决数据稀疏问题.为了提高模型在大数据环境下的性能,采用基于矩阵分解(Matrix Factorization,MF)和随机森林(Random Forests,RF)混合的新颖学习过程,从而显著加快分布式训练的速度.实验结果表明,相对于其他算法,该算法在性能指标上具有明显的优势.     

基于联合非负矩阵分解的协同过滤推荐算法*

为了揭示复杂网络结构间存在的隐藏关系,更加准确地向用户推荐物品的效果,并基于联合非负矩阵分解(JNMF)能揭示复杂网络结构间关系的特性,提出利用JNMF并结合基于用户的协同过滤和基于物品的协同过滤的推荐算法,并证明文中算法的正确性和收敛性.实验表明,文中算法能有效结合基于用户的协同过滤算法和基于物品的协同过滤算法,在一定程度上降低推荐的平均绝对偏差,提高推荐的准确性.     

矩阵三角分解分块算法的研究与实现

对稠密型线性方程组的系数矩阵进行分块LU分解,更充分地利用高速缓存,提高运算效率.对LU分解分块算法进行了研究,用VC+ +6.0对分块算法进行实现,并与标准的LU分解算法进行比较.在大矩阵情况下,分块算法比标准算法运算速度提高50%以上.     

不同矩阵分解方法对海洋数据同化的影响*

在海洋数据同化领域,集合最优插值方法中,矩阵求逆过程所使用的奇异值分解(singular value decomposition,SVD)十分耗时。对集合最优插值中逆矩阵的求逆过程进行优化,分别使用LU分解、Choleskey分解、QR分解来替代SVD分解。首先,通过LU分解(Choleskey分解或QR分解)得到相应的三角矩阵(或正交矩阵);然后,利用分解后的矩阵来实现相关逆矩阵的计算。由于LU分解、Choleskey分解、QR分解的算法复杂度都远小于SVD分解,因此改进后的同化程序能得到大幅度的性能提升。数值结果表明,所采用的三种矩阵分解方法相比于SVD分解,都能将集合最优插值的计算效率提升至少两倍以上。值得一提的是,在四种矩阵分解中Choleskey分解使得整个同化程序的性能达到了最优。     

一种LU分解与迭代法的结合策略及算法实现

在矩阵求解算法中，直接法或迭代法都不能有效地求解大规模稀疏或病态矩阵,因此提出一种LU分解与迭代法结合的策略。采用LU分解对矩阵进行预处理，以提高迭代法的收敛性,并采用一种判断策略使矩阵的LU分解结果可最大限度地重复利用。此结合策略应用于两种共轭梯度（CG）法，得到CLUCG和CLUTCG两种算法。它们已应用于模拟和混合信号电路模拟器ZeniVDE中。大量实验结果表明此结合策略是很有效的，得到的两种算法具有较快的速度和较好的收敛性。     

基于批量LU分解的矩阵求逆在GPU上的有效实现

给出批量矩阵的LU分解和批量求逆算法在GPU上实现及优化方法.针对批量LU分解问题,分析Leftlooking和Right-looking等常用LU分解块算法在GPU上实现时对全局内存的数据读写次数,针对GPU架构特点,选择具有较少访存数据量的Left-looking块算法.在LU分解的选主元过程,采用适合GPU架构的并行二叉树搜索算法.此外,为了降低选主元引起的行交换过程对算法性能的影响,提出Warp分组行交换和行交换延迟2个优化技术.针对LU分解后的批量求逆问题,分析矩阵求逆过程中修正方法,为了减少修正过程对全局内存的访问,在批量求逆的GPU实现中采用延迟修正的矩阵求逆块算法.同时,为了加快数据读写速度,采用更多利用寄存器和共享内存的优化方法和减少访存数据量的列交换优化方法.另外,为了避免线程的闲置和共享内存等GPU资源浪费,提出运行时动态GPU资源分配方法,相较于一次性分配的静资源分配方法性能得到明显提升.最终,在TITAN V GPU上,对10 000个规模在33–190之间的随机矩阵进行测试,测试的数据类型为单精度复数、双精度复数、单精度实数和双精度实数.所实现的批量LU分解...     

一种LU分解与迭代法的结构策略及算法实现

在矩阵求解算法，直接法或迭代法都能．有效地求解大规模稀疏或病态矩阵，因此提出一种LU分解与迭代法结合的策略，采用LU分解对矩阵进行预处理，以提高迭代法的收敛性，并采用一种判断策略使矩阵的LU分解结果可最限度地重复利用，些结合策略应用于两种共轭梯度（CG）法，得到CLUCG和CLUTCG两种算法。它们已应用于模拟和混合信号电路模拟器ZeniVDE中，大量实验结果表明此结合策略是很有效的，得到的两种算法具有较好的速度和较好的收敛性。     

基于MapReduce的矩阵分解推荐算法研究

矩阵分解是近几年提出的一种协同过滤推荐技术,但其每项预测评分的计算都要综合大量评分数据,同时在计算时还需要存储庞大的特征矩阵,用单一结点来进行推荐将会遇到计算时间和计算资源瓶颈。结合MapReduce分布式计算框架和矩阵分解推荐算法,设计了一种基于MapReduce的矩阵分解推荐算法来解决该问题,利用Hadoop的分布式缓存技术和MapFile文件结构解决了大特征矩阵在多结点间的高效共享问题并实现了多正则因子的并行处理。通过在Netflix数据集上的实验表明,该MapReduce算法及数据存储方案能带来较高的加速比,从而提高了推荐算法的计算效率。     

基于信任计算和矩阵分解的推荐算法

基于矩阵分解的推荐算法普遍存在数据稀疏性、冷启动和抗攻击能力差等问题.针对上述问题,文中提出信任加强的矩阵分解推荐算法.首先,借鉴社会心理学中的信任产生原理,提出基于用户信誉度的信任扩展方法,缓解信任数据的稀疏性问题.然后,基于社交同质化原理,利用信任用户对评分矩阵分解过程中的用户潜在因子向量进行扩展,解决评分数据的稀疏性和新用户的冷启动问题.同时,利用信任关系对目标优化函数进行规格化约束,提高评分预测的准确性.基于通用测试数据集Epinions的实验表明,文中方法在推荐性能方面具有明显改善,可以有效解决数据稀疏性问题和冷启动问题.     

基于标签的矩阵分解推荐算法

基于标签的推荐算法已成为研究热点,现有相关研究集中在利用标签改进协同过滤推荐算法和基于内容的推荐算法,鲜有研究把标签引入更先进的矩阵分解推荐算法。而现有矩阵分解推荐算法大多使用商品类别作为因子向量对用户偏好和商品特征建模,限制了其精度的提升。本文使用标签构建因子向量,提出一种新的基于标签的矩阵分解推荐算法。经过真实数据检测,本文提出的推荐算法较以往基于类别的矩阵分解算法在精度上有了显著提升。     

一种结合主题模型的推荐算法

针对传统协同过滤推荐算法存在的冷启动、数据稀疏以及相似度度量的准确性问题,基于LDA主题模型对文本隐式主题挖掘的有效性和KL散度在主题分布相似性度量的准确性,提出了结合LDA主题模型的矩阵分解推荐算法。首先,利用改进的LDA算法输出项目-主题分布,并用困惑度作为主题数设置的修正函数;然后分别基于余弦相似度和KL散度计算得到项目相似度矩阵,将得到的相似度矩阵结合原评分训练集输出预评分,再将预评分填充到训练集;最后将训练集输入ALS矩阵分解算法得到推荐结果。通过MovieLens数据集的实验结果表明,该算法在不同隐式参数设定下均能得到比ALS推荐算法以及更小的预测误差,并且最优预测误差小于传统推荐算法。该实验说明了通过集成LDA主题模型的ALS算法效果要优于其他推荐算法。     

CubeALS:新的三维协同过滤推荐算法

随着互联网的快速发展,人们对个性化网页搜索、个性化广告投放、个性化社会标注等三维推荐服务的需求越来越紧迫。这些三维立方体数据高度稀疏,且与二维推荐系统相比三维推荐系统中对象之间的关系更加复杂。为了更好地模拟三维对象之间的关系并解决三维数据高度稀疏的问题,提出了一种新的三维协同过滤推荐算法CubeALS(cube alternating least squares)。该算法对三维协同过滤推荐算法CubeSVD(cube singular value decomposition)进行了改进,尝试使用不同于SVD的算法进行矩阵分解。在真实的个性化社会标注数据集上的实验结果表明,与CubeSVD算法相比,CubeALS的性能得到了显著提高。     

基于Hadoop分布式改进聚类协同过滤推荐算法研究

为了改善协同过滤推荐算法在大数据下的稀疏性和可扩展性问题,提出一种基于Hadoop平台的分布式改进聚类协同过滤推荐算法。在分布式平台下,离线对高维稀疏数据采用矩阵分解算法预处理,改善数据稀疏性后通过改进项目聚类算法构建聚类模型,根据聚类模型和相似性计算形成推荐候选空间,在线完成推荐。实验验证该算法能够有效改善推荐系统的推荐质量并大大提高推荐效率,同时在云环境中具有良好可扩展性。     

基于Spark的矩阵分解与最近邻融合的推荐算法

随着当前移动互联网的快速发展,人们所面临的信息过载问题变得尤为严重,大数据场景下对特定用户的个性化推荐面临着巨大挑战. 为了进一步提高推荐的时效性、准确度以及缓解面临的大数据量. 提出了一种矩阵分解推荐算法在大数据环境下的优化算法模型. 该模型通过在传统矩阵分解推荐算法的基础上融合了用户以及物品的相似性计算,在训练目标函数的过程中,即融入用户以及物品的前k个最近邻居的相似性计算,增强了算法的推荐准确度. 利用Spark在内存计算以及迭代计算上的优势,设计了一种Spark框架下的矩阵分解与最近邻融合的推荐算法. 通过在经典数据集—MovieLens数据集上的实验结果表明,该算法与传统的矩阵分解推荐算法相比,可以很好的缓解数据稀疏性,提高推荐算法的准确度,并且在计算效率方面也优于现有的矩阵分解推荐算法.     

一种改进的排序QR分解MIMO检测算法

提出了改进的排序QR分解MIMO检测算法,并对其性能进行了分析．该算法针对系统采用排序QR分解检测算法时误码率较高的不足,对信道矩阵按列进行正交变换,避免了求信道矩阵的上三角矩阵,并且仅对信道矩阵按列2—范数模值由小到大进行1次排序．在检测过程中,采用了并行处理的思想,将部分判决信号进行反馈,同时消除接收信号中的干扰,使系统检测性能得到了明显改善．在多散射物的无线通信环境下进行了仿真实验,结果表明,与传统的SQRD算法相比,所提算法在计算复杂度略微下降的情况下,检测性能得到提升．     

A Unified Co-Processor Architecture for Matrix Decomposition

QR and LU decompositions are the most important matrix decomposition algorithms. Many studies work on accelerating these algorithms by FPGA or ASIC in a case by case style. In this paper, we propose a unified framework for the matrix decomposition algorithms, combining three QR decomposition algorithms and LU algorithm with pivoting into a unified linear array structure. The QR and LU decomposition algorithms exhibit the same two-level loop structure and the same data dependency. Utilizing the similarities in loop structure and data dependency of matrix decomposition, we unify a fine-grained algorithm for all four matrix decomposition algorithms. Furthermore, we present a unified co-processor structure with a scalable linear array of processing elements (PEs), in which four types of PEs are same in the structure of memory channels and PE connections, but the only difference exists in the internal structure of data path. Our unified co-processor, which is IEEE 32-bit floating-point precision, is implemented and mapped onto a Xilinx Virtex5 FPGA chip. Experimental results show that our co-processors can achieve speedup of 2.3 to 14.9 factors compared to a Pentium Dual CPU with double SSE threads.     

基于Spark平台的ALS加速算法研究

协同过滤推荐算法在推荐系统中发挥着重要作用,但其存在执行效率与排名精度较低的问题,交替最小二乘(ALS)算法可实现并行计算,从而提高执行效率,但是该算法数据加载与迭代收敛的时间较长。为此,将非线性共轭梯度(NCG)算法与ALS算法相结合,提出一种ALS-NCG算法,以达到加速ALS算法的目的。在Spark分布式数据处理环境中对ALS-NCG算法进行性能评估,实验结果表明,相比ALS算法,ALS-NCG算法获取高精度推荐排名时需要的迭代次数与时间更少。     

基于矩阵分解的感知兴趣点智能推荐算法仿真

针对当前算法推荐结果与用户感知兴趣点拟合度低,导致推荐可信度低的问题,提出基于矩阵分解的感知兴趣点智能推荐算法。先在典型的社会网络中,对感知兴趣点推荐问题进行描述;建立感知兴趣点模型,构建用户范围矩阵和感知兴趣点的影响力矩阵,提取出用户对不同感知兴趣点的偏好,随后计算感知兴趣点在不同区域中的影响力,并修正感知兴趣点影响力函数,通过对其权重的计算,获取用户对感知兴趣点的访问次数、时间的总和以及感知兴趣点集合。最后计算感知兴趣点智能推荐时间的复杂度,利用矩阵分解思想最终实现了对感知兴趣点的智能推荐。实验结果表明,提出的算法的推荐结果与用户感知兴趣点的拟合度较高,并且感知兴趣点的推荐可信度也较高,验证了提出算法的有效性。     

基于Spark的矩阵分解推荐算法

针对传统矩阵分解算法在处理海量数据信息时所面临的处理速度和计算资源的瓶颈问题,利用Spark在内存计算和迭代计算上的优势,提出了Spark框架下的矩阵分解并行化算法。首先,依据历史数据矩阵初始化用户因子矩阵和项目因子矩阵;其次,迭代更新因子矩阵,将迭代结果置于内存中作为下次迭代的输入;最后,迭代结束时得到矩阵推荐模型。通过在GroupLens网站上提供的MovieLens数据集上的实验结果表明,加速比(Speedup)值达到了线性的结果,该算法可以提高协同过滤推荐算法在大数据规模下的执行效率。     

基于评分填充与信任信息的混合推荐算法

针对推荐系统的数据稀疏性导致的推荐效果不佳的问题，提出一种基于评分填充与信任信息的混合推荐的算法RTWSO（Real-value user item restricted Boltzmann machine Trust WSO）。首先，使用改进的受限玻尔兹曼机模型对评分矩阵进行填充，以缓解评分矩阵的稀疏性问题；其次，从信任关系中提取信任与被信任关系，并通过基于矩阵分解的隐含信任关系相似度来解决信任信息稀疏的问题，而且对原有算法进行了包含信任信息的修正，以提高推荐准确度；最后，通过加权Slope One（WSO）算法对矩阵填充与信任相似度信息加以整合，并对评分数据进行预测。在Epinions与Ciao数据集中验证算法性能，可见所提出混合推荐算法较组成算法在推荐准确度上提升3%以上，较现有社会化推荐算法SocialIT（Social recommendation algorithm based on Implict similarity in Trust）在推荐准确度上提升1.2%以上。实验结果表明，所提出的基于评分填充与信任信息的混合推荐算法在一定程度上提高了推荐准确度。