基于核技巧和超图正则的稀疏非负矩阵分解

针对传统的非负矩阵分解（NMF）应用于聚类时,没有同时考虑到鲁棒性和稀疏性,导致聚类性能较低的问题,提出了基于核技巧和超图正则的稀疏非负矩阵分解算法（KHGNMF）。首先,在继承核技巧的良好性能的基础上,用L_2,1范数改进标准非负矩阵分解中的F范数,并添加超图正则项以尽可能多地保留原始数据间的内在几何结构信息;其次,引入L_2,1/2伪范数和L_1/2正则项作为稀疏约束合并到NMF模型中;最后,提出新算法并将新算法应用于图像聚类。在6个标准的数据集上进行验证,实验结果表明,相对于非线性正交图正则非负矩阵分解方法,KHGNMF使聚类性能（精度和归一化互信息）成功地提升了39%~54%,有效地改善和提高了算法的稀疏性和鲁棒性,聚类效果更好。     

用于独立特征学习的稀疏非负矩阵分解算法

为了防止特征的共适应性,提出利用余弦相似度来减少潜在特征之间的相关性,从而提高非负矩阵分解（non-negative matrix decomposition,NMF）的独立特征学习能力。此外,为了使得分解后的矩阵具有较好的稀疏性,提出在传统NMF模型中引入◢L◣▼2,1/2▽稀疏约束,增强了算法的局部学习能力和稳健性。因此,潜在特征中的语义信息更加明显,潜在空间的表示更具有判别性。在fetch_20newsgroups数据集上对文档聚类的实验结果表明,提出的INMF算法在一系列评价指标上效果都优于传统的NMF、SNMF等算法模型。     

基于属性优化矩阵补全的抗托攻击推荐算法

托攻击是当前推荐系统面临的严峻挑战之一。由于推荐系统的开放性,恶意用户可轻易对其注入精心设计的评分从而影响推荐结果,降低用户体验。基于属性优化结构化噪声矩阵补全技术,提出一种鲁棒的抗托攻击个性化推荐（SATPR）算法,将攻击评分视为评分矩阵中的结构化行噪声并采用L2,1范数进行噪声建模,同时引入用户与物品的属性特征以提高托攻击检测精度。实验表明,SATPR算法在托攻击下可取得比传统推荐算法更精确的个性化评分预测效果。     

基于余弦相似度的稀疏非负矩阵分解算法

基本的非负矩阵分解应用于图像聚类时,对异常点的处理不够鲁棒,稀疏性较差。为了提高分解后的矩阵的稀疏性,在基本的非负矩阵分解算法中引入了L_2,1范数,对基本的非负矩阵分解模型进行了改进,从而实现稀疏性,提升算法的性能。同时,为了降低各特征之间的关联,强化非负矩阵分解模型特征的独立性,引入了余弦相似度,提出了基于余弦相似度的稀疏非负矩阵分解算法。该算法在处理高维数据和提取特征方面具有显著优势,并且可提高算法在图像聚类中的辨别准确性。实验结果表明,所提算法在一系列评价指标上的效果优于传统的非负矩阵分解算法。     

基于GPU的稀疏矩阵Cholesky分解

稀疏矩阵Cholesky分解是求解大规模稀疏线性方程组的核心算法,也是求解过程中最耗时的部分.近年来,一系列并行算法通过图形处理器(GPU)获得了显著的加速比,然而,由于访存的不规则性以及任务间的大量数据依赖关系,稀疏矩阵Cholesky分解算法在GPU上的计算效率很低.文中实现了一种新的基于GPU的稀疏矩阵Cholesky分解算法.在数据组织方面,改进了稀疏矩阵超节点数据结构,通过超节点合并和分块控制计算粒度;在计算调度方面,将稀疏矩阵Cholesky分解过程映射为一系列的数据块任务,并设计了相应的任务生成与调度算法,在满足数据依赖性的前提下提高任务的并行性.实验结果表明,该算法能够显著提高稀疏矩阵Cholesky分解算法在GPU上的实现效率,在单个GPU上获得了相对4核CPU平台2.69~3.88倍的加速比.     

基于核函数的稀疏属性选择算法

鉴于传统属性选择算法无法捕捉属性之间的关系的问题,文中提出了一种非线性属性选择方法。该方法通过引入核函数,将原始数据集投影到高维的核空间,因在核空间内进行运算,进而可以考虑到数据属性之间的关系。由于核函数自身的优越性,即使数据通过高斯核投影到无穷维的空间中,计算复杂度亦可以控制得较小。在正则化因子的限制上,使用两种范数进行双重约束,不仅提高了算法的准确率,而且使得算法实验结果的方差仅为0.74,远小于其他同类对比算法,且算法更加稳定。在8个常用的数据集上将所提算法与6个同类算法进行比较,并用SVM分类器来测试分类准确率,最终该算法得到最少1.84%,最高3.27%,平均2.75%的提升。     

一种基于群稀疏特征选择的图像检索方法

针对图像检索问题,提出一种基于群稀疏特征选择的图像检索方法.利用特征具有的群聚与稀疏的特性,构建一个L2,1范数正则化逻辑回归问题,运用自适应谱梯度算法(ANSPG)有效地求解权重,根据这个权重选择出有效特征.最后运用所选择的有效特征在基于内容的检索框架上进行图像检索.在Core15K与IAPR IC12图像库上进行的实验结果表明,提出的方法具有非常良好的性能.     

稀疏约束图正则非负矩阵分解

非负矩阵分解(NMF)是在矩阵非负约束下的一种局部特征提取算法。为了提高识别率,提出了稀疏约束图正则非负矩阵分解方法。该方法不仅考虑数据的几何信息,而且对系数矩阵进行稀疏约束,并将它们整合于单个目标函数中。构造了一个有效的乘积更新算法,并且在理论上证明了该算法的收敛性。在ORL和MIT-CBCL人脸数据库上的实验表明了该算法的有效性。     

稀疏正则非负矩阵分解的语音增强算法

对于非负矩阵分解的语音增强算法在不同环境噪声的鲁棒性问题,提出一种稀疏正则非负矩阵分解（SRNMF）的语音增强算法。该算法不仅考虑到数据处理时的噪声影响,而且对系数矩阵进行了稀疏约束,使其分解出的数据具有较好的语音特征。该算法首先在对语音和噪声的幅度谱先验字典矩阵学习的基础上,构建联合字典矩阵,然后更新带噪语音幅度谱在联合字典矩阵下的系数矩阵,最后重构原始纯净语音,实现语音增强。实验结果表明,在非平稳噪声和低信噪比（小于0 dB）条件下,该算法较好地削弱了噪声的变化对算法性能的影响,不仅有较高的信源失真率（SDR）,提高了1~1.5个数量级,而且运算速度也有一定程度的提高,使得基于非负矩阵分解的语音增强算法更实用。     

基于标签自适应选择的矩阵分解推荐算法

将标签融入矩阵分解方法是当前推荐系统研究的热点。提出了一种基于标签自适应选择的矩阵分解推荐算法。首先,提出了标签 评分稀疏系数,较好地平衡了推荐过程中潜在特征与标签的使用问题。其次,利用标签的次数来计算标签向量,体现了标签的不同频率对不同物品的影响。最后,给出了算法的总体描述。实验结果表明,算法具有较高的推荐精度和较快的收敛速度。     

基于非负矩阵分解的群组推荐算法

近年来,随着媒介技术的快速发展,人们成组活动的现象逐渐增多,群组推荐系统也逐渐受到关注。现有的群组推荐系统往往将不同的成员视为同质对象,忽视了成员专业背景和项目固有属性之间的关系,无法真正地解决融合过程中的偏好冲突问题。为此,提出一种基于非负矩阵分解的群组推荐算法,通过非负矩阵分解将群组评分信息分解为用户矩阵和项目矩阵,针对2个矩阵分别利用隶属度和专业度权值计算得到项目隶属度矩阵和成员专业度矩阵,并由此获得各成员在不同项目上的贡献度来构建群组偏好模型。实验结果表明,所提算法在不同群组规模和组内相似度的情况下依然具有较高的推荐准确度。     

融合双重正则化机制的低秩矩阵分解推荐模型

基于矩阵分解技术的社会化推荐通过加入用户信任关系来加强学习准确性,但忽略了物品之间的关联信息在模型分解过程中对用户兴趣的影响。对此首先提出在物品相似度计算方法中加入用户参与度进行改进,并构建了融合物品关联正则项和信任用户正则项双重约束的矩阵分解推荐模型,在优化隐式特征矩阵过程中体现了物品之间的关联信息对推荐的重要影响。最后通过对两个不同稀疏级别的数据集的实验证明,相比主流的矩阵分解模型,提出的双重正则项的矩阵分解模型能够提高稀疏数据集上预测评分的准确性,并能明显缓解用户冷启动问题。     

融合标签相似度的差分隐私矩阵分解推荐算法

推荐系统需要利用到大量的用户行为数据,这些数据极有可能暴露用户的喜好,给人们关心的隐私问题带来巨大的挑战。为保证推荐精度与用户隐私,提出一种结合差分隐私与标签信息的矩阵分解推荐模型。该模型首先将标签信息加入到项目相似度的计算过程;随后融入到矩阵分解推荐模型中提高推荐精度;最后运用随机梯度下降法求解模型最优值。为解决用户隐私问题,将拉普拉斯噪声划分成两部分,分别加入项目相似度与梯度求解过程中,使得整个推荐过程满足ε-差分隐私,并在一个真实的数据集上分析验证算法的有效性。实验表明,提出的方法能在保证用户隐私的情况下,仍具有较高的推荐精度。     

一种基于多正则化参数的矩阵分解推荐算法

基于梯度下降矩阵分解模型的协同过滤推荐算法需要利用正则化技术对问题加以约束。损失函数中的正则化参数能够提高模型的预测精度,防止训练过拟合,并可以在二者间调节,使二者平衡。提出了一种多正则化参数的方法,根据用户的活跃度或者项目的流行度确定正则化参数的值,能在不同评分数量的用户或者项目上防止训练过拟合,同时可以得到更好的预测精度。实验结果验证了算法的正确性和有效性。     

融合内容与矩阵分解的混合推荐算法

传统的基于内容的推荐算法往往具有较低的准确性,而协同过滤推荐算法中普遍存在数据稀缺性和项目冷启动问题。为解决上述问题,提出了一种融合内容与协同矩阵分解技术的混合推荐算法。该算法实现了在共同的低维空间中分解内容和协同矩阵,同时保留数据的局部结构。在参数优化方面利用一种基于乘法更新规则的迭代方法,以此提高学习能力。实验结果表明,该算法优于其他具有代表性的项目冷启动推荐算法,有效缓解了数据稀疏性,提高了推荐准确性。     

基于信任和矩阵分解的协同过滤推荐算法

针对传统协同过滤算法普遍存在的稀疏性和冷启动问题,提出一种基于信任和矩阵分解的协同过滤推荐算法。提出一种基于用户评分值的隐式信任计算方法,该方法综合考虑用户的相似性和交互经验,运用信任传播方法使不存在直接信任的用户获得间接信任;通过动态因子将显式信任和隐式信任融入到SVD++算法当中。FilmTrust数据集下的实验表明,与其他矩阵分解推荐算法相比,该方法具有更好的预测效果,在冷启动用户的评分预测上也有很好的表现。     

结合非负矩阵分解的主题社区好友推荐算法

为用户推荐好友是在线社交网络的重要个性化服务。好友推荐可以帮助用户发现他们感兴趣的好友,减轻信息过载的现象。然而,目前现有的推荐方法仅考虑用户链接或内容信息,推荐精度不高,不足以提供高质量的服务。在本文中,考虑了用户之间的链接和内容信息,提出了一种结合非负矩阵因式分解的主题社区好友推荐算法(T-NMF)。该算法给出了主题社区和综合相似度计算方法,产生好友推荐列表。实验表明,该算法可以更好的反映用户的偏好,并且具有比传统方法更好的推荐性能。