基于矩阵谱分析的文本聚类集成算法

聚类集成技术可有效提高单聚类算法的精度和稳定性,其中的关键问题是如何根据不同的聚类成员组合为更好的聚类结果.文中引入谱聚类算法解决文本聚类集成问题,设计基于正则化拉普拉斯矩阵的谱算法(NLM-SA).该算法基于代数变换,通过求解小规模矩阵的特征值和特征向量间接获得正则化拉普拉斯矩阵的特征向量,并用于后续聚类.进一步研究谱聚类算法的关键思想,设计基于超边转移概率矩阵的谱算法(HTMSA).该算法通过求解超边的低维嵌入间接获得文本的低维嵌入,并用于后续K均值算法.在TREC和Reuters文本集上的实验结果验证NLMSA和HTMSA的有效性,它们都获得比其它基于图划分的集成算法更为优越的结果.HTMSA获得的结果比NLMSA略差,而时间和空间需求则比NLMSA低得多.     

基于奇异值分解法的二元矩阵聚类算法研究

文献检索时通常会用到LSI(Latent Semantic Indexing)算法.针对算法中返回值受阈值大小影响的问题,对算法中由奇异值分解SVD(Singular Value Decomposition)得到的左、右奇异值矩阵,用k-means算法对其进行聚类,提出了LSI改进算法.实验结果表明,与传统的LSI方法相比,改进算法在提供k-means算法分类的维度时获得了更好的性能,证明了算法的有效性.     

基于列约束的低秩矩阵恢复方法

由于在成像过程中出现遮挡现象,图像矩阵的元素有缺失。在正投影相机模型下,提出一种基于列约束的低秩矩阵恢复方法。该方法利用图像矩阵是一个低秩矩阵从而图像序列具有冗余性的特性,利用奇异值分解由图像矩阵的列空间构造出一个投影矩阵,得到图像矩阵的列所满足的约束条件,将缺失元素的恢复转化为迭代求解二次型的极值问题,利用它恢复出图像矩阵的缺失元素。该方法从理论上能够保证收敛到全局最小值。仿真实验表明,此方法具有收敛速度快,恢复精度高等优点。     

矩阵补全算法研究进展

作为压缩感知理论的重要发展,矩阵补全与恢复已成为信号与图像处理的一种新的强有力的工具。综述了矩阵补全算法的最新研究进展。首先分析了核范数最小化模型的几种主要的矩阵补全算法,并对这些算法的迭代过程及原理进行了详细的阐述。其次讨论了矩阵补全的低秩矩阵分解模型,并列出了近年来出现的求解此模型的新算法。然后补充了上述两种模型的衍生版本,指出了相应的求解方法。在数值实验中,对文中所讨论的主要矩阵补全算法的性能进行了比较。最后给出了矩阵补全算法的未来研究方向及重点。     

基于改进LSA的文档聚类算法

提出一种基于改进潜在语义分析MLSA(Modified Latent Semantic Analysis)的文档聚类算法.采用新的特征提取方法构建词-文档矩阵,利用潜在语义分析对词-文档矩阵进行奇异值分解以达到垃圾信息过滤的目的,同时使得向量空间模型中文本的高维表示变成在潜在语义空间中的低维表示,缩小了问题的规模.然后将共现数据对转换成概率统计模型来计算,提高了聚类质量.实验表明,本文提出的方法是有效的.     

一种基于模糊聚类和奇异值分解的水印算法

提出一种新的基于模糊聚类和奇异值分解的水印算法.利用人类视觉系统(HVS)的掩蔽效应,在载体图像空域进行模糊聚类(FCM)寻找图像纹理复杂的子区域来作为嵌入水印的位置,再用奇异值分解(SVD)实现水印的嵌入.实验表明,该算法有效地平衡了水印的鲁棒性和视觉上的不可见性之间的矛盾.     

基于截断核范数低秩分解的自适应字典学习算法

针对过完备字典直接对图像进行稀疏表示不能很好地剔除高频噪声的影响,压缩感知后图像重构质量不高的问题,提出了基于截断核范数低秩分解的自适应字典学习算法。该算法首先利用截断核范数正则化低秩分解模型对图像矩阵低秩分解得到低秩部分和稀疏部分,其中低秩部分保留了图像的主要信息,稀疏部分主要包含高频噪声及部分物体轮廓信息;然后对图像低秩部分进行分块,依据图像块纹理复杂度对图像块进行分类;最后使用K奇异值分解（K-single value decomposition, K-SVD）字典学习算法,针对不同类别训练出多个不同大小的过完备字典。仿真结果表明,本文所提算法能够对图像进行较好的稀疏表示,并在很好地保持图像块特征一致性的同时显著提升图像重构质量。     

基于四元数矩阵奇异值分解的彩色图像分解

讨论了四元数矩阵的奇异值分解(QSVD),四元数矩阵的奇异值仍是正实数,但两个酉矩阵是含有四元数的四元数矩阵.给出通过四元数矩阵的等价实矩阵求解QSVD的有效算法.最后应用QSVD进行彩色图像分解,并给出了在Fruits、Baboon等图像上的实验结果.QSVD使许多基于SVD的图像处理方法可以推广到彩色图像处理上而不...     

结合LSA的中文谱聚类算法研究

传统的文本谱聚类需要的文本相似矩阵依赖于向量空间模型,忽略了词与词之间的语义关系,存在词频维数过高、计算代价高等问题。针对这些问题,提出了一种基于潜在语义分析（latent semantic analysis,LSA）的文本相似矩阵构造方法,利用奇异值分解（singular value decomposition,SVD）降维,在低维的语义空间表示文本,以此来提高同类文本间的语义相似度,并进行了相关对比实验。在该实验中,改进方法的聚类效果要好于传统的方法,从而验证了改进方法的有效性和可行性。     

基于非局部自相似性和低秩矩阵逼近的补全算法

针对传统矩阵补全算法在图像重建方面的不足，提出了一种基于非局部自相似性和低秩矩阵逼近（NL-LRMA）的补全算法。首先，通过相似性度量找到图像中局部块所对应的非局部相似块，并将相应灰度信息进行向量化，从而构建出非局部相似块矩阵；然后，针对所得相似矩阵的低秩性，对其进行低秩补全操作（LRMA）；最后，对补全结果进行重新组合，以达到恢复原始图像的目的。在灰度图像以及RGB图像上进行重建实验，结果表明：在经典数据集上，NL-LRMA算法要比原LRMA算法在平均峰值信噪比（PSNR）上高出4~7 dB；同时，新算法在视觉效果与PSNR值方面也明显优于迭代重加权核范数（IRNN）、加权核范数（WNNM）、LRMA等传统算法。总之，所提算法对传统算法在自然图像重建方面的不足进行了有效弥补，从而为图像重建提供了一种行之有效的解决方案。     

基于非局部自相似性和低秩矩阵逼近的补全算法

针对传统矩阵补全算法在图像重建方面的不足,提出了一种基于非局部自相似性和低秩矩阵逼近（NL-LRMA）的补全算法。首先,通过相似性度量找到图像中局部块所对应的非局部相似块,并将相应灰度信息进行向量化,从而构建出非局部相似块矩阵;然后,针对所得相似矩阵的低秩性,对其进行低秩补全操作（LRMA）;最后,对补全结果进行重新组合,以达到恢复原始图像的目的。在灰度图像以及RGB图像上进行重建实验,结果表明：在经典数据集上,NL-LRMA算法要比原LRMA算法在平均峰值信噪比（PSNR）上高出4~7 dB;同时,新算法在视觉效果与PSNR值方面也明显优于迭代重加权核范数（IRNN）、加权核范数（WNNM）、LRMA等传统算法。总之,所提算法对传统算法在自然图像重建方面的不足进行了有效弥补,从而为图像重建提供了一种行之有效的解决方案。     

基于低秩矩阵完备的大规模MIMO系统信道估计研究*

随着大规模MIMO系统中天线数的增长,获取信道状态信息(channel state information at the transmitter, CSIT)所需的下行信道训练开销和上行反馈开销变得非常巨大。针对信道估计开销过大的问题,提出了一种新的CSIT估计方案和基于低秩矩阵完备的信道估计算法。在本方案中,基站发送训练信号给各个用户之后,用户直接将其观测信号反馈给基站,并在基站端进行统一的CSIT估计。然后,利用大规模MIMO信道矩阵的特点将信道估计问题转化为低秩矩阵完备问题,从而利用软阈值算法恢复出所有用户的信道状态信息。仿真结果表明,该算法可以获得精确的信道状态信息并有效地估计减少了信道估计开销和复杂度。     

基于张量奇异值理论的交通数据重构方法

由于探测器和通信设备的故障,交通数据的缺失是不可避免的,这种缺失给智能交通系统（ITS）带来了不利的影响。针对此问题,运用张量平均秩的概念,对张量核范数进行最小化,从而构建了新的低秩张量补全模型,并且在此基础上,基于张量奇异值分解（T-SVD）和阈值分解（TSVT）理论,分别使用坐标梯度下降法（CGD）和交替乘子法（ADMM）对模型进行求解,提出两个张量补全算法LRTC-CGD和LRTC-TSVT。在公开的真实时空交通数据集上进行实验。结果表明,LRTC-CGD和LRTC-TSVT算法在不同的缺失场景和缺失率条件下,补全精度要优于现行的其他补全算法,并且在数据极端缺失情况下（70%~80%）,补全的效果更加稳定。     

基于矩阵补全的自适应去雨雪算法

传统去雨雪方法通常没有考虑参数的自适应问题。为了提高视频去雨雪的效果,在Kim方法的矩阵补全模型中添加了一个自适应参数并提出了基于矩阵补全的自适应去雨雪算法。首先,简要地描述Kim方法的主要工作;其次,把自适应参数添加到经典的Kim模型的第二项;最后,使用各种雨雪视频验证了该参数的有效性及优异性,并使用网格搜索法找到去雨效果最好的参数。实验结果表明,添加的自适应参数能够有效地去除视频中的雨雪。     

融合矩阵补全与深度矩阵分解的推荐算法

深度矩阵分解采用深层非线性映射,从而突破了矩阵分解中双线性关系影响推荐系统性能的瓶颈,但它没有考虑用户对未评分项目的偏好,且对于稀疏性较高的大规模数据其推荐性能不具有优势,为此提出一种融合矩阵补全与深度矩阵分解的推荐算法.首先通过矩阵补全模型将原始评分矩阵中的未知元素进行填补,然后依据补全后的矩阵,利用深度学习模型分别构建用户和项目潜在向量.最后,在MovieLens和SUSHI数据集上进行测试,实验结果表明,与深度矩阵分解相比,所提算法显著地提高了推荐系统的性能.     

面向矩阵秩函数准确估计的自表示子空间聚类方法

传统子空间聚类方法通常使用矩阵核范数代替矩阵秩函数进行低秩矩阵恢复,然而在目标优化过程中主要关注低秩矩阵大奇异值的影响,容易导致矩阵秩估计不准确的问题。为此,在分析矩阵奇异值长尾分布特点基础上,提出使用基于截断Schatten-p范数的低秩子空间聚类模型。该模型充分考虑小奇异值对低秩矩阵恢复过程的贡献,利用小奇异值信息拟合矩阵奇异值的长尾分布,通过对矩阵秩函数进行准确估计以提升子空间聚类性能。实验结果表明,与现有加权核范数子空间聚类WNNM-LRR和近邻约束子空间聚类BDR算法相比,在Extended Yale B数据集上的聚类准确性分别提升了11%和8%,所提方法能够更好地拟合数据奇异值分布以及生成准确的相似度矩阵。     

结合矩阵分解与差分隐私的人脸图像发布

目的 人脸图像蕴含着丰富的个人敏感信息,直接发布可能会造成个人隐私泄露。为了保护人脸图像中的隐私信息,提出3种基于矩阵分解与差分隐私技术相结合的人脸图像发布算法,即LRA（low rank-based private facial image release algorithm）、SRA（SVD-based private facial image release algorithm）和ESRA（enhanced SVD-based private facial image release algorithm）。方法 为了减少拉普拉斯机制带来的噪音误差,3种算法均将人脸图像作为实数域2维矩阵,充分利用矩阵低秩分解与奇异值分解技术压缩图像。在SRA和ESRA算法中,如何选择矩阵压缩参数r会直接制约由拉普拉斯机制引起的噪音误差以及由矩阵压缩导致的重构误差。SRA算法利用启发式设置参数r,然而r值增大导致过大的噪音误差,r值减小导致过大的重构误差。为了有效均衡这两种误差,ESRA算法引入一种基于指数机制的挑选参数r的方法,能够在不同的分解矩阵中挑选合理的矩阵尺寸来压缩人脸图像,然后利用拉普拉斯机制对挑选的矩阵添加相应的噪音,进而使整个处理过程满足ε-差分隐私。结果 基于6种真实人脸图像数据集,采用支持向量机（support vector machine,SVM）分类技术与信息熵验证6种算法的正确性。从算法的准确率、召回率、F1-Score,以及信息熵度量结果显示,提出的LRA、SRA与ESRA算法均优于LAP（Laplace-based facial image protection）、LRM（low-rank mechanism）以及MM（matrix mechanism）算法,其中ESRA算法在Faces95数据集上的准确率和F1-Score分别是LRA、LRM和MM算法的40倍、20倍和1倍多。相对于其他5种算法,ESRA算法对数据集大的变化相对稳定,可用性最好。结论 本文算法能够实现满足ε-差分隐私的敏感人脸图像发布,具有较好的可用性与鲁棒性,并且为灰度人脸图像的隐私保护提供了新的指导方法与思路,能有效用于社交平台和医疗系统等领域。     

K-means算法最佳聚类数确定方法

K-means聚类算法是以确定的类数k为前提对数据集进行聚类的,通常聚类数事先无法确定。从样本几何结构的角度设计了一种新的聚类有效性指标,在此基础上提出了一种新的确定K-means算法最佳聚类数的方法。理论研究和实验结果验证了以上算法方案的有效性和良好性能。     

新的K-均值算法最佳聚类数确定方法

K-均值聚类算法是以确定的类数k和随机选定的初始聚类中心为前提对数据集进行聚类的。通常聚类数k事先无法确定,随机选定的初始聚类中心容易使聚类结果不稳定。提出了一种新的确定K-均值聚类算法的最佳聚类数方法,通过设定AP算法的参数,将AP算法产生的聚类数作为聚类数搜索范围的上界kmax,并通过选择合适的有效性指标Silhouette指标,以及基于最大最小距离算法思想设定初始聚类中心,分析聚类效果,确定最佳聚类数。仿真实验和分析验证了以上算法方案的可行性。