自适应半监督邻域聚类算法

为了充分利用监督信息指导聚类过程,提出自适应半监督邻域聚类算法(adaptive semi-supervised neighborhood clustering algorithm,SSCAN).引入监督矩阵与距离度量结合,构造合理的相似矩阵;充分利用监督信息,通过标签信息矩阵与流形正则项结合调整模型,改善聚类效果.在...     

一种基于扩散映射的非线性降维算法

非线性降维方法旨在保持数据局部结构的同时,使不在一个邻域内的点之间的距离变得松弛．作为一种新的流形学习框架,扩散映射通过在扩散过程中保持扩散距离进行降维．基于扩散映射的理论背景,建立了多层谱分解的数值算法,并具体给出了用扩散映射进行非线性降维的算法．实验结果表明,与传统的非线性降维方法相比较,该算法能够发现非线性高维数据的本征维数,并且对噪声具有很好的鲁棒性．     

条件过滤器的自适应排序调度策略

将非线性流形学习的思想引入到语音特征降维中,设计完成了局部投影(Locality Preser-ving Projections,LPP)算法,并针对该算法对降至的目的维度敏感的缺点提出了一种加权局部投影(Weighted Locality Preserving Projections,WLPP)算法。对LPP算法及WLPP算法进行了实验,实验证明LPP算法在对语音特征降维后也能有较高的准确率,同时,也证明了WLPP算法可以大大降低LPP算法对目的维度的敏感度。     

基于流形学习的图像检索算法研究

流形学习以发现非线性高维数据的本质维数为目标,使其更适合数据分析和高维数据的降维。图像检索中“语义鸿沟”问题指的是高维数据空间与低维的语义子空间之间的鸿沟,虽然利用相关反馈机制可以缩小这种鸿沟提高准确率,但是因为反馈图像数目较少,图像特征维数相对较高,会容易产生维数灾难问题。流形学习的引入为解决这一难题带来了新的希望,因为通过流形学习的方法学习高维图像特征数据的本征维数用于图像检索,大大提高了检索性能。基于流形学习的图像检索算法都是半监督的流形学习,充分利用了反馈信息,学习查询图像的语义子空间,有效的实现了高维数据的降维。     

基于张量局部和全局信息的人脸识别算法

现有的基于张量子空间的流形学习算法能够很好地利用图像的空间几何结构,但对流形的局部和全局信息利用得不够充分,为此提出了一种新的张量子空间学习算法:基于局部和全局信息的张量子空间投影．新算法充分利用人脸图像数据的局部流形结构(即类内非线性流形结构)和人脸图像数据的全局信息,使数据在投影空间中的类间分离度最大,通过迭代和投影得到最优张量子空间．在标准人脸数据库上的实验表明,新算法识别率高于张量线性判别分析(TLDA)、张量临界Fisher分析(TMFA)、张量局部判别投影(TLDP)、张量子空间(TSA)算法．     

分类监督半定嵌入算法

基于谱分析流形学习算法——半定嵌入算法(Semi-definite Embedding,SDE),提出了两种监督型的SSDE算法,即基于权重的SSDE算法和基于最佳距离度量的SSDE算法,数值实验验证了算法的有效性。     

基于最小熵的流形学习排列方法

提出一种渐进式的排列方法：每次只是排列当前阶段交集最大的二个分片的局部坐标.该方法具有以下特点：方法简单,避免了全局排列方法中大型稀疏矩阵的特征值问题;每次排列都保证是误差最小的排列;减轻误差的积累和传播.     

并行节约算法的自适应邻域选择策略

为了提高并行节约算法的运算效率,需要运用合理的邻域选择策略和数据结构来降低算法的空间和时间复杂度。以车辆路径问题(vehicle routing problem, VRP)的数据规模和客户点的分布情况为切入点,综合考虑客户点的邻域范围与距离、规模、分布情况的关系,提出一种基于自适应思想的邻域选择策略,提高邻域选择的合理性,通过进一步优化数据存储结构降低存储空间。多组仿真测试证实,与其他邻域选择策略相比,自适应策略可以在保证运算质量的前提下,大幅度提高节约算法的运算速度,降低存储空间,且针对客户点较为集中的VRP具有明显的优势,其中rl5915表现最为突出,运算时间只需要其他邻域选择策略的50％左右。理论研究和实验结果证实自适应邻域选择策略可以有效提高节约算法的运算速率。     

一种基于非线性降维的聚类算法

针对K-均值聚类算法不能发现任意形状的聚类的问题,提出了一种基于非线性降维的聚类算法.在该算法中,首先用ISOMAP算法对数据集进行优化,然后再用K-means算法聚类.由于ISOMAP算法不能处理不连通的流形,本文提出了一种改进的ISOMAP算法,它能够发现不连通流形的低维嵌入.改进后的ISOMAP算法与K-means算法结果得到了一种有效的聚类算法.实验结果表明该算法能够发现任意形状的聚类.     

两类非线性降维流形学习算法的比较分析

流形学习(Manifold Learning)算法是近年来发展起来的非线性降维机器学习算法.目前的流形学习算法大体可以分为两类:全局的(如等度规映射)和局部的(如局部线性嵌套),它们有各自的优点和不足.以等度规映射(ISOMAP)和局部线性嵌套(LLE)为例,通过实验比较分析了这两类算法在参数选择、前提条件和执行效率上的特点,期望为不同应用提供参考.     

基于非负稀疏嵌入投影的高光谱数据降维方法

针对因数据冗余及Hughes现象带来的高光谱数据分类精度降低问题,提出一种基于样本依赖排斥图的非负稀疏嵌入投影降维（NSEPSRG）算法.首先,利用非负稀疏表示方法,得到样本的非负稀疏重构权重矩阵.然后,利用样本的先验类别信息,构建样本依赖排斥图,有助于避免误分类和提高分类精度.最后,为保持每个样本间的稀疏结构关系和各样本的内在流形结构不变,根据非负稀疏重构权重矩阵和样本依赖排斥图的邻接矩阵,将样本嵌入投影到低维子空间,有助于从高维高光谱数据中提取信息量大的光谱波段,从而使得到的分类图像更清晰、平滑.AVIRIS高光谱数据上的实验结果表明,运用支持向量机对经过NSEPSRG降维处理后的高光谱数据进行分类,分类整体精度和Kappa系数分别达到了87.87%和0.856 6.     

基于相关熵和流形学习的多标签特征选择算法

从相关熵的角度出发,提出一种基于相关熵和特征流形学习的稀疏正则化方法,用于解决多标签特征选择问题。在相关熵定义的基础上给出多标签特征选择的回归模型;结合?_{2, 1}范数的性质和特征流形学习的定义建立基于相关熵和特征流形学习的稀疏正则化多标签特征选择模型及算法;证明该算法的收敛性并且通过试验验证所给算法的有效性。     

Feature subset selection method for AdaBoost training

The feature-selection problem in training AdaBoost classifiers is addressed in this paper.A working feature subset is generated by adopting a novel feature subset selection method based on the partial least square(PLS)regression,and then trained and selected from this feature subset in Boosting.The experiments show that the proposed PLS-based feature-selection method outperforms the current feature ranking method and the random sampling method.     

基于鲁棒等度规特征映射的非线性降维算法

采用核方法在特征空间推导出一类异于欧氏距离的新度量,代替等度规特征映射(Isomap)中的对噪声敏感的欧式距离,用新度量构造测地距离和相应的最小近邻图,提高Isomap算法的抗噪声能力.利用含噪声的Swiss roll数据和人脸图像数据进行实验验证,结果表明这种基于核特征空间的测地距离具有较强的鲁棒性.     

Graph-Based Dimensionality Reduction for Hyperspectral Imagery: A Review

Hyperspectral image(HSI) contains a wealth of spectral information, which makes fine classification of ground objects possible. In the meanwhile, overly redundant information in HSI brings many challenges. Specifically, the lack of training samples and the high computational cost are the inevitable obstacles in the design of classifier. In order to solve these problems, dimensionality reduction is usually adopted. Recently, graph-based dimensionality reduction has become a hot topic. In this paper, the graph-based methods for HSI dimensionality reduction are summarized from the following aspects. 1) The traditional graph-based methods employ Euclidean distance to explore the local information of samples in spectral feature space. 2) The dimensionality-reduction methods based on sparse or collaborative representation regard the sparse or collaborative coefficients as graph weights to effectively reduce reconstruction errors and represent most important information of HSI in the dictionary. 3) Improved methods based on sparse or collaborative graph have made great progress by considering global low-rank information, local intra-class information and spatial information. In order to compare typical techniques, three real HSI datasets were used to carry out relevant experiments, and then the experimental results were analysed and discussed.Finally, the future development of this research field is prospected.     

基于邻域关系的决策表约简

针对经典粗糙集理论难以处理连续型数据的特点,提出基于邻域关系的决策表约简方法。该方法在连续型数据的决策表中引入邻域关系,通过邻域关系进行信息粒化,避免离散化过程带来的信息损失。通过定义邻域正域和邻域约简概念,分析邻域正域的单调性原理,提出基于邻域关系的属性重要度概念,进一步设计了两种启发式约简算法。理论分析与实例表明该方法是有效可行的。     

自适应特征选择加权k子凸包分类

针对问题维数的增加以及不同特征对分类的作用往往不一样,导致k子凸包分类性能降低等问题,设计自适应特征选择加权k子凸包分类方法。根据传统凸包距离存在的不足引入加权k子凸包距离,在测试样本的k邻域内引入距离度量学习技术和正则化技术进行自适应的特征选择,并将自适应特征选择无缝嵌入加权k子凸包优化模型中,这样就能为不同的测试样本在不同的类别中学习自适应特征空间,得到有效的加权k子凸包距离计算方法。试验结果表明,该方法不仅能够进行降维,而且具有明显的分类性能优势。