基于光谱加权直推式支持向量机的高光谱图像半监督分类

高光谱图像分类中的有标签的样本获取较为困难,而半监督分类可以利用到大量未标签样本所含信息,来提高分类准确率。其中直推式支持向量机是标准支持向量机在半监督学习问题上的一种扩展。本文中我们采用凹凸过程规划将直推式支持向量机的非凸目标函数分解为凸函数和凹函数的组合,从而将非凸问题转化为凸优化问题求解。并且针对高光谱图像不同波段鉴别地物类别的能力的差异,为了充分利用各个波段的分类能力,我们引入了光谱权值对支持向量机的核函数进行了改进,对不同的波段赋予不同的权值。实验表明,本文提出的方法在分类正确率以及使用的样本规模上,都表现出了一定的优越性,从而适用于较大规模的高光谱图像分类。      

基于复合核支持向量回归机的多类分类算法

针对传统支持向量机(SVM)在解决多类分类问题时需要训练多个分类器、存在不可分区域等问题,研究了基于支持向量回归机的多类分类算法。利用回归思想求解多类分类问题,将分类样本作为回归输入,样本的类别标识作为回归输出,通过支持向量回归机训练拟合出各样本与其类别标识之间的函数关系。将待分类样本代入回归函数,对其输出取整后即可得到样本类别。该算法仅使用1个分类器,明显简化了分类过程。另外,引入复合核函数来提高支持向量回归机的性能。采用加州大学欧文分校(UCI)例题库中的多类分类问题进行仿真验证,并将改进算法与传统算法作对比,结果表明改进算法在分类速度和准确率上都有显著提高。     

基于谱域-空域组合核函数的高光谱图像分类技术研究

针对传统高光谱图像分类算法多利用目标的光谱信息,不重视空间信息的问题,本文提出了一种综合利用谱域-空域信息的最小二乘支持向量机分类算法。首先利用主成分分析进行特征提取,然后在保留的主分量图像上用数学形态学得到目标的空域信息。并结合光谱域特征,探讨了各种组合策略,构造组合核函数。通过在分类器中引入空域信息,提高了分类准确率。而且采用了最小二乘支持向量机,将标准向量机的二次规划问题转换为求解线性方程组的问题。利用了其训练速度快、效率高的优点。高光谱数据实验表明,本文提出的方法和单独使用谱域或空域信息进行分类相比表现出了一定的优越性,从而适用于较大规模的高光谱图像分类。      

低秩稀疏和改进SAM的高光谱图像误标签检测

为了解决基于监督学习的高光谱图像分类算法训练样本中存在的噪声标签会降低后续的分类精度的问题, 采用了一种基于低秩稀疏表示和改进光谱角制图(SAM)的高光谱图像误标签检测算法。首先对高光谱图像中信号子空间进行预测, 根据预测到的子空间对原始高光谱图像重构并去噪; 然后通过基于归一化的光谱角制图算法来获取每一类样本间的距离信息, 得到每类样本间的光谱相似度, 并利用密度峰值聚类算法得到每个训练样本的局部密度; 最后采用基于局部密度的决策函数对噪声标签进行检测, 使用支持向量机在两个真实数据集上验证。结果表明, 该算法比先进的层次结构的高光谱图像误标签检测算法提高了1.91%的总体精度。这一结果对高光谱图像分类是有帮助的。     

凸组合核函数的支持向量机高光谱图像分类

支持向量机的高光谱图像分类中,单核函数存在局限性。为了提高分类器的分类精度和支持向量机模型的泛化能力,利用高斯径向基核和多层感知核进行凸组合构造复合核函数支持向量机,证明了该函数满足作为核函数的判决Mercer条件,并进一步将凸组合核函数支持向量机应用到高光谱图像分类中,完成了建模和实验验证。实验结果表明,凸组合核函数具有较好的鲁棒性,且该类支持向量机的分类精度和KAPPA系数较单核SVM均得到了有效的提高,是一种解决多分类问题行之有效的分类器。     

一种改进的最小二乘孪生支持向量机分类算法

提出了一种新的模式分类器,即广泛权重的最小二乘孪生支持向量机.该支持向量机在正、负两类样本上广泛地增加权重,很好地抑制了交叉噪声样本对数据分类的影响.其次,根据间隔最大化原理,该支持向量机在目标函数上增加了一个正规化项,实现结构风险最小化和避免在求解该目标函数时可能对病态矩阵求逆的处理.同时,提出了利用一种指数函数计算训练样本的密度来获得样本权重值的算法.该算法能够有效缩减计算权重的时间,且具有较强的鲁棒性.实验证明本文提出的广泛权重的最小二乘孪生支持向量机能够实现高精度和高效率的分类效果,而且特别适合于含有交叉噪声样本的数据集分类.     

基于支持向量机的高光谱遥感图像分类

多数传统分类算法应用于高光谱分类都存在运算速度慢、精度比较低和难以收敛等问题.本文从支持向量机基本理论出发建立了一个基于支持向量机的高光谱分类器,并用国产OMIS传感器获得的北京中关村地区高光谱遥感数据进行试验,分析比较了各种SVM核函数进行高光谱分类的精度,以及网格搜寻的方法来确定C和愕闹?结果表明SVM进行高光谱分类时候径向基核函数的分类精度最高,是分类的首选.并且与神经网络径向基分类算法以及常用的最小距离分类算法进行比较,分类的精度远远高于SVM分类算法进行分类的结果.SVM方法在高光谱遥感分类领域能得到广泛的应用.     

引入负相似的高光谱图像半监督分类

高光谱图像数据体现为波段多、地物标签获取困难大、谱信息抗干扰能力弱等特征,容易引起维数灾难、光谱空间变异性等问题,从而影响分类器的分类精度。针对这些问题,本文将负相似信息引入到拉普拉斯支持向量机（Laplacian Support Vector Machine, LapSVM）的流形正则化项中,提出了一种引入负相似的拉普拉斯支持向量机（Dissimilarity in Laplacian Support Vector Machine, Diss-LapSVM）分类算法,抑制光谱空间变异对分类结果的影响。同时,本文提出利用线性近邻传播（Linear Neighborhood Propagation, LNP）算法构造图的拉普拉斯矩阵,更有效地引入无标签样本的信息。实验结果表明,本文算法的分类精度得到了提高,特别是对光谱特征相似的地物。      

基于数据分布规律的分段组合支持向量机研究

在分析数据分布规律的基础上,提出了分段组合支持向量机算法.该算法首先统计数据分布规律,采用k均值聚类计算聚类中心,然后分球形分布、线性二分可分、局部线性二分可分三种情况来组织最小包含最大排除球目标函数、普通核函数、局部线性核函数,从而实现对不同的数据分布采用不同的支持向量机分类决策算法,提高算法的分类性能.     

基于pinball损失的结构模糊孪生支持向量机

孪生支持向量机通过求解较小的二次规划问题,提高了分类器的性能,然而,该方法主要利用了类间可分的特性,并使用hinge损失函数构建相应的模型,它们并未充分考虑不同类中数据的结构信息以及不同样本对分类的影响,导致该方法对噪声具有较强的敏感性以及重取样的不稳定性.为了进一步提高孪生支持向量机的性能,基于pinball损失函数,将数据集中不同类的结构信息以及不同样本的作用引入到孪生支持向量机中,获得了基于pinball损失的结构模糊孪生支持向量机模型,从理论上导出了基于pinball损失的结构模糊孪生支持向量机算法pin-sftsvm,通过选取人工生成数据集与UCI标准数据集,对pin-sftsvm算法进行了实验,并与tbsvm、s-tsvm和pin-tsvm算法进行了性能比较,表明了提出算法的有效性.     

主动学习半监督聚类入侵检测算法

针对聚类的入侵检测算法误报率高的问题,提出一种主动学习半监督聚类入侵检测算法.在半监督聚类过程中应用主动学习策略,主动查询网络中未标记数据与标记数据的约束关系,利用少量的标记数据生成正确的样本模型来指导大量的未标记数据聚类,对聚类后仍未能标记的数据采用改进的K-近邻法进一步确定未标记数据的类型,实现对新攻击类型的检测.实验结果表明了算法的可行性及有效性.     

基于最佳样本标记的主动支持向量机学习策略

支持向量机通过随机选择标记的训练样本进行有监督学习,随着信息容量的增加和数据收集能力的提高,这需要耗费大量的标记工作量,给实际应用带来不少困难.本文提出了基于最佳样本标记的主动支持向量机学习策略:首先利用无监督聚类选择一个小规模的样本集进行标记,然后训练该标记样本集得到一个初始SVM分类器,然后利用该分类器主动选择最感兴趣的无标记样本进行标记,逐渐增加标记样本的数量,并在此基础上更新分类器,反复进行直到得到最佳性能的分类器.实验结果表明在基本不影响分类精度的情况下,主动学习选择的标记样本数量大大低于随机选择的标记样本数量,这大大降低了标记的工作量,而且训练速度同样有所提高.     

基于主动标记支持向量机和太赫兹光谱的转基因物质检测方法研究

为克服传统支持向量机需要事先对训练样本进行 人为标记的缺点,提出了一种主动训练 支持向量机模型。利用仿射传播聚类算法对未标记样本进行聚类分析,在迭代过程中 不断更新现 有支持向量机的训练数据,从而不仅可以减少人为标记样本所带来的误差,还能够最大限度 地提高模型的识 别准确率。本文以转基因棉花的太赫兹光谱数据为研究对象对该模型进行了验证,实验结果 表明,本文 提出的方法对总待测样品的种类的识别率为95.56%,较其他三种方法 有较少的误判和更高的识别率。 基于仿射传播聚类的支持向量机较传统支持向量机有更高的识别率和更低的误判率,为转基 因物质的检测提供了一种快速,无损的新方法。     

Semi-supervised classification via discriminative sparse manifold regularization

In this paper, a newly semi-supervised manifold learning algorithm named Discriminative Sparse Manifold Regularization (DSMR) is proposed. In DSMR, the whole unlabeled sample set is used to reconstruct the mean vector of each class, then obtains the sparse coefficient. For each sample of labeled samples, the new dictionary is composed of samples from the same class and the samples from the unlabeled sample set according to the corresponding rows of the sparse coefficient. For each unlabeled sample, the new dictionary is composed of samples from the whole unlabeled samples and the samples from the labeled class according to the corresponding columns of the sparse coefficient. Additionally, a discriminative term is added to stabilize performance of the algorithm. Extensive experiments on the several UCI datasets and face datasets demonstrate the effectiveness of the proposed DSMR.     

谱聚类划分随机森林算法在图像识别中的应用

随机森林是近些年发展起来的新集成学习算法,具有较好的分类准确率。针对该算法计算复杂度较高的不足,提出了一种基于谱聚类划分的随机森林算法。首先,利用聚类效果较好的谱聚类算法对原始样本集的每一类进行聚类处理。然后,在每一聚类簇中随机选取一个样本作为代表,组成新训练样本集合。最后,在新训练样本集上训练随机森林分类器。该算法通过谱聚类技术对原始样本进行了初步划分,将位置相近的多个样本用簇内的一个样本代表,较大程度地减少了训练样本的个数。在Corel Image图像识别数据集上的实验表明,算法可以用较少的分类时间达到较高的分类精度。     

基于克隆选择聚类的入侵检测

提出基于克隆选择的模糊聚类算法，将该聚类算法用于网络入侵检测。针对入侵数据的混合属性改进距离测度的计算方法，实现了对大规模混合属性原始数据的异常检测，并能有效检测到未知攻击。在KDDCUP99数据集中进行了对比仿真实验，实验结果表明算法对已知攻击和未知攻击的检测率以及算法的误誊率都是理想的。     

A novel semi-supervised canonical correlation analysis and extensions for multi-view dimensionality reduction

Canonical correlation analysis (CCA) is an efficient method for dimensionality reduction on two-view data. However, as an unsupervised learning method, CCA cannot utilize partly given label information in multi-view semi-supervised scenarios. In this paper, we propose a novel two-view semi-supervised learning method, called semi-supervised canonical correlation analysis based on label propagation (LPbSCCA). LPbSCCA incorporates a new sparse representation based label propagation algorithm to infer label information for unlabeled data. Specifically, it firstly constructs dictionaries consisting of all labeled samples; and then obtains reconstruction coefficients of unlabeled samples using sparse representation technique; at last, by combining given labels of labeled samples, estimates label information for unlabeled ones. After that, it constructs soft label matrices of all samples and probabilistic within-class scatter matrices in each view. Finally, in order to enhance discriminative power of features, it is formulated to maximize the correlations between samples of the same class from cross views, while minimizing within-class variations in the low-dimensional feature space of each view simultaneously. Furthermore, we also extend a general model called LPbSMCCA to handle data from multiple (more than two) views. Extensive experimental results from several well-known datasets demonstrate that the proposed methods can achieve better recognition performances and robustness than existing related methods.     

面向高光谱图像分类的半监督Laplace鉴别嵌入

为有效提取出高光谱遥感图像数据的鉴别特征,该文阐述一种融合标记样本中鉴别信息和无标记样本中局部结构信息的半监督Laplace鉴别嵌入(SSLDE)算法。该算法利用标记样本的类别信息来保持样本集的可分性,并通过构建标记样本和无标记样本的Laplace矩阵来发现样本集中局部流形结构,实现半监督的流形鉴别。在KSC 和Urban数据集上的实验结果说明:该算法具有更高的分类精度,可以有效地提取出鉴别特征信息。在总体分类精度上,该算法比半监督最大边界准则(SSMMC)算法提升了6.3%~7.4%,比半监督流形保持嵌入(SSSMPE)算法提升了1.6%~4.4%。     

MTNet: Mutual tri-training network for unsupervised domain adaptation on person re-identification

The existing unsupervised domain adaptation (UDA) methods on person re-identification (re-ID) often employ clustering to assign pseudo labels for unlabeled target domain samples. However, it is difficult to give accurate pseudo labels to unlabeled samples in the clustering process. To solve this problem, we propose a novel mutual tri-training network, termed MTNet, for UDA person re-ID. The MTNet method can avoid noisy labels and enhance the complementarity of multiple branches by collaboratively training the three different branch networks. Specifically, the high-confidence pseudo labels are used to update each network branch according to the joint decisions of the other two branches. Moreover, inspired by self-paced learning, we employ a sample filtering scheme to feed unlabeled samples into the network from easy to hard, so as to avoid trapping in the local optimal solution. Extensive experiments show that the proposed method can achieve competitive performance compared with the state-of-the-art person re-ID methods.     

A new clustering algorithm applicable to multispectral andpolarimetric SAR images

The authors applied a scale-space clustering algorithm to the classification of a multispectral and polarimetric SAR image of an agricultural site. After the initial polarimetric and radiometric calibration and noise cancellation, a 12-dimensional feature vector for each pixel was extracted from the scattering matrix. The clustering algorithm partitioned a set of unlabeled feature vectors from 13 selected sites, each site corresponding to a distinct crop, into 13 clusters without any supervision. The cluster parameters were then used to classify the whole image. The classification map is much less noisy and more accurate than those obtained by hierarchical rules. Starting with every point as a cluster, the algorithm works by melting the system to produce a tree of clusters in the scale space. It can cluster data in any multidimensional space and its insensitive to variability in cluster densities, sizes and ellipsoidal shapes. This algorithm, more powerful than existing ones, may be useful for remote sensing for land use