融合主动学习的高光谱图像半监督分类

针对高光谱数据维数高、有标签样本少等特点,采用半监督分类利用未标记样本信息提高高光谱图像分类精度。主动学习研究训练样本的选择方法,以少量的标记样本得到尽可能好的泛化能力。本文提出了一种结合主动学习算法的半监督分类算法。该方法使用支持向量机作为基本的学习模型,通过主动学习方法选取训练样本,以伪标记的形式加入到分类器的训练中,结合验证分类器迭代选出置信度较高的伪标记样本,通过差分进化算法交叉变异伪标记样本扩充标记样本群。在两个数据集上进行仿真实验,与传统分类算法相比,所提算法的总体分类精度分别提高了1.97%、0.49%,表明该算法能够有效地提升主动学习样本选择的效率,在有限带标记样本情况下提高了分类器精度。     

基于混合熵和L_1范数的遥感图像分类

针对遥感图像数据具有的高维数、非线性以及海量无标记样本的特性,提出了一种基于混合熵和L1范数的概率型最小二乘支持向量机分类方法.将准熵和熵差分融合,构造一种混合熵用以从海量无标记样本集中选出最有＂价值＂的待标记样本;基于L1范数距离度量,进一步从待标记样本集中筛选出孤立点和冗余点加以剔除;基于初始已标记样本以及筛选得到的样本,训练得到概率型最小二乘支持向量机.对反射光学系统的成像光谱仪（ROSIS）高光谱遥感图像进行了分类实验.结果表明：所提分类方法的总精度和Kappa系数分别达到了89.90%和0.868 5,能够以较少的训练样本得到较高的分类精度,其更适于处理遥感图像分类问题.     

改进的LLGC高光谱图像半监督分类

针对高光谱数据波段多,地物标签获取代价高,带标记的样本数量少,分类过程中容易引起Hudges现象。本文提出一种基于改进的局部全局一致性(learning with local and global consistency,LLGC)算法的半监督分类方法。通过边缘采样法(margin sampling,MS)选取最富含信息量的无标签样本,加入到训练集来扩充训练样本;用KNN算法计算相似度进一步优选无标签样本,去除噪声点和存在的野值点;使用改进的局部全局一致性算法对无标签样本集进行分类标记,得到各类别的分类结果。实验结果表明,本文方法在充分利用无标签样本的情况下,有效地提高了带有少量标签样本的高光谱图像的分类精度。     

基于滤波后处理的主动学习高光谱遥感图像分类

有限的样本数据和高维的特征向量使得高光谱图像分类面临巨大挑战.提出一种结合主动学习和滤波器的高光谱遥感图像分类方法.该方法首先选取部分训练样本得到分类模型,然后采用主动学习通过迭代从非训练样本中选择信息量大的样本不断扩大有效样本数,减少了初始训练样本数降低"维数灾难"出现的可能,同时提高了分类器的泛化性能及准确率.通过主动学习和多项逻辑回归分类器对高光谱遥感图像进行初始分类,然后运用滤波器对初始分类结果保边去噪.实验结果表明,本文方法的分类精度高,分类稳定性好.     

土地覆盖分类影像融合与精度评价研究

影像融合技术可以使遥感影像具有高光谱和高空间分辨率的效果,实现不同空间、光谱、时间等多种分辨率的信息资源互补,从而提高图像的空间分辨率,提高图像的几何精度.文章利用ERDAS软件,对遥感影像数据进行融合,采用乘积变换、PCA变换、Brocey变换、小波变换等遥感影像融合方法对多光谱与全色影像进行融合和土地覆盖分类研究.通过结合图像的光谱统计参数和融合图像的分类精度,对这些方法的分类精度进行评价.这4种方法对于原始影像分类精度,均有不同程度的提高.而小波变换所得融合影像与原多光谱影像的相关系数最大,均方差、平均梯度和信息熵最大,偏差指数最小,影像所含信息量最多;在光谱特性、图像清晰度、对于空间细节信息的表现能力上其它三种方法都好,所得融合影像的分类精度也是最高的.小波变换更适合融合影像的土地覆盖分类研究.     

基于核熵成分分析的高光谱遥感图像分类算法

根据核熵成分分析(KECA)的特点提出了基于凸面几何学概念的样本集选取方法和以特征空间光谱角为相似性度量的C-均值分类算法,并将其用于高光谱遥感图像分类。在HYDICE高光谱数据上的试验表明,本文提出的算法可以有效地提高分类精度。     

一种基于谱聚类的聚类核半监督支持向量机

针对传统半监督支持向量机的高斯核函数无法恰当描述流形数据特性,从而导致流形数据分类精度下降的问题,提出一种基于谱聚类的聚类核半监督支持向量机.利用谱聚类方法在特征向量空间中对原始样本数据进行重新表述,使得在新表述中同一聚类中的样本能够更好地积聚在一起,构建聚类核函数,并进而构造聚类核半监督支持向量机,使样本更好地满足半监督学习必须遵循的聚类假设.研究结果表明:聚类核半监督支持向量机对未标记样本的分类精度高且算法性能稳定,对控制参数的设置不敏感,适于解决流形数据的分类问题.     

基于改进三重训练算法的高光谱图像半监督分类

高光谱数据维数高,有标签的样本数量少,给高光谱图像分类带来困难。本文针对传统三重训练(tri-training)算法在初始有标签样本数量较少的情况下分类器间差异性不足的问题提出了一种基于改进三重训练算法的半监督分类框架。该方法首先通过边缘采样策略(margin Sampling,MS)选取最富含信息量的无标签样本,然后在训练每个分类器之前通过差分进化算法(differential evolution,DE)利用所选取的无标签样本产生新的样本。这些新产生的样本将被标记并且加入训练样本集来帮助初始化分类器。实验结果表明,该方法不仅能够有效地利用无标签样本,而且在有标签数据很少的情况下能够有效地提高分类精度。     

鲁棒性监督等距特征映射方法

提出一种鲁棒的监督Isomap算法(RS-Isomap算法).该方法首先在标准PCA基础上,为样本邻域点引入权值因子,产生新的优化问题,使用加权迭代最小二乘法求解.然后利用加权主成分分析,遍历每一个样本点,计算归一化权值之和,得到样本的可信度.接着融合样本的可信度、类别和邻域信息,重新定义样本点之间的测地距离,计算最短距离矩阵,采用多维标度分析和广义回归神经网络分别构建训练样本和测试点的嵌入坐标.实验表明:新方法比传统的Isomap方法有较强的抗噪声能力,能有效地提高高光谱图像的分类精度,在运行时间上具有可行性.鲁棒性的监督Isomap算法是一种有效的高光谱遥感图像特征提取方法.     

一种新的高光谱遥感图像纹理特征提取方法研究

提出了一种新的基于自相关的高光谱遥感图像纹理特征提取算法,该算法通过引入核函数技术,将单波段纹理窗口的空间自相关函数,扩展到多波段遥感图像的纹理描述.然后对特征矢量进行无监督C均值聚类实验和有监督RBF神经网络分类实验,在分类实验中确定了最佳窗口尺寸.实验结果表明,该文提出的自相关特征可以有效地描述高光谱遥感图像的纹理.     

基于类对比簇分配异构迁移学习的 空间滚动轴承寿命阶段识别

针对变工况条件下因样本数据分布差异大、可训练用样本较少以及不同寿命阶段样本数量不均等所造成的空间滚动轴承寿命阶段识别准确率较低的问题，提出一种新型无监督迁移学习方法——类对比簇分配异构迁移学习(class-contrast cluster-allocation heterogeneous transfer learning, CAHTL)。在CAHTL中，通过异构迁移学习将历史工况下少量有类标签样本和当前工况的无类标签样本（即待测样本）迁移到公共特征空间内，使得不同工况样本之间的分布差异最小化；利用源域聚类簇点构建目标域样本特征的正负样本实现两域样本的数量再分配，再对两域正负样本进行对比学习以使待测样本具有更好分类性；通过计算待测样本与聚类簇点的相似度完成待测样本分类，且该分类过程无需参数学习，因此可防止样本不均等情况下对于不同寿命阶段样本识别准确率差距过大和在少有类标签训练样本情况下网络出现过拟合的问题；利用随机梯度下降和动量更新对CAHTL参数进行不同步更新，以保持样本特征的一致性并提高CAHTL的收敛速度。CAHTL可利用空间滚动轴承历史工况下的少量、非均等的已知寿命阶段的训练样本来对当前工况的待测样本进行较高精度的寿命阶段识别。空间滚动轴承寿命阶段识别实例验证了该方法的有效性。     

基于稀疏自编码器和高斯混合模型的手写数据集分类

深度学习模型训练需要大量的有标签数据进行训练,现实生活中数据大多没有标签,需要进行人工标注,对于小样本的训练存在过拟合现象,针对此问题,本文提出一种算法:首先采用稀疏编码器对数据进行降维处理,然后利用T-SNE算法继续将数据维度降低到二维空间,最后采用高斯混合模型对数据进行聚类分析。该算法采用无监督斱法,不需要预先对数据进行标签化。该算法对数据过拟合具有一定的泛化能力,在手写数据集的训练集取得0.89205的准确度,在测试集中取得0.896的精度。该算法为小样本的学习提供了新思路。     

一种快速KMSE算法及其在异常入侵检测中的应用

为提高核最小均方误差(Kernel Minimum Squared Error,KMSE)方法的计算效率,利用特征空间中不相关的样本矢量("基样本"),提出了一种快速KMSE算法,并利用"基样本"与一个样本间的核函数对该样本抽取特征.在入侵检测数据集KDDCUP1999和其他基准数据集上实验表明:该方法不仅高效,并且分类和检测效果良好,"基样本"只占训练样本的很小一部分比例,使用它们可以显著提高特征抽取效率.     

基于半监督学习的脑电信号特征提取及识别

针对有监督学习容易造成未标记样本的浪费和手动特征提取容易导致信息丢失的问题,提出一种基于深层堆叠网络（DSN）的半监督特征学习方法,无监督特征学习的过程由多个受限玻尔兹曼机（RBM）的并行训练完成,将训练得到的参数用于DSN的输入权值初始化,再采用批量模式的梯度下降法进行监督微调。将所提方法用于运动想象脑电信号特征提取及识别,实验结果表明本文方法能够充分利用未标记样本中的隐含信息,有效提取脑电信号特征,识别结果优于共同空间模式（CSP）和深度信念网络（DBN）等算法,该方法可用于提高BCI系统中脑电信号的识别准确率。     

非监督的高光谱混合像元非线性分解方法

在进行高光谱混合像元非线性分解应用中,提出一种非监督的高光谱混合像元非线性分解方法.通过核函数把原始高光谱数据映射到高维特征空间中,揭示数据之间的高阶性质.通过非线性映射,原始数据在高维特征空间中变得线性可分.在高维特征空间中运用线性的非负矩阵分解(NMF)算法进行光谱解混,挖掘出数据间更多的特征.解混结果以端元相关系数、光谱角距离、光谱信息散度和均方根误差作为质量评价指标.进行模拟数据仿真实验和真实高光谱遥感数据分解实验,结果表明,采用该算法得到的分解结果优于非负矩阵分解算法.     

改进核空间对称稀疏表达用于高光谱波段选择

提出改进核空间对称稀疏表达（IKSSR）降维方法来解决高光谱影像（HSI）的波段选择问题.该方法利用核函数方法和稀疏系数的二值约束条件改进对称稀疏表达模型,在映射得到的核空间构建包含所有波段向量对应的数据点的凸包,通过寻找最小凸包的原型点实现波段子集的优化选择.改进核空间对称稀疏表达方法采用矢量量化策略初始化波段子集,利用块坐标下降方法将非凸问题转换为凸目标函数优化问题,实现目标波段子集选取.基于两个公开高光谱数据集,对该方法和4种主流的波段选择方法进行实验比较研究.实验结果表明,利用改进核空间的对称稀疏表达方法得到的总体分类精度优于对称稀疏表达模型和其他3种方法.     

SVM和RVM对高光谱图像分类的应用潜能分析

针对高光谱图像分类一直面临的小样本、非线性及高维数等问题,分别从原理和实验两个方面分析比较了两种最新的核学习方法——支持向量机(SVM)和相关向量机(RVM)在高光谱图像分类中的异同点.通过对稀疏性、运算时间及分类精度的实验仿真,结果表明:与SVM相比,RVM模型更加稀疏,从而测试时间更短,更有利于大数据量在线测试;然而,RVM的缺点是分类精度略低于SVM.基于此,本文利用Fisher线性鉴别分析(FLDA)技术,在分类前对高光谱数据作可分性预处理,一方面可以降低数据维数、减少计算量,另一方面可以有效地提高小样本区域的分类精度,进而提高RVM的总体分类精度,使得RVM与SVM相比在高光谱图像精细分类方面更具优势.     

SVM和RVM对高光谱图像分类的应用潜能分析

针对高光谱图像分类一直面临的小样本、非线性及高维数等问题,分别从原理和实验两个方面分析比较了两种最新的核学习方法——支持向量机(SVM)和相关向量机(RVM)在高光谱图像分类中的异同点.通过对稀疏性、运算时间及分类精度的实验仿真,结果表明:与SVM相比,RVM模型更加稀疏,从而测试时间更短,更有利于大数据量在线测试;然而,RVM的缺点是分类精度略低于SVM.基于此,本文利用Fisher线性鉴别分析(FLDA)技术,在分类前对高光谱数据作可分性预处理,一方面可以降低数据维数、减少计算量,另一方面可以有效地提高小样本区域的分类精度,进而提高RVM的总体分类精度,使得RVM与SVM相比在高光谱图像精细分类方面更具优势.     

组合核支持向量机高光谱图像分类

为了提高高光谱遥感图像分类中空间信息的利用率,提出一种将空间邻域信息和光谱信息结合的组合核支持向量机(SVM)学习算法.用SVM进行预分类,从分类结果图提取各像素的空间邻域特征,与光谱特征结合构造组合核SVM进行分类,并再次提取空间邻域特征进行多次空-谱信息组合核SVM迭代分类,如此迭代10次,从中选择合适的结果作为最终输出.结果表明,该方法对传统支持向量机的分类精度提升幅度可达10%左右.同时,与其他组合核支持向量机相比,该算法用更少的训练样本获得了更高分类精度.     

基于Bootstrapping的因特网流量分类方法

针对因特网流量分类面临的流量类别标记瓶颈和类别样本数分布不平衡,提出基于Bootstrapping的流量分类方法,使用少量有标记样本训练初始分类器,迭代利用无标记样本扩展样本集并更新分类器. 在构建扩展样本集过程中,将无标记样本在某后验概率分布下的正确分类行为视为一个概率事件,建立新的置信度计算方法,以减少扩展样本集中的噪声样本;基于概率近似正确学习理论建立启发式规则,注重选择小类样本加入扩展样本集,缓解类别样本数分布的不平衡. 实验结果表明,与初始分类器相比,基于Bootstrapping的流量分类器总体分类准确率可提高9.46%;与现有半监督学习方法相比,小类分类准确率提高2.22%.