基于SVM动态集成的高光谱遥感图像分类

在Bagging支持向量机(SVM)的基础上,将动态分类器集选择技术用于SVM的集成学习,研究了SVM动态集成在高光谱遥感图像分类中的应用。结合高光谱数据特性,通过随机选取特征子空间和反馈学习改进了Bagging SVM方法;通过引进加性复合距离改善了K近邻局部空间的计算方法;通过将错分的训练样本添加到验证集增强了验证集样本的代表性。实验结果表明,与单个优化的SVM和其他常见的SVM集成方法相比,改进后的SVM动态集成分类精度最高,能有效地提高高光谱遥感图像的分类精度。     

半监督邻域保持嵌入在高光谱影像分类中的应用

为了解决高光谱遥感影像的维数约简问题以提高分类算法的分类精度,并针对高光谱影像通常只包含少量标记样本的问题,提出了基于一种半监督邻域保持嵌入(SSNPE)和改进的KNN分类器的高光谱影像分类算法。该算法在NPE的基础上同时利用同类标记样本和邻域未标记样本获得数据的邻域嵌入结构,并且通过增加标记近邻样本的权重加大降维数据的鉴别性,进而增加k近邻分类器的样本分类精度。在Urban、Indian高光谱影像数据集上的实验结果表明,改进的算法的分类精度提高了约8.7%、3.6%以上,分类性能有了较明显的改善。     

基于反卷积高层特征的遥感地物图像分类

目前利用深度卷积神经网络提取图像底层特征后分类效果已比较优秀,但是对于数据量大、波段多、波段间相关性高的多光谱遥感图像并非完全适用。针对多光谱遥感地物分类中常常出现的Hughes现象,即当训练样本一定时,模型的预测能力随着维度的增加而减小,提出了一种结合高层特征空间和迁移学习网络的遥感地物图像分类算法,利用两层堆叠的反卷积网络来提取目标数据集的高层特征,利用VGG16模型的卷积层权重来构建迁移网络模型,将高层特征导入迁移网络中加强训练得到更加优越的训练模型,利用训练模型可对多光谱遥感数据集更加准确分类。实验结果表明,在Satellite、NWPU和UC Merced实验数据中,冰川、建筑群和海滩分类精度得到有效提高,达到92%左右,针对沙漠、岩石、水域等特殊环境遥感图像,总体分类精度提高5%左右。部分多光谱遥感数据的底层特征和中层特征在训练器中表现并不理想,波段的增多也会导致信息的冗余和数据处理复杂性的提高,反而高层特征在这部分数据中保留了地物信息的轮廓,能更好地适应分类器,得到更加优越的分类结果。     

面向分类应用的高光谱谱段选择方法

高光谱数据在物质分类识别领域得到了广泛应用,但存在数据量大、波段间相关性高等问题,严重影响分类精度及应用。针对以上问题分析了已有的波段选择方法,提出了基于波段聚类及监督分类的遗传算法,对高光谱数据进行波段选择：采用[K]均值聚类算法对波段数据进行聚类分析,构造波段子集合;利用分类器族分类精度构造适应度函数,采用遗传算法对波段子集合进行优化选择。最后用阔叶林高光谱数据对提出的算法进行对比实验,实验结果表明针对分类应用,提出的算法能够非常有效地选择高光谱谱段。     

基于核模糊粗糙集的高光谱波段选择算法

为了减少高光谱波段图像间的冗余,降低运算时间,为后续分类任务提供有效支持,提出了基于核模糊粗糙集的高光谱波段选择算法。高光谱图像相邻波段间相似性较强,为进一步有效地度量波段的重要性,引入核模糊粗糙集理论。考虑波段中类的分布特性,根据波段的下近似集分布定义波段间的相关性,进而结合波段的信息熵定义波段的重要度。采用最大相关性最大重要度的搜索策略对高光谱图像进行波段选择。最后在常用高光谱数据集Indiana Pines农业区上,采用J48及KNN分类器进行测试。与其他高光谱波段选择算法相比,该算法在两个分类器上的总体平均分类精度分别提升了4.5和6.6个百分点。实验结果表明所提算法在处理高光谱波段选择问题时具有一定优势。     

基于随机子空间核极端学习机集成的高光谱遥感图像分类

结合随机子空间和核极端学习机集成提出了一种新的高光谱遥感图像分类方法。首先利用随机子空间方法从高光谱遥感图像数据的整体特征中随机生成多个大小相同的特征子集;然后利用核极端学习机在这些特征子集上进行训练从而获得基分类器;最后将所有基分类器的输出集成起来,通过投票机制得到分类结果。在高光谱遥感图像数据集上的实验结果表明:所提方法能够提高分类效果,且其分类总精度要高于核极端学习机和随机森林方法。     

全局判别与局部稀疏保持HSI半监督特征提取

针对高光谱图像存在“维数灾难”的问题，提出一种全局判别与局部稀疏保持的高光谱图像半监督特征提取算法（GLSSFE）。该算法通过LDA算法的散度矩阵保存有类标样本的全局类内判别信息和全局类间判别信息，结合利用半监督PCA算法对有类标和无类标样本进行主成分分析，保存样本的全局结构；利用稀疏表示优化模型自适应揭示样本数据间的非线性结构，将局部类间判别权值和局部类内判别权值嵌入半监督LPP算法保留样本数据的局部结构，从而最大化同类样本的相似性和异类样本的差异性。通过1-NN和SVM两个分类器分别对Indian Pines和Pavia University两个公共高光谱图像数据集进行分类，验证所提特征提取方法的有效性。实验结果表明，该GLSSFE算法最高总体分类精度分别达到89.10%和92.09%，优于现有的特征提取算法，能有效地挖掘高光谱图像的全局特征和局部特征，极大地提升高光谱图像的地物分类效果。     

基于Boosting的高光谱遥感切空间协同表示集成学习方法

近年来,协同表示分类(Collaborative Representation Classification,CRC)算法成为高光谱遥感影像分类的研究热点,尤其是切空间协同表示分类(Tangent Space Collaborative Representation,TCRC)利用切平面估计测试样本的局部流形,其分类精度得到了显著提高。为进一步提升高光谱遥感影像分类的准确性和可靠性,提出了基于Boosting的高光谱遥感影像切空间协同表示分类算法(Boosting-based Tangent Space Collaborative Representation Classification,Boost TCRC)。Boost TCRC算法采用TCRC算法作为基分类器,通过Boosting原理自适应地调整训练样本的权重,增大错分样本的权重从而使得分类器专注于较难分类的训练样本,然后在基于残差域融合时根据基分类器的分类表现赋予其权重,最终采用最小重构误差的原则对测试样本进行分类。实验采用HyMap(Hyperspectral Mapper)和AVIRIS(Airbone Visible Infrared Imaging Spectrometer)等高光谱遥感影像数据对所提出算法的性能进行了综合评价,结果表明：基于Boosting的集成方式可有效提升TCRC算法的分类效果。针对HyMap数据,Boost TCRC算法总体分类精度和Kappa系数分别为93.73%和0.920 8,两种精度指标分别高于TCRC算法2.82%和0.032 3,同时分别高于AdaBoost ELM算法1.81%和0.022 5。对于AVIRIS数据,Boost TCRC算法总体分类精度和kappa系数为84.11%和0.812 0,两种精度指标分别高于TCRC算法3.97%和0.049 3,同时分别高于AdaBoost ELM算法12.02%和0.143 6。     

波段聚类和改进递归滤波的高光谱图像分类

针对高光谱图像分类任务中的Hughes现象及噪声问题,提出了联合波段聚类和改进递归滤波的高光谱图像分类方法。首先,利用相对熵对高光谱图像的光谱波段进行K-means聚类,对聚类后的光谱波段进行高斯滤波,得到模糊化图像,将其作为递归滤波的引导图像;然后,对聚类后的光谱波段递归滤波处理,从而增强高光谱图像的轮廓特征;最后,利用支持向量机对递归滤波后的特征图像进行分类。在2个真实数据集上的实验结果表明,该方法降低了高光谱图像的维度,去除了噪声并阻止了信息跨越强边缘传播,与传统高光谱图像分类方法相比,提高了分类精度。     

基于最大最小距离的高光谱遥感图像波段选择

为减少高光谱遥感图像光谱空间冗余,降低后续处理的计算复杂度,提出一种基于最大最小距离的高光谱图像波段选择算法。首先计算波段标准差,选定标准差最大的波段作为初始中心;然后使用最大最小距离算法得到相对距离较远的聚类中心,对波段进行聚类;最后使用K中心点算法更新聚类中心。实验仿真结果表明:通过基于最大最小距离算法选择的波段,能够选出同时满足信息量大、相关性小的要求的波段子集,并将获得的波段组合用于高光谱图像分类时,可以得到较好的分类精度。     

Boosting Ensemble Learning for Hyperspectral Image Classification Using Tangent Collaborative Representation

Recently, Collaborative Representation Classification (CRC) has attracted much attention in hyperspectral image analysis. Due to uses the tangent plane to estimate the local manifold of the test sample. Tangent Collaborative Representation Classification (TCRC) achieve better performance. Furthermore, in order to improve the classification accuracy and reliability of hyperspectral remote sensing images, a novel Boosting-based Tangent Collaborative Representation ensemble method (Boost TCRC) for hyperspectral image classification is proposed. In this algorithm, Boost TCRC algorithm choose TCRC as base classifier and adjust the weight of the training samples adaptively by using the principle of Boosting. Increasing the weight of the misclassified samples so that the classifier concentrates on the training samples that are difficult to classify. Then assigns the weights according to the classification performance of the base classifier based on the residual domain fusion. Finally, the principle of minimum reconstruction error is adopted to classify the test sample. The performance of the proposed algorithm was comprehensively evaluated by hyperspectral remote sensing image data such as HyMap (Hyperspectral Mapper) and AVIRIS (Airbone Visible Infrared Imaging Spectrometer). The Boosting method can effectively improve the classification effect of the TCRC algorithm. For HyMap data, the overall classification accuracy and kappa coefficient of Boost TCRC algorithm are 93.73% and 0.920 8 respectively. Two precision values are higher than TCRC algorithm by 2.82% and 0.032 3, and are higher than the AdaBoost ELM algorithm by 1.81% and 0.022 5. For AVIRIS data, the overall classification accuracy and kappa coefficient of Boost TCRC algorithm are 84.11% and 0.8120 respectively. Two precision values are higher than TCRC algorithm by 3.97% and 0.049 3, and are higher than AdaBoost ELM algorithm by 12.02% and 0.143 6.     

基于免疫克隆特征选择和欠采样集成的垃圾网页检测

为解决垃圾网页检测过程中的“维数灾难”和不平衡分类问题,提出一种基于免疫克隆特征选择和欠采样（US）集成的二元分类器算法。首先,使用欠采样技术将训练样本集大类抽样成多个与小类样本数相近的样本集,再将其分别与小类样本合并构成多个平衡的子训练样本集;然后,设计一种免疫克隆算法遴选出多个最优的特征子集;基于最优特征子集对平衡的子样本集进行投影操作,生成平衡数据集的多个视图;最后,用随机森林（RF）分类器对测试样本进行分类,采用简单投票法确定测试样本的最终类别。在WEBSPAM UK-2006数据集上的实验结果表明,该集成分类器算法应用于垃圾网页检测：与随机森林算法及其Bagging和AdaBoost集成分类器算法相比,准确率、F1测度、AUC等指标均提高11%以上;与其他最优的研究结果相比,该集成分类器算法在F1测度上提高2%,在AUC上达到最优。     

基于多核模糊粗糙集与蝗虫优化算法的高光谱波段选择

波段选择能有效减少高光谱数据的空间冗余,为后续分类提供有效的支持。多核模糊粗糙集模型能够对包含不确定性的数值数据进行分析和近似描述,而蝗虫优化算法对优化问题求解具有较强的探索和开发能力,因而将多核模糊粗糙集模型引入高光谱的不确定性分析建模中,采用蝗虫优化算法对波段子集进行选择,提出了一种基于多核模糊粗糙集与蝗虫优化算法的高光谱波段选择算法。首先,使用多核算子来进行相似性度量,提高模型对数据分布的适应性。定义基于核模糊粗糙集的波段相关性度量,通过模糊粗糙集中不同像素点地物上的下近似分布来度量波段之间的相关性。然后,综合考虑波段依赖度、波段信息熵、波段间相关性来定义波段子集的适应度函数。最后,在常用高光谱数据集Indiana Pines农业区上,采用J48和K近邻(KNN)作为分类算法,把所提算法与波段相关性分析(BCA)、标准化互信息(NMI)算法进行分类性能比较。实验结果表明,在选取较少波段个数时,所提算法的总体平均分类精度提高了2.46和1.54个百分点。     

基于流形主动学习的遥感图像分类算法

为了高效地解决遥感图像分类问题,提出一种基于流形学习和支持向量机(SVM)的图像分类算法。在初始阶段,该算法首先利用初始训练集训练SVM,并且使用SVM找出离分类界面最近的样本;然后在所选样本中利用拉普拉斯图构建样本空间的流形结构,选出最具有代表性的样本加入训练集;最后利用高光谱图像进行实验进行验证。通过与现有的主动学习算法进行比较,结果表明该算法获得了更高的分类准确率。     

基于随机森林和欠采样集成的垃圾网页检测

为解决垃圾网页检测过程中的不平衡分类和"维数灾难"问题,提出一种基于随机森林(RF)和欠采样集成的二元分类器算法。首先使用欠采样技术将训练样本集大类抽样成多个子样本集,再将其分别与小类样本集合并构成多个平衡的子训练样本集;然后基于各个子训练样本集训练出多个随机森林分类器;最后用多个随机森林分类器对测试样本集进行分类,采用投票法确定测试样本的最终所属类别。在WEBSPAM UK-2006数据集上的实验表明,该集成分类器算法应用于垃圾网页检测比随机森林算法及其Bagging和Adaboost集成分类器算法效果更好,准确率、F1测度、ROC曲线下面积(AUC)等指标提高至少14%,13%和11%。与Web spam challenge 2007 优胜团队的竞赛结果相比,该集成分类器算法在F1测度上提高至少1%,在AUC上达到最优结果。     

基于波段影像统计信息量加权K-means聚类的高光谱影像分类

针对分类过程中如何合理利用高光谱影像波段问题,提出一种基于波段影像统计量加权K-means聚类的高光谱影像分类算法.该算法的核心思想在于:由波段含有的信息量及波段间的相关性确定各波段权重,同时考虑各波段对各聚类的重要性.首先,根据波段影像的熵、标准差及均值定义波段信息量函数,根据相邻波段影像互信息定义相关性函数;其次,由上述波段信息量函数及波段间相关性函数定义波段权重函数;然后,结合波段权重和波段-类属权重定义规则化目标函数;最后,依据参数特性设计目标函数求解方案.对Salinas高光谱影像和Pavia Centre高光谱影像分别采用所提出的算法与传统K-means算法、PCA$+K$-means算法及子空间波段选择$+K$-means算法进行对比实验,对于总精度及Kappa系数,所提出的算法都高于其他3种对比算法,结果验证了所提出算法的有效性.相对于其他3种算法而言,所提出的算法可有效改善高光谱影像分类的性能.     

基于异构距离的集成分类算法研究

针对异构数据集下的不均衡分类问题，从数据集重采样、集成学习算法和构建弱分类器3个角度出发，提出一种针对异构不均衡数据集的分类方法——HVDM-Adaboost-KNN算法（heterogeneous value difference metric-Adaboost-KNN），该算法首先通过聚类算法对数据集进行均衡处理，获得多个均衡的数据子集，并构建多个子分类器，采用异构距离计算异构数据集中2个样本之间的距离，提高KNN算法的分类准性能，然后用Adaboost算法进行迭代获得最终分类器。用8组UCI数据集来评估算法在不均衡数据集下的分类性能，Adaboost实验结果表明，相比Adaboost等算法，F₁值、AUC、G-mean等指标在异构不均衡数据集上的分类性能都有相应的提高。     

Remote sensing image classification based on neural network ensemble algorithm

The amounts and types of remote sensing data have increased rapidly, and the classification of these datasets has become more and more overwhelming for a single classifier in practical applications. In this paper, an ensemble algorithm based on Diversity Ensemble Creation by Oppositional Relabeling of Artificial Training Examples (DECORATEs) and Rotation Forest is proposed to solve the classification problem of remote sensing image. In this ensemble algorithm, the RBF neural networks are employed as base classifiers. Furthermore, interpolation technology for identical distribution is used to remold the input datasets. These remolded datasets will construct new classifiers besides the initial classifiers constructed by the Rotation Forest algorithm. The change of classification error is used to decide whether to add another new classifier. Therefore, the diversity among these classifiers will be enhanced and the accuracy of classification will be improved. Adaptability of the proposed algorithm is verified in experiments implemented on standard datasets and actual remote sensing dataset.     

结合半监督聚类和加权KNN的协同训练方法

针对协同训练方法在迭代时选择加入的无标记样本所隐含的有用信息不够,以及协同训练方法多个分类器标记不一致带来错误标记无标记样本的问题,提出了一种结合半监督聚类和加权[K]最近邻的协同训练方法。该方法在每次迭代过程中,先对训练集进行半监督聚类,选择隶属度高的无标记样本给朴素贝叶斯分类,再用加权[K]最近邻算法对多个分类器分类不一致的无标记样本重新分类。利用半监督聚类能够选择出较好表现数据空间结构的样本,而采用加权[K]最近邻算法为标记不一致的无标记样本重新标记能够解决标记不一致带来的分类精度降低问题。在UCI数据集上的对比实验验证了该算法的有效性。