混合策略超球支持向量机算法

针对多类别分类超球支持向量机算法的重叠区域数据分类问题,提出了一种混合策略决策算法.首先对超球相交区域的数据分布情况分析得到数据分布的特点,然后根据数据分布特点采用不同的决策策略.如果用两球相交面直接可以把两类数据分开,则直接用相交面作为分类平面.如果两类数据近似线性可分,构造最优二分超平面作为分类平面.如果两类数据非线性可分,则引入核函数构造最优二分超平面为分类球面.如果相交区域只包含一个类别的数据,则采用排它法作为测试样本的决策规则.实验结果表明所提出的算法性能优于单一决策策略的超球支持向量机算法,在提高分类精度的同时,降低了决策规则求解的复杂度.     

基于核函数的非线性口袋算法

应用满足Mercer条件的核函数设计非线性算法已经成为机器学习领域一项新的非线性技术.核感知器算法利用核思想非线性地推广了线性感知器算法,使其可以处理原始输入空间中的非线性分类问题和高维特征空间中的线性问题.线性口袋算法改进了线性感知器算法,能够直接处理线性不可分问题.为了进一步改进线性口袋算法和核感知器算法,本文提出基于核函数的非线性口袋算法,即核口袋算法,其目标是找到一个使错分样本数最小的非线性判别函数,并证明了其收敛性.核口袋算法的特点是用简单的迭代过程和核函数来实现非线性分类器的设计.基准数据集的实验结果证明核口袋算法的性能优于线性口袋算法和核感知器算法.     

一种基于2DPCA和SVM的人脸识别方法

在人脸识别过程中,基于2DPCA特征提取方法具有直接、高效等特点。但它只包含了二阶统计信息,因而丢失了可能对分类很有用的高阶统计信息而使识别率受到一定影响。SVM采取升维的方法把线性不可分问题转变为线性可分问题,识别率较高,但直接对图像分类时运算量大、运行时间长。文章结合两者的优点,使用了2DPCA和SVM相结合的人脸识别方法,即先利用2DPCA进行特征提取,然后把降维后的数据输入SVM进行分类识别。该方法在ORL、YALE人脸库上的实验表明,不但可以提高识别率,而且所用时间明显减少。     

基于核向量机的模式分类及其实验测试

文中使用一种新的SVM变种--核向量机来对大样本数据集进行训练建模,进而求解模式分类问题.CVM算法是将核函数转换为最小包围球问题进行求解,可以解决任何线性或非线性分类问题.测试结果表明,核向量机可以快速对大样本数据进行分类并能产生较少的支持向量.     

一种基于密度法的支持向量预选取算法

针对大规模数据集的分类问题,支持向量机的训练成为一个难题。预先选取支持向量用于支持向量机的训练是解决这一难题的思路之一,但其的选择非常困难。本文提出了一种基于密度法的支持向量预选取方法。该方法不需要事先判定训练样本是否线性可分,具有较强的抗击孤立点干扰的能力,并且计算简单,易于实现。实验仿真证明这种方法是有效的。     

强混叠模式下基于神经元捕获/抑制原理的分类器设计

目前的许多分类器设计方法,如多层感知器网络(MLP)、支持向量机(SVM)、相关向量机(RVM)、径向基函数网络(RBF)等,实际是非线性映射加线性分类的方法,即将输入空间的非线性可分问题经非线性映射到另一空间,在那一空间实现线性分类.本文则开拓性的运用脉冲耦合神经网络神经元的点火捕获的思想,提出了一种基于耦合神经元点火捕获/抑制特性的分类器设计方法,使一类样本对应神经元总是较其它类样本对应神经元先点火以实现对样本的有效分类.所设计的分类器可实现对样本空间中任意复杂分布训练样本的非线性稳健分类,特别是有效实现复杂混叠模式的模式稳健分类,大量复杂混叠模式分类问题的仿真实验验证了本文方法的有效性和可行性,并应用于微波暗室实测一维距离像数据的自动目标识别中.     

基于VB与MatrixVB的最优分类超球面实现

提出了一种基于共形几何代数最优分类超球面的表示方法;讨论了运用共形几何代数理论来构造最优分类超球可分问题的可行性和简便性;介绍了基于共形几何代数的分类超球面几何表示,并用此表示将二类最优分类超球面的可分问题转化为二次规划的训练学习问题,该算法保留了最大分类间隔理论的优点,将二类最优平面可分推广到最优超球可分。另外针对VisualBasic数值计算能力的不足,不利于系统开发,介绍了基于VB和MatrixVB实现最优分类超球面,该方法将Matlab的强大计算功能与VB的Windows用户界面的开发优势结合起来,充分发挥了各自的特点．缩短了软件的开发周期。软件测试结果表明,计算方法正确,计算速度快,系统资源消耗少,操作简便易行,能满足数据分类的要求。     

基于Direct LDA的相关向量机遥感图像分类

相关向量机是一种新型的基于贝叶斯统计学习框架的有监督机器学习算法,但是存在对高光谱数据分类精度不高的问题。针对此问题,文中提出了一种改进的算法,该算法将直接线性判别分析法与相关向量机相结合,对高光谱数据进行特征提取,然后采用相关向量机进行遥感图像分类。文中实验数据采用1992年Indian Pines高光谱数据。实验结果显示,与采用相关向量机直接分类,线性判别分析法(LDA)与相关向量机结合的两种方法的分类结果相比,文中算法能够明显降低数据维度,总体分类精度也提升了约1%。     

LIBSVM,LIBLINEAR,SVMmuticlass比较研究

SVM是Vapnik等人在统计学习理论基础上针对线性分类器提出的一种最佳分类准则,被广泛应用于文本、图像、语音等多个领域的分类问题.LIBSVM、LIBLINEAR、SVMmulticlass是基于支持向量机(SVM)原理集成的两类或多类分类器工具包,这三种工具均实现了对数据的最优化分类,但彼此之间也有各自的特点.对于不同规模的数据集,即样本数与特征数比例不同的数据集的分类结果会存在差异.因此,本文从训练时间(Training Time),分类准确率(Precision)和采用的线性核函数(Kernel Function)这三个方面对各个工具包的分类性能进行详细分析,从而给出三种工具的各自的优缺点,以便为使用这三种工具的研究者们提供一些经验支持.实验结果表明,针对线性可分的数据,LIBLINEAR工具包具有训练时间短,分类准确率高的特点,非常适用于大规模数据的分类.     

样本线性化与数据去重的极限学习机

对于多标签分类中存在非线性的数据样本和重复的样本数据问题,本文提出了一种基于在线顺序极限学习机(On?line Sequential Extreme Learning Machine,OS-ELM)的改进算法—样本线性化和数据预处理极限学习机(PDC-ELM).PDC-ELM算法对线性不可分的数据样本先利用核函数进行处理,使数据样本具有线性可分的特征,对于处理后的数据样本,利用在线顺序极限学习机(OS-ELM)在计算之前对分类数据进行预处理,即从训练和测试数据集中查找不一样的特征标签并保存类标签中,实验中新生成的标签组将不具有重复的特征标签,大大减少了训练的对比次数.实验表明,相比于其他没有样本线性化和数据预处理的极限学习机模型,计算的准确度得到很大的提升,计算时间也有所降低.     

非线性正则子空间法雷达目标一维距离像识别

雷达目标识别中,目标一维距离像的分布常表现出明显的非线性和复杂性时,经典的线性子空间方法的识别性能会有所下降.为此,本文提出非线性正则子空间法,通过对一维距离像进行非线性变换,使在原有空间线性不可分的一维距离像模式在高维空间有望具有线性可分性,从而提高目标的识别性能.对实测飞机数据的实验结果表明了该方法的有效性.     

Thresholding implemented in the frequency domain

Image processing procedures are usually carried out in the spatial domain where the images are acquired and presented/utilized. The linear nature of the Fourier transform allows only those operations that are linear to be mapped into the frequency domain. In contrast, nonlinear operations and manipulations cannot be realized directly in the frequency domain. One of these nonlinear operations is thresholding. When operating in the spatial domain to segment image contents into object and background, thresholding is simple and efficient. However, it has no obvious representation in the frequency domain and cannot be carried out there in a straightforward fashion. In this paper, a means to relax the rigid linear limitation of the Fourier transform was investigated. A novel approach was established to achieve spatial thresholding using only frequency domain operations. The spatial grayscale or scalar data set (two-dimensional (2-D) image or three-dimensional (3-D) volume) was expanded into a binary volume in hyperspace having one more dimension than the original data set. The extended dimension is the gray level of the original data. Manipulating only on that dimension produces the effect of thresholding.     

广东省主要人工林树种光谱分类

为了探索不同树种叶片光谱区分的最佳特征波段以及不同树种光谱分类的 性能,利用地物光谱仪对广东省10个主要人工林树种的叶片光谱数进行了采集。采用遗 传算法(Genetic Algorithm, GA)和连续投影变换算法(Successive Projections Algorithm, SPA) 进行了高光谱数据降维处理,然后结合支持向量机(Support Vector Machine, SVM)和随机森林(Random Forest, RF) 两种方法进行了树种分类。研究发现,通过两种变量选择方式筛选的用于树种分类的光谱范围 主要位于近红外波段。其中,经GA算法筛选的变量建模和预测精度与基于全波段光谱数据的分类精 度较为接近,且比经SPA算法变量筛选的分类结果好。通过比较可知,RF算法所建模型的性能比SVM算 法更稳定,且GA-RF算法在几种分类处理中的性能最好。结果表明,GA-RF算法 可用于基于光谱数据的树种分类研究。     

Parametric classification of multichannel averaged event-related potentials

This paper focuses on the systematic development of a parametric approach for classifying averaged event-related potentials (ERPs) recorded from multiple channels. It is shown that the parameters of the averaged ERP ensemble can be estimated directly from the parameters of the single-trial ensemble, thus, making it possible to design a class of parametric classifiers without having to collect a prohibitively large number of single-trial ERPs. An approach based on random sampling without replacement is developed to generate a large number of averaged ERP ensembles in order to evaluate the performance of a classifier. A two-class ERP classification problem is considered and the parameter estimation methods are applied to independently design a Gaussian likelihood ratio classifier for each channel. A fusion rule is formulated to classify an ERP using the classification results from all the channels. Experiments using real and simulated ERPs are designed to show that, through the approach developed, parametric classifiers can be designed and evaluated even when the number of averaged ERPs does not exceed the dimension of the ERP vector. Additionally, it is shown that the performance of a majority rule fusion classifier is consistently superior to the rule that selects a single best channel.     

Signal classification through multifractal analysis and complex domain neural networks

This paper describes a system capable of classifying stochastic self-affine nonstationary signals produced by nonlinear systems. The classification and the analysis of these signals are important because these are generated by many real-world processes. The first stage of the signal classification process entails the transformation of the signal into the multifractal dimension domain, through the computation of the variance fractal dimension trajectory (VFDT). Features can then be extracted from the VFDT using a Kohonen self-organizing feature map. The second stage involves the use of a complex domain neural network and a probabilistic neural network to determine the class of a signal based on these extracted features. The results of this paper show that these techniques can be successful in creating a classification system which can obtain correct classification rates of about 87% when performing classification of such signals without knowing the number of classes.     

树状分类器法用于气体红外光谱数据的识别分类

介绍了一种新的分类方法一树状分类器法，它抛弃了传统的线性搜索，用一个超平面进行分类的局限，引入了多个超平面进行分类，从而对在特征空间分布复杂交错的、非线性可分的样本有着较好的分类效果。文中详细地介绍了其原理，并利用树状分类器进行算法训练和鉴别分类。通过实例比较说明，此方法应用于大气遥感红外光谱数据的复杂样本进行分类和识别时，相比于一个超平面是更行之有效的。     

基于光斑图像特征的飞秒激光烧蚀功率分类模型研究

针对光晕导致的光斑图像边缘模糊的特点,采用Niblack局部阈值分割得到光斑目标区域,并提取光斑的几何特征;以Niblack分割得到的图像边缘对原始光斑图像进行裁剪,得到去除光晕影响的光斑目标灰度图像,在此基础上提取该区域光斑图像亮度,结合光斑几何特征构造6维特征矩阵。分别采用BP神经网络、线性局部切空间排列LLTSA-BP网络、局部保持投影LPP-BP模型对烧蚀功率进行识别;进一步采用极限学习机(ELM-Extreme Learning Machine)、LLTSA-ELM和LPP-ELM降维模型,基于降维后的特征矩阵进行烧蚀功率分类。对比研究发现BP神经网络在对6维特征矩阵分类时收敛时间比ELM分类模型短,所需隐含层神经元个数少。而流形学习-ELM模型则在对降维之后的数据分类时表现较优,所需时间远远小于BP神经网络模型的处理时间,其中LPP-ELM模型对光斑的分类效果最优。     

Quantum classifier with parameterized quantum circuitbased on the isolated quantum system

It is a critical challenge for quantum machine learning to classify the datasets accurately. This article develops a quantum classifier based on the isolated quantum system (QC-IQS) to classify nonlinear and multidimensional datasets. First, a model of QC-IQS is presented by creating parameterized quantum circuits (PQCs) based on the decomposing of unitary operators with the Hamiltonian in the isolated quantum system. Then, a parameterized quantum classification algorithm (QCA) is designed to calculate the classification results by updating the loss function until it converges. Finally, the experiments on nonlinear random number datasets and Iris datasets are designed to demonstrate that the QC-IQS model can handle and generate accurate classification results on different kinds of datasets. The experimental results reveal that the QC-IQS is adaptive and learnable to handle different types of data. Moreover, QC-IQS compensates the issue that the accuracy of previous quantum classifiers declines when dealing with diverse datasets. It promotes the process of novel data processing with quantum machine learning and has the potential for more comprehensive applications in the future.     

基于KPCA准则的SAR目标特征提取与识别

该文给出了一种基于 KPCA(Kernel Principal Component Analysis)和 SVM(SupportVector Machine)的合成孔径雷达(Synthetic Aperture Radar,SAR)目标特征提取与识别方法。该方法在非线性空间内利用线性 PCA(Principal Component Analysis)准则提取目标特征并由 SVM分类器完成目标识别。基于美国国防高级研究计划署(Defense Advanced Research Project Agency,DARPA)和空军研究室(Air Force Research Laboratory,AFRL)提供的实测 SAR地面目标数据的实验结果表明,该文方法不但能够提高识别率,具有良好的推广能力,同时还降低了对方位估计精度的要求,是一种有效的 SAR目标特征提取与识别方法。     

基于模糊Fisher准则的自适应降维模糊聚类算法

该文指出曹苏群等人提出的基于模糊Fisher准则(FFC)的半模糊聚类算法(FFC-SFCA)中的一个推导错误,结合模糊紧性和分离性(FCS)聚类算法提出新的聚类算法:FFC-FCS。FFC-FCS充分利用FFC的特征提取和降维特性,交替运行原始数据空间中FFC和投影空间中的FCS,通过对降维数据的聚类实现对原始数据的聚类。FFC-FCS不仅对低维数据具有优异的分类性能而且对高维数据也表现出一定的分类优势。实验结果表明,FFC-FCS 的性能明显优于原有的FCS算法,FFC-SFCA算法以及经典的模糊C-均值(FCM )算法。