基于二叉树和SVM的指纹分类

为解决支持向量机（Support Vector Machine，SVM）进行指纹多类分类存在困难的问题，在应用二叉树理论的基础上，提出了一种新型的指纹分类方法．该算法首先使用二叉树进行多类决策，将原始分类数据分解成3个二类分类问题，然后利用SVM进行二类分类，使3个分类超平面得到优化．两者的有机结合，充分发挥了SVM在二类分类问题方面相对于其它方法的优势，从而使算法的推广能力有较大提高，总的分类正确率可达97．9％．实验结果证明，二叉树构造多类框架将指纹多类分类问题分解成3个二类分类器系统，不仅可以有效的提高指纹分类的效率，还充分发挥了SVM分类器解决二类分类问题的优势．     

改进的球结构SVM多分类增量学习算法

针对球结构支持向量机(support vector machine,SVM)增量学习算法在训练时间和分类精度上的不足,提出了一种改进的球结构SVM多分类增量学习算法.该算法首先构造一个完全二叉树用于多类分类;分析新增样本的加入对原支持向量集的影响,将新增样本集中部分样本和原始训练集中的支持向量以及分布在球体一定范围内的样本合并做为新的训练集,完成分类器的重构.实现通过减少训练样本缩短训练时间和完善分类器提高分类精度的目的.通过UCI标准数据集实验,结果表明,该算法在所需训练的样本数、训练时间以及准确率3方面都优于球结构SVM增量学习算法,尤其当样本分布不平衡时,该算法有更高的分类准确率.     

基于遗传算法的二叉树支持向量机分类方法

针对传统的基于支持向量机的文本分类存在的问题进行了研究,采用二叉树结构与多个支持向量机子分类器组合进行Web文本信息分类,在二叉树支持向量机多类方法的基础上,进一步结合遗传算法,提出了一种新的支持向量机的多类分类方法,实验结果表明,采用该方法进行多类分类,分类精度明显提高,体现了将遗传算法与二叉树支持向量机结合的优越性。     

支持向量机多类分类方法的精度分析

为了更好的选择合适的支持向量机多类分类器,对多类分类器one—against—the—rest及二叉树多类分类器的分类精度进行了理论分析,给出了定量的分类精度公式。公式表明,二叉树多类分类器的分类精度通常大于one—against—the—rest多类分类器的分类精度。在所有的二叉树多类分类器中,均衡二叉树多类分类器的分类精度最高,最不均衡二叉树多类分类器的分类精度最低。最后通过实验验证了理论分析的正确性。     

基于领域特征词的突发事件层次分类方法

突发事件类别众多,若采用传统的平面文本分类方法对突发事件分类,模型训练所需计算量剧增,并且对测试文本分类时要和全部分类器进行比较,导致极大的时间开销。根据突发事件类别体系结构层次性特点,提出了一种基于领域特征词的突发事件层次分类方法,将领域特征词自动提取算法用于特征选择,并在每个分类平面上采用改进的基于二叉树的SVM多类分类算法构建分类器。实验证明,基于领域特征词提取算法的特征选择方法优于传统方法,采用层次分类方法对突发事件分类,降低了时间复杂度,同时改善了分类效果,有效降低了错误分类的风险。     

一种用于不平衡数据的分类算法

为提高不平衡数据集中少数类的分类性能,本研究提出一种改进的AdaBoost算法(UnAdaBoost算法)来解决数据不平衡问题。该方法首先改进基分类器,使其在损失一定程度的多数类分类性能的情况下提高少数类的分类性能,而多数类分类性能的损失可通过后面的多个分类器集成弥补回来,这样既提高了少数类的分类性能又不会损失多数类的分类精度。本研究把改进的朴素贝叶斯方法作为基分类器,用改进投票权值的AdaBoost算法对基分类器进行融合。实验结果表明,与传统的Adaboost算法相比,该方法可以有效地提高不平衡数据的分类性能。     

一种红细胞特征提取与分类识别的研究

为解决血涂片细胞形态学检查中存在的一些问题,提高贫血检验的效率和准确率,运用图像特征提取与分类识别技术,对12类形态产生变异的红细胞进行图像特征提取研究,选择了5类几何特征和2类纹理特征,同时改进了圆形度的表达公式,并将多级SVM分类器结构应用到分类识别中.实验证明,改进的圆形度表达式能提高分类的准确率,树形结构的分类器预测分类效果理想,为计算机自动分析血细胞提供了理论和方法,对于贫血的诊断有着重要的意义.     

基于SVM的多类分类算法改进

在各种基于支持向量机的多类分类算法中,基于二叉树的多类支持向量机分类算法训练和分类速度相对较快,且解决了不可分问题,是一种很好的方法.本文系统研究和分析了基于二叉树的多类支持向量机分类算法,并在此基础上对其作出了改进,即当测试文本集规模较大时,对其先聚类再分类.改进的目的是,使测试文本不必总是从二叉树的根结点开始进行判断,而是有指导的代入分类函数中计算.在测试文本集规模较大,分类函数个数较多时,可以很大程度上增加分类效率,并加大了文本正确分类的概率.     

基于SVM的车牌字符识别算法研究

SVM可在训练样本很少的情况下获得很好的分类推广能力。首先分析了用多类SVM算法对车牌中的字符进行识别时存在不可区分的区域问题和采用模糊SVM算法解决该问题的办法,然后讨论了字符特征的提取方法,并根据我国车牌字符的特点分别设计了汉字、字母、数字、字母／数字4个基于模糊多类SVM的字符分类器。最后在MATLAB环境下,采用径向基核函数对算法进行学习训练。实验测试结果表明,该方法可以很好的提高字符识别的速率和效率。     

核Fisher判别分析在数字信号分类中的应用

为了提高通信信号的识别精度,提出了一种基于核Fisher判别分析(KFDA)的数字调制信号分类器设计方法.将接收信号的高阶累积量作为分类特征向量,利用核函数的思想把非线性向量映射到一个高维空间,并在高维空间中利用线性Fisher判别分析实现数字信号的分类.将多类分类器分解成一系列二类问题,并给出了KFDA用于信号分类的详细流程.仿真实验结果表明,当选择合适的核参数时,基于KFDA的分类精度与支持向量机相当,但由于避免了求解非线性优化问题,故计算复杂度低,训练时间短.     

基于先验知识的多类CVM航班延误预警模型

基于使用现有的支持向量机解决机场航班延误预警问题存在未充分利用先验知识和训练需花费大量时间和空间的问题,提出了基于中心约束最小闭包球的加权多类算法。该算法首先利用先验知识确定一种新的基于相对紧密度的方法计算样本权值并将其融合到支持向量机中,然后转化为中心约束的最小闭包球进行训练。实验结果表明,该方法比现有的支持向量机具有更合理的分类面并且训练速度得到大大提高。     

基于高阶累积量和支持向量机的信号调制分类

给出了一种基于支持向量机的数字调制信号分类器设计方法。将接收信号的二阶、四阶、六阶累积量作为分类特征向量,利用支持向量机把分类特征向量映射到一个高维空间,并在高维空间中构造最优分类超平面以实现信号分类。文中选用了径向基核函数,使用一对一或一对余多类构造法,并利用交叉验证网格搜索法优化核函数参数,构建了快速稳定的多类支持向量机分类器。仿真实验表明：基于支持向量机的分类器具有很高的分类性能和良好的稳健性。     

在雷达HRRP识别中多特征融合多类分类器设计

在传统线性关联向量机的基础上,设计了一种多特征融合的多类分类器.该分类器基于多类Probit回归模型将传统的两类线性关联向量机推广为多类关联向量机,利用线性关联向量机的特征选择功能,对融合的高维特征向量进行降维和合理的幂次扩展,使线性关联向量机具有构造非线性分类界面的能力,以保证对非线性多类分类问题稳健的融合识别性能.针对雷达高分辨距离像目标识别问题,提取3种平移不变特征,使用提出的多特征融合的多类分类器在基于实测数据的识别实验中得到了稳健的融合识别结果.     

基于SVM-OVA方法的多类别基因表达数据分类

本研究针对多类别的癌症分类问题,首先运用似然比检验筛选出表达水平发生显著性变化的特征基因,然后把支持向量机(SVM)和One-Versus-All(OVA)方法结合,提出了SVM-OVA多类别分类判别模型,通过对多类别的乳腺癌DNA微阵列数据进行计算,达到了77.3%的分类准确度。     

改进粒子群与支持向量机混合的特征变换

研究了数据挖掘中通过特征变换的数据预处理来提高支持向量机(SVM)分类精度的方法,提出了改进粒子群优化(PSO)和SVM混合的方法. 用推广t统计、Fisher判别式和随机森林的线性加权度量来排序特征,得到预选特征子集,再用启发式信息加速改进PSO搜索特征的线性变换因子,并用二进制PSO对特征变换子集进行特征选择,在后处理中通过格子搜索获取了高精度SVM分类器. 在NIPS 2003的madelon及10个UCI数据集上的实验表明,与有C-SVM分类精度相比,新方法在4个数据集上的精度更高.     

基于双重正则化支持向量机的肿瘤基因选择

针对标准L2范数支持向量机和L1范数支持向量机在肿瘤基因分类分析中表现出的优缺点,在利用Bhattacharyya距离剔除部分对分类无关紧要特征基因,从而得到少数高相关至关重要特征基因的基础上,将一种双重正则化支持向量机应用到DNA微阵列分类中。用一种二次多项式损失函数把这种有约束的优化问题改变为无约束且可微的优化问题,这可以用BFGS算法来求解,通过对两种肿瘤特征基因数据集实验分析知,该算法对肿瘤特征基因分类具有较强的可行性和有效性。     

基于人工免疫核聚类的支持向量数据描述方法

为使支持向量数据描述(SVDD)能应用于无监督多分类情况,提出了一种基于人工免疫核聚类的支持向量数据描述(AIKCSVDD)方法。AIKCSVDD将人工免疫核聚类产生的记忆抗体作为目标数据点,使用SVDD方法进行多类学习。在AIKCSVDD中,一方面实现了用核聚类方法解决各类数据边界不清晰的长处与免疫网络聚类方法全局收敛、不需要先验知识的优点的有机结合;另一方面,由于用记忆抗体代替原始数据进行学习,从而更好展现了原始数据的全局分布特征。与基于K-means聚类multi-SVDD方法相比,AIKCSVDD不需要事先指定分类数;在人工数据集和UCI数据集上的实验表明,在为multi-SVDD指定分类数的情况下,AIKCSVDD仍比multi-SVDD具有更好的分类性能。     

基于Scikit Learn的SVM分类器算法优化

支持向量机(SVM)在高维度数据分类中表现出优异性能,可通过核函数对原始特征进行映射,解决原始空间线性不可分问题。但由于数据特征、维度不同,所以SVM在参数调整时,一般需要手动调整,效率较低且增加工作量。针对该问题,提出了一种基于Scikit Learn的SVM分类器参数调整优化方法。使用网格搜索对最优参数范围进行搜索,利用高斯径向基核函数进行参数调整,基于Python机器学习库Scikit Learn对不同参数、不同核函数的分类结果进行可视化观察,并在网格上显示其最优参数范围,寻找准确率高的参数分布。通过自动迭代的方式对参数进行更精确求解,设定相应值代入迭代计算。同时为防止陷入过拟合,设定最优参数邻域范围直接读取最优参数值。实验结果表明,所提出的方法可大量减少人工调参时间,且可以更精确地获得SVM的最优参数。