水下目标识别中样本选择与SVME融合算法

水下目标识别中训练样本集含有冗余样本、噪声样本及无关样本,且特征提取、特征选择和决策系统设计过程分离而导致系统识别性能的下降,为此提出了基于加权最近邻收缩样本选择的SVM集成算法(SVME-WRNN)和基于加权免疫克隆样本选择的SVM集成算法(SVME-WICISA)。这2种集成方法通过样本选择来构建精度高、差异大的子分类器,并将其集成。利用4类水下目标实测数据进行了分类仿真实验。实验结果表明:SVME-WRNN算法和SVME-WICISA算法与SVME算法(无样本选择)相比较,在识别率相当的情况下,大幅度地降低了训练样本数目,得到的综合分类器具有良好的分类精度。     

基于模糊k近邻的样本预选取的支持向量机分类算法

在支持向量机（SVM）方法中采用模糊☆近邻方法进行样本预选取,旨在保留最优分类超平面附近的样本点,去除远处样本点,使训练样本集减小,消除冗余,从而减小所需内存．实验结果表明,该方法无论是训练速度还是分类精度都远远好于单独的SVM分类器．     

计算机辅助乳腺癌诊断中的非平衡学习技术

针对计算机辅助诊断(CAD)中学习算法处理非平衡数据时,分类器预测具有大类样本的分类误差小,而稀有类样本的分类误差大的倾向性分类问题,提出基于反向k近邻的欠采样新方法.通过去除大类样本集中的噪声及冗余样本、保留具有类别代表性且可靠的样本作为有效样本以此平衡训练样本集,解决了欠采样引起的类别信息的丢失问题.基于UCI Breast-cancer数据集的仿真实验结果表明,该方法解决了非平衡学习问题的有效性,进一步的横向评测对比显示该算法性能显著优于其他同类算法.     

基于支持向量机和多球体的一对多分类器

为了提高支持向量机（SVM）多分类器的训练效率,将多球体思想引入有指导学习,对训练样本按类别分别进行一类支持向量机（1-SVM）训练得到多球体分类器.针对多球体的冗余区域,构造简化一对多分类器将各球内混叠样本与正常样本分离.以上两个分类器性能互补,可以加权组合为多球体一对多分类器.同时给出了组合分类器基于交叉验证的权重估计和参数调整.仿真实验表明,相对于一对多算法,该分类器训练时间较短且分类正确率较高;相对于一对一算法,该分类器决策速度较快,有助于解决大样本的多分类问题.     

基于近邻密度改进的SVM不平衡数据集分类算法

针对不平衡数据集数据分布不均匀及边界模糊的特点,提出基于近邻密度改进的SVM(NDSVM)不平衡数据集分类算法.该算法先计算多数类内每个样本的近邻密度值,然后依据该密度值选出多数类中位于边界区域、靠近边界区域的与少数类数目相等的样本分别与少数类完成SVM初始分类,最后用所得的支持向量机和剩余的多数类样本完成初始分类器迭代优化.人工数据集和UCI数据集的实验结果表明,与WSVM、ALSMOTE -SVM和基本SVM算法相比,本文算法分类效果良好,能有效改进SVM算法在分布不均匀及边界模糊数据集上的分类性能.     

基于边界样本的训练样本选择方法

以入侵检测系统中的分类器设计为例，研究分类器训练样本选择问题。提出了一种大规模数据集的训练样本选择方法，首先通过聚类将训练数据划分成不同的子集缩小搜索范围；然后根据聚类内离散度和样本的覆盖区域选择样本，保留每个聚类的边界样本，删除内部样本。 即保留了典型样本，减少了训练样本数量，从而保证分类器的性能并且训练效率较高。     

改进的球结构SVM多分类增量学习算法

针对球结构支持向量机(support vector machine,SVM)增量学习算法在训练时间和分类精度上的不足,提出了一种改进的球结构SVM多分类增量学习算法.该算法首先构造一个完全二叉树用于多类分类;分析新增样本的加入对原支持向量集的影响,将新增样本集中部分样本和原始训练集中的支持向量以及分布在球体一定范围内的样本合并做为新的训练集,完成分类器的重构.实现通过减少训练样本缩短训练时间和完善分类器提高分类精度的目的.通过UCI标准数据集实验,结果表明,该算法在所需训练的样本数、训练时间以及准确率3方面都优于球结构SVM增量学习算法,尤其当样本分布不平衡时,该算法有更高的分类准确率.     

基于支持向量AAM迭代学习的性别分类算法

为了提高性别检测的精度，提出了一种支持向量机（SVM）与主动外观模型（AAM）相结合的迭代学习算法.采用AAM对初始训练样本建模，在此基础上构造SVM分类器.在当前迭代过程所产生的支持向量中随机选择不同性别的样本，对其AAM参数线性插值而生成一系列伪样本，并从中选取被当前分类器误分类或正确分类但分类可信度低的样本参与下次迭代学习.实验结果表明，采用该算法所构造的伪样本是初始训练样本的有效补充，提出的伪样本选择方案优于传统的Bootstrap方法，迭代学习方法逐步提高了性别分类器的检测精度.     

一种改进的加权边界调节支持向量机算法

为了改进现有支持向量机所确定的边界抗干扰能力差、对噪声数据敏感等问题,减少野点数据对形成支持向量机边界存在的影响,根据各个样本在整个训练样本集中的重要性不同,将各个训练样本的重要性程度值作为权值赋予边界值上,提出了一种基于加权边界调节的支持向量机算法.通过对标准UCI数据集和人工数据集上的仿真实验表明,基于加权边界调节的支持向量机具有较好的野点免疫能力,具有更高的分类精度、更少的支持向量和更好的推广能力.     

阴影集的模糊支持向量机样本选择方法

样本选择可以提高模糊支持向量机训练速度并在一定程度上提高其抗噪能力,但存在有效样本选择困难和选样率高的问题,利用阴影集对模糊集的分析能力,提出一种新的基于阴影集的模糊支持向量机样本选择方法,将模糊集合划分为可信任、不可信任及不确定3个子集,仅在可信任和不确定子集中选样,并分别采用子空间样本选择和边界向量提取的方法选样．实验结果表明,该方法在保持分类器泛化能力的前提下可以有效降低选样率和训练时间．因该方法去除了样本中的不可信任数据,所以当训练样本中含有噪声时,还可以有效提高分类器的分类性能．     

一种改进的双支持向量机

双支持向量机是近年提出的一种新的支持向量机。在处理模式分类问题时,双支持向量机速度远远超过传统支持向量机,而且显示出较好的推广能力。但双支持向量机没有考虑不同输入样本点可能会对分类超平面的形成产生不同影响,在某些实际问题中具有局限性。为了克服这个缺点,提出了一种基于模糊隶属度的双支持向量机。该算法设计了一种基于距离的模糊隶属度函数,给不同的训练样本赋予不同的模糊隶属度,构建两个最优非平行超平面,最终实现二值分类。实验结果表明,这种改进双支持向量机的分类性能优于传统的双支持向量机。     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.     

一种安全的基于分歧的半监督分类算法

为提高半监督分类的性能,提出一种安全的基于分歧的半监督分类算法Safe Co-SSC。通过有标记样本训练3个有监督分类器,利用无标记样本的信息增加分类器的差异性,采取3个分类器加权投票的策略实现对无标记样本的伪标记;对伪标记样本进行二次验证,选用能使分类器误差减小的新增标记样本扩充标记样本集。保证新样本的添加既减小了分类器的分类误差,又提高了分类器的分歧性。对UCI数据集进行分类实验的结果表明,该算法具有较高的分类率和样本标记率。       

SVM with discriminative dynamic time alignment

In the past several years, support vector machines (SVM) have achieved a huge success in many fields, especially in pattern recognition. But the standard SVM cannot deal with length-variable vectors, which is one severe obstacle for its applications to some important areas, such as speech recognition and part-of-speech tagging. The paper proposed a novel SVM with discriminative dynamic time alignment (DDTA-SVM) to solve this problem. When training DDTA-SVM classifier, according to the category information of the training samples, different time alignment strategies were adopted to manipulate them in the kernel functions, which contributed to great improvement for training speed and generalization capability of the classifier. Since the alignment operator was embedded in kernel functions, the training algorithms of standard SVM were still compatible in DDTA-SVM. In order to increase the reliability of the classification, a new classification algorithm was suggested. The preliminary experimental results on Chinese confusable syllables speech classification task show that DDTA-SVM obtains faster convergence speed and better classification performance than dynamic time alignment kernel SVM (DTAK-SVM). Moreover, DDTA-SVM also gives higher classification precision compared to the conventional HMM. This proves that the proposed method is effective, especially for confusable length-variable pattern classification tasks.     

一种基于支持向量机的目标定位方法

为了提高声纳在浅水域的性能，提出了一种基于统计学习理论的目标识别器的目标定位方法.该方法选择支持向量机（SVM）作为学习算法的核心.从已知训练样本得到多通道数据的协方差矩阵，将得到的矩阵转化为SVM的输入多维特征向量，并训练SVM而获得权向量.利用此权向量和SVM输出估计，可以得到目标位置信息.理论推导和仿真结果表明，与多重信号分类（MUSIC）算法相比较，该方法具有高的定位精度和快的收敛速度.该方法能有效地对在平面波模型下的目标进行测向，并具有鲁棒性.     

密度不均衡数据分类算法

针对不均衡数据下分类超平面偏移、少数类识别率较低的问题,提出一种基于样本密度的不均衡数据分类算法。该算法首先计算样本密度和类样本密度,依据类样本密度之间的关系确定聚类类数, 然后利用K-means聚类算法对多数类样本进行聚类,用聚类所得类中心作为样本集取代原多数类样本集, 最后对新构造的训练集进行训练得到最终决策函数。其实验结果表明,该算法能够提高SVM在不均衡数据下的分类性能,尤其是少数类的分类性能。       

一种新型的增式SVM训练算法

针对传统的增式支持向量机算法在计算时间和分类效率上的不足,提出了一种新型的增式SVM训练算法。该算法不是简单地保留上一步训练的支持向量,而是通过增加KKT(Karush-Kuhn-Tucke)限制条件并对决策函数的输出设定一个阈值,使得保留下来的样本都是最有效的样本,从而可减少训练样本的数目。在仿真实验中,选择了一组UCI数据,并选用RBF核函数作为核函数。实验结果表明:与传统增式算法相比,新算法在保证传统SVM性能的同时,在迭代速度和分类放率上分别提高了14%和4.39%。     

用于文本情感极性分析的动态卷积神经网络超限学习算法

为改善动态卷积神经网络在文本情感分类方法中的泛化能力,提出了一种动态卷积超限学习算法.对动态卷积神经网络的输出层加以改进,使用浅层随机神经网络替代全连接层,利用参数随机生成的扰动性能,降低分类端对训练样本的依赖,避免过拟合,提升分类性能.在公共数据集上的实验证明:相对改进前的动态卷积学习算法以及超限学习机,所提出的方法在准确率、F1测度等多个标准指标上均体现了更优的分类性能.