基于优化Adaboost迭代过程的SVM集成算法

为提高Adaboost算法迭代过程中生成基分类器的分类精度以及简化整个集成学习系统的复杂度,文章提出了一种优化Adaboost迭代过程的SVM集成算法。该算法提出了一种在其迭代过程中加入样本选择和特征选择的集成方法。通过均值近邻算法对样本进行选择,并利用相对熵法进行特征选择,最后利用优化得到的特征样本子集对基分类器SVM进行训练,并用加权投票法融合各个SVM基分类器的决策结果进行最终判决。通过对UCI数据集的仿真结果表明,本算法与支持向量机集成算法相比,能够在更少的样本以及特征的基础上,实现较高的识别正确率。     

基于SRM自组织多区域覆盖的可拒绝近邻分类算法研究

该文依据区分与划分相结合的可拒绝模式识别思路,提出了高维空间海量训练样本情况下的基于结构风险最小化决策的自组织多区域多球覆盖可拒绝近邻分类算法。该方法利用同类样本之间相互接近的特性,通过结构风险最小化紧几何覆盖策略,选择训练样本,通过自组织多区域多球覆盖模型构成同类样本的划分性描述,达到拒绝识别非训练类样本的目的,最后通过k近邻相互区分性比较确定真实类别。仿真实验结果表明该文的思路是合理可行的,在实际应用领域具有一定价值。     

基于支持向量机的模式识别方法

基于统计学习理论的支持向量机(SVM)方法是现代智能技术的一个重要分支。SVM实现了结构风险最小化(SRM),而不是经验风险最小化(ERM),在保证分类精度的前提下,提高了分类器的泛化能力。着重讨论C-SVM原理,并在此基础之上,对算法进行了测试。测试结果表明,C-SVM分类算法具有较好的推广能力。     

基于SVM的快速中文组块分析方法

基于结构风险最小化的SVM(支持向量机)统计学习理论随着样本数量的增加,不仅训练模型的时间开销会非线性地增长,而且分类的时间开销也会随着支持向量个数的增加而增大.为了使语言分析模型涵盖足够的语言现象并能快速完成模型训练和句子分析,采用了先将组块识别看成文本切分的二分类问题的办法,通过SVM对语料中不同类别词语分别建模,再从组块的构成知识进一步判定组块类型.实验结果表明,这种方法的分析速度和准确率都有一定的提高.     

基于支持向量机的发电机匝间转子绕组短路故障诊断

具有结构风险最小化原则的支持向量机(SVM)对于小样本决策具有较好的学习推广性,并且故障样本的不足在一定程度上制约了基于知识的方法在故障诊断中的运用。针对这一问题,提出了利用支持向量机的方法对匝间转子绕组短路故障诊断方法。该方法利用小波分析对探测线圈测得感应电动势进行处理构造特征向量,然后输入到支持向量机的多故障分类器中进行故障识别。实验数据表明该方法是可行、有效的,并且在小样本的情况下,较BP神经网络有更好的分类效果。     

基于全局-局部SVM的钢板表面缺陷分类

为了提高钢板表面缺陷分类识别,提出一种新的全局和局部支持向量机分类模型。首先,通过样本提取算法将整个训练样本划分为非边界样本和边界样本。非边界样本用于训练全局支持向量机,并获得两条全局决策边界。边界样本用于寻找测试样本的K-近邻样本,通过训练K-近邻样本获得相应的局部支持向量机。若测试样本位于全局决策边界线两侧,直接给出分类结果,否则,由局部支持向量机进行分类决策。最终,新的模型结合二叉树算法实现了4种钢板表面缺陷的分类问题。实验结果显示,全局和局部支持向量机模型有令人满意的综合性能。     

一种基于KKT条件和壳向量的SVM增量学习算法

针对传统支持向量机(SVM)增量算法,在学习过程中因基于局部最优解而可能舍弃含隐性信息的非支持向量样本,以及对于新增样本需全部进行训练的缺点,文中提出一种基于KKT条件和壳向量的SVM增量学习算法。该方法利用壳向量的特性保留了训练样本集中可能含隐性信息的非支持向量,并只将违反KKT条件的增量样本加入新的训练集,从而提高运算效率。通过对公共数据集Abalone和 Balance Scale的实验表明,新算法在属性列数较多的数据集上分类效果更明显。     

基于FCM隶属度的支持向量机

传统SVM在训练大规模数据集时,训练速度慢,时间消耗代价大.针对此问题,提出利用FCM算法对训练样本集进行预处理,依据样本隶属度提取出所有可能的支持向量进行SVM训练.利用原始数据集对算法进行验证,此算法在保证SVM分类精度的同时,大大提高了训练速度,算法具有可行性.     

支持向量机及其改进算法研究

支持向量机基于结构风险最小化原则，在经验风险和泛化能力之间折衷。它以其良好的性能。在分类领域得到越来越广泛的应用。探讨了SVM的基本原理，研究了在其基础上的一些改进算法，分析了它们之间的联系和区别，为在实际应用中选择最佳的模型提供参考。     

基于ERS-2SAR和Landsat TM图像融合的道路提取算法

针对雷达图像道路与水体难以区分的问题和多光谱图像易受干扰的现象,提出了一种基于图像融合的道路提取算法.在对图像进行降低噪声和几何配准等预处理后,首先从Landsat TM第1、2、3波段合成图像中选择样本作为支持向量机分类器的输入进行训练,在结构风险最小化原则下,实现Landsat TM图像的分类;然后利用SAR图像对...     

Support vector machine incremental learning triggered by wrongly predicted samples

According to the classic Karush-Kuhn-Tucker (KKT) theorem, at every step of incremental support vector machine (SVM) learning, the newly adding sample which violates the KKT conditions will be a new support vector (SV) and migrate the old samples between SV set and non-support vector (NSV) set, and at the same time the learning model should be updated based on the SVs. However, it is not exactly clear at this moment that which of the old samples would change between SVs and NSVs. Additionally, the learning model will be unnecessarily updated, which will not greatly increase its accuracy but decrease the training speed. Therefore, how to choose the new SVs from old sets during the incremental stages and when to process incremental steps will greatly influence the accuracy and efficiency of incremental SVM learning. In this work, a new algorithm is proposed to select candidate SVs and use the wrongly predicted sample to trigger the incremental processing simultaneously. Experimental results show that the proposed algorithm can achieve good performance with high efficiency, high speed and good accuracy.     

基于模糊模式与决策树融合的脚本病毒检测算法

构建决策树进行脚本病毒检测可以全面利用训练样本的信息,在样本特征较为复杂、样本数较大的情况下会产生大量节点,计算时间复杂度高,在剪枝过程中影响分类准确度。为融合模糊模式的信息以提高分类器性能,该文设计了决策树分类基础上的融合算法。该算法将关于模糊模式贴近度的3个特性作为决策树样本信息向量中的属性。使用训练样本集,根据上述属性在划分点上的分裂信息值及信息增益率选择分裂属性,逐步构建决策树。实验结果验证了算法的稳定性与准确度,表明这种融合方法可增加属性的区分度,减少决策树的分支数。     

一种基于支持向量机的角点检测算法

支持向量机应用于文本分类、手写数字识别、基因表达等许多领域,由于Harris角点检测算子对噪声点非常敏感,本文在文献[3]的基础上提出Harris算子和支持向量机相结合的方法来进行角点检测.首先利用Harris角点检测算法对两幅以上的无噪声图像提取角点,然后将提取的角点作为支持向量机的训练样本.构造支持向最机,最后利用...     

基于K最近邻的支持向量机快速训练算法

传统支持向量机训练大规模样本时间和空间开销大,使其应用受到了很大限制。为了提高支持向量机的训练速度,根据支持向量机的基本原理,应用K最近邻思想来筛选训练样本集,提出了基于K最近邻的支持向量机快速训练算法(KNN-SVM)。算法首先选取一部分最有可能成为支持向量的样本——边界向量,然后用边界向量集代替训练样本集进行支持向量机训练,大幅度减少了训练样本的数量,使支持向量机的训练速度显著提高。同时,由于边界向量包含了支持向量,因此,支持向量机的分类能力没有受到影响。仿真实验结果表明,与传统支持向量机相比,在分类精度相同的情况下,算法能够有效地提高支持向量机的训练速度,而且还可以提高支持向量机的分类速度和推广能力。     

用于SVM的RCS统计特征集约减方法

传统的支持向量机分类算法对训练样本数目敏感且不具备增量学习的能力,而空间目标识别的工程应用需要积累样本进行大样本的增量学习。根据样本在特征空间分布,提取几何意义上边缘的样本点,成功约减了应用于支持向量机学习的基于雷达散射截面统计特征的训练样本集。利用中心距离比和特征空间多维高斯分布特性,分别提取两类边界样本集和单类边缘样本集;再采用直推式实验设计方法再采样,根据样本潜在结构分布信息选择最能代表样本集结构分布的高价值样本。实验结果表明：样本初选算法能够在有效约减样本集规模的同时保持支持向量机训练分类的精度。     

基于密度敏感最大软间隔SVDD不均衡数据分类算法

为了提高传统支持向量域描述（C-SVDD）算法处理不均衡数据集的分类能力,提出一种基于密度敏感最大软间隔支持向量域描述（DSMSM-SVDD）算法.该算法通过对多数类样本引入相对密度来体现训练样本原始空间分布对求解最优分类界面的影响,通过在目标函数中增加最大软间隔正则项,使C-SVDD的分类边界向少数类偏移,进而提高算法分类性能.算法首先对每个多数类样本计算相对密度来反映样本的重要性,然后将训练样本输入到DSMSM-SVDD中实现数据分类.实验部分,讨论了算法参数间的关系及其对算法分类性能的影响,给出算法参数取值建议.最后通过与C-SVDD的对比实验,表明本文建议的算法在不均衡数据情况下的分类性能优于C-SVDD算法.     

带拒识能力的双层支持向量模型分类器

本文构造了一种带拒识能力的双层支持向量模型分类器.在训练学习过程中,首先对各类样本特征空间求取最小的包含球形边界,得到各类样本的球形支持向量域表示.这样对于输入的非目标样本即可利用各类的支持向量域进行拒识或接受处理;然后针对接受的样本再利用基于超平面分割的SVM训练器进行分类判决.无论是在第一层求取边界的优化问题中,还是在第二层的分类超平面优化过程中,都采用相乘性更新迭代规则直接求解,优化速度与最小二乘支持向量机(LS-SVM)相当.仿真实验表明本文提出的通过引入拒绝层和判决层的新支持向量模型策略是合理可行的,在实际模式识别领域具有广阔的应用前景.     

支撑矢量预选取的中心距离比值法

支撑矢量机为小样本模式识别提供了一新的途径,但其支撑矢量的选择相当困难,也成为其应用的瓶颈问题.对此,本文提出了一种能够预先选取支撑矢量的方法——中心距离比值法.该方法在不影响支撑矢量机的分类能力情况下,大大地减少了训练样本,提高了支撑矢量机的训练速度.文中给出的仿真实验结果也验证了该方法的有效性和可行性.类似的结果在国内外还未见报导.     

一种改进的Laplacian SVM的SAR图像分割算法

当有标识的样本数量有限时,Laplacian SVM算法需要加入尽量多的无标识样本,以提高分类精度.但同时当无标识样本数很大时,算法的时间和空间复杂度将难以接受.为了将Laplacian SVM应用于SAR图像分割这样的大规模分类问题中,提出了一种改进的Laplacian支持向量机算法(Improved Laplaci...     

快变信道环境下基于支持向量回归的频谱预测

频谱预测是一种通过分析历史频谱数据获得频谱使用规律,从而预测未来频谱使用状态的技术。为了实现快变信道（本文指信道占用状态快速变化）环境下频谱状态的可靠预测,提出了一种基于支持向量回归的频谱预测算法。比较了在不同训练样本数时,该算法与一个典型的BP神经网络频谱预测算法的性能差异,结果表明所提算法在小样本学习时,预测效果更为理想。并在此基础上,加入正确检测概率和虚警概率,验证了当频谱检测不理想条件下,支持向量回归算法预测的可行性。