基于核鲁棒k-均值的模糊支持向量机算法

支持向量机对训练数据中的噪声敏感,为了解决这一问题,本文提出基于核鲁棒k-均值算法的模糊支持向量机算法。算法首先在每类训练样本上应用核鲁棒k-均值算法,得到每个样本的模糊隶属度,将该隶属度赋予训练样本,得到模糊训练集,然后在模糊训练集上训练模糊支持向量机,得到分类决策函数。实验表明,对于带噪声的训练样本,本文的算法能够为噪声样本赋予小的隶属度,提高分类准确率。     

结合新型模糊支持向量机和证据理论的多传感器水质数据融合

在多传感器水质数据融合领域,证据理论是有效的数据融合方法之一,但基本概率分配一般不易确定,从而使数据融合能力难以有效发挥。支持向量机是统计学习理论之上的高级分类算法,具有普适性和全局优化等特点,但输出的基本概率分配有待进一步提高。提出了一种基于证据理论和新型模糊支持向量机相结合的数据融合方法,通过建立基于分类超平面距离的模糊隶属度,训练模糊支持向量机提高传统支持向量机的基本概率分配,并结合证据理论进行海河水质数据融合。通过证据理论分别结合支持向量机和模糊综合评价法与上述方法进行对比实验,经精度、平均绝对百分误差、均方根误差等指标验证,精度提高10. 5%,表明所提方法是一种可靠的多传感器的水质融合方法,较其他方法具有更高的融合精度。     

基于FSVM分类算法的动脉硬化病分类

本文主要对模糊支持向量机的模式分类算法进行研究,对模糊隶属度函数进行选择并计算隶属度值,并对是否患动脉硬化进行分类,实验表明基于模糊训练样本的支持向量机具有高的分类精度。     

孤立点一类支持向量机算法研究

一类支持向量机将数据样本映射到高维空间,通过与坐标原点保持最大间隔的特征超平面检测孤立点。实际应用中算法对坐标原点的选择依赖性较强,检测性能受数据样本的分布影响较大;将算法转化为求解二类问题在一定程度上克服了这些不足,但其带来的数据不平衡问题受到现实中孤立点样本稀少或者不存在的影响。该文提出了孤立点一类支持向量机算法,并在此基础上设计了一种无监督的孤立点检测方法。分别基于超平面距离和概率输出大小定义两种孤立点异常程度,设定不同权值合并两种异常程度输出,将获得的可疑孤立点特征信息引入算法;在特征空间划分距离可疑孤立点最大间隔的超平面,分析在全部样本上的预测输出大小进而交互更新两部分的数据样本。在UCI数据集上进行了仿真实验,数据结果表明了该文方法能有效的提高检测率,降低误报率;同时样本交叉更新提高了检测的稳定性。     

基于总间隔的模糊v-相对间隔机的研究

类间间隔和类内聚类性是影响分类器分类性能的两种重要因素.基于模糊支持向量机和总间隔思想,提出一种基于总间隔的模糊v-相对间隔机(TMF-vRMM),本方法本质上是传统相对间隔机(RMM)的扩展,但可取得比RMM更好的分类性能.TMF-vRMM通过使用差异成本和引入总间隔和模糊隶属度,同时解决了不平衡训练样本问题和传统软间隔分类机RMM的过拟合问题,显著提升学习机的泛化能力.分别采用人造和实际数据集进行分类实验,结果显示TMF-vRMM具有优于相关方法的稳定分类性能.     

基于迭代顺序滤波子空间约束的可拒识-支持 向量机微钙化点检测

为提高钙化点检测速度,克服微钙化点检测中假阳性高的缺点,本文构造了一种迭代顺序滤波子空间约束的可拒识-支持向量机分类器用于钙化点检测.训练时利用迭代顺序滤波检测作为钙化点的粗检测算子,然后在其约束的子空间内收集非钙化点训练样本.对于输入模式,首先利用基于最大软间隔超平面的支持向量分类器(SVC)进行分类判决;然后对真实的钙化点样本特征空间求取最小的包含球形边界,得到钙化点样本的球形支持向量域表示(SVDD).对于输入模式即可利用钙化点的支持向量域表示进行拒识或接受处理.仿真实验结果表明,本文提出的算法在不影响微钙化点的检出率的情况下,大大提高了检测速度,部分解决了假阳性高的问题.     

一种提高支持向量机针对低维向量分类精度的新方法

本文提出一种支持向量机的全局优化训练算法,形成一种新的分类器,以解决传统的支持向量机在对低维样本点分类时产生的精度下降问题。首先对支持向量机原理,以及以SVM—light为代表的经黄SVM训练算法进行分析,发现支持向量机的训练在本质上都归结为具有不等式约束条件的二次规划问题。本文直接根据支持向量机的最优分类超平面,将其化为无约束条件的求解函数极值问题。然后采用全局优化算法-禁忌搜索算法得到函数的极值点。通过两类高斯样本点分类实验和人脸图像识别的多类分类试验,证明使用支持向量机的全局优化训练算法,在样本点特征向量维数较低的情况下,比使用传统的支持向量机训练算法分类具有更高的分类准确率。     

模糊格构造型形态神经网络

针对构造型形态神经网络(CMNN)决策函数的局限性,提出了一种模糊格构造型形态神经网络(FLCMNN);该模型在利用训练好的CMNN进行分类时,引入模糊格包容性测度计算测试样本属于各超盒的隶属度值.采用仿真数据集对提出的FL-CMNN模型进行了评价,并与原始的CMNN和传统的人工神经网络、支持向量机、最近邻分类器进行了对比;试验结果表明,FL-CMNN在测试精度上明显优于原始的CMNN,训练时间远远低于传统的神经网络和支持向量机,而分类精度丝毫不亚于传统的神经网络和支持向量机.     

基于相似度量的模糊支持向量机算法研究

基于统计学习理论,核被看做是一种相似度测量模型.核函数是支持向量机算法的核心,利用核函数可以将低维不可分数据映射到高维空间,并进行最优分类研究.但孤立点或噪声数据都会影响最优分类平面和最优分类函数,所以提出利用相似度测量构建模糊核函数.相比高斯核函数和模糊sigmoid核函数的分类支持向量模型,本文提出的模糊相似核函数在支持向量机运算中计算成本最低,可以提供更高的准确率,同时可以避免传统模糊核函数的限制.     

FCM聚类的模糊SVM法在雷达信号识别中的应用

支持向量机(SVM)是一种新的很有效的模式识别方法,将其应用到雷达信号识别中可以较好地解决此类问题.由于传统的支持向量机由两类扩展到多类问题时,会出现不可分区域.针对雷达信号的多类识别这一实际问题,提出解决这一现象的模糊支持向量机理论(FSVM),并定义输入向量对于某类的隶属度函数,更符合实际情况.此外,支持向量机理论本身对于支持向量的选择并没有指导性,对此利用模糊C均值(FCM,Fuzzy C-Means)聚类,对训练样本进行预处理,可以大大减少训练样本的数量,从而提高支持向量机的训练速度.仿真对比实验和结果证实了结合FCM对训练样本预处理的FSVM法对雷达信号识别具有训练速度快、识别准确率高的特点.     

Robust support vector machine with bullet hole image classification

This paper proposes a robust support vector machine for pattern classification, which aims at solving the over-fitting problem when outliers exist in the training data set. During the robust training phase, the distance between each data point and the center of class is used to calculate the adaptive margin. The incorporation of the average techniques to the standard support vector machine (SVM) training makes the decision function less detoured by outliers, and controls the amount of regularization automatically. Experiments for the bullet hole classification problem show that the number of the support vectors is reduced, and the generalization performance is improved significantly compared to that of the standard SVM training.     

基于改进的支持向量机的脱机中文签名验证

采用支持向量机算法来验证脱机中文签名。针对支持向量机算法的不足,将粗糙集和支持向量机相结合,利用粗糙集理论对数据属性进行约简,在某种程度上减少支持向量机求解的计算量。不但避免了特征提取中维数灾问题,还有效改善了训练时间。实验结果表明：粗糙集和支持向量机算法应用于离线签名识别,在相同条件下的识别效果优于支持向量机算法。     

基于简约凸壳的一类模糊支持向量机

为解决传统一类支持向量机对噪声数据敏感和不适用于大规模分类等问题,提出了用于大规模噪声环境的基于简约凸壳的一类模糊支持向量机（OC-FSVM-RCH）.OC-FSVM-RCH根据简约凸壳的定义在核空间得到代表正常类数据几何特征的样本,然后基于改进的模糊支持向量域描述算法,使得正常类数据包含在最小超球内,异常数据与超球间隔最大化.OC-FSVM-RCH剔除正常类数据轮廓边缘处的噪声,同时对数据内部的噪声不敏感.实验结果表明了所提算法在性能和训练时间上取得了良好的效果.     

基于支持向量机方法的噪声图像分割

图像分割是计算机视觉领域的关键技术之一。支持向量机方法被认为是好的学习分类方法之一,特别在小样本、高维情况下,具有较好的泛化性能。针对噪声图像的分割,提出了模糊权重支持向量机方法。分割实验表明,与经典支持向量机方法相比,模糊权重支持向量机方法具有更强的抗噪性。     

A PAC-Bayesian margin bound for linear classifiers

We present a bound on the generalization error of linear classifiers in terms of a refined margin quantity on the training sample. The result is obtained in a probably approximately correct (PAC)-Bayesian framework and is based on geometrical arguments in the space of linear classifiers. The new bound constitutes an exponential improvement of the so far tightest margin bound, which was developed in the luckiness framework, and scales logarithmically in the inverse margin. Even in the case of less training examples than input dimensions sufficiently large margins lead to nontrivial bound values and-for maximum margins-to a vanishing complexity term. In contrast to previous results, however, the new bound does depend on the dimensionality of feature space. The analysis shows that the classical margin is too coarse a measure for the essential quantity that controls the generalization error: the fraction of hypothesis space consistent with the training sample. The practical relevance of the result lies in the fact that the well-known support vector machine is optimal with respect to the new bound only if the feature vectors in the training sample are all of the same length. As a consequence, we recommend to use support vector machines (SVMs) on normalized feature vectors only. Numerical simulations support this recommendation and demonstrate that the new error bound can be used for the purpose of model selection.     

用于SVM的RCS统计特征集约减方法

传统的支持向量机分类算法对训练样本数目敏感且不具备增量学习的能力,而空间目标识别的工程应用需要积累样本进行大样本的增量学习。根据样本在特征空间分布,提取几何意义上边缘的样本点,成功约减了应用于支持向量机学习的基于雷达散射截面统计特征的训练样本集。利用中心距离比和特征空间多维高斯分布特性,分别提取两类边界样本集和单类边缘样本集;再采用直推式实验设计方法再采样,根据样本潜在结构分布信息选择最能代表样本集结构分布的高价值样本。实验结果表明：样本初选算法能够在有效约减样本集规模的同时保持支持向量机训练分类的精度。     

基于先验知识的支持向量机在图像分割中的应用研究

文中在研究现有先验知识与支持向量机融合的基础上,针对置信度函数凭经验给出的不足,提出了一种确定置信度函数方法,更好地进行分类。该方法是建立在模糊系统理论的基础上:将样本的紧密度信息作为先验知识应用于支持向量机的构造中,在确定样本的置信度时,不仅考虑了样本到所在类中心之间的距离,还考虑样本与类中其它样本之间的关系,通过模糊连接度将支持向量与含噪声样本进行区分。文中将基于先验知识的支持向量机应用于医学图像分割,以加拿大麦吉尔大学的brainWeb模拟脑部数据库提供的不同噪声的图像进行实验,实验结果表明采用基于先验知识的支持向量机比传统支持向量机具有更好的抗噪性能及分类能力。     

基于支持向量机的说话人辨认研究

支持向量机是统计学理论的一个重要的学习方法，也是解决模式识别问题的一个有力的工具，本文提出了用支持向量机来解决说话人辨认问题。结合语音信号的特点，解决了大数据量情况下支持向量机的训练问题。支持向量机对两类的分类问题有着突出的优势，本文用两种判决规则将两类问题应用到多类的识别问题。用支持向量机实现了一个与文本无关的说话人辨认系统，实验表明，本方法有良好的效果。     

基于pinball损失的结构模糊孪生支持向量机

孪生支持向量机通过求解较小的二次规划问题,提高了分类器的性能,然而,该方法主要利用了类间可分的特性,并使用hinge损失函数构建相应的模型,它们并未充分考虑不同类中数据的结构信息以及不同样本对分类的影响,导致该方法对噪声具有较强的敏感性以及重取样的不稳定性.为了进一步提高孪生支持向量机的性能,基于pinball损失函数,将数据集中不同类的结构信息以及不同样本的作用引入到孪生支持向量机中,获得了基于pinball损失的结构模糊孪生支持向量机模型,从理论上导出了基于pinball损失的结构模糊孪生支持向量机算法pin-sftsvm,通过选取人工生成数据集与UCI标准数据集,对pin-sftsvm算法进行了实验,并与tbsvm、s-tsvm和pin-tsvm算法进行了性能比较,表明了提出算法的有效性.