基于线性规划的多类支持向量机算法

多类支持向量机一般采用多个两类分类支持向量机来求解,这就需要解多个二次规划问题,从而导致算法的计算复杂性很高.根据一类分类思想,提出一种基于线性规划的多类分类算法及其分解形式,所给算法通过引入核函数能够独立地对每一类样本形成一个紧致的优化区域,从而达到分类的目的.对人工三螺旋线数据和几组实际数据库的识别实验表明,所给算法在保持良好的分类精度前提下,能有效地降低程序的运行时间.     

基于聚类、粗糙集和支持向量机的故障诊断

故障诊断有多种方法,利用支持向量机进行故障诊断是其中一种比较有效的方法。但是,故障征兆往往有多个,很难确定哪些征兆是关键的,哪些征兆是冗余的,这样就要搜集处理大量的数据,使支持向量机的结构变得复杂,诊断效率不高。为了提高故障诊断的效率,文中提出一种将K均值聚类、粗糙集、支持向量机相结合进行故障诊断的方法。这种方法首先利用K均值聚类对数据进行预处理,然后利用粗糙集对属性进行约简,最后再用支持向量机进行故障诊断。这样可以充分发挥粗糙集与支持向量机各自的优势,实例证明它可以提高故障诊断的速度和精确度,是一种较好的故障诊断方法。     

基于聚类、粗糙集和支持向量机的故障诊断

故障诊断有多种方法,利用支持向量机进行故障诊断是其中一种比较有效的方法.但是,故障征兆往往有多个,很难确定哪些征兆是关键的,哪些征兆是冗余的,这样就要搜集处理大量的数据,使支持向量机的结构变得复杂,诊断效率不高.为了提高故障诊断的效率,文中提出一种将K均值聚类、粗糙集、支持向量机相结合进行故障诊断的方法.这种方法首先利用K均值聚类对数据进行预处理,然后利用粗糙集对属性进行约简,最后再用支持向量机进行故障诊断.这样可以充分发挥粗糙集与支持向量机各自的优势,实例证明它可以提高故障诊断的速度和精确度,是一种较好的故障诊断方法.     

基于模糊C-均值聚类的支持向量机

支持向量机针对大规模数据集学习问题的处理需要耗费很长的时间,提出一种数据预处理的方法对学习样本进行聚 类,以此为基础得到一种模糊支持向量机.计算机仿真结果表明提出的SVM算法与传统的SVM训练算法相比,在不降低分 类精度的情况下,大大缩短了支持向量机的学习训练时间.     

基于模糊C均值聚类的支持向量机

基于统计学理论的支持向量机是一种新的很有效的模式识别方法,但对于支持向量的选择还有困难,对此本文利用模糊C均值(FCM,Fuzzy C-Means)聚类,对训练样本进行预处理,大大减少了训练样本的数量,提高了支持向量机的训练速度。仿真实验的结果证实了该方法的可行性和有效性。     

基于模糊一类支持向量机的核聚类算法

引进模糊概念替代距离拒绝尺度,定义具有支持向量特性的模糊隶属度函数,以描述训练点隶属于聚类集的程度.惩罚了边缘点对聚类中心的贡献权重,从而抑制了聚类中心的偏移,在避免复杂的参数搜索过程的同时,保证了算法的鲁棒性能.仿真结果表明,在相同初始条件下,改进算法较原算法对不规则分布数据的处理效率更高.     

基于聚类的大样本支持向量机研究

针对大样本支持向量机内存开销大、训练速度慢的缺点,本文提出了基于聚类支持向量机,运用k-mean对样本聚类,压缩样本量,构造初始超平面,筛选出靠近超平面的支持粪和可能支持向量,重新构造决策超平面。实验表明,在保持泛化精度基本一致前提下,改进算法的训练速度明显提高。     

基于特征空间聚类的二叉树支持向量机分类算法

采用数据挖掘中聚类分析的类距离定义,在高维特征空间中,计算各类别间的最短距离,以最短距离作为该类与其他类的距离,提出了一种基于聚类-二叉树支持向量机分类算法。该算法能够简化计算,同时通过类距离比较实现了对类距离最大者的优先分离,实验结果表明该算法具有一定的优越性。     

基于聚类标签均值的半监督支持向量机

针对标签均值半监督支持向量机在图像分类中随机选取无标记样本会导致分类正确率不高,以及算法的稳定性较低的问题,提出了基于聚类标签均值的半监督支持向量机算法。该算法修改了原算法对于无标记样本的惩罚项,对选取的无标记样本聚类,使用聚类标签均值替换标签均值。实验结果表明,使用聚类标签均值训练的分类器大大减少了背景与目标的错分情况,提高了分类的正确率以及算法的稳定性,适合用于图像分类。     

一种基于聚类核的半监督支持向量机分类方法

为了在标记样本数目有限时尽可能地提高支持向量机的分类精度,提出了一种基于聚类核的半监督支持向量机分类方法。该算法依据聚类假设,即属于同一类的样本点在聚类中被分为同一类的可能性较大的原则去对核函数进行构造。采用K-均值聚类算法对已有的标记样本和所有的无标记样本进行多次聚类,根据最终的聚类结果去构造聚类核函数,从而更好地反映样本间的相似程度,然后将其用于支持向量机的训练和分类。理论分析和计算机仿真结果表明,该方法充分利用了无标记样本信息,提高了支持向量机的分类精度。     

基于线性规划的分类支持向量机

针对支持向量机(Support Vector Machine,SVM)在分类问题上的运用,分析在结构风险中采用一般范数控制模型的复杂性问题,提出基于l1-范数和l∞-范数的两种线性规划支持向量机,包括线性支持向量机和非线性支持向量机.采用模拟数据对4种支持向量机进行数值试验,其中有3种是线性规划支持向量机(包括提出的两种支持向量机)和经典的二次规划支持向量机.实验结果表明,对线性支持向量机中3种支持向量机计算的模型参数均与理论值接近;对非线性支持向量机情形中l1-范数支持向量机具有最少的支持向量和较好的学习效果.     

K-means聚类与SVDD结合的新的分类算法*

为了提高支持向量数据描述(SVDD)的分类精度,引入局部疏密度提出了改进的SVDD算法。该算法提高了分类精度,但增加了计算复杂度。为此,先用K-means聚类将整个数据集划分为k个簇,再用改进的SVDD算法并行训练k个簇,最后再对获得的k个局部支持向量集训练,即得到最终的全局决策边界。由于采用了分而治之并行计算的方法,提高了算法的效率。对合成数据(200个)和实际数据的实验结果表明,所提算法较SVDD算法,训练时间降低为原来的10%,分类错误率较原来的降低了近一半。因此,所提算法提高了分类精度和算法效率。     

A maximum margin clustering algorithm based on indefinite kernels

Indefinite kernels have attracted more and more attentions in machine learning due to its wider application scope than usual positive definite kernels. However, the research about indefinite kernel clustering is relatively scarce. Furthermore, existing clustering methods are mainly designed based on positive definite kernels which are incapable in indefinite kernel scenarios. In this paper, we propose a novel indefinite kernel clustering algorithm termed as indefinite kernel maximum margin clustering (IKMMC) based on the state-of-the-art maximum margin clustering (MMC) model. IKMMC tries to find a proxy positive definite kernel to approximate the original indefinite one and thus embeds a new F-norm regularizer in the objective function to measure the diversity of the two kernels, which can be further optimized by an iterative approach. Concretely, at each iteration, given a set of initial class labels, IKMMC firstly transforms the clustering problem into a classification one solved by indefinite kernel support vector machine (IKSVM) with an extra class balance constraint and then the obtained prediction labels will be used as the new input class labels at next iteration until the error rate of prediction is smaller than a prespecified tolerance. Finally, IKMMC utilizes the prediction labels at the last iteration as the expected indices of clusters. Moreover, we further extend IKMMC from binary clustering problems to more complexmulti-class scenarios. Experimental results have shown the superiority of our algorithms.     

基于核聚类方法的多层次支持向量机分类树

针对解决多类模式识别问题的SVM方法进行研究。在比较几种常用的多类SVM分类算法的基础上，提出一种基于核聚类方法的多层次SVM分类树，将核空问中的无监督学习方法和有监督学习方法结合起来，实现了一种结构更加简洁清晰、计算效率更高的多层SVM分类树算法，并在实验中取得了良好的结果．     

基于Seed集的半监督核聚类

提出了一种新的半监督核聚类算法——SKK-均值算法。算法利用一定数量的标记样本构成seed集,作为监督信息来初始化K-均值算法的聚类中心,引导聚类过程并约束数据划分;同时还采用了核方法把输入数据映射到高维特征空间,并用核函数来实现样本之间的距离计算。在UCI数据集上进行了数值实验,并与K-均值算法和核-K-均值算法进行了比较。     

基于模糊隶属度的支持向量机去噪方法

针对传统支持向量机对于噪声和野点敏感的问题,采用一种模糊技术去除样本中的噪声和野点.应用基于样本之间的紧密度确定每个样本的模糊隶属度,通过训练确定阀值,去除影响得到最优分类超平面的噪声和野点.实验结果表明,与传统的支持向量机相比,该方法提高了支持向量机的抗噪能力,在不影响精度的前提下,线性规划下的一类分类方法要比二次规划节省很多时间.     

基于AP聚类的约简孪生支持向量机快速分类算法

孪生支持向量机TWSVMs分类过程的计算量和样本的数量成正比,当样本个数较多时,其分类过程将会比较耗时。为了提高样本集的稀疏性,从而提高TWSVMs的分类速度,提出了一种基于AP聚类的约简孪生支持向量机快速分类算法FCTSVMs-AP。首先对原始数据集进行AP聚类操作。聚类的中心为约简后新的样本集,按照分类误差最小的原则构建优化模型,用二次规划方法求解新的决策函数的系数,并证明了当样本集压缩时,收紧新的快速决策函数和原始决策函数之间的误差等价于在样本空间对原始数据集进行AP聚类操作。在人工数据集和UCI数据集上的实验表明,保持分类精度的损失在统计意义上不明显的前提下,FCTSVMs-AP可以通过有效压缩样本数量的方式提高分类速度。     

基于k均值聚类的直推式支持向量机学习算法

针对直推式支持向量机（TSVM）学习模型求解难度大的问题,提出了一种基于k均值聚类的直推式支持向量机学习算法——TSVMKMC。该算法利用k均值聚类算法,将无标签样本分为若干簇,对每一簇样本赋予相同的类别标签,将无标签样本和有标签样本合并进行直推式学习。由于TSVMKMC算法有效地降低了状态空间的规模,因此运行速度较传统算法有了很大的提高。实验结果表明,TSVMSC算法能够以较快的速度达到较高的分类准确率。     

基于模糊核聚类粒化的粒度支持向量机

针对传统的粒度支持向量机（granular support vector machine, GSVM）将训练样本在原空间粒化后再映射到核空间,导致数据与原空间的分布不一致,从而降低GSVM的泛化能力的问题,本文提出了一种基于模糊核聚类粒化的粒度支持向量机学习算法（fuzzy kernel cluster granular support vector machine, FKC-GSVM）。FKC-GSVM通过利用模糊核聚类直接在核空间对数据进行粒的划分和支持向量粒的选取,在相同的核空间中进行支持向量粒的GSVM训练。在UCI数据集和NDC大数据上的实验表明:与其他几个算法相比,FKC-GSVM在更短的时间内获得了精度更高的解。