FCM预选取样本的半监督SVM图像分类方法

针对基于拉普拉斯支持向量机(LapSVM)的半监督分类方法需要将全部无标记样本加入训练样本集中训练得到分类器,算法需要的时间和空间复杂度高,不能有效处理大规模图像分类的问题,提出了模糊C-均值聚类(FCM)预选取样本的LapSVM图像分类方法。该方法利用FCM算法对无标记样本聚类,根据聚类结果选择可能在最优分类超平面附近的无标记样本点加入训练样本集,这些样本可能是支持向量,携带对分类有用的信息,其数量只是无标记样本的一少部分,因此使训练样本集减小。计算机仿真结果表明该方法充分利用了无标记样本所蕴含的判别信息,有效地提高了分类器的分类精度,降低了算法的时间和空间复杂度。     

FCM预选取样本的半监督SVM图像分类方法

针对基于拉普拉斯支持向量机(LapSVM)的半监督分类方法需要将全部无标记样本加入训练样本集中训练得到分类器,算法需要的时间和空间复杂度高,不能有效处理大规模图像分类的问题,提出了模糊C-均值聚类(FCM)预选取样本的LapSVM图像分类方法。该方法利用FCM算法对无标记样本聚类,根据聚类结果选择可能在最优分类超平面附近的无标记样本点加入训练样本集,这些样本可能是支持向量,携带对分类有用的信息,其数量只是无标记样本的一少部分,因此使训练样本集减小。计算机仿真结果表明该方法充分利用了无标记样本所蕴含的判别信息,有效地提高了分类器的分类精度,降低了算法的时间和空间复杂度。     

基于类内散度的粗糙one-class支持向量机

粗糙one-class支持向量机(ROC-SVM)在粗糙集理论基础上通过构建粗糙上超平面和下超平面来处理过拟合问题,但是在寻找最优分类超平面的过程中,忽略了训练样本类内结构这一非常重要的先验知识。因此,提出了一种基于类内散度的粗糙one-class支持向量机(WSROC-SVM),该方法通过最小化训练样本类内散度来优化训练样本类内结构,一方面使训练样本在高维特征空间中与坐标原点的间隔尽可能大,另一方面使得训练样本在粗糙上超平面尽可能紧密。在合成数据集和UCI数据集上的实验结果表明,较原始算法,该方法有着更高的识别率和更好的泛化性能,在解决实际分类问题上更具优越性。     

基于混合模糊隶属度的模糊双支持向量机研究

双支持向量机是近年提出的一种新的支持向量机.在处理模式分类问题时,双支持向量机速度远远超过传统支持向量机,而且显示出较好的推广能力.但双支持向量机没有考虑不同输入样本点可能会对分类超平面的形成产生不同影响,在某些实际问题中具有局限性.为了克服这个缺点,提出了一种基于混合模糊隶属度的模糊双支持向量机.该算法设计了一种结合距离和紧密度的模糊隶属度函数,给不同的训练样本赋予不同的模糊隶属度,构建两个最优非平行超平面,最终实现二值分类.实验证明,该模糊双支持向量机的分类性能优于传统的双支持向量机.     

一种新的概率支持向量机方法

提出一个新的基于样本点概率估计的支持向量机,通过定义相应样本数据点的概率估计值,以及相应的数据样本点到超平面的距离,来形成新的线性和非线性情况下的支持向量机。最后通过实验证明,在数据集的训练上,新的支持向量机比以往传统的支持向量机有更好的分类性能,并且缩短了支持向量机数据样本的训练时间。     

一种模糊加权的孪生支持向量机算法

虽然孪生支持向量机（Twin Support Vector Machine,TSVM）的处理速度优于传统的支持向量机,但其并没有考虑输入样本点对最优分类超平面所产生的不同影响。通过为每个训练样本赋予不同的样本重要性,以及减少样本点对非平行超平面的影响,提出了模糊加权孪生支持向量机（Fuzzy TSVM,FTSVM）。在UCI标准数据集上,对FTSVM进行了实验研究并与TSVM、FSVM和SVM方法进行了比较,实验结果表明FTSVM方法是有效的。     

基于壳向量和中心向量的支持向量机

针对支持向量机(Support vector machines,SVMs)中大规模样本集训练速度慢且分类精度易受野点影响的问题,提出一个基于样本几何信息的支持向量机算法.其基本步骤是,首先分别求取每类样本点的壳向量和中心向量,然后将求出的壳向量作为新的训练集进行标准的SVM训练得到超平面的法向量,最后利用中心向量来更新法向量从而减少野点的影响得到最终的分类器.实验表明,采用这种学习策略,不仅加快了训练速度,而且在一般情况下也提高了分类精度.     

支持向量逐步回归机及其改进算法研究

本文根据支持向量的稀疏性和其分布于超平面附近的特性,提出了支持向量逐步回归机算法,并改进了算法构建新的训练样本子集的方法和利用整数规划对每次搜索的新样本个数m进行了优化,同时分析了算法的复杂度。最后用仿真结果验证了算法的收敛性和有效性。     

无偏置v- 支持向量回归优化问题研究

在高维特征空间中,具有支持向量机形式的学习机的决策超平面倾向于通过原点,并不需要偏置.但在-支持向量回归机（ν-SVR）中存在偏置,为了研究偏置在ν-SVR中的作用,提出了无偏置的ν-SVR优化问题并给出其求解方法.在标准数据集上的实验表明,无偏置ν-SVR的泛化性能好于ν-SVR.根据对偶优化问题的解空间分析,偏置不应包含在-SVR优化问题中,ν-SVR的决策超平面在高维特征空间中应通过原点.     

考虑梯度信息的ε-支持向量回归机

传统的ε-支持向量回归机(ε-support vector regression, ε-SVR)只是根据样本点处的响应值来构建模型, 并没考虑样本点处的梯度信息. 如果样本点处的梯度信息容易获得或者获得的成本并不高, 那就应该将梯度信息应用到模型的构建中. 已有的基于梯度信息的 ε-支持向量回归机模型的构建是从泰勒展开的角度着手, 简单地将梯度信息插入到泰勒展开式中; 本研究另辟蹊径, 并没有去估计样本点邻域内的函数值, 而是将梯度信息作为第二类变量融入到核矩阵中直接构建优化模型, 使模型的构建更为简捷直观, 并据此得到一种新的基于梯度信息的 ε-支持向量回归机(Gradient-enhanced ε-support vector regression, GESVR) 模型. 所提模型通过了常用分析函数及精算领域中的生命表数据的验证, 实验表明, 与传统的 ε-SVR相比, 考虑梯度信息的GESVR模型显著地提高了其预测精度.     

基于核密度估计的实时SVDD算法与电路故障检测应用

针对支持向量数据描述(SVDD)训练大规模样本时计算复杂度太大的问题,利用支持向量的稀疏特性,提出了一种基于核密度估计(KDE)的实时SVDD算法;该算法首先通过KDE方法从原始样本集中选择εk比例的稀疏样本用于SVDD训练;然后用训练得到的支持向量对特征空间中的样本中心进行估计;最后计算原始样本集中所有样本到中心的距离,并对所有距离按降序排列,通过提取εd比例距中心较大的样本作为训练样本集对SVDD进行训练,最终实现了训练样本规模约简;仿真结果表明:算法在保证训练精度的前提下训练复杂度削减为经典算法的1/10以内,满足了SVDD故障检测的实时性要求。     

核空间结合样本中心角度的支持向量机增量算法

为了提高增量算法的训练精度,在核特征空间下,求得原训练集的两类中心点和两个中心点的超法平面,获取原训练集样本到超法平面距离和到两中心点中点的比值,将比值最小的n个样本点结合原训练集中的支持向量和增量集中违背KKT条件的样本产生新的训练集.最后给出的数学模型显示,该算法不需要计算核特征空间,比现有的众多支持向量机增量算法保留了更多的支持向量数目,保证了训练精度.     

基于FCM-LSSVM网络流量预测模型

为了提高网络流量的预测准确性,针对训练样本选取问题,提出一种训练样本选择的最小二乘支持向量机网络流量预测模型（FCM-LSSVM）。采用模糊均值聚类算法对网络充量数据进行了聚类分析,消除其中的孤立样本点,构建最小二乘支持向量机的训练集,然后将训练集输入到最小二乘支持向量机进行了学习,并采用人工蜂群算法对模型参数进行了优化,最后建立建立网络流量预测模型,并采用仿真实验对模型性能测试。仿真结果表明,相对于其他网络流量预测模型,FCM-LSSVM不仅提高了网络流量的预测精度,而且建模速度得以提高,获得了更加理想的网强流量预测结果。     

基于模糊支持向量机的高校教学质量评价研究

高校如何能够客观准确地进行教学质量评价,一直是一个主要的研究课题。由于教学质量评价是一个多指标、多目标的评价系统,传统的计算方法存在繁琐、客观性差的情况,提出一种改进的模糊支持向量机的评价模型对教学质量进行评价。建立的模糊隶属度函数,在减小了训练集中异常样本点对建立分类超平面的干扰同时,并没有减小对训练集中每类样本中边缘样本点对分类超平面的影响。实验表明,改进模糊支持向量机提高了教学质量评价的准确率,同时模糊支持向量机的泛化能力也得到了提高。     

基于特征贡献度加权高斯核函数的粗糙one-class支持向量机

粗糙one-class支持向量机(ROCSVM)是一种一类支持向量机,它通过核函数映射,定义上近似超平面和下近似超平面,使得训练样本能根据在粗糙间隔中的位置,自适应地对决策超平面产生影响.由于ROCSVM训练集只有正类样本,因此充分挖掘和利用训练样本的分类特征对于提高ROCSVM的分类性能有重要意义.为此,提出了一种基于训练样本分类特征贡献度的加权高斯核函数(λRBF):先对训练样本做主成分分析(PCA)得到按特征值排序的向量集,以此向量集构造核函数,使得特征值较大的维度在核函数中起较大的作用.在UCI标准数据集和仿真数据上的实验结果表明:与一般RBF的ROCSVM相比,基于λ-RBF的ROCSVM有着更好的泛化性和更高的识别率.     

近邻渐进直推式支持向量机算法

针对渐进直推式支持向量机箅法训练速度慢和学习性能不稳定的问题,提出一种近邻渐进直推式支持向量机算法.该算法利用支持向量机中支持向量信息,选择支持向量附近的无标签样本点进行标注,采用支持向量预选取的方法减少训练集的规模,提高算法的速度.实验结果表明了该算法的有效性.     

基于层次K-均值聚类的支持向量机模型

针对支持向量机SVM分类效率低下的问题,提出一种基于层次K-均值聚类的支持向量机HKSVM(Hierarchical K-means SVM)学习模型。该方法首先对每类样本分别进行K-均值聚类,计算每类中心并训练SVM,得到初始分类器;然后根据超平面与聚类结果的关系,将聚类所得结果划分为活动类集和静止类集,并对超平面附近的活动类集进行深层聚类,以得到更小的类别同时计算类中心来训练新的SVM模型,并校正分类超平面,如此循环往复,直到得到较为精确的分类器为止。采用基于层次K-均值聚类的SVM模型,通过对活动类集进行不断地深层次聚类,从而在分类超平面附近得到较多样本点,而在距离超平面较远处则取少量训练样本,以有效压缩训练集规模,在保持SVM训练精度的同时大幅度提高其学习效率。标准数据集上的实验结果表明,HKSVM方法在大规模数据集上同时得到了较高的分类效率和测试精度。     

新的稀疏支持向量回归机算法及实验研究

支持向量回归机是一种解决回归问题的重要方法,其预测速度与支持向量的稀疏性成正比。为了改进支持向量回归机的稀疏性,提出了一种直接稀疏支持向量回归算法DSKR（Direct Sparse Kernel Support Vector Regression）,用于构造稀疏性支持向量回归机。DSKR算法对ε-SVR（ε-Support Vector Regression）增加一个非凸约束,通过迭代优化的方式,得到稀疏性好的支持向量回归机。在人工数据集和真实世界数据集上研究DSKR算法的性能,实验结果表明,DSKR算法可以通过调控支持向量的数目,提高支持向量回归机的稀疏性,且具有较好的鲁棒性。     

基于两阶段聚类的模糊支持向量机

为了提高模糊支持向量机在大数据集上的训练效率,提出一种基于两阶段聚类的模糊支持向量机算法。第1阶段为粗粒度聚类阶段,在每类训练样本上执行密度聚类算法,设置较大的邻域半径(给定邻域内最小点数),保证可能成为支持向量的样本点都被选取;第2阶段为自适应聚类阶段,在粗选的数据集合上,执行自适应密度聚类算法,根据各个点距离分类面的远近,自适应决定该点的邻域半径(给定邻域内最小点数)。这样可有效地减少远离分类面的聚类边缘点的数量,同时在分类面附近保持较多的样本点,试验结果表明,基于两阶段聚类模糊支持向量机算法,相比以往的方法,不仅提高了模糊支持向量机的训练效率,同时保持了较好的分类效果。     

一类新型快速模糊支持向量机

针对一般模糊支持向量机训练时间过长,训练效率低下的问题,通过定义了一种新的隶属度函数的方法,来改进算法,从而得到了一种快速模糊支持向量机。本算法中的新定义的隶属度函数能够对离分类超平面较远、不可能成为支持向量的数据赋予较小的隶属度,使训练样本集中的数据大大减少。同时,在将二类模糊支持向量机推广到k类时,采用了DAGSVMs方法,进一步提高了多类分类问题的分类效率。实验表明,提出的快速模糊支持向量机在保证测试精度的同时,减少了训练时间。