模糊分类系统的邻域原理设计算法

使用支持向量机算法直接求海量数据的模糊分类系统是相当困难的.为了解决这个问题,提出了基于邻域原理设计模糊分类系统的方法.将支持向量机的理论建立在距离空间上,设计出了计算支持向量的邻域算法;利用所求的支持向量,基于平分最近点方法设计出了求分类超平面的算法,求出模糊分类系统,该算法优于基于支持向量机直接求模糊分类系统的方法.实验结果说明,该方法可有效地解决对海量数据的模糊分类系统的设计问题.     

基于海量样本的模糊分类系统的设计

使用支持向量机理论直接求海量数据的模糊分类系统是比较困难的。为了解决这个问题，该文提出了基于邻域原理计算支持向量，利用支持向量求出分类超平面，再设计模糊分类系统的方法。实验结果表明，该方法可以有效地解决对海量数据的模糊分类系统的设计 问题。     

基于邻域分布局部线性嵌入的粗集支持向量机

针对粗集支持向量机面对高维特征值的训练样本分类效率低的问题,采用邻域点间的分布矩阵用于改进局部线性嵌入的权值矩阵重建,在粗集支持向量机上引入该邻域分布局部线性嵌入算法,对输入训练集进行数据降维操作。对三个数据集分别采用传统支持向量机、粗集支持向量机和基于邻域分布局部线性嵌入的粗集支持向量机进行数据分类测试,结果表明改进的支持向量机对于高维特征值的训练样本,可有效提高分类准确率及计算效率。     

灰色局部支持向量回归机及应用

为了解决全局支持向量回归机(Global-SVR)在大样本数据集中计算效率低下的问题,将局部支持向量回归机与灰色系统理论有机结合,并利用灰色关联度作为局部邻域函数构造灰色局部支持向量回归机(GL-SVR),该做法具有一定的理论价值.优化过程中采用留一法评估学习机的泛化性能,利用模式搜索法选择模型参数.真实的股价涨跌幅预测实验结果表明,该方法既加快了运算速度,又提高了预测精度.     

一种新的最小二乘支持向量机算法

基于核方法的学习算法在机器学习领域占有很重要的地位（如支持向量机support vector machines,简称SVM）。但该方法在处理回归问题时的计算复杂度为数据量的立方级。最小二乘支持向量机(least squares support vector machines 简称LS-SVM)在计算复杂性方面对传统的支持向量机的作了很大改进,但是它的计算量也达到样本点数目的平方级。在处理海量数据回归问题时,求解LS-SVM占用大量的CPU和内存资源。本文提出了一种带非齐次多项式核的最小二乘支持向量机算法,由于特征向量中含有常数分量,所以本文去掉了模型中的偏差因子,简化了LS-SVM的回归模型。新方法特别适合于海量数据回归问题。实验显示新方法的求解速度比传统LS-SVM要快很多,同时新方法的准确性却丝毫不亚于LS-SVM     

一种并行结构化支持向量机次梯度投影算法

支持向量机的次梯度投影算法是解决支持向量机优化求解问题的一种简单有效的迭代算法。该算法通过梯度下降和投影两个步骤的多轮迭代,找到两类最大间隔的分类面。针对该算法忽略了对寻找分类面同样有指导意义的样本分布信息这一问题,在分类器设计中融入结构信息,并且采用MapReduce并行计算框架,提出了一种并行结构化支持向量机的次梯度投影算法,该算法能够充分利用集群的计算和存储能力,适用于海量数据的优化问题。在NASA的两个软件模块缺陷度量数据集CM1和PC1上的实验结果表明,该算法能够加快收敛速度,提高分类性能,有效地解决海量数据的优化求解问题。     

Lagrange支持向量回归机算法研究

支持向量回归机问题的研究远没有像支持向量机问题成熟完善,支持向量回归机对函数拟合(回归逼近)具有重要的理论和应用意义.借鉴分类问题的有效算法,将其推广到回归问题中来,针对Lagrange支持向量机(LSVM)算法,提出了有效的Lagrange支持向量回归机(LSVR)算法,在若干不同维数的数据集上,对LSVR算法、ASVR算法和LibSVM算法进行数值试验,并进行比较分析.数值试验表明LSVR算法是有效的,与当前流行的求解支持向量回归机的算法相比,在时间和正确度上都有一定的优势.     

基于SVC 和SVR 约束组合的迁移学习分类算法

根据迁移学习思想,针对分类问题,以支持向量机(SVM)模型为基础提出一种新的迁移学习分类算法CCTSVM.该方法以邻域间的分类超平面为纽带实现源域对目标域的迁移学习.具体地,以支持向量分类的约束条件完成对目标域数据的学习,获取分类超平面参数,再以支持向量回归的约束条件有效利用源域数据矫正目标域超平面参数,并在上述组合约束的共同作用下实现邻域间迁移,提高分类器性能.在人工和真实数据集上的实验表明,所提出算法具有良好的迁移能力和优越的分类性能.     

适于大规模数据集的块增量学习算法: BISVM*

对支持向量机的大规模训练问题进行了深入研究,提出一种类似SMO的块增量算法.该算法利用increase和decrease两个过程依次对每个输入数据块进行学习,避免了传统支持向量机学习算法在大规模数据集情况下急剧增大的计算开销.理论分析表明新算法能够收敛到近似最优解.基于KDD数据集的实验结果表明,该算法能够获得接近线性的训练速率,且泛化性能和支持向量数目与LIBSVM方法的结果接近.     

基于粒子群最小二乘支持向量机的水文预测

支持向量机理论为研究中长期水文预测提供了新的方法。针对最小二乘支持向量机模型参数选择费时且效果差这一问题,给出基于粒子群算法的最小二乘支持向量机水文预测模型(PSO-LSSVM)。该模型运用最小二乘支持向量机回归原理建立,参数选取采用具有全局搜索能力的粒子群算法进行寻优。用此模型对南桠河冶勒水电站月径流进行预测,仿真计算结果表明,该算法可提高预测效率与预测精度。     

基于边界向量的支持向量机增量算法

提出了一种新的基于边界向量的增量式支持向量机学习算法。该算法根据支持向量的几何分布特点,采用边界向量预选取方法,从增量样本中选取最有可能成为支持向量的样本形成边界向量集,在其上进行支持向量训练。通过对初始样本是否满足新增样本KKT条件的判断,解决非支持向量向支持向量的转化问题,有效地处理历史数据。针对UCI标准数据集上的仿真实验表明,基于边界向量的增量算法可以有效地减少训练样本数,积累历史信息,具有更高的分类速度和更好的推广能力。     

SVM-KNN分类算法研究

SVM-KNN分类算法是一种将支持向量机（SVM）分类和最近邻（NN）分类相结合的新分类方法。针对传统SVM分类器中存在的问题,该算法通过支持向量机的序列最小优化（SMO）训练算法对数据集进行训练,将距离差小于给定阈值的样本代入以每类所有的支持向量作为代表点的K近邻分类器中进行分类。在UCI数据集上的实验结果表明,该分类器的分类准确率比单纯使用SVM分类器要高,它在一定程度上不受核函数参数选择的影响,具有较好的稳健性。     

基于DAGSVM的高炉故障诊断研究

针对高炉故障诊断智能化程度低，对操作人员技术水平要求高等不足，提出了基于支持向量机的多类分类故障诊断方法．根据统计学原理，使用核函数将样本映射到高维空间进行训练．综合各种核函数的测试准确率，得到解决该问题的最佳核函数．通过比较不同的多类分类算法，提出了基于DAGSVM的诊断模型．实验结果表明该算法具有较高的识别准确率．     

利用粗糙集理论提高SVM预测系统的实时性

支持向量机是一种新的机器学习方法,它具有良好的推广性和分类精确性。但是在利用支持向量机的分类算法处理实际问题时,该算法的计算速度较慢、处理问题效率较低。文中介绍了一种新的学习算法,就是将粗糙集和支持向量机相结合,利用粗糙集对支持向量机的训练样本进行预处理,从而缩短样本的训练时间,提高基于SVM预测系统实时性。文中最后利用该方法进行了数据试验,试验结果表明了该方法可以大大缩短样本的训练时间,提高基于支持向量机处理预测系统的效率。从而也证明了该方法的有效性。     

基于量化误差与分形理论的高计算效率无监督聚类研究*

已有的矢量聚类算法需学习较多的复杂数据方可获得较好的聚类效果,而对于多维的大数据性能较弱,对此,提出一种基于量化误差与分形理论的高计算效率无监督聚类算法。首先,为数据集建立量化误差的参数化模型,基于数据集的空间结构获得数据集的率失真曲线;然后,通过对率失真曲线的估算,获得数据空间的有效维度;最终,利用分形理论,通过搜索数据集的量化模型参数获得目标数据集的最优类簇数量。实验结果表明,本文的量化误差参数化模型可较好地估算数据集的有效维度,同时,本算法对数值型数据集的最优类簇估算与计算效率优于已有的矢量聚类算法。     

基于LSSVM的静态手势识别

支持向量机(Support Vector Machine，简称SVM)，是基于统计学习理论的一种新的模式识别方法，较好地解决了小样本学习问题。通过使非线性空间变换为线性空间，降低了算法的复杂性。LSSVM(Least Squares Support Vector Machine)由于使用线性等式代替了标准的SVM算法中的线性不等式，进一步降低了运算量。利用傅立叶描述子获取静态手势特征向量，通过LSSVM大尺度算法求解方程组来得到LSSVM分类器，进行静态手势识别，取得了较高的识别率。说明如何把静态手势识别结果应用到机器人远程控制中，提高人机交互的友好性。     

基于支撑向量机的收敛问题研究

在文章中提出了一种基于支持向量机思想的对任意距离空间求解最大分类间隔的方法,其优化问题可以用输入空间的距离来表示。首先将输入空间等距嵌入到Hilbert空间,在线性的Hilbert空间对优化问题进行线性处理,但是这种方法只适用于特定的距离空间。在原方案的基础上扩展研究了对任意距离空间求解最大分类间隔的方法。