基于边界近邻的最小二乘支持向量机实现

最小二乘支持向量机采用最小二乘线性系统代替传统的支持向量即采用二次规划方法解决模式识别问题,能够有效地减少计算的复杂性.但最小二乘支持向量机失去了对支持向量的稀疏性.文中提出了一种基于边界近邻的最小二乘支持向量机,采用寻找边界近邻的方法对训练样本进行修剪,以减少了支持向量的数目.将边界近邻最小二乘支持向量机用来解决由1-a-r(one-against-rest)方法构造的支持向量机分类问题,有效地克服了用1-a-r(one-against-rest)方法构造的支持向量机分类器训练速度慢、计算资源需求比较大、存在拒分区域等缺点.实验结果表明,采用边界近邻最小二乘支持向量机分类器,识别精度和识别速度都得到了提高.     

结合遗传算法与LSSVC的网络异常检测

计算机网络攻击的多样性及隐蔽性,导致了其难以被检测,针对保护网络的安全性,准确识别网络异常问题,为了克服传统网络异常检测技术检测精度低等缺点,提出基于遗传算法优化的最小二乘支持向量机的网络异常检测方法.最小二乘支持向量机分类器(LSSVC)是一种进化的支持向量机分类器(SVC),通过构造新的二次损失函数以解决支持向量机中的二次规划问题.遗传算法用于选择合适的最小二乘支持向量机参数.选取KDDCup99数据测试采用提出的方法检测性能.实验结果表明遗传算法优化的最小二乘支持向量机分类器的网络异常检测精度高,效果好,为网络安全提供了保证.     

数字调制信号识别性能的评估方法

针对正确率不能客观全面地评估字调制信号识别性能的问题,提出采用受试者操作特征(ROC)曲线下的面积(AUC)对最小二乘支持向量机分类器和传统的神经网络分类器进行性能评佑。首先提取J个特征参数,然后分别采用最小二乘支持向量机分类器和神经网络分类器成功地实现了数字调制信号识别,最后通过计算ROC曲线下的AUC值来评估分类器的优劣。仿真实验结果表明,最小二乘支持向量机分类器比神经网络分类器的平均性能好。     

一种改进的最小二乘支持向量机及其应用

为了克服传统支持向量机训练速度慢、计算资源需求大等缺点,本文应用最小二乘支持向量机算法来解决分类问题。同时,本文指出了决策导向循环图算法的缺陷,采用自适应导向循环图思想来实现多类问题的分类。为了提高样本的学习速度,本文还将序贯最小优化算法与最小二乘支持向量机相结合,最终形成了ADAGLSSVM算法。考虑到最小二
乘支持向量机算法失去了支持向量的稀疏性,本文对支持向量作了修剪。实验结果表明,修剪后,分类器的识别精度和识别速度都得到了提高。     

最小二乘支持向量机在医疗数据分析中的应用

以医疗数据为应用对象,应用网格搜索和交叉验证的方法选择参数,建立最小二乘支持向量机分类器,进行实际验证,并与使用K近邻分类器(K-NN)和C4.5决策树两种方法的结果进行比较.结果表明,LS-SVM分类器取得较高的准确率,表明最小二乘支持向量机在医疗诊断研究中具有很大的应用潜力.     

层次聚类LSSVM在模拟电路故障诊断中的应用

文中借鉴层次聚类的思想,采用正向训练、反向测试的方法构造了层次聚类最小二乘支持向量机,并针对容差模拟电路的故障诊断问题,在利用核主元分析法提取其故障特征的基础上,采用所构造的层次聚类最小二乘支持向量机对模拟电路的软故障进行了诊断,并与常用的1对1、1对多算法进行比较,结果表明该方法简化了分类器的结构,缩短了训练测试时间,提高了故障识别率。     

一种新型的多元分类支持向量机

最小二乘支持向量机采用最小二乘线性系统代替传统的支持向量机采用二次规划方法解决模式识别问题。该文详细推理和分析了二元分类最小二乘支持向量机算法，构建了多元分类最小二乘支持向量机，并通过典型样本进行测试，结果表明采用多元分类最小二乘支持向量机进行模式识别是有效、可行的。     

用SVM和LS-SVM分析变压器故障诊断

介绍并比较了支持向量机分类器和最小二乘支持向量机分类器的算法,提出了基于支持向量机的二叉树多分类变压器故障诊断模型.将标准支持向量机(C-SVM)分类器和最小二乘支持向量机(LS-SVM)分类器分别用于变压器故障诊断,通过网格搜索和交叉验证法取得支持向量机的参数,准确率较高.试验结果表明,支持向量机和最小二乘支持向量机在变压器故障诊断中具有很大的应用潜力.     

直接支持向量机

基于最小二乘支持向量机变形,得到一个极其简单快速的分类器--直接支持向量机.与最小二乘支持向量机相比,该分类器只需直接求解一个更小规模矩阵的逆,大大减小了计算量,并未降低分类精度.从理论上证明了该矩阵可逆,保证了分类面存在的唯一性.对于线性情形,采用Sherman-Morrison-Woodbury公式降低可逆矩阵的维数,进一步减少了计算复杂度,使其可适用于更大规模的样本集.数值实验表明,新分类器可行并具有上述优势.     

基于层次聚类LS-SVM的图像分割方法

文章对最小二乘支持向量机进行稀疏化处理,再借鉴层次聚类的思想,采用正向训练、反向测试的方法构造了层次聚类最小二乘支持向量机,简化了分类器的结构。与常用的几种图像分割方法比较实验,结果表明该方法缩短了训练测试时间,提高了分割效果。     

Improved conjugate gradient implementation for least squares support vector machines

As a promising method for pattern recognition and function estimation, least squares support vector machines (LS-SVM) express the training in terms of solving a linear system instead of a quadratic programming problem as for conventional support vector machines (SVM). In this paper, by using the information provided by the equality constraint, we transform the minimization problem with a single equality constraint in LS-SVM into an unconstrained minimization problem, then propose reduced formulations for LS-SVM. By introducing this transformation, the times of using conjugate gradient (CG) method, which is a greatly time-consuming step in obtaining the numerical solution, are reduced to one instead of two as proposed by Suykens et al. (1999). The comparison on computational speed of our method with the CG method proposed by Suykens et al. and the first order and second order SMO methods on several benchmark data sets shows a reduction of training time by up to 44%.     

Multi-fault classification based on support vector machine trained by chaos particle swarm optimization

A novel method of training support vector machine (SVM) by using chaos particle swarm optimization (CPSO) is proposed. A multi-fault classification model based on the SVM trained by CPSO is established and applied to the fault diagnosis of rotating machines. The results show that the method of training SVM using CPSO is feasible, the proposed fault classification model outperforms the neural network trained by chaos particle swarm optimization and least squares support vector machine, the precision and reliability of the fault classification results can meet the requirement of practical application.     

基于小波核LS—SVM的网络流量预测

网络流量预测对大规模网络管理、规划、设计具有重要意义。支持向量机方法是近年来发展起来的新型机器学习算法,用于解决高度非线性分类及回归问题。介绍了基于小波核最小二乘支持向量机的网络流量预测方法,利用小波核函数的多分辨特性提高了支持向量机的非线性建模能力。通过对实测网络流量数据的学习,对未来网络流量进行预测。实验结果表明,取得了较好的预测效果。     

基于边界样本选择的支持向量机加速算法

针对支持向量机（Support Vector Machine,SVM）处理大规模数据集的学习时间长、泛化能力下降等问题,提出基于边界样本选择的支持向量机加速算法。首先,进行无监督的K均值聚类;然后,在各个聚簇内依照簇的混合度、支持度因素应用K近邻算法剔除非边界样本,获得最终的类别边界区域样本,参与SVM模型训练。在标准数据集上的实验结果表明,算法在保持传统支持向量机的分类泛化能力的同时,显著降低了模型训练时间。     

增量密度加权近似支持向量机

近似支持向量机((PSVM)是一个正则化最小二乘问题,有解析解,但是它失去了支持向量机(SVM)的稀疏 性,使得所有的训练样例都成为支持向量。为了有效地控制近似支持向量机的稀疏性,提出了增量密度加权近似支持 向量机(mWPSVM),它在训练集中选取最基本的支持向量。实验表明,IvWPSVM方法与SVM, PSVM和DWPS- VM方法相比,其精度相似,收敛速度快,可有效地控制近似支持向量机的稀疏性。     

基于遗传算法和最小二乘支持向量机可靠性分配*

为了提高系统可靠性的精确快速分配,采用支持向量机对系统可靠性进行建模,采用逆向思维对系统可靠性进行分配;为了提高求解速度和鲁棒性,用最小二乘法对支持向量机进行算法优化,并用遗传算法对最小二乘支持向量机进行参数优化;为了提高分配精度,用三角模糊数进行模糊处理;最后针对某系统的可靠性,采用遗传算法优化和模糊处理的最小二乘支持向量机进行分配,并与神经网络和普通遗传算法优化的最小二乘支持向量机进行对比。结果表明,用遗传算法优化和模糊数处理的最小二乘支持向量机具有分配精度高,泛化能力强等优点。     

支持向量机和最小二乘支持向量机的比较及应用研究

介绍和比较了支持向量机分类器和量小二乘支持向量机分类器的算法。并将支持向量机分类器和量小二乘支持向量机分类器应用于心脏病诊断，取得了较高的准确率。所用数据来自UCI bench—mark数据集。实验结果表明，支持向量机和量小二乘支持向量机在医疗诊断中有很大的应用潜力。     

基于类间最近邻支持向量信息测度排序的快速分类算法研究

提出了基于特征空间中最近邻类间支持向量信息测度排序的快速支持向量机分类算法,对于训练样本首先进行最近邻类间支持向量信息测度升序排列处理;然后根据排序的结果选择最优的训练样本子空间,在选择的样本子空间内采用乘性规则直接求取Lagrange因子,而不是传统的二次优化方法;最后加入附加剩余样本进行交叉验证处理,直到算法满足收敛性准则。各种分类实验结果表明,该算法具有非常良好的性能,特别是在训练样本庞大,支持向量数量较多的情况下,能够较大幅度地减少计算复杂度,提高分类速度。