支持向量机改进序列最小优化学习算法

为提高支持向量机序列最小优化学习算法的学习性能，提出了一种支持向量机改进序列最小优化学习算法，对传统SMO学习方法进行了多方面改进，从优化变量的选择和2个变量的优化方法分别提出具体可行的改进方法．改进后的SMO学习算法提高了学习速度，加快了网络收敛速度．基于改进SMO算法的仿真结果验证了改进SMO算法的有效性和优越性，并通过仿真，与原始算法进行了比较，显示了改进SMO算法的快速性．     

序列最小优化工作集选择算法的改进

序列最小化算法(SMO)是支持向量机重要的常用分解方法。而工作集的选择是实现序列最小优化算法的关键。通过重写KKT条件，提出了一种改进的新工作集选择方法，并相应提出最小化步骤。通过将改进的支持向量机方法应用于网络用户行为数据的分析，与现有方法进行对比测试，验证了新工作集选择方法将减少支持向量机的学习时间并加快收敛过程，改进的支持向量机方法在运行效率和准确度上都有不同程度的提高。     

D-最优设计的SMO算法

本文在Fedorov算法的基础上,引入了Schmidt初始化策略,对原算法进行了改进。更进一步地,结合最小体积闭包椭球问题的理论、支持向量机中序列最小最优化（Sequential minimal optimization,简记为SMO）算法思想[2],和Schmidt初始化策略给出了D-最优设计一个新的数值算法——SMO更新算法,并对其复杂度进行了分析。     

基于作用集的一类支持向量机递推式训练算法

为了求解一类支持向量机（1-SVM）的二次规划问题（QPP）,利用该QPP的稀疏解集性质,提出了基于作用集的1-SVM递推式训练算法. 将支持向量集设定为作用集,迭代地局部优化作用集以获得全局最优解,并引进递推式算法降低计算复杂度。不同于序贯最小优化（SMO）收敛目标函数的思路,该算法寻找支持向量在最优状态下的分布,对Karush-Kuhn-Tucker（KKT）条件不敏感,并可获得解析的最优值。仿真结果表明,本算法在计算时间和精度上均优于SMO,可有效地应用于1-SVM的大样本学习。     

回归型加权支持向量机方法及其应用

针对各样本重要性的差异,提出了给各个样本的惩罚系数和误差要求赋予不同权重的加权支持向量机方法.给出了对偶最优化问题的描述及其SMO训练算法.在近红外光谱汽油辛烷值测定实验中,训练样本的重要性通过测试样本与该样本的空间距离来表征.实验表明采用加权支持向量机方法提高了汽油辛烷值的测量精度,从而说明了该方法可以提高回归估计函数的泛化能力.     

基于SVM的多类分类算法改进

在各种基于支持向量机的多类分类算法中,基于二叉树的多类支持向量机分类算法训练和分类速度相对较快,且解决了不可分问题,是一种很好的方法.本文系统研究和分析了基于二叉树的多类支持向量机分类算法,并在此基础上对其作出了改进,即当测试文本集规模较大时,对其先聚类再分类.改进的目的是,使测试文本不必总是从二叉树的根结点开始进行判断,而是有指导的代入分类函数中计算.在测试文本集规模较大,分类函数个数较多时,可以很大程度上增加分类效率,并加大了文本正确分类的概率.     

基于SVM的GA及其在农业产业结构优化中的应用

针对遗传算法的特征,提出了通过支持向量机SVM构造遗传算法的适应度函数的新算法,该算法通过统计学习理论指导遗传算法的优化过程,然后又把基于支持向量机的遗产算法应用于农业产业结构优化布局中,结果表明基于支持向量机的遗产算法能较快地全局收敛.     

基于模糊支持向量机的电力系统中期负荷预测

考虑到气温因素对电力系统负荷的影响,提出了一种模糊支持向量机(FSVM)算法,基于欧洲智能技术网络(EUNITE)竞赛数据进行了中期电力负荷预测的应用研究。首先利用隶属度函数对影响负荷的气温因素进行模糊化处理,然后结合已知数据得到支持向量机(SVM)的训练样本集,采用序列极小优化(SMO)算法实现对支持向量机(SVM)的快速训练,最终得到预测结果,并与不将气温模糊化的仿真结果进行比较,表明本文所提方法简便且预测精度较高。     

改进的LS—SVM算法及在交通流量预测上的应用

对标准的LS-SVM算法进行了改进,得到一种新的学习算法.这种新的学习算法不仅能减少计算的复杂性,提高学习速度;同时能提高函数估计的精确度.将改进的LS-SVM算法应用于交通流量的预测,同时与传统的多元线性回归及支持向量机方法进行比较,结果表明改进的LS-SVM方法具有较高的预测精度,且实验取得了较好效果.     

基于IGA-SVM的汽轮机故障诊断研究

针对支持向量机相关参数很难预先确定合适的取值,而这些相关参数又对其分类精度有着很大影响的问题,本文利用改进的遗传算法(IGA)对支持向量机的相关参数进行了优化.将改进遗传算法优化的支持向量机(IGA-SVM)算法应用于汽轮机故障诊断中,并与标准遗传算法优化的支持向量机(GA-SVM)算法的识别结果进行比较.结果表明,IGA-SVM算法对故障数据能够得到较优的分类辨识结果,对汽轮机的故障诊断有显著的指导作用.     

面向原问题求解的拟牛顿SVM回归算法研究

研究了支持向量机（SVM）的原问题优化及其回归算法．在分析原问题与对偶问题最优化关系的基础上,引入了一种原问题求解的L—MBFGS—SVR算法．该算法在求解无约束优化问题时,引入了一类新的BFGS拟牛顿算法．它利用迭代的梯度和函数值来近似逆Hessian矩阵,以降低计算复杂性;并结合有限内存技术,来解决数据存储问题．仿真表明,该算法总体上优于IHLF—SVR—RFN和SMO算法,是一种有效的大样本非线性回归建模方法．     

基于双重正则化支持向量机的肿瘤基因选择

针对标准L2范数支持向量机和L1范数支持向量机在肿瘤基因分类分析中表现出的优缺点,在利用Bhattacharyya距离剔除部分对分类无关紧要特征基因,从而得到少数高相关至关重要特征基因的基础上,将一种双重正则化支持向量机应用到DNA微阵列分类中。用一种二次多项式损失函数把这种有约束的优化问题改变为无约束且可微的优化问题,这可以用BFGS算法来求解,通过对两种肿瘤特征基因数据集实验分析知,该算法对肿瘤特征基因分类具有较强的可行性和有效性。     

基于支持向量机的新生儿疼痛表情识别

研究不同的特征提取方法和分类方法在分类问题上的性能,其中包括主分量分析(PCA)、Adaboost算法、支持向量机(SVM),并进行了仿真实验.仿真结果表明,相对于使用主分量分析方法,利用Adaboost算法结合支持向量机的分类方法进行特征提取和选择的效果更好.     

改进的支持向量机算法在短时交通流预测中的应用

把交叉验证和网格搜索算法引入支持向量机预测算法,建立了改进的支持向量机预测模型,并将其应用于短时交通流预测进行实证分析。以某城市道路的实时数据来对模型进行验证,预测结果表明了该模型的有效性。     

最小二乘支持向量机变型算法研究

推导出最小二乘支持向量机(LSSVM)的分类几何意义,再将近似支持向量机(PSVM)等价推广至回归问题,最后提出PSVM的另一种非线性模型——直接支持向量机(DSVM)．与LSSVM相比,PSVM和DSVM增强了问题的凸性,计算复杂度低．且对非线性时,DSVM比PSVM更简单,替换核函数就可实现线性与非线性的统一．数值实验表明,线形情况下PSVM比LSSVM的训练速度至少快一倍,非线性时,DSVM比PSVM速度要快一倍左右;在泛化能力方面线性PSVM不低于LSSVM,非线性时DSVM最高．     

支持向量机算法在电厂中的应用

支持向量机(SVM)是基于结构风险最小化原理的机器学习技术,在解决小样本、非线性和高维的机器学习问题中表现出许多特有的优势,适用于函数预测、模式识别和数据分类领域.该算法在火电厂运行优化、清洁生产、故障诊断等方面均有应用,参数预测精度能够满足工程应用,为火电厂的节能优化和故障诊断提供一个新的研究方向.     

PSO_SVM模型在蒸发预测中的应用

利用支持向量机回归算法（SVM）结合粒子群优化算法（PSO）建立了用于蒸发预测的PSO_SVM模型,用和田地区实测蒸发量对其进行拟合与预测,并与传统的最小二乘支持向量机（LS—SVM）的预测结果进行了对比,结果表明PSO_SVM预测蒸发量的精度要高于LS_SVM,说明该模型可以用于蒸发预测。     

基于GA和LS-SVM的时间序列预测

支持向量机是在统计学习理论基础上提出的一种全新的机器学习方法。由于其出色的学习性能,该技术已经成为机器学习界的研究热点。研究了基于最小二乘支持向量机的建模方法,并用遗传算法自动获取最小二乘支持向量机的最优参数。在Matlab中ANFIS方法在输入维数大于5时就不予计算,而本建模方法则能够处理高维输入的非线性系统。并将其应用到十维Mackey-Glass混沌时间序列的预测中。结果表明,该方法具有自动获取最优参数、训练速度快、精度高、泛化能力强等优点。