基于VC推广界的线性支持向量回归机及其应用

提出了基于VC推广界的线性支持向量机回归模型的新的构建算法,并应用于县域综合发展中,构建了邱县协调发展的经济计量模型,与传统的方法相比该算法效果更好且具有良好的泛化性能,为多元线性回归提供新的方法。     

两种基于等式约束支持向量回归机比较研究

为了减小支持向量回归机(SVR)的计算复杂度、缩短训练时间,将应用于分类问题的近似支持向量机(PSVM)扩展到回归问题中,针对其原始优化问题采用直接法求取最优解,而不是转换为对偶问题求解,给出了近似支持向量回归机(PSVR)线性和非线性回归算法.并与同样基于等式约束的最小二乘支持向量回归机(LSSVR)进行了比较,在一维、二维函数回归以及不同规模通用数据集上的测试结果表明,PSVR算法简单,训练速度快,尤其在大规模数据集处理上更具优势.     

基于层叠支持向量机的人脸检测研究

提出一种基于层叠支持向量机的人脸检测算法,用于复杂背景灰度图像的人脸检测。算法首先用线性支持向量机进行粗筛选,滤去大量非人脸窗口,之后用非线性支持向量机对通过的窗口进行分类。实验对比数据表明,该方法降低了分类器的训练难度,计算复杂度较低,大大提高了检测速度。     

一种改进的临近支持向量机

基于线性临近支持向量机,提出一种改进的分类器一直接支持向量机.该分类器与临近支持向量机相比,对线性分类二者相同;对于非线性分类,直接支持向量机的Lagrangian乘子求解公式和分类器的表达式都更加简单,计算复杂度降低一半,且通过替代核函数就可实现线性与非线性的统一,可使用相同的算法代码,改正了临近支持向量机的不足.数值实验表明,非线性分类时,直接支持向量机的训练速度比临近支持向量机要快一倍左右,而测试速度则快更多,且分类精度并没有降低.     

基于最小二乘支持向量机的复杂装备故障预测模型研究

针对复杂装备故障信息不足、故障预测困难等问题,应用支持向量机建立了故障预测模型;在对支持向量机回归算法分析的基础上,利用最小二乘支持向量机建立故障预测模型;最小二乘支持向量机通过对相空间重构,有效地降低了模型的复杂度;最后,本文利用某导弹发射装置液压泵的故障数据进行了验证,通过选取合适的参数,该模型能够较好地对故障数据进行预测,预测精度较高;事实证明,基于最小二乘支持向量机建立故障预测模型能够较好地对复杂装备故障的趋势进行预测。     

支持向量回归增量学习

针对支持向量回归因时空复杂度较高而无法处理大规模数据的问题,提出了一个新颖的增量学习模型——L增量υ支持向量回归(L IncrementalυSupport Vector Regression,LISVR)。该模型针对支持向量丢失所产生的不利影响,通过不断对支持向量样本加权并及时淘汰非支持向量,降低了时空复杂度。从理论上证明了算法可收敛到全局最优解。结合人工数据集、UCI数据集和机场噪声的实际问题对该算法做了相应测试,结果验证了算法的有效性。     

基于支持向量机回归的T-S模糊模型自组织算法及应用

结合模糊聚类算法和支持向量机回归算法提出了一种新的T-S模糊模型自组织算法. 该算法首先利用一种改进模糊聚类算法提取模糊规则和辨识前件参数,然后将T-S模糊模型后件变换为标准线性支持向量机回归模型,并利用支持向量机回归算法辨识后件参数. 仿真结果表明,相比现有的自组织算法,本文提出的T-S模糊模型自组织算法在规则数较少的情况下,仍然具有较高的辨识精度和较好的泛化能力. 最后,利用提出的T-S模糊模型自组织算法较好地建立了直拉硅单晶炉加热器和空气预热器的温度模型.     

导数光谱-支撑向量回归法同时测定NO3-和NO2-

分析化学中传统的多元校正通常采用线性回归或人工神经网络算法。但线性回归不能适应实测数据或多或少的非线性,而人工神经网络又有过拟合弊病造成误差。为此我们提出用新发展的既能处理非线性数据,又能限制过拟合的支持向量机算法。本文首次提出导数光谱-支持向量回归法。该法用于NO_3~--NO_2~-体系的同时测定解得的浓度平均相对误差在±82％,明显好于ANN法(±9.15％)和线性回归法(±11.5％)。这表明支持向量机算法在分析化学的校正技术中是有用的。     

支持向量机分类算法中多元变量共线性问题的改进

结合核主成分分析的主因子提取和支持向量机的分类机理,提出了一种组合建模算法.应用核主成分分析过程作为预处理器,可以把共线性的多元变量糅合为几个主因子,但基本不损失有效信息.然后进行基于支持向量机的分类建模和预测.这样不仅可以防止共线性多元变量对模型的负面影响,还可以降低数据维数,减少支持向量机分类过程中的复杂度和运算量.最后用实验进行评估所得到的训练模型,实例说明了所提方法的有效性.     

线性支持向量机优化问题的一种光滑算法

线性支持向量机的无约束优化模型的目标函数不是一个二阶可微函数,因此不能应用一些快速牛顿算法来求解。提出了目标函数的一种光滑化技巧,从而得到了相应的光滑线性支持向量机模型,并给出了求解该光滑线性支持向量机模型的Newton-Armijo算法,该算法是全局收敛的和二次收敛的。     

新的稀疏支持向量回归机算法及实验研究

支持向量回归机是一种解决回归问题的重要方法,其预测速度与支持向量的稀疏性成正比。为了改进支持向量回归机的稀疏性,提出了一种直接稀疏支持向量回归算法DSKR（Direct Sparse Kernel Support Vector Regression）,用于构造稀疏性支持向量回归机。DSKR算法对ε-SVR（ε-Support Vector Regression）增加一个非凸约束,通过迭代优化的方式,得到稀疏性好的支持向量回归机。在人工数据集和真实世界数据集上研究DSKR算法的性能,实验结果表明,DSKR算法可以通过调控支持向量的数目,提高支持向量回归机的稀疏性,且具有较好的鲁棒性。     

支持向量机在钻井工程数据拟合中的应用

支持向量机(SVM)是近年来发展起来的一种通用的机器学习方法,在小样本数据的拟合中已获得了很好的效果。对于常见的支持向量回归机方法:ε-支持向量回归机和最小二乘支持向量回归机进行了归纳总结,并给出了一具体应用案例。     

SSVR算法及炉膛燃烧状态时间序列预测

用支持向量回归（SVR）的方法分析和预测时间序列,可解决复杂非线性系统的建模问题。采用光滑化方法对SVR的基本算法进行改进,可降低计算的复杂度。将光滑支持向量回归（SSVR）算法应用于炉膛燃烧状态时间序列预测。对炉内火焰图像进行聚类分析,计算表征炉膛燃烧状态的状态指数,建立状态指数时间序列,并利用光滑支持向量回归算法构建预测模型。实验结果表明,SSVR方法具有更快的收敛速度、更好的拟合精度和良好的预测性能。     

支持向量逐步回归机及其改进算法研究

本文根据支持向量的稀疏性和其分布于超平面附近的特性,提出了支持向量逐步回归机算法,并改进了算法构建新的训练样本子集的方法和利用整数规划对每次搜索的新样本个数m进行了优化,同时分析了算法的复杂度。最后用仿真结果验证了算法的收敛性和有效性。     

SVR参数对非线性函数拟合的影响

对基于径向基函数(RBF)的支持向量回归(SVR)模型参数的理论研究与实验论证结果表明,惩罚系数、不敏感损失函数的宽度以及核函数参数对非线性函数拟合精度均有影响,给出SVR参数的经验范围以减小人工选择SVR参数的盲目性,并通过缩小参数优化算法的搜索区间,降低算法的整体时间复杂度和空间复杂度。     

利用Lagrange支持向量回归机设计IDS的检测算法

为提高网络入侵检测系统中检测算法的分类精度,降低训练样本及学习时间,在基于支持向量回归机的基础上,提出一种新的利用Lagrange支持向量回归机设计IDS的检测算法。使用KDD CUP 1999数据集进行仿真实验,结果表明该算法较基于支持向量回归机的检测算法具有更良好的泛化性能、更快的迭代速度、更高的检测精度和更低的误报率。     

PSO-SVR算法在发酵过程控制中的应用

针对发酵过程中生物参数难以实时在线测量的问题,建立了用于生物参数状态预估的支持向量机软测量模型。考虑到该支持向量回归模型的复杂性和推广能力的好坏很大程度上取决于其3个参数（?着,C,?酌）能否取到最优值,采用粒子群算法实现对参数（?着,C,?酌）的同时寻优。在此基础上,以L-天冬酰胺酶II为对象,建立其基于PSO-SVR的发酵过程产物浓度状态预估模型。发酵罐控制结果表明：该模型具有很好的学习精度和泛化能力,可实现对L-天冬酰胺酶II产物浓度的实时在线预估。     

相空间重构和SVR联合优化的短时交通流预测

短时交通流预测首先重构相空间,然后采用时间序列模型预测交通流量,而支持向量回归机（SVR）是比较好的时间序列预测模型。但短时交通流相空间重构的嵌入维数与延迟时间与支持向量回归机的参数确定往往是分别独立地求解,难以达到两组参数值的同时最优,影响预测的准确性。为了提高短时交通流的预测准确性,提出一种利用粒子群算法联合优化相空间重构和支持向量回归机的预测模型,并用于实际短时交通流数据的预测。该模型的相空间重构和支持向量回归机（SVR）的参数联合一起优化,利用粒子群算法同时优化其两组参数的组合值。采用短时交通流数据仿真,结果表明联合一起优化所得参数的预测器提高了简单模型预测的效果。     

稀疏结构化最小二乘双支持向量回归机

最小二乘双支持向量回归机（LSTSVR）通过引入最小二乘损失将双支持向量回归机（TSVR）中的二次规划问题简化为两个线性方程组的求解,从而大大减少了训练时间。然而,LSTSVR最小化基于最小二乘损失的经验风险易导致以下不足：（1）“过学习”问题;（2）模型的解缺乏稀疏性,难以训练大规模数据。针对（1）,提出结构化最小二乘双支持向量回归机（S-LSTSVR）以提升模型的泛化能力;针对（2）,进一步利用不完全Choesky分解对核矩阵进行低秩近似,给出求解S-LSTSVR的稀疏算法SS-LSTSVR,使模型能有效地训练大规模数据。人工数据和UCI数据集中的实验证明SS-LSTSVR不但可以避免“过学习”,而且能够高效地解决大规模训练问题。     

双支持向量回归的牛顿算法

为提高支持向量回归的运算速度,提出一种双支持向量回归的牛顿算法。求解2个只带一组约束的支持向量问题,以减少运算量,将2个约束优化问题转化为无约束最优化问题,并采用牛顿迭代算法求解。实验结果表明,在保证与支持向量回归和双支持向量回归拟合能力相当的同时,该算法能减少训练时间。