一种改进的支持向量机序列最小优化算法

提出一种改进的序列最小优化算法,它在选取工作集时选取优化步长最大的违反KKT条件的样本和其配对样本,并且对求解过程进行简化,从而使训练过程速度更快。实验表明,该算法是有效、可行的。     

序列最小优化工作集选择算法的改进

序列最小化算法(SMO)是支持向量机重要的常用分解方法。而工作集的选择是实现序列最小优化算法的关键。通过重写KKT条件,提出了一种改进的新工作集选择方法,并相应提出最小化步骤。通过将改进的支持向量机方法应用于网络用户行为数据的分析,与现有方法进行对比测试,验证了新工作集选择方法将减少支持向量机的学习时间并加快收敛过程,改进的支持向量机方法在运行效率和准确度上都有不同程度的提高。     

最小二乘支持向量机的半监督学习算法

将最小二乘支持向量机引入到半监督学习中,提出了一种最小二乘支持向量机的半监督学习算法.采用最小二乘支持向最机训练混合样本集,利用最小二乘支持向量机训练速度快、效率高等优点有效地克服了目前一些半监督支持向量机学习算法时间代价大、效率低的缺陷.在训练过程中采用区域标注法,减少达到收敛所需要的迭代次数,并给出了SLS-SVM算法具体的数学描述.在人造数据集及实际数据集上的实验表明,最小二乘支持向量机的半监督学习算法可以有效的减少训练时问,提高训练的速度,从而具有更好的推广能力.     

最小二乘支持向量机的参数优化算法研究

该文针对最小二乘支持向量机的参数优化存在的问题,提出交叉验证的最小二乘支持向量机的参数自调整优化算法,用非线性测试函数的数据进行训练,并用于水下FCAW熔深多信息在线监测。最后把最小二乘支持向量机与传统的BP网络预测结果进行比较,结果证明,该模型的预测精确度是令人满意的,该文提出的方法是可行的。     

最小二乘支持向量机变型算法研究

推导出最小二乘支持向量机(LSSVM)的分类几何意义,再将近似支持向量机(PSVM)等价推广至回归问题,最后提出PSVM的另一种非线性模型——直接支持向量机(DSVM)．与LSSVM相比,PSVM和DSVM增强了问题的凸性,计算复杂度低．且对非线性时,DSVM比PSVM更简单,替换核函数就可实现线性与非线性的统一．数值实验表明,线形情况下PSVM比LSSVM的训练速度至少快一倍,非线性时,DSVM比PSVM速度要快一倍左右;在泛化能力方面线性PSVM不低于LSSVM,非线性时DSVM最高．     

基于PSO的最小二乘支持向量机稀疏化算法

针对最小二乘支持向量机(LSSVM)失去稀疏特性及经典迭代剪切稀疏化算法容易陷入性能指标函数局部收敛的问题,提出一种基于粒子群优化(PSO)的LSSVM稀疏化算法.将LSSVM稀疏化过程描述为一个最优化问题,以校验样本和预测输出之间的均方根误差RMSE为优化目标,以模型训练样本剪切率ε(%)为优化变量.并针对此非线性优化问题提出基于PSO的求解方法.以大型电厂飞灰含碳量LSSVM模型为例,对此算法进行了实例研究.结果表明,该方法能有效解决经典算法的局部收敛问题获得最优剪切率,具有更好的预测和泛化能力.     

基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

一类支持向量机的快速增量学习方法

提出一类支持向量机（OCSVM）的快速增量学习方法. 在OCSVM初始分类器的基础上, 添加一个德尔塔函数形成新的决策函数, 实现增量学习的过程. 通过分析德尔塔函数的几何特性, 构造出与OCSVM相似的优化目标函数, 从而求解德尔塔函数的参数. 优化问题能够进一步转化为标准的二次规划(QP)问题, 但是在优化过程中Karush-Kuhn-Tucker（KKT）条件发生很大改变. 根据新的KKT条件, 为QPP提出修正的序贯最小优化（SMO）求解方法. 整个学习过程直接操作初始分类器,仅仅训练新增样本,避免了对初始样本的重复训练, 因此能够节约大量的学习时间和存储空间. 实验结果表明, 提出的快速增量学习方法在时间和精度上均优于其他的增量学习方法．     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

基于蚁群和支持向量机的microRNA预测方法

由于microRNA在生物体系统中起着重要的调控功能,对microRNA进行快速有效的预测很有必要.本文通过使用蚁群算法和支持向量机相结合的思想,结合microRNA的前体pre-miRNA序列特征和结构特征,构造了一种microRNA的预测方法.通过采集Sanger和UCSE数据库中的人类阳性和部分阴性数据集进行学习和测试,同时使用J48和BP神经网络两种机器学习方法进行对比,实验结果显示,使用蚁群算法和支持向量机的方法预测pre-miRNA的识别率达97.471％,与另外两种方法相对比,识别率分别提高了8.736％和10.575％,预测的准确性有显著提高.     

基于支持向量机的模糊回归估计

针对给定的大规模数据集的回归估计问题，提出基于支持向量机的模糊回归估计方法.该方法把复杂的数据集看作多个群体的混合，每个群体采用单一的回归模型进行描述，使得大规模数据集的回归估计问题变成了一个多模型估计问题.在此基础上把支持向量机与模糊C聚类结合起来得到基于支持向量机的模糊回归模型，并给出了实现该模型回归估计的算法.该方法对大规模的数据样本进行模糊C聚类，并回归估计各聚类的数据样本.数值仿真结果表明，该方法在聚类数据样本的同时能实现多个模型的回归估计，而且模糊隶属度的初始化影响要小于其他的模糊回归估计方法.     

自适应GA-SVM参数选择算法研究

支持向量机是一种非常有前景的学习机器，它的回归算法已经成功地用于解决非线性函数的逼近问题．但是，SVM参数的选择大多数是凭经验选取，这种方法依赖于使用者的水平，这样不仅不能获得最佳的函数逼近效果，而且采用人工的方法选择SVM参数比较浪费时间，这在很大程度上限制了它的应用．为了能够自动地获得最佳的SVM参数，提出了基于自适应遗传算法的SVM参数选取方法．该方法根据适应度值自动调整交叉概率和变异概率，减少了遗传算法的收敛时间并且提高了遗传算法的精度，从而确保了SVM参数选择的准确性．将该方法应用于船用锅炉汽包水位系统建模，仿真结果表明由该方法所得的SVM具有较简单的结构和较好的泛化能力，仿真精度高，具有一定的理论推广意义．     

Estimating coal reserves using a support vector machine

The basic principles of the Support Vector Machine (SVM) are introduced in this paper. A specific process to establish an SVM prediction model is given. To improve the precision of coal reserve estimation, a support vector machine method, based on statistical learning theory, is put forward. The SVM model was trained and tested by using the existing exploration and exploitation data of Chencun mine of Yima bureau's as the input data. Then coal reserves within a particular region were calculated. These cal-culated results and the actual results of the exploration block were compared. The maximum relative error was 10.85%, within the scope of acceptable error limits. The results show that the SVM coal reserve calculation method is reliable. This method is simple, practical and valuable.