迅速崛起的机器学习技术--支持向量机

支持向量机(support vector machine，简称SVM)是近年来在国外发展起来的一种新型机器学习技术，由于其出色的学习性能，该技术已成为当前国际机器学习界的研究热点．与传统的人工神经网络(artificial neural network，简称ANN)不同，SVM是基于结构风险最小化(structural riskminimization，简称SRM)原理，而ANN是基于经验风险最小化(empirical risk minimization，简称ERM)原理．理论和实验表明，SVM不但结构简单，而且具有较好的泛化能力，尤其是对于小样本问题，成功地克服了ANN学习过程中的“过学习”和可能会陷入局部极小问题．另外，SVM算法是一个凸二次优化问题，能够保证极值解是全局最优解．就SVM理论进行了详细综述，旨在引起广大研究的重视．     

最小二乘支持向量机分类问题的算法实现

介绍了支持向量机理论、常用的支持向量机内积核函数以及最小二乘支持向量机算法.采用最小二乘法实现了支持向量机分类算法.数字仿真结果表明,该算法的识别正确率可达100%.     

支持向量机及其应用研究

详细介绍支持向量机的理论基础及数学模型;阐述支持向量机分类的基本思想以及基本方法;分析支持向量机的优点和不足并展望其研究前景.     

一种非线性支持向量机决策树多值分类器

提出了一种非线性支持向量机决策树的分类算法．该算法通过核函数将支持向量机推广到非线性支持向量机,并在非线性映射后计算特征空间中类间相对分离度,得到类的易分程度．在支持向量机决策树分类中引入相对分离度,有效地降低累积误差,减少计算规模,从而提高分类精度与分类效率．实验结果表明,与一般的线性支持向量机决策树分类算法相比,该算法的分类精度有了明显提高,同时其分类时间也相应降低．     

基于K型核函数的支持向量机

提出了一个可行的支持向量核函数——K型核函数,由此得到了K型支持向量机.证明了K型核函数满足Mercer条件且是转移不变支持向量核函数,分析了K型核函数具有较小的计算量和计算时间代价,并且相应的K型支持向量机具有较高的精确性和较好的泛化能力,利用K型核函数得到了一种新型的K型支持向量机.最后给出了几个计算机模拟的实例,包括支持向量回归和支持向量分类,来说明K型支持向量机的优势.     

一种改进的加权边界调节支持向量机算法

为了改进现有支持向量机所确定的边界抗干扰能力差、对噪声数据敏感等问题,减少野点数据对形成支持向量机边界存在的影响,根据各个样本在整个训练样本集中的重要性不同,将各个训练样本的重要性程度值作为权值赋予边界值上,提出了一种基于加权边界调节的支持向量机算法.通过对标准UCI数据集和人工数据集上的仿真实验表明,基于加权边界调节的支持向量机具有较好的野点免疫能力,具有更高的分类精度、更少的支持向量和更好的推广能力.     

基于支持向量机的网页多类分类技术

基于支持向量机的网页分类技术是数据挖掘中一个研究热点领域.支持向量机是一种高效的分类识别方法,在解决高维模式识别问题中表现出许多特有的优势,但支持向量机本身是一个两类问题的判别方法,不能直接应用于多类问题.总结了当前常用的几种支持向量机多类分类算法,分别从训练速度、测试速度、分类精度三方面对这些分类方法进行了讨论,并给出了进一步的研究方向.     

基于支持向量机的网页多类分类技术

基于支持向量机的网页分类技术是数据挖掘中一个研究热点领域．支持向量机是一种高效的分类识别方法，在解决高维模式识别问题中表现出许多特有的优势．但支持向量机本身是一个两类问题的判别方法。不能直接应用于多类问题．总结了当前常用的几种支持向量机多类分类算法。分别从训练速度、测试速度、分类精度三方面对这些分类方法进行了讨论，并给出了进一步的研究方向．     

支持向量机在字符分类识别中的应用

为了对数字字符和字母字符进行有效识别，提出了一种利用二值字符图像投影的特征参数构
造字符特征矢量的方法，对这些特征矢量进行归一化处理并作为支持向量机的训练集。采用支持向量机和
多层感知器网络对字符的特征矢量进行训练，分别构造出26个字母分类器、10个数字分类器以及36个字母
-数字综合分类器。通过对字符的分类识别测试，字符识别的准确率平均为96.5％，识别速度平均为20.5
ms/字符，结果表明了支持向量机在字符识别应用中的有效性。     

改进的基于支持向量机的网络综合评价策略

针对现有移动网络性能综合评估方法中存在的问题，提出了在维度变换基础上的采用支持向量机的综合评价策略。首先对语义上相关的n个指标进行维度变换使之成为独立的n维，然后对变换后的数据用支持向量机建立回归模型。理论分析表明，这种方法既可克服反向传播(BP)神经网络方法在应用中存在的收敛于局部极小问题，也可避免主成分分析法引起的信息丢失问题。实验表明，用支持向量机的方法比用BP神经网络的方法过程更可控，预测误差更小，且样本评价值间的差异保持得更好。     

基于遗传算法的二叉树支持向量机分类方法

针对传统的基于支持向量机的文本分类存在的问题进行了研究,采用二叉树结构与多个支持向量机子分类器组合进行Web文本信息分类,在二叉树支持向量机多类方法的基础上,进一步结合遗传算法,提出了一种新的支持向量机的多类分类方法,实验结果表明,采用该方法进行多类分类,分类精度明显提高,体现了将遗传算法与二叉树支持向量机结合的优越性。     

基于支持向量机粒子滤波的目标跟踪算法

针对传统粒子滤波目标跟踪算法存在的粒子退化问题,提出了一种新的基于支持向量机的粒子滤波目标跟踪算法。该算法利用滤波过程中的预测粒子集及其权值,使用支持向量机估计出系统状态的后验概率密度,再根据该概率密度重采样更新粒子集,以提高粒子的多样性,从而克服粒子的退化现象。仿真结果表明,该算法能显著增加有效粒子的数量,其目标跟踪精度优于马尔可夫链蒙特卡罗移动方法以及正则粒子滤波算法。     

基于支持向量机的短期负荷预测的方法改进

在对支持向量机（Support Vector Machines,SVM）方法的参数性能进行分析的基础上,提出了将Grid-search方法引入至基于支持向量机的短期负荷预测算法中,以解决支持向量机方法的参数选择问题。该参数选择方法减少了参数选择的盲目性,提高了SVM的预测精度。通过在East-Slovakia Power Distribution Company提供的电网运行数据上验算,证明了该改进方法的正确性和有效性。     

基于支持向量机的离散线性微分方程求解方法

支持向量机（Support Vector Machines,SVMs）在逼近问题的求解上展现出了良好的有效性和可行性,而微分方程求解问题是许多学者研究的热门课题。其中,离散微分方程及其逆问题的求解具有十分重要的意义。本文将支持向量机、Tikhonov正则化和再生核理论相结合,提出一种求解离散线性微分方程及其逆问题的方法。该方法适用于一般的离散线性微分方程及其逆问题的求解,能够得到具有解析表达式的稀疏解,便于后续应用。实验表明,所提出的方法是有效的。     

回归型加权支持向量机方法及其应用

针对各样本重要性的差异,提出了给各个样本的惩罚系数和误差要求赋予不同权重的加权支持向量机方法.给出了对偶最优化问题的描述及其SMO训练算法.在近红外光谱汽油辛烷值测定实验中,训练样本的重要性通过测试样本与该样本的空间距离来表征.实验表明采用加权支持向量机方法提高了汽油辛烷值的测量精度,从而说明了该方法可以提高回归估计函数的泛化能力.     

基于组合核支持向量机的图像边缘检测

基于支持向量机在分类上有很好的效果,提出了一种新的边缘检测方法--基于组合核支持向量机的图像边缘检测。该方法利用支持向量机分类对较多的训练样本数据进行训练,从而实现了图像边缘定位。通过实验验证了该方法比传统的边缘检测算子效果好。     

三种交通流量预测模型的建立及其比较

针对城市交通“智能运输系统”和交通流的特性,采用先进的支持向量机算法和由它改进的BP神经网络方法来建立交通流量预测模型,并将它们及多元线性回归模型分别用于实际流量模拟.实验验证了由支持向量机算法和改进的BP神经网络建立的预测模型具有更高的预测效果和模拟精度.     

二尺度最小二乘小波支持向量回归

基于小波多尺度理论和最小二乘支持向量机的优越性能,提出了多尺度最小二乘小波支持向量回归,弥补了普通最小二乘小波支持向量回归在单尺度小波空间上对函数进行逼近的不足,使用多尺度上的小波线性组合来逼近L^2（R^d）空间上的任意函数,真正意义上实现了小波分解和最小二乘支持向量机的最佳结合,更有效地继承了小波多尺度学习算法和最小二乘支持向量机的优点,既能达到有效精度而且还计算简便。本文以两尺度为例,通过仿真实验说明了所提算法的有效性。