支持向量机及其应用研究

支持向量机是一种新型机器学习方法,因其出色的学习性能,已成为当前国际机器学习界的研究热点.作者介绍了支持向量机的理论依据及其研究进展.     

基于K型核函数的支持向量机

提出了一个可行的支持向量核函数——K型核函数,由此得到了K型支持向量机.证明了K型核函数满足Mercer条件且是转移不变支持向量核函数,分析了K型核函数具有较小的计算量和计算时间代价,并且相应的K型支持向量机具有较高的精确性和较好的泛化能力,利用K型核函数得到了一种新型的K型支持向量机.最后给出了几个计算机模拟的实例,包括支持向量回归和支持向量分类,来说明K型支持向量机的优势.     

一种非线性支持向量机决策树多值分类器

提出了一种非线性支持向量机决策树的分类算法．该算法通过核函数将支持向量机推广到非线性支持向量机,并在非线性映射后计算特征空间中类间相对分离度,得到类的易分程度．在支持向量机决策树分类中引入相对分离度,有效地降低累积误差,减少计算规模,从而提高分类精度与分类效率．实验结果表明,与一般的线性支持向量机决策树分类算法相比,该算法的分类精度有了明显提高,同时其分类时间也相应降低．     

支持向量机理论与应用

支持向量机是一种新型的机器学习方法,由于其出色的学习性能,该技术已成为国际机器学习领域新的研究热点.介绍了统计学习理论和以该理论为基础的支持向量机,并简述了支持向量机目前的应用状况,指出了支持向量机研究中待解决的一些问题和今后进一步的研究方向.     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

基于异类类内超平面的模糊支持向量机及其应用

针对如何基于不平衡信贷数据对借贷人的信用进行合理准确地评估问题,基于个人信用的统计数据,提出了一种新的个人贷款信用风险的评估方法。首先,构建了个人贷款信用风险评估指标体系,结合IV模型,对各特征进行重要性分析。其次,结合模糊数学理论,设计了一种基于异类类内超平面的隶属函数。最后,结合支持向量机,构建了一种新的个人贷款信用风险评估方法——基于异类类内超平面的模糊支持向量机。结果表明：个人贷款信用风险评估的可用额度比值、逾期30~59天的次数、逾期90天及以上次数以及逾期60~89天次数这4个指标的IV值均大于0.3,重要性较强,表明对贷款人的信用评估影响较大;所设计的隶属函数能对不同样本赋予不同权重,可充分体现不同样本的重要性;基于异类类内超平面的模糊支持向量机在一定程度上可以提高贷款人的信用风险评估精度,证明了该方法的有效性和可行性。     

基于支持向量机的变异语音分类研究

变异语音的训练样本有限,采用传统的分类方法进行分类,效果不够理想,而支持向量机方法在有限样本情况下可以保持很好的分类推广能力.采用支持向量机方法进行变异语音分类,提取基频和 TEO 基频作为变异语音分类的特征,讨论了样本预处理和参数选择等问题,提出了直接截取和 DTW 规正两种方法来解决语音样本特征向量长度不一致的问题.基于 TEO 基频特征,采用指数径向基函数(ERBF)内核,对应力(G-force)影响下的变异语音进行分类,分类正确率可达到99.2%,比传统的贝叶斯分类器和 HMM 分类器,分类性能分别平均提高了12.6%和6.0%.实验结果表明,采用支持向量机方法进行变异语音分类是可行的.     

基于支持向量机的火灾探测系统研究

火灾的早期探测技术长期得到火灾预防专家的关注,基于图像型的火灾探测系统成为研究的重点．针对目前的火灾早期探测技术存在的问题,提出基于火灾火焰图像和支持向量机识别原理的火灾识别技术,系统获取火灾初期火焰的六个主要特征,采用基于线性核函数等不同核函数的支持向量机技术进行识别实验,得出基于线性核函数识别火灾的准确率最高的结论．本探测系统一定程度上弥补传统监测系统的缺陷,缩短预报时间,降低误报率．     

最小二乘支持向量机分类问题的算法实现

介绍了支持向量机理论、常用的支持向量机内积核函数以及最小二乘支持向量机算法.采用最小二乘法实现了支持向量机分类算法.数字仿真结果表明,该算法的识别正确率可达100%.     

基于支持向量机的故障模式识别研究

支持向量机为因缺乏大量故障样本受到制约的智能诊断提供了一个全新的途径.从振动信号中提取特征向量作为支持向量机的输入,对滚动轴承故障模式进行识别.实验表明,在含噪声条件下支持向量机对滚动轴承故障模式仍然具有优秀的分类性能.     

使用SVMs进行汉语浅层分析

提出了基于support vector machines（SVMs）的汉语浅层分析方法,并且为描述整个层次短语结构定义了10种汉语组块类型. 与其他机器学习方法相比,该方法能自动选择对浅层分析有用特征,并能选择出有效的特征组合,较以前的研究可反映识别方向、特征模板、核函数、多分类方法及其组合对基于SVMs的汉语浅层分析性能的影响. 在开放语料Chinese TreeBank 上, Precision、 Recall和 FB1平均达到了95.36％、97.30％和96.32％.     

使用支持向量机分割指纹图像的方法

提出了一种使用支持向量机的指纹图像背景分割方法. 以指纹图像的灰度方差和对比度为特征,训练用于分割背景的支持向量机,并用拟凸算法修正支持向量机的分割结果;使用较少的训练样本,得到泛化性能较好的分类器,对较大数据库中的指纹图像分割背景,正确率为95.3%,实现了利用小样本训练分割方法而较好地适用于同类大数据库的目的.     

广义支持向量机观测器的设计与仿真

提出了广义支持向量机观测器的概念并介绍了其设计方法。该观测器采用支持向量机回归算法拟合过程变量之间的非线性关系,由过程输入和除被观测输出之外的其它过程输出进行驱动,可用于实现过程传感器的故障检测和容错控制。多变量化工过程仿真实验表明,广义支持向量机观测器克服了神经网络类方法在应用时所存在的过学习、易陷入局部极小和结构选择困难等缺陷,并且达到了很高的拟合精度。     

基于支持向量机和遗传算法的纹理识别

为了解决尺度变化和训练样本有限给纹理识别带来的困难,提出了一种基于支持向量机和遗传算法的纹理识别新方法。该方法用小波变换各子带图像共生矩阵参数、分析窗口大小、像素均值和像素标准差等参数作为纹理特征,用多类支持向量机作为分类器。用遗传算法对纹理特征集进行了优化;用输出纠错码将二类支持向量机扩展到多类,提高了分类器的泛化能力。用包含有25类单色自然纹理的图像库进行识别试验,结果表明,该方法的识别错误率小于10%,得到了比传统的贝叶斯等方法更高的识别率和更好的推广性。     

支持向量机的一步光滑牛顿法

基于支持向量机的一个修正模型,将支持向量机优化问题转化为与之对偶规划等价的互补问题,简化了原二次规划问题.并利用Fischer-Burmeister互补函数,给出了一个求解该问题的一步光滑化牛顿算法.该算法每次迭代只需求解一个线性方程组,执行一次线性搜索,提高了运算效率,且算法可以任意选取初始点并具有二次收敛性质.初步的仿真实验表明该算法是可行有效.     

Mandarin Digits Speech Recognition Using Support Vector Machines

A method of applying support vector machine (SVM) in speech recognition was proposed, and a speech recognition system for mandarin digits was built up by SVMs. In the system, vectors were linearly extracted from speech feature sequence to make up time-aligned input patterns for SVM, and the decisions of several 2-class SVM classifiers were employed for constructing an N-class classifier. Four kinds of SVM kernel functions were compared in the experiments of speaker-independent speech recognition of mandarin digits. And the kernel of radial basis function has the highest accurate rate of 99.33 %, which is better than that of the baseline system based on hidden Markov models (HMM) (97.08%). And the experiments also show that SVM can outperform HMM especially when the samples for learning were very limited.     

支持向量机在矿井突水水源识别中的应用

为了正确地识别矿井突水水源,基于水化学成分对水源判别的重要性,选择K^＋ ＋Na^＋、Ca2^＋、Mg2^＋、Cl^-、SO4^2-、HCO3^-这6项指标作为特征向量,建立了矿井突水水源的支持向量机识别模型．此方法不仅结构简单,而且技术性能尤其泛化能力与BP神经网络相比有明显提高,能有效地识别矿井突水水源的类别,为防治水工作提供决策依据．     

一种新的自适应组合核函数

核选择是支持向量机研究中的核心问题之一,不同的核函数将产生不同的分类效果.研究了核参数和误差惩罚参数对支持向量机推广能力的影响,然后根据局部核函数与全局核函数的各自优点,提出了一种新的自适应组合核函数,并将该核函数应用于支持向量机中.最后,利用该自适应核进行不同领域数据的实验,实验结果表明由该核函数建立的支持向量机具有更好的预测能力.     

支持向量机理论与算法研究综述

统计学习理论(statistical learning theory,SLT)是一种小样本统计理论,着重研究在小样本情况下的统计规律及学习方法性质.支持向量机(support vector maehinse,SVM)是一种基于SLT的新型的机器学习方法,由于其出色的学习性能,已经成为当前机器学习界的研究热点.该文系统介...