基于支持向量机的分类预测算法研究

分类预测是数据挖掘、机器学习和模式识别等很多领域共同关注的问题,已经存在了许多有效的分类算法,但这些算法还不能解决所有的问题。支持向量机作为一种新的分类预测工具,能根据有限样本信息在模型的复杂性和学习能力间取得平衡,并能获得更好的泛化能力。SMO算法是支持向量机中使用最多的算法,它体现了支持向量机的优点,同时也能处理大规模训练集。     

支持向量机多分类算法的研究

支持向量机（support vector machine,SVM）是在统计学习理论基础上发展起来的一种新的数据挖掘方法,并已广泛应用于模式识别与回归分析等领域。本文重点阐述了一些典型的支持向量机多分类算法及支持向量机多标注算法。最后指出了进一步研究和亟待解决的一些问题。     

基于支持向量机的Web分类

Web分类是在分析了网页的内容后,按照一定的规则将它分到一个或者多个合适的类别中去.支持向量机是在统计学习理论基础上发展起来的一种新的非常有效的机器学习方法.由于其出色的学习性能,该技术已成为分类领域新的研究热点.将支持向量机的理论应用到Web分类中,首先对网页进行了预处理,然后对网页文本进行特征提取和向量表示,最后将二叉树多分类支持向量机应用到Web分类中.通过实验对算法进行了验证,结果表明取得了良好的分类效果.     

基于支持向量机的结肠癌分类方法研究

基于结肠癌基因表达数据，运用信息科学的方法和技术建立结肠癌的预测分类模型，对结肠癌的识别具有重要意义。在建立模型的过程中，如何能够有效的排除噪声基因进而挑选出分类特征基因对结肠癌预测的准确性有着非常重要的影响。针对该类问题，这篇文章提出了一种新的特征基因选取方法，并以支持向量机作为分类器建立结肠癌分类预测模型，最后以结肠癌的基因表达谱作为实验数据进行了实验，实验结果表明上述方法的可行性和有效性.     

支持向量机的中文文本分类研究

支持向量机是一种基于统计学习理论的新型机器学习方法,在文本分类领域取得了很好的效果。使用支持向量机进行了文本分类的研究,实现了一个中文文本自动分类系统,并给出了实验结果。     

基于支持向量机分类算法的番茄miRNA预测

为了识别番茄基因组中潜在的miRNA,基于已发现的miRNA特征,利用支持向量机方法构建模型sly_pre_SVM和sly_SVM,用于番茄的前体miRNA序列和成熟miRNA序列的预测。对miRNA特征向量的编码、miRNA特征选择和参数的优化进行了研究。sly_pre_SVM对番茄测试集的分类精度、敏感性和特异性分别为99.69%、100%和99.66%,sly_SVM对番茄测试集的分类精度、敏感性和特异性分别为89.79%、88.89%和90%。预测得到41条番茄成熟miRNA序列,其中14条是尚未发现的,为进一步的miRNA生物学实验奠定了基础。     

基于支持向量机集成的分类

支持向量机是一种基于结构风险最小化原理的分类技术,本文提出了将支持向量机分类器进行集成的分类思想。首先．在原始样本的基础上形成子支持向量机,得到待检样本的子预测;进而对子预测进行适当的组合,以确定样本最终的类别预报。模拟实验结果表明,该方法具有明显优于单一支持向量机的更高的分类准确率。     

多分类孪生支持向量机研究进展

孪生支持向量机因其简单的模型、快速的训练速度和优秀的性能而受到广泛关注.该算法最初是为解决二分类问题而提出的,不能直接用于解决现实生活中普遍存在的多分类问题.近来,学者们致力于将二分类孪生支持向量机扩展为多分类方法并提出了多种多分类孪生支持向量机.多分类孪生支持向量机的研究已经取得了一定的进展.本文主要工作是回顾多分类孪生支持向量机的发展,对多分类孪生支持向量机进行合理归类,分析各个类型的多分类孪生支持向量机的理论和几何意义.本文以多分类孪生支持向量机的子分类器组织结构为依据,将多分类孪生支持向量机分为：基于“一对多”策略的多分类孪生支持向量机、基于“一对一”策略的多分类孪生支持向量机、基于“一对一对余”策略的多分类孪生支持向量机、基于二叉树结构的多分类孪生支持向量机和基于“多对一”策略的多分类孪生支持向量机.基于有向无环图的多分类孪生支持向量机训练过程与基于“一对一”策略的多分类孪生支持向量机类似,但是其决策方式有其特殊的优缺点,因此本文将其也独立为一类.本文分析和总结了这六种类型的多分类孪生支持向量机的算法思想、理论基础.此外,还通过实验对比了分类性能.本文工作为各种多分类孪生支持向量机之间建立了联系比较,使得初学者能够快速理解不同多分类孪生支持向量机之间的本质区别,也对实际应用中选取合适的多分类孪生支持向量机起到一定的指导作用.     

基于支持向量机的飞机地面结冰冰型分类预测

飞机结冰严重影响飞机的安全性,而不同结冰类型对飞机的危害程度也不同.文中提出了一种飞机结冰冰型预测模型,该方法将支持向量机应用于飞机结冰冰型分类.首先对各类结冰冰型影响因子进行分析,在此基础上建立了基于支持向量机的飞机结冰冰型分类模型.采用基于支持向量机的分类模型对飞机地面结冰进行了冰型识别,并与BP神经网络的分类模型进行了识别效果对比.试验结果表明,在小样本条件下,该方法具有分类准确度高、推广能力较强等优点,有良好的应用前景.     

基于融合分类和支持向量机的入侵检测研究

为了在提高入侵检测的检测率的同时降低虚警率,基于融合分类和支持向量机的异常检测利用融合分类器进行入侵检测.融合分类器包含三个不同的分类器:基于属性选择的支持向量机,基于样本剔除的支持向量机以及标准支持向量机.仿真实验由三部分组成:首先,预处理数据,然后,对完成预处理的数据分别用三个分类器进行预分类,最后,由这三个分类器实际输出的加权和进行融合决策.权值的最优化是一个NP-hard问题,在实验中,利用各分类器预分类的检测率作为其对应的权值简化了权值寻优的过程.实验结论表明,基于融合分类和支持向量机的异常检测可提高入侵检测的整体性能.     

Classification of silent speech using support vector machine and relevance vector machine

To provide speech prostheses for individuals with severe communication impairments, we investigated a classification method for brain computer interfaces (BCIs) using silent speech. Event-related potentials (ERPs) were recorded using scalp electrodes when five subjects imagined the vocalization of Japanese vowels, /a/, /i/, /u/, /e/, and /o/ in order and in random order, while the subjects remained silent and immobilized.For actualization, we tried to apply relevance vector machine (RVM) and RVM with Gaussian kernel (RVM-G) instead of support vector machine with Gaussian kernel (SVM-G) to reduce the calculation cost in the use of 19 channels, common special patterns (CSPs) filtering, and adaptive collection (AC). Results show that using RVM-G instead of SVM-G reduced the ratio of the number of efficient vectors to the number of training data from 97% to 55%. At this time, the averaged classification accuracies (CAs) using SVM-G and RVM-G were, respectively, 77% and 79%, showing no degradation. However, the calculation cost was more than that using SVM-G because RVM-G necessitates high calculation costs for optimization. Furthermore, results show that CAs using RVM-G were weaker than SVM-G when the training data were few. Additionally, results showed that nonlinear classification was necessary for silent speech classification.This paper serves as a beginning of feasibility study for speech prostheses using an imagined voice. Although classification for silent speech presents great potential, many feasibility problems remain.     

GARCH prediction using spline wavelet support vector machine

Volatility forecasting is vital important in finance to reduce risk and take better decisions. This paper proposes a spline wavelet support vector machine (SWSVM) to forecast the volatility of financial time series based on generalized autoregressive conditional heteroscedasticity model. An admissible spline wavelet kernel is constructed by incorporating the wavelet technique and spline theory into support vector machine (SVM). Since spline wavelet function can yield features that describe the stock time series both at various locations and at varying time granularities, the SWSVM gains the cluster feature of volatility well. Compared with Gaussian kernel in the standard SVM, the applicability and validity of spline wavelet kernel in SWSVM are confirmed through computer simulations and experiments on real-world stock data.     

Blast-induced ground vibration prediction using support vector machine

Ground vibrations induced by blasting are one of the fundamental problems in the mining industry and may cause severe damage to structures and plants nearby. Therefore, a vibration control study plays an important role in the minimization of environmental effects of blasting in mines. In this paper, an attempt has been made to predict the peak particle velocity using support vector machine (SVM) by taking into consideration of maximum charge per delay and distance between blast face to monitoring point. To investigate the suitability of this approach, the predictions by SVM have been compared with conventional vibration predictor equations. Coefficient of determination (CoD) and mean absolute error were taken as a performance measure.     

基于支持向量机的图书馆借阅量预测

为了准确预测图书馆借阅量,本文提出基于支持向量机的图书馆借阅量时序预测方法,支持向量机能有效解决非线性、高维、小样本等问题,并采用遗传算法选取合适的支持向量机训练参数,以此增加支持向量机的泛化能力。首先提出了支持向量机预测模型,并进行实例分析,将华北科技学院图书馆流通部1997-2007年度借阅量作为本文的实验数据。实验结果表明支持向量机的图书馆借阅量预测效果优于径向基(Radial Basis Function,RBF)神经网络。     

一种快速最小二乘支持向量机分类算法

最小二乘支持向量机不需要求解凸二次规划问题,通过求解一组线性方程而获得最优分类面,但是,最小二乘支持向量机失去了解的稀疏性,当训练样本数量较大时,算法的计算量非常大。提出了一种快速最小二乘支持向量机算法,在保证支持向量机推广能力的同时,算法的速度得到了提高,尤其是当训练样本数量较大时算法的速度优势更明显。新算法通过选择那些支持值较大样本作为训练样本,以减少训练样本数量,提高算法的速度;然后,利用最小二乘支持向量机算法获得近似最优解。实验结果显示,新算法的训练速度确实较快。     

Using support vector machine with a hybrid feature selection method to the stock trend prediction

In this paper, we developed a prediction model based on support vector machine (SVM) with a hybrid feature selection method to predict the trend of stock markets. This proposed hybrid feature selection method, named F-score and Supported Sequential Forward Search (F_SSFS), combines the advantages of filter methods and wrapper methods to select the optimal feature subset from original feature set. To evaluate the prediction accuracy of this SVM-based model combined with F_SSFS, we compare its performance with back-propagation neural network (BPNN) along with three commonly used feature selection methods including Information gain, Symmetrical uncertainty, and Correlation-based feature selection via paired t-test. The grid-search technique using 5-fold cross-validation is used to find out the best parameter value of kernel function of SVM. In this study, we show that SVM outperforms BPN to the problem of stock trend prediction. In addition, our experimental results show that the proposed SVM-based model combined with F_SSFS has the highest level of accuracies and generalization performance in comparison with the other three feature selection methods. With these results, we claim that SVM combined with F_SSFS can serve as a promising addition to the existing stock trend prediction methods.     

基于粗糙集-支持向量机的软件缺陷预测

软件缺陷预测已成为软件工程的重要研究课题,构造了一个基于粗糙集和支持向量机的软件缺陷预测模型。该模型通过粗糙集对原样本集进行属性约减,去掉冗余的和与缺陷预测无关的属性,利用粒子群对支持向量机的参数做选择。实验数据来源于NASA公共数据集,通过属性约减,特征属性由21个约减为5个。实验表明,属性约减后,Bayes分类器、CART树、神经网络和本文提出的粗糙集—支持向量机模型的预测性能均有所提高,本文提出的粗糙集支持向量机的预测性能好于其他三个模型。     

基于代价敏感支持向量机的软件缺陷预测研究

软件缺陷预测是典型的非平衡学习问题。基于CS SVM和聚类算法改进代价敏感支持向量机（SVM）算法,提出了CCS SVM软件缺陷预测模型。在CCS SVM预测模型中,将SVM与类别误分代价结合起来,以非平衡数据评价指标作为目标函数,优化错分代价因子,提升少数类样本的识别率。通过聚类找到每类样本的中心点,根据样本到其中心点的距离定义每个样本的类别置信度,给每个样本分配不同的误分代价系数,并把样本的置信度引入到代价敏感SVM优化问题中,提高算法鲁棒性,提升SVM分类性能。此外,为了提高模型的泛化能力,使用遗传算法优化特征选择和模型参数。通过美国航空航天局NASA MDP数据集实验表明,本文方法的G mean和F measure模型评价值有明显的提升。     

提升小波支持向量机在交通流量预测中的应用*

采用提升小波方法构造出一种满足双正交的小波函数,并将这种小波函数作为支持向量机的核函数;此外,用线性规划问题来代替二次规划问题及稀疏正则化,本质上确保了解的稀疏性.基于提升小波构造出提升小波支持向量机模型,并将其用于交通流量的预测中.仿真实验表明该模型具有良好的预测能力和泛化能力.     

基于简易支持向量机的客户流失预测研究*

应用简易支持向量机（SSVM）进行客户流失预测,以提高机器学习方法的预测能力。以国外电信公司客户流失预测为实例,与最近邻算法（NPA）进行了对比,发现该方法在获得与NPA近似准确率的条件下,所花费的时间和时间增加值远小于NPA,是研究客户流失预测问题的有效方法。