一种支持向量机集成的核选择方法

核选择问题是支持向量机(Support Vector Machine,SVM)建模中的一个关键问题,虽然支持向量机具有良好的泛化性能,但其性能受核函数的影响比较明显,而对于一个给定问题,选择合适的核函数及参数通常很困难。提出一种基于SVM集成的核选择方法,利用不同的核函数构造子SVM学习器,然后对子学习器的预测结果集成。提出的核选择方法将SVM集成学习与核选择同时进行,不仅避免了单个SVM的核选择对泛化能力的影响,而且可以获得良好的泛化能力。在UCI标准数据集上的结果说明了提出的方法的有效性。     

基于时序核函数的支持向量回归机

为克服维数灾难和过拟合等传统算法所不可规避的问题，利用支持向量机（Support Vector Machine，SVM）提出基于时序数据时间相关性的核函数修正选择方法，并以真实的二氧化硫（SO2）数据为实验数据验证该方法的有效性．实验结果表明采用时序核函数对测试数据集的拟合效果更好，并对模型泛化能力有一定的提高．     

基于支持向量机和遗传算法的人脸识别研究

采用自适应遗传算法(AGA)优化筛选改进高斯核函数支持向量机(SVM)参数模型进行人脸特征分类。支持向量机的泛化性能主要取决于核函数类型和核函数参数及惩罚系数C,本文在传统高斯核函数基础上提出改进高斯核函数作为支持向量机的非线性映射函数,并使用自适应遗传算法优化筛选核函数参数和支持向量机惩罚系数,将优化后的SVM模型用于人脸库进行实验仿真。实验结果表明,本文方法比传统高斯核函数支持向量机分类器模型有更高识别率。     

基于SVM的分类问题的研究

支持向量机(SVM)具有适合处理小样本、非线性和高维数问题,利用核函数且泛化能力强等多方面的优点。文章简要介绍了SVM的基本原理,然后利用支持向量机(SVM)进行两类分类和多类分类实验,比较不同核函数的结果。实验证明支持向量机的分类效果比较好。     

半定规划支持向量机模型的研究

支持向量机(support vector machines,SVM)的分类精度和泛化能力会受到核函数及其工作参数的影响,传统的核函数参数选择方法缺乏理论支持,花费的时间较多,效果也不一定理想。针对此问题,提出一种基于半定规划的SVM模型,利用半定规划来判别一组给定的核函数工作参数是否有效,并能用有效的核函数工作参数组合计算出更优的核矩阵,提高SVM模型的分类精度。在UCI数据集上的实验结果表明,用此方法判别核函数工作参数是可行的,所组合出的半定规划SVM模型的泛化能力优于传统的SVM模型,并且异构核半定规划SVM模型的泛化能力优于同构核半定规划SVM模型。     

基于混合核函数的SVM在文本自动分类的应用

核函数是SVM的关键技术,核函数的选择将影响着学习机器的学习能力和泛化能力。不同的核函数确定了不同的非线性变换和特征空间,选取不同核函数训练SVM就会得到不同的分类效果。本文提出了一种混合的核函数[1]Kmix=λKpoly+(1-λ)Krbf,从而兼并二项式核函数及径向基核函数的优势。实验证明选用混合核函数的支持向量机,与普通核函数构造的支持向量机的评估效果进行比较,混合核函数支持向量机具有较高的分类精度。     

一种混合核函数SVM建模方法及其应用

为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法.所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性.并利用量子粒子群算法(QPSO)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取最优化参数组合,从而提高模型的精度.采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求.     

基于混合核支持向量机的金融时间序列分析

核函数是支持向量机(SVM)的重要部分,它直接影响到SVM的各项性能。当前SVM在金融时间序列分析中,基本上采用高斯径向核函数(RBF),其次才是多项式核函数。然而,每种核函数都有它的优势和不足,整合两个或多个核函数对于学习能力和泛化能力的提高是一个有效的途径。采用高斯径向核函数与多项式核函数的混合核函数运用于金融时间序列预测中,且与其单个核函数的支持向量机的实验结果进行了比较。结果表明,混合核函数具有更好的性能。     

支持向量机核函数选择研究与仿真

支持向量机是一种基于核的学习方法,核函数选取对支持向量机性能有着重要的影响,如何有效地进行核函数选择是支持向量机研究领域的一个重要问题。目前大多数核选择方法不考虑数据的分布特征,没有充分利用隐含在数据中的先验信息。为此,引入能量熵概念,借助超球体描述和核函数蕴藏的度量特征,提出一种基于样本分布能量熵的支持向量机核函数选择方法,以提高SVM学习能力和泛化能力。数值实例仿真验证表明了该方法的可行性和有效性。     

通过迭代学习简化支持向量机决策函数

支持向量机经过实践证明在小样本的情况下具有良好的泛化能力。但是在手写体数字识别的实验中，支持向量机被发现其在分类阶段的速度明显比神经网络要慢，因此在不影响支持向量机泛化能力的前提下简化支持向量机的决策函数。从而提高SVM的分类速度是很有意义的研究。利用迭代学习的方法来简化支持向量机的决策函数，实验证明本文的方法能够极大的简化SVM的决策函数，该方法易于实施。     

一种基于样本加权的多尺度核支持向量机方法

多核学习方法是机器学习领域中的一个新的热点。核方法通过将数据映射到高维空间来增加线性分类器的计算能力,是目前解决非线性模式分析与分类问题的一种有效途径。但是在一些复杂的情况下,单个核函数构成的核学习方法并不能完全满足如数据异构或者不规则、样本规模大、样本分布不平坦等实际应用中的需求问题,因此将多个核函数进行组合以期获得更好的结果,是一种必然的发展趋势。因此提出一种基于样本加权的多尺度核支持向量机方法,通过不同尺度核函数对样本的拟合能力进行加权,从而得到基于样本加权的多尺度核支持向量机决策函数。通过在多个数据集上的实验分析可以得出所提方法对于各个数据集都获得了很高的分类准确率。     

支撑向量机在高光谱遥感图像分类中的应用

高光谱遥感图像具有维数高的特点,当样本较少时,利用传统的统计识别方法分类,分类精度低.可支撑向量机(SVM)能解决小样本、高维、非线性分类问题.采用归一化法对原始图像做预处理,再分析不同的SVM核函数对分类精度的影响;并把SVM与最小距离法,马氏距离法等的分类结果进行比较.结果表明SVM的核函数类型对分类正确率影响不大,其分类精度高于传统的统计识别方法.     

构造性核覆盖算法在图像识别中的应用

构造性神经网络的主要特点是：在对给定的具体数据的处理过程中,能同时给出网络的结构和参数;支持向量机就是先通过引入核函数的非线性变换,然后在这个核空间中求取最优线性分类面,其所求得的分类函数,形式上类似于一个神经网络,而构造性核覆盖算法(简称为CKCA)则是一种将神经网络中的构造性学习方法(如覆盖算法)与支持向量机(SVM)中的核函数法相结合的方法。CKCA方法具有运算量小、构造性强、直观等特点,适于处理大规模分类问题和图像识别问题。为验证CKCA算法的应用效果,利用图像质量不高的车牌字符进行了识别实验,并取得了较好的结果。     

An enhanced Support Vector Machine classification framework by using Euclidean distance function for text document categorization

This paper presents the implementation of a new text document classification framework that uses the Support Vector Machine (SVM) approach in the training phase and the Euclidean distance function in the classification phase, coined as Euclidean-SVM. The SVM constructs a classifier by generating a decision surface, namely the optimal separating hyper-plane, to partition different categories of data points in the vector space. The concept of the optimal separating hyper-plane can be generalized for the non-linearly separable cases by introducing kernel functions to map the data points from the input space into a high dimensional feature space so that they could be separated by a linear hyper-plane. This characteristic causes the implementation of different kernel functions to have a high impact on the classification accuracy of the SVM. Other than the kernel functions, the value of soft margin parameter, C is another critical component in determining the performance of the SVM classifier. Hence, one of the critical problems of the conventional SVM classification framework is the necessity of determining the appropriate kernel function and the appropriate value of parameter C for different datasets of varying characteristics, in order to guarantee high accuracy of the classifier. In this paper, we introduce a distance measurement technique, using the Euclidean distance function to replace the optimal separating hyper-plane as the classification decision making function in the SVM. In our approach, the support vectors for each category are identified from the training data points during training phase using the SVM. In the classification phase, when a new data point is mapped into the original vector space, the average distances between the new data point and the support vectors from different categories are measured using the Euclidean distance function. The classification decision is made based on the category of support vectors which has the lowest average distance with the new data point, and this makes the classification decision irrespective of the efficacy of hyper-plane formed by applying the particular kernel function and soft margin parameter. We tested our proposed framework using several text datasets. The experimental results show that this approach makes the accuracy of the Euclidean-SVM text classifier to have a low impact on the implementation of kernel functions and soft margin parameter C.     

支撑向量机在航空发动机故障诊断中的应用研究

航空发动机故障样本有限,利用传统的统计识别方法故障诊断,正确率不高.支撑向量机能解决小样本的故障分类识别问题.研究Support Vector Machine(简称SVM)核函数对识别精度的影响,并把SVM与最大似然法、马氏距离法,最小距离法进行比较,结果表明SVM核函数对故障识别正确率影响不大,基于SVM的航空发动机...     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键。通过研究当前机器学习领域3类主要核函数及其主要性质，派生出其他相关函数，同时引入其他一些更精密的核函数应用于SVM构造。得出SVM用于非线性分类器构造时，核函数的选择原．则。并以实例分析了核函数方法的计算性和泛化性，扩展了核函数的应用领域，使得SVM的构造方法更加丰富。     

Kernel based support vector machine via semidefinite programming: Application to medical diagnosis

Support vector machine (SVM) is a well sound learning method and a robust classification procedure. Choosing a suitable kernel function in SVM is crucial for obtaining good performance; the difficulty is how to choose a suitable data transformation for the given problem. To this end, multiple kernel matrices, each of them corresponding to a given similarity measure, can be linearly combined. In this paper, the optimal kernel matrix, obtained as linear combination of known kernel matrices, is generated using a semidefinite programming approach. A suitable model formulation assures that the obtained kernel matrix is positive semidefinite and is optimal with respect to the dataset under consideration. The proposed approach has been applied to some very important medical diagnostic decision making problems and the results obtained by carrying out preliminary numerical experiments demonstrated the effectiveness of the proposed solution approach.     

Mixed KPCA结合纹理特征的SVM盐碱土信息提取

核函数是核主成分分析(Kernel Principal Component Analysis,KPCA)的核心,目前使用的核函数都是单一核函数.尝试通过将光谱角径向基核函数(Spectral Angle Radial Basis Function,SA-RBF)与RBF组合形成混合核函数.在研究中,利用基于该混合核函数的KPCA进行特征提取,将其光谱特征波段和纹理特征相结合用于盐碱土的SVM分类,将分类结果与其他SVM分类进行比较,结果表明:该方法优于其他SVM方法,能有效提取玛纳斯河流域绿洲区的盐碱土专题信息,分类精度是89.000％,kappa系数是0.876.     

基于变异函数的径向基核函数参数估计

研究了支持向量机(support vector machine,SVM)方法在一定假设条件下,核函数取 为样本协方差函数时解的具体形式,得出了在该假设情况下SVM方法等价于克立格方法的结 论,提出了用协方差函数作为SVM核函数的思想.考虑到在某些情况下协方差函数可能不存 在,因此考虑用变异函数来代替协方差函数估计径向基核函数的宽度参数.这样不仅解决了 SVM中径向基核函数宽度参数的确定问题,而且把这种情况下的SVM拟合与概率统计学中的 克立格方法联系了起来,赋予了SVM方法新的统计上的意义.     

Construct support vector machine ensemble to detect traffic incident

This study presents the applicability of support vector machine (SVM) ensemble for traffic incident detection. The SVM has been proposed to solve the problem of traffic incident detection, because it is adapted to produce a nonlinear classifier with maximum generality, and it has exhibited good performance as neural networks. However, the classification result of the practically implemented SVM depends on the choosing of kernel function and parameters. To avoid the burden of choosing kernel functions and tuning the parameters, furthermore, to improve the limited classification performance of the real SVM, and enhance the detection performance, we propose to use the SVM ensembles to detect incident. In addition, we also propose a new aggregation method to combine SVM classifiers based on certainty. Moreover, we proposed a reasonable hybrid performance index (PI) to evaluate the performance of SVM ensemble for detecting incident by combining the common criteria, detection rate (DR), false alarm rate (FAR), mean time to detection (MTTD), and classification rate (CR). Several SVM ensembles have been developed based on bagging, boosting and cross-validation committees with different combining approaches, and the SVM ensemble has been tested on one real data collected at the I-880 Freeway in California. The experimental results show that the SVM ensembles outperform a single SVM based AID in terms of DR, FAR, MTTD, CR and PI. We used one non-parametric test, the Wilcoxon signed ranks test, to make a comparison among six combining schemes. Our proposed combining method performs as well as majority vote and weighted vote. Finally, we also investigated the influence of the size of ensemble on detection performance.