混合核函数PLS建模方法及在软测量中的应用

针对核函数方法中单个核函数的局限性,以及PLS非线性处理能力差的特点,提出混合核函数PLS建模方法,以提高模型的推广能力和非线性处理能力。混合核函数集中了多个局部和全局核函数,兼具局部和全局特性,并可以通过参数调节局部和全局核函数对混合核函数的作用,将过程的先验知识融入到核函数的确定,进而适合具有不同数据特征的工业过程。工业丙烯腈收率软测量建模的应用表明,混合核函数PLS软测量模型具有较好的数据适应性和非线性特性,满足了工业应用要求。     

一种新的混合核函数支持向量机

针对单核函数支持向量机性能的局限性问题,提出将sigmoid核函数与高斯核函数组成一种新的混合核函数支持向量机.高斯核是典型的局部核;sigmoid核在神经网络中被证明具有良好的全局分类性能.新混合核函数结合二者的优点,其支持向量机的分类性能优于由单核函数构成的支持向量机,实验结果表明该方法的有效性.     

增量支持向量机核函数的优化

支持向量机的核函数类型分为两类：局部核函数和全局核函数.局部核函数的值只受到相距很近数据点的影响,有很好的学习能力.全局核函数的值会受到距离较远数据点的影响,有很好的推广泛化能力.针对局部核函数学习能力良好但泛化能力差的缺点,提出一种结合局部核函数和全局核函数构造新联合函数的方法.实验结果表明,与局部核函数和全局核函数相比,新联合核函数有更好的预测能力,并且能够适应增量学习的过程.     

基于混合核函数PSO-SVM的初期肝病患者辨识模型研究

以肝脏病人为例,提出将PSO-SVM分类模型用于识别肝病患者.针对单核函数SVM的局限性和改善SVM分类器的非线性处理能力和泛化能力的问题,提出将全局核函数和局部核函数结合的混合核函数应用到SVM模型建模中.然后通过PSO算法对SVM模型的参数寻优,最后利用混合核分类器对与肝功能相关的9种指标进行分类并识别初期肝病患者.该实验结果证明该模型对初期肝病患者的辨识有很好的准确率,可以为医生的诊断提供重要的辅助手段和对患者尤其是初期肝病患者及时发现、及时治疗.     

基于混合核函数FOA-LSSVM的预测模型

支持向量机（SVM）的核函数类型和超参数对预测的精度有重要影响。由于局部核函数学习能力强、泛化性能弱,而全局核函数泛化性能强、学习能力弱的矛盾,通过综合两类核函数各自优点构造了基于全局多项式核和高斯核的混合核函数,并引入果蝇优化算法（FOA）对最小二乘支持向量机（LSSVM）参数进行全局寻优,提出了混合核函数FOA-LSSVM 预测模型。结果表明,该模型较传统方法在电力负荷预测精度上有了明显提高,预测结果科学可靠,在预测中具有良好的实际应用价值。     

一种支持向量机的组合核函数

核函数是支持向量机的核心，不同的核函数将产生不同的分类效果，核函数也是支持向量机理论中比较难理解的一部分。通过引入核函数，支持向量机可以很容易地实现非线性算法。首先探讨了核函数的本质，说明了核函数与所映射空间之间的关系，进一步给出了核函数的构成定理和构成方法，说明了核函数分为局部核函数与全局核函数两大类，并指出了两者的区别和各自的优势。最后，提出了一个新的核函数——组合核函数，并将该核函数应用于支持向量机中，并进行了人脸识别实验，实验结果也验证了该核函数的有效性。     

基于极分解下的混合核函数及改进

利用矩阵能极分解生成一个对称半正定矩阵的特性,本文对RBF核进行极分解,并结合全局多项式核,构造一个性能较好的混合核函数.然后对该混合核设定两个权值,使之达到较好的性能.在UCI数据库中的数据集上进行实验,采用基于极分解下的混合核,来与RBF核进行比较.结果表明,使用混合核的SVM,其支持向量的个数少、分类错误低,并有较好的训练速度.还进一步发现,在大多数据集上,该混合核有效抑制了局部核函数RBF所引起的预测输出波动.     

基于一类局部固定核的支持向量回归建模

在考虑样本向量相似性的基础上,提出一种核函数--高斯余弦核,并证明了该核是一类局部固定核.局部固定核同时描述了样本全局和局部结构,因而高斯余弦核可将样本数据映射到信息描述更为丰富的特征空间.将该核用于Logistic混沌时间序列和煤气炉数据集的支持向量回归建模与预测,仿真结果表明所提出的方法能有效地提高预测精度,而且不增加算法的复杂度.     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

基于混合核函数的SVM在文本自动分类的应用

核函数是SVM的关键技术,核函数的选择将影响着学习机器的学习能力和泛化能力。不同的核函数确定了不同的非线性变换和特征空间,选取不同核函数训练SVM就会得到不同的分类效果。本文提出了一种混合的核函数[1]Kmix=λKpoly+(1-λ)Krbf,从而兼并二项式核函数及径向基核函数的优势。实验证明选用混合核函数的支持向量机,与普通核函数构造的支持向量机的评估效果进行比较,混合核函数支持向量机具有较高的分类精度。     

A set of new Chebyshev kernel functions for support vector machine pattern classification

In this study, we introduce a set of new kernel functions derived from the generalized Chebyshev polynomials. The proposed generalized Chebyshev polynomials allow us to derive different kernel functions. By using these polynomial functions, we generalize recently introduced Chebyshev kernel function for vector inputs and, as a result, we obtain a robust set of kernel functions for Support Vector Machine (SVM) classification. Thus in this study, besides clarifying how to apply the Chebyshev kernel functions on vector inputs, we also increase the generalization capability of the previously proposed Chebyshev kernels and show how to derive new kernel functions by using the generalized Chebyshev polynomials. The proposed set of kernel functions provides competitive performance when compared to all other common kernel functions on average for the simulation datasets. The results indicate that they can be used as a good alternative to other common kernel functions for SVM classification in order to obtain better accuracy. Moreover, test results show that the generalized Chebyshev kernel approaches to the minimum support vector number for classification in general.     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键。通过研究当前机器学习领域3类主要核函数及其主要性质，派生出其他相关函数，同时引入其他一些更精密的核函数应用于SVM构造。得出SVM用于非线性分类器构造时，核函数的选择原．则。并以实例分析了核函数方法的计算性和泛化性，扩展了核函数的应用领域，使得SVM的构造方法更加丰富。     

GMM-UBM和SVM在说话人识别中的应用

针对说话识别领域短语音导致的训练数据不充分的问题,选择能够突出说话人个性特征的GMM-UBM作为基线系统模型,并引入SVM解决GMM-UBM导致的系统鲁棒性差的问题. 选择不同的核函数对SVM的识别性能有较大的影响,针对多项式核函数泛化能力较强、学习能力较差与径向基核函数学习能力较强、泛化能力较差的特性,对两种单核核函数进行线性加权组合,以使组合核函数兼具各单核的优点. 仿真实验结果表明,组合核函数SVM的识别率和等错误率明显优于不引入SVM的GMM-UBM的基线系统及其它三个单核函数,并在不同信噪比情况下也兼顾了系统识别准确率与鲁棒性.     

组合核支持向量机的模式分析新方法

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和多项式核函数进行有效的线性组合,给出一种新的支持向量机的组合核函数,提出一种基于再生核的组合核函数支持向量机的模式分析方法,该方法兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低。仿真实验结果表明：支持向量机的核函数采用基于再生核的组合核函数是可行的,且此核函数不仅具有核函数的非线性映射特征,而且也继承了核函数对非线性逐级精细逼近的特征,模式分析的效果比单核函数可以更加细腻。     

基于混合核函数的SVM及其应用

支持向量机可以很好地应用于函数拟合中,其中核函数的选择尤其重要。由于普通核函数各有其利弊,为了得到学习能力和泛化性能都很强的核函数,文中采用了混合核函数,并将由其构造的支持向量机运用于函数拟合中,且与普通核函数构造的支持向量机的实验结果进行了比较。结果表明其性能明显优于由普通核函数构造的支持向量机。     

View independent face detection based on horizontal rectangular features and accuracy improvement using combination kernel of various sizes

This paper proposes a view independent face detection method based on horizontal rectangular features, and accuracy improvement by combining kernels of various sizes. Since the view changes of faces induce large variation in appearance in the horizontal direction, local kernels are applied to horizontal rectangular regions to model such appearance changes. Local kernels are integrated by summation, and then used as a summation kernel for support vector machine (SVM). View independence is shown to be realized by the integration of local horizontal rectangular kernels. However, in general, local kernels (features) of various sizes have different similarity measures, such as detailed and rough similarity, and thus their error patterns are different. If the local and global kernels are combined well, the generalization ability is improved. This research demonstrates the comparative effectiveness of combining the global kernel and local kernels of various sizes as a summation kernel for SVM against use of only the global kernel, only the combination of local kernels and Adaboost with SVMs with a kind of local kernel.     

组合核函数SVM在网络安全风险评估中的应用

核函数是SVM的关键技术,核函数的选择将影响着支持向量机的学习能力和泛化能力。各个普通核函数各有利弊,在分析各个普通核函数的基础上,采用了一种新的组合核函数,它既具有很好的泛化能力,也具有很好的学习能力,并将其构造的支持向量机应用到网络安全的风险评估中,与普通核函数构造的支持向量机的评估效果进行比较。结果表明组合核函数支持向量机不仅提高了分类速度,而且具有较高的分类精度。     

Evolutionary strategies for hyperparameters of support vector machines based on multi-scale radial basis function kernels

Kernel functions are used in support vector machines (SVM) to compute inner product in a higher dimensional feature space. SVM classification performance depends on the chosen kernel. The radial basis function (RBF) kernel is a distance-based kernel that has been successfully applied in many tasks. This paper focuses on improving the accuracy of SVM by proposing a non-linear combination of multiple RBF kernels to obtain more flexible kernel functions. Multi-scale RBF kernels are weighted and combined. The proposed kernel allows better discrimination in the feature space. This new kernel is proved to be a Mercer’s kernel. Furthermore, evolutionary strategies (ESs) are used for adjusting the hyperparameters of SVM. Training accuracy, the bound of generalization error, and subset cross-validation on training accuracy are considered to be objective functions in the evolutionary process. The experimental results show that the accuracy of multi-scale RBF kernels is better than that of a single RBF kernel. Moreover, the subset cross-validation on training accuracy is more suitable and it yields the good results on benchmark datasets.     

组合核函数SVM在说话人识别中的应用

针对说话人识别实际应用中训练数据不足的问题,选取GMM-UBM作为基准系统模型,用EigenVoice对其作自适应,应用泛化能力较强的多项式核函数和学习能力较强的径向基核函数进行线性加权组合后的组合核函数进行模型参数优化,并用多重网格搜索法确定核函数的最优参数,采用DAG方法实现SVM核函数的多元分类.在仿真实验中评估了线性核、多项式核、径向基核以及组合核函数,实验结果表明,在采用正确的参数前提下,在不同的多分类策略、自适应时间、信噪比和不同的说话人数量的情况下,组合核函数的识别性能明显都优于其它三个单核函数.