一种基于高斯分布的SVM核选择方法

核选择是支撑向量机(Support Vector Machine,SVM)研究中的核心问题之一。提出了一种基于数据分布特征的SVM核函数及其参数选择的方法。首先分析了确定数据分布特征的重要性,然后给出了判断数据呈高斯分布的方法,并探讨了SVM核函数及其参数选择与数据分布的相关性。数值实验说明了本文提出的方法的可行性与有效性。     

一种支持向量机集成的核选择方法

核选择问题是支持向量机（Support Vector Machine,SVM）建模中的一个关键问题,虽然支持向量机具有良好的泛化性能,但其性能受核函数的影响比较明显,而对于一个给定问题,选择合适的核函数及参数通常很困难。提出一种基于SVM集成的核选择方法,利用不同的核函数构造子SVM学习器,然后对子学习器的预测结果集成。提出的核选择方法将SVM集成学习与核选择同时进行,不仅避免了单个SVM的核选择对泛化能力的影响,而且可以获得良好的泛化能力。在UCI标准数据集上的结果说明了提出的方法的有效性。     

小波支持向量机

在研究支持向量机(SVM)核方法和小波框架理论的基础上,提出了一种称为小波支持向量机(WaveletSupport Vector Machines,WSVM)的新的机器学习构造方法.该方法引入小波基函数构造SVM的核函数,得到了一种新的SVM模型,然后提出了此模型的结构设计和实现算法,最后给出了几种常用的小波核函数,并给出了理论证明.通过仿真实验,把该方法与小波神经网络、高斯核SVM相比较,得到了较好的实验结果,从而验证了该方法的正确性和有效性.     

Q-高斯核支持向量机的财务危机预报

针对科学实践、经济生活等诸多领域数据分布相对复杂的分类问题,使用传统支持向量机(SVM)无法很好地刻画其变量间的相关性,从而影响分类性能。对于这一情况,提出使用经典高斯函数的参数推广形式--Q-高斯函数作为SVM的核函数构建财务危机预警模型。结合沪深股市A股制造业上市公司的财务数据分别建立T-2和T-3财务预警模型进行实证分析,采用显著性检验筛选出合适的财务指标并利用交叉验证方法确定模型参数。相比高斯核SVM财务危机预警模型,使用Q-高斯核SVM建立的T-2和T-3模型的预报准确率都提高了大约3%,而且成本较高的第Ⅰ类错误最多降低了14.29%。     

基于最小二乘小波支持向量机的数据拟合实验

针对目前使用的SVM核函数在回归中不能逼近任意目标函数的问题,在支持向量机的核方法和小波框架理论的基础上,提出了LS-WSVM结构模型。该模型在LS－SVM中使用一种新的由小波构成的SVM核函数。实验结果表明,与标准的SVM及LS－SVM比较起来,在同等条件下,LS-WSVM在函数回归方面LS-WSVM具有优良的逼近性能,拟合效果更为细腻。     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键.通过研究当前机器学习领域3类主要核函数及其主要性质,派生出其他相关函数,同时引入其他一些更精密的核函数应用于SVM构造.得出SVM用于非线性分类器构造时,核函数的选择原则.并以实例分析了核函数方法的计算性和泛化性,扩展了核函数的应用领域,使得SVM的构造方法更加丰富.     

半定规划支持向量机模型的研究

支持向量机(support vector machines,SVM)的分类精度和泛化能力会受到核函数及其工作参数的影响,传统的核函数参数选择方法缺乏理论支持,花费的时间较多,效果也不一定理想。针对此问题,提出一种基于半定规划的SVM模型,利用半定规划来判别一组给定的核函数工作参数是否有效,并能用有效的核函数工作参数组合计算出更优的核矩阵,提高SVM模型的分类精度。在UCI数据集上的实验结果表明,用此方法判别核函数工作参数是可行的,所组合出的半定规划SVM模型的泛化能力优于传统的SVM模型,并且异构核半定规划SVM模型的泛化能力优于同构核半定规划SVM模型。     

基于混合核函数的SVM在文本自动分类的应用

核函数是SVM的关键技术,核函数的选择将影响着学习机器的学习能力和泛化能力。不同的核函数确定了不同的非线性变换和特征空间,选取不同核函数训练SVM就会得到不同的分类效果。本文提出了一种混合的核函数[1]Kmix=λKpoly+(1-λ)Krbf,从而兼并二项式核函数及径向基核函数的优势。实验证明选用混合核函数的支持向量机,与普通核函数构造的支持向量机的评估效果进行比较,混合核函数支持向量机具有较高的分类精度。     

基于变异函数的径向基核函数参数估计

研究了支持向量机(support vector machine,SVM)方法在一定假设条件下,核函数取 为样本协方差函数时解的具体形式,得出了在该假设情况下SVM方法等价于克立格方法的结 论,提出了用协方差函数作为SVM核函数的思想.考虑到在某些情况下协方差函数可能不存 在,因此考虑用变异函数来代替协方差函数估计径向基核函数的宽度参数.这样不仅解决了 SVM中径向基核函数宽度参数的确定问题,而且把这种情况下的SVM拟合与概率统计学中的 克立格方法联系了起来,赋予了SVM方法新的统计上的意义.     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键。通过研究当前机器学习领域3类主要核函数及其主要性质，派生出其他相关函数，同时引入其他一些更精密的核函数应用于SVM构造。得出SVM用于非线性分类器构造时，核函数的选择原．则。并以实例分析了核函数方法的计算性和泛化性，扩展了核函数的应用领域，使得SVM的构造方法更加丰富。     

支持向量机核函数选择研究与仿真

支持向量机是一种基于核的学习方法,核函数选取对支持向量机性能有着重要的影响,如何有效地进行核函数选择是支持向量机研究领域的一个重要问题。目前大多数核选择方法不考虑数据的分布特征,没有充分利用隐含在数据中的先验信息。为此,引入能量熵概念,借助超球体描述和核函数蕴藏的度量特征,提出一种基于样本分布能量熵的支持向量机核函数选择方法,以提高SVM学习能力和泛化能力。数值实例仿真验证表明了该方法的可行性和有效性。     

一种联合优化的球形解码预处理方法

在多输入一多输出（MIM0）系统中，球形解码（SD）是一种非常有吸引力的解码方法。本文提出了一种针对SD的联合优化预处理方法，这种优化方法的核心是以一种联合的方式，通过一个排序迫零反馈均衡（0ZF-DFE）检测器来获得SD优化的初始搜索半径和优化的解码顺序。这个OZF-DFE区别于其它的预处理方法的一个显著特点是它内嵌在通用SD中。本文同时也提出了对SD本身的一种改进方法。仿真结果表明这种联合优化的策略在复杂度上相比其他优化方法，具有更优的性能。     

Efficient collision detection using a dual OBB-sphere bounding volume hierarchy

We present an efficient algorithm for collision detection between static rigid objects using a dual bounding volume hierarchy which consists of an oriented bounding box (OBB) tree enhanced with bounding spheres. This approach combines the compactness of OBBs and the simplicity of spheres. The majority of distant objects are separated using the simpler sphere tests. The remaining objects are in close proximity, where some separation axes are significantly more effective than others. We select 5 from among the 15 potential separating axes for OBBs. Experimental results show that our algorithm achieves considerable speedup in most cases with respect to the existing OBB algorithms.     

高斯核选择的线性性质检测方法*

核选择直接影响核方法的性能.已有高斯核选择方法的计算复杂度为Ω(n²),阻碍大规模核方法的发展.文中提出高斯核选择的线性性质检测方法,不同于传统核选择方法,询问复杂度为O(ln(1/δ)/ ^{2),计算复杂度独立于样本规模.文中首先给出函数 线性水平的定义,证明可使用 线性水平近似度量一个函数与线性函数类之间的距离,并以此为基础提出高斯核选择的线性性质检测准则.然后应用该准则,在随机傅里叶特征空间中有效评价并选择高斯核.理论分析与实验表明,应用性质检测以实现高斯核选择的方法有效可行.}     

Hybrid approach of selecting hyperparameters of support vector machine for regression.

To select the hyperparameters of the support vector machine for regression (SVR), a hybrid approach is proposed to determine the kernel parameter of the Gaussian kernel function and the epsilon value of Vapnik's epsilon-insensitive loss function. The proposed hybrid approach includes a competitive agglomeration (CA) clustering algorithm and a repeated SVR (RSVR) approach. Since the CA clustering algorithm is used to find the nearly "optimal" number of clusters and the centers of clusters in the clustering process, the CA clustering algorithm is applied to select the Gaussian kernel parameter. Additionally, an RSVR approach that relies on the standard deviation of a training error is proposed to obtain an epsilon in the loss function. Finally, two functions, one real data set (i.e., a time series of quarterly unemployment rate for West Germany) and an identification of nonlinear plant are used to verify the usefulness of the hybrid approach.     

Facilitating the applications of support vector machine by using a new kernel

In the last few years, the applications of support vector machine (SVM) have substantially increased due to the high generalization performance and modeling of non-linear relationships. However, whether SVM behaves well largely depends on its adopted kernel function. The most commonly used kernels include linear, polynomial inner product functions and the Radial Basis Function (RBF), etc. Since the nature of the data is usually unknown, it is very difficult to make, on beforehand, a proper choice from the mentioned kernels. Usually, more than one kernel are applied to select the one which gives the best prediction performance but with a very time-consuming optimization procedure. This paper presents a kernel function based on Lorentzian function which is well-known in the field of statistics. The presented kernel can properly deal with a large variety of mapping problems due to its flexibility to vary. The applicability, suitability, performance and robustness of the presented kernel are investigated on bi-spiral benchmark data set as well as seven data sets from the UCI benchmark repository. The experiment results demonstrate that the presented kernel is robust and has stronger mapping ability comparing with the standard kernel functions, and it can obtain better generalization performance. In general, the proposed kernel can be served as a generic alternative for the common linear, polynomial and RBF kernels.     

基于欧式距离的一种新的核函数

支持向量机表现的好坏很大程度上取决于核函数的选取,因此最近几年关于核函数的研究有许多。越来越多的核函数也被提了出来!但是选取合适的核函数往往却不容易,因为数据的特征往往不知道。文中利用函数的Taylor展开思想,提出了一种新的核函数,叫T—KMOD,基于KMOD提出的。该核函数的灵活性更好,可以处理很多分类的问题。用网络入侵的数据对该核函数进行了仿真,从仿真的结果可以看出,和一些常用的核函数相比,它的鲁棒性更好,有更强的分类能力。同时该函数的分类效果更好。所以该核函数和一般常用的核函数相比,可能更具有一般选择性。