一种基于高斯分布的SVM核选择方法

核选择是支撑向量机(Support Vector Machine,SVM)研究中的核心问题之一。提出了一种基于数据分布特征的SVM核函数及其参数选择的方法。首先分析了确定数据分布特征的重要性,然后给出了判断数据呈高斯分布的方法,并探讨了SVM核函数及其参数选择与数据分布的相关性。数值实验说明了本文提出的方法的可行性与有效性。     

一种支持向量机集成的核选择方法

核选择问题是支持向量机(Support Vector Machine,SVM)建模中的一个关键问题,虽然支持向量机具有良好的泛化性能,但其性能受核函数的影响比较明显,而对于一个给定问题,选择合适的核函数及参数通常很困难。提出一种基于SVM集成的核选择方法,利用不同的核函数构造子SVM学习器,然后对子学习器的预测结果集成。提出的核选择方法将SVM集成学习与核选择同时进行,不仅避免了单个SVM的核选择对泛化能力的影响,而且可以获得良好的泛化能力。在UCI标准数据集上的结果说明了提出的方法的有效性。     

小波支持向量机

在研究支持向量机(SVM)核方法和小波框架理论的基础上,提出了一种称为小波支持向量机(WaveletSupport Vector Machines,WSVM)的新的机器学习构造方法.该方法引入小波基函数构造SVM的核函数,得到了一种新的SVM模型,然后提出了此模型的结构设计和实现算法,最后给出了几种常用的小波核函数,并给出了理论证明.通过仿真实验,把该方法与小波神经网络、高斯核SVM相比较,得到了较好的实验结果,从而验证了该方法的正确性和有效性.     

基于核的支持向量机构造方法的研究

核函数的选择是构造支持向量机的关键.通过研究当前机器学习领域3类主要核函数及其主要性质,派生出其他相关函数,同时引入其他一些更精密的核函数应用于SVM构造.得出SVM用于非线性分类器构造时,核函数的选择原则.并以实例分析了核函数方法的计算性和泛化性,扩展了核函数的应用领域,使得SVM的构造方法更加丰富.     

半定规划支持向量机模型的研究

支持向量机(support vector machines,SVM)的分类精度和泛化能力会受到核函数及其工作参数的影响,传统的核函数参数选择方法缺乏理论支持,花费的时间较多,效果也不一定理想。针对此问题,提出一种基于半定规划的SVM模型,利用半定规划来判别一组给定的核函数工作参数是否有效,并能用有效的核函数工作参数组合计算出更优的核矩阵,提高SVM模型的分类精度。在UCI数据集上的实验结果表明,用此方法判别核函数工作参数是可行的,所组合出的半定规划SVM模型的泛化能力优于传统的SVM模型,并且异构核半定规划SVM模型的泛化能力优于同构核半定规划SVM模型。     

Q-高斯核支持向量机的财务危机预报

针对科学实践、经济生活等诸多领域数据分布相对复杂的分类问题,使用传统支持向量机(SVM)无法很好地刻画其变量间的相关性,从而影响分类性能。对于这一情况,提出使用经典高斯函数的参数推广形式——Q-高斯函数作为SVM的核函数构建财务危机预警模型。结合沪深股市A股制造业上市公司的财务数据分别建立T-2和T-3财务预警模型进行实证分析,采用显著性检验筛选出合适的财务指标并利用交叉验证方法确定模型参数。相比高斯核SVM财务危机预警模型,使用Q-高斯核SVM建立的T-2和T-3模型的预报准确率都提高了大约3%,而且成本较高的第Ⅰ类错误最多降低了14.29%。     

基于混合核函数的SVM在文本自动分类的应用

核函数是SVM的关键技术,核函数的选择将影响着学习机器的学习能力和泛化能力。不同的核函数确定了不同的非线性变换和特征空间,选取不同核函数训练SVM就会得到不同的分类效果。本文提出了一种混合的核函数[1]Kmix=λKpoly+(1-λ)Krbf,从而兼并二项式核函数及径向基核函数的优势。实验证明选用混合核函数的支持向量机,与普通核函数构造的支持向量机的评估效果进行比较,混合核函数支持向量机具有较高的分类精度。     

基于变异函数的径向基核函数参数估计

研究了支持向量机(support vector machine,SVM)方法在一定假设条件下,核函数取 为样本协方差函数时解的具体形式,得出了在该假设情况下SVM方法等价于克立格方法的结 论,提出了用协方差函数作为SVM核函数的思想.考虑到在某些情况下协方差函数可能不存 在,因此考虑用变异函数来代替协方差函数估计径向基核函数的宽度参数.这样不仅解决了 SVM中径向基核函数宽度参数的确定问题,而且把这种情况下的SVM拟合与概率统计学中的 克立格方法联系了起来,赋予了SVM方法新的统计上的意义.     

基于感知器的SVM自学习模型

提出了一种基于感知器的SVM分类模型（PSVM）。该模型在对分类器的训练中,引入感知器分类思想,其先利用SVM的核函数进行核计算,判断其分类性能,分类正确则不作任何修改,反之则转化成感知器分类问题。实验结果表明该模型不但能提高SVM的分类性能,而且还可以降低SVM分类性能对核函数及参数选择的依赖。     

一种快速的SVM最优核参数选择方法

支持向量机是一种基于核的学习方法,核函数及核参数的选择直接影响到SVM的泛化能力。传统的参数选择方法如网格搜索法,由于其计算量大,训练过程十分耗时,提出了一种新的快速选择最优核参数方法,该方法通过计算各类别在特征空间的可分性度量值来决定最优核参数,不需训练相应SVM分类模型,从而大大缩减了训练时间,提高了训练速度,且分类精度与传统方法相比,具有相当的竞争力。实验证明,该算法是可行有效的。     

支持向量机核函数选择研究与仿真

支持向量机是一种基于核的学习方法,核函数选取对支持向量机性能有着重要的影响,如何有效地进行核函数选择是支持向量机研究领域的一个重要问题。目前大多数核选择方法不考虑数据的分布特征,没有充分利用隐含在数据中的先验信息。为此,引入能量熵概念,借助超球体描述和核函数蕴藏的度量特征,提出一种基于样本分布能量熵的支持向量机核函数选择方法,以提高SVM学习能力和泛化能力。数值实例仿真验证表明了该方法的可行性和有效性。     

一种联合优化的球形解码预处理方法

在多输入一多输出（MIM0）系统中，球形解码（SD）是一种非常有吸引力的解码方法。本文提出了一种针对SD的联合优化预处理方法，这种优化方法的核心是以一种联合的方式，通过一个排序迫零反馈均衡（0ZF-DFE）检测器来获得SD优化的初始搜索半径和优化的解码顺序。这个OZF-DFE区别于其它的预处理方法的一个显著特点是它内嵌在通用SD中。本文同时也提出了对SD本身的一种改进方法。仿真结果表明这种联合优化的策略在复杂度上相比其他优化方法，具有更优的性能。     

Efficient collision detection using a dual OBB-sphere bounding volume hierarchy

We present an efficient algorithm for collision detection between static rigid objects using a dual bounding volume hierarchy which consists of an oriented bounding box (OBB) tree enhanced with bounding spheres. This approach combines the compactness of OBBs and the simplicity of spheres. The majority of distant objects are separated using the simpler sphere tests. The remaining objects are in close proximity, where some separation axes are significantly more effective than others. We select 5 from among the 15 potential separating axes for OBBs. Experimental results show that our algorithm achieves considerable speedup in most cases with respect to the existing OBB algorithms.     

Hybrid approach of selecting hyperparameters of support vector machine for regression.

To select the hyperparameters of the support vector machine for regression (SVR), a hybrid approach is proposed to determine the kernel parameter of the Gaussian kernel function and the epsilon value of Vapnik's epsilon-insensitive loss function. The proposed hybrid approach includes a competitive agglomeration (CA) clustering algorithm and a repeated SVR (RSVR) approach. Since the CA clustering algorithm is used to find the nearly "optimal" number of clusters and the centers of clusters in the clustering process, the CA clustering algorithm is applied to select the Gaussian kernel parameter. Additionally, an RSVR approach that relies on the standard deviation of a training error is proposed to obtain an epsilon in the loss function. Finally, two functions, one real data set (i.e., a time series of quarterly unemployment rate for West Germany) and an identification of nonlinear plant are used to verify the usefulness of the hybrid approach.     

Facilitating the applications of support vector machine by using a new kernel

In the last few years, the applications of support vector machine (SVM) have substantially increased due to the high generalization performance and modeling of non-linear relationships. However, whether SVM behaves well largely depends on its adopted kernel function. The most commonly used kernels include linear, polynomial inner product functions and the Radial Basis Function (RBF), etc. Since the nature of the data is usually unknown, it is very difficult to make, on beforehand, a proper choice from the mentioned kernels. Usually, more than one kernel are applied to select the one which gives the best prediction performance but with a very time-consuming optimization procedure. This paper presents a kernel function based on Lorentzian function which is well-known in the field of statistics. The presented kernel can properly deal with a large variety of mapping problems due to its flexibility to vary. The applicability, suitability, performance and robustness of the presented kernel are investigated on bi-spiral benchmark data set as well as seven data sets from the UCI benchmark repository. The experiment results demonstrate that the presented kernel is robust and has stronger mapping ability comparing with the standard kernel functions, and it can obtain better generalization performance. In general, the proposed kernel can be served as a generic alternative for the common linear, polynomial and RBF kernels.     

基于欧式距离的一种新的核函数

支持向量机表现的好坏很大程度上取决于核函数的选取,因此最近几年关于核函数的研究有许多。越来越多的核函数也被提了出来!但是选取合适的核函数往往却不容易,因为数据的特征往往不知道。文中利用函数的Taylor展开思想,提出了一种新的核函数,叫T—KMOD,基于KMOD提出的。该核函数的灵活性更好,可以处理很多分类的问题。用网络入侵的数据对该核函数进行了仿真,从仿真的结果可以看出,和一些常用的核函数相比,它的鲁棒性更好,有更强的分类能力。同时该函数的分类效果更好。所以该核函数和一般常用的核函数相比,可能更具有一般选择性。     

基于多核学习的协同滤波算法

协同滤波是当前推荐系统中一种主流的个性化推荐算法,通过近似用户对商品的评价进行推荐。核函数是解决非线性模式问题的一种方法。协同滤波通常会选用不同的核函数来分析用户之间的影响关系。由于单核函数无法适应于复杂多变场景。因此,结合多个核函数成为一种解决方法。多核学习能够针对场景来组合各个核函数以获取更好的结果。本文提出了一种基于多核学习的协同滤波算法。该算法在现有核函数的基础上,优化各个核函数的权重以匹配数据的分布。在大众点评数据集和Foursquare数据集上的实验结果表明：基于多核学习的协同滤波算法比经验给定的相似函数的性能要高,具有更好的普适性。