基于统计检验的核函数度量方法研究

将统计检验方法应用于核函数度量.以核函数、规范化核函数、中心化核函数和核距离作为样本在特征空间中的几何关系度量,使用t检验和F检验等7种统计检验方法检验特征空间中同类样本间几何关系度量值与异类样本间几何关系度量值的分布差异,以此反映特征空间中同类样本间内聚性与异类样本间分离性间的差异.在11个UCI数据集上进行的核函数选择实验表明,基于统计检验的核度量方法达到或超过了核校准与特征空间核度量标准等方法的效果,适用于核函数度量;并且发现两类数据分布差异主要体现在了方差差异上.此外,对核函数的处理(规范化或中心化)会改变特征空间,使得度量结果失真.     

基于核函数的SOM网络流量分类方法

由于网络流量数据高度非线性,传统的自组织映射(self-organizing maps,SOM)网络对此分类的鲁棒性和可靠性较差,提出了一种基于核函数的SOM(kernel SOM,KSOM)网络流量分类方法。该方法用核函数代替原始数据在特征空间中映射值的内积,使输入空间中复杂的流量样本结构在特征空间中得到简化,实现对有多个统计特征属性的网络流量在应用层的分类。实验结果表明,KSOM能识别新应用类型的流量,较传统的SOM更适合对网络流量进行分类,其分类准确率高于NB方法。     

核函数FISHER鉴别在性别鉴别中的应用

该文在线性FISHER鉴别的基础上,探讨了核函数FISHER鉴别原理;然后将核函数FISHER鉴别用于性别鉴别中,并提出了相应算法;对ORL人脸图像数据库进行实验;详细分析了算法在不同样本分布和不同参数条件下的识别结果;表明了在两类模式识别中核函数FISHER鉴别理论具有良好的识别效果及极佳的推广能力。     

软件可靠性预测中不同核函数的预测能力评估

基于核函数回归估计理论的软件可靠性预测建模引起诸多研究者的兴趣.此类研究中,核函数选择问题尤为重要.然而目前还很少有针对所给软件失效数据进行核函数选择或者构建核函数的工作.在14个常用软件失效数据集上应用配对t-检验对基于核函数理论的软件可靠性预测模型中核函数选择问题进行研究.使用的核函数回归估计方法包括核主成分回归算法、核偏最小二乘回归算法、支持向量回归算法、相关向量回归算法;核函数包括高斯核函数、线性核函数、多项式核函数、柯西核函数、拉普拉斯核函数、对称三角核函数、双曲正割核函数、平方正弦基核函数.实验结果表明:不同类型的核函数在不同数据集上表现差异较大,高斯核函数在所有数据集上表现较为稳定,预测结果最好.     

结合核函数与非线性偏微分方程的图像去噪方法

传统的非线性扩散滤波方法在图像去噪时使用传统的梯度算子,易导致细节缺失。针对该缺点,以非线性偏微分方程和图像结构信息为基础,构造一类带有自适应权值的非线性扩散滤波去噪方式。这种方式选用多方向的拉普拉斯算子模板,结合核函数,自适应地调节权重系数;利用非局部信息选取合适的搜索窗宽,以减小图像噪声的影响。实验证明,该方法既能较好地保存图像纹理细节,又可以达到很好的去噪效果。     

基于支持向量机分类问题的勒让德核函数

基于勒让德正交多项式,提出了一类新的核函数——勒让德核函数。在双螺旋集和标准UCI数据集上的实验表明,在鲁棒性与泛化性能方面,该核函数比常用的核函数(多项式核、高斯径向基核等)具有更好的表现,而且其参数仅在自然数中取值,能大大缩短参数优化时间。     

核函数的选择研究综述

核方法是解决非线性模式分析问题的一种有效方法,是当前机器学习领域的一个研究热点.核函数是影响核方法性能的关键因素,以支持向量机作为核函数的载体,从核函数的构造、核函数中参数的选择、多核学习3个角度对核函数的选择的研究现状及其进展情况进行了系统地概述,并指出根据特定应用领域选择核函数、设计有效的核函数度量标准和拓宽核函数选择的研究范围是其中3个值得进一步研究的方向.     

基于核函数拟合的非平衡数据分类方法

在数据分类算法的实际应用中,经常会遇到数据不平衡的问题(即正负样本的数目相差极大)。标准的分类算法在处理这一问题时,往往很难达到令人满意的性能。提出一种新的方法,通过对正负样本分别进行核函数拟合,根据拟合好的核函数对未知样本进行预测。在UCI标准数据集的仿真实验结果表明,该方法能有效地处理非平衡数据问题。     

基于混合核函数的SVM及其应用

支持向量机可以很好地应用于函数拟合中,其中核函数的选择尤其重要。由于普通核函数各有其利弊,为了得到学习能力和泛化性能都很强的核函数,文中采用了混合核函数,并将由其构造的支持向量机运用于函数拟合中,且与普通核函数构造的支持向量机的实验结果进行了比较。结果表明其性能明显优于由普通核函数构造的支持向量机。     

基于混合核函数的SVM及其应用

支持向量机可以很好地应用于函数拟合中．其中核函数的选择尤其重要。由于普通核函数各有其利弊，为了得到学习能力和泛化性能都很强的核函数，文中采用了混合核函数，并将由其构造的支持向量机运用于函数拟合中，且与普通核函数构造的支持向量机的实验结果进行了比较。结果表明其性能明显优于由普通核函数构造的支持向量机。     

基于核方法的雷达目标一维距离像识别

由于雷达目标及其所处环境的复杂性,导致不同目标之间的关系往往是非线性的.研究基于核的非线性方法,并将其应用于雷达目标一维距离像识别.核Fisher判别分析(KFDA)是一种抽取非线性特征的最有效方法之一,但它往往会面临小样本问题.针对此问题,给出一种null-KFDA方法,对距离像进行特征提取.然后,采用一种新的核非线性分类器——KNR(kernel-based nonlinear representor),对所提取的特征进行分类.对3种飞机的实测距离像进行实验,结果验证了null-KFDA的有效性.此外,与非线性支持向量机(SVM)和径向基函数神经网络(RBFNN)相比,KNR分类器具有更优的识别性能.     

Human Gait Recognition Based on Kernel PCA Using Projections

This paper presents a novel approach for human identification at a distance using gait recognition. Recognition of a person from their gait is a biometric of increasing interest. The proposed work introduces a nonlinear machine learning method, kernel Principal Component Analysis （PCA）, to extract gait features from silhouettes for individual recognition. Binarized silhouette of a motion object is first represented by four 1-D signals which are the basic image features called the distance vectors. Fourier transform is performed to achieve translation invariant for the gait patterns accumulated from silhouette sequences which are extracted from different circumstances. Kernel PCA is then used to extract higher order relations among the gait patterns for future recognition. A fusion strategy is finally executed to produce a final decision. The experiments are carried out on the CMU and the USF gait databases and presented based on the different training gait cycles.     

多核学习方法

多核学习方法是当前核机器学习领域的一个新的热点. 核方法是解决非线性模式分析问题的一种有效方法, 但在一些复杂情形下, 由单个核函数构成的核机器并不能满足诸如数据异构或不规则、样本规模巨大、样本不平坦分布等实际的应用需求, 因此将多个核函数进行组合, 以获得更好的结果是一种必然选择. 本文根据多核的构成, 从合成核、多尺度核、无限核三个角度, 系统综述了多核方法的构造理论, 分析了多核学习典型方法的特点及不足, 总结了各自的应用领域, 并凝炼了其进一步的研究方向.     

基于核统计独立性准则的特征选择研究综述

希尔伯特-施密特独立性准则（Hilbert-Schmidt independence criterion,HSIC）是一种基于核函数的独立性度量标准,具有计算简单、收敛速度快和偏差低等优点,广泛应用于统计分析和机器学习问题中。特征选择是一种有效的降维技术,它能评估特征的重要性,并构造适合学习任务的最优特征子空间。系统综述了基于HSIC的特征选择方法,详细介绍了其中的理论基础、算法模型和求解方法,分析了基于HSIC的特征选择的优点与不足,并对未来的研究做出展望。     

基于插值的核函数构造

近年来，统计学习(SLT)和支持向量机(SVM)理论的研究日益受到当前国际机器学习领域的重视．有关核函数的研究则一直是研究的重点．这是因为不同的核函数会导致SVM的泛化能力有很大的不同．如何根据所给数据选择合适的核函数成为人们所关注的核心问题．该文首先指出满足Mercer条件的核函数的具体表达式并非问题关键，在此基础上，该文进一步提出利用散乱数据插值的办法确定特征空间中感兴趣点的内积值以代替传统核函数的一般表达式所起的作用．实验表明该方法不仅能够有效改善支持向量机的设计训练过程中的不确定性，而且泛化能力要优于绝大部分的基于传统核函数的支持向量机．     

基于核变换的高性能支持向量机分类算法

由于传统的支持向量机(SVM)算法的核函数没有考虑训练数据自身的特点,因而相对于具体的问题来说,往往不是最优的。为了获得最优的分类结果,提出了一种基于核变换思想的支持向量机分类方法。该方法首先根据训练样本的类属信息,通过对初始核进行线性变换来间接地达到改进输入空间到输出空间的映射函数的目的,同时利用变换后的核函数来求解分类数据特征空间的超平面方程。仿真和实验结果表明,采用此方法,不仅可以提高系统的分类性能和降低噪声的干扰,而且可以增强分类结果的鲁棒性。     

基于Laplace积核的多变量概率函数估计

在统计模式识别方法中，经常涉及到的问题是多变量概率函数的估计。这类问题往往需要大量的样本数据．而且计算量相当大。提出了一种基于Laplace积核的多变量概率函数估计方法，给出了其详细的推导；提出期望最大化迭代算法对所估计函数参数进行求解。最后以道路交通标志的统计识别方法为应用背景，用VC＋＋实现了此估计方法。实验表明本文所提出的估计方法具有收敛速度快，估计误差小的特点。在模式识别和数据拟合中都有应用价值。     

统计流形扩散核的文本分类方法

提出Dirichlet混合多项式(DCM)流形,并利用DCM流形可与正半球流形建立同胚和等距关系的性质,通过拉回映射将正半球流形的测地距离映射为DCM流形的测地距离,从而在DCM流形上建立距离度量,构建统计流形上的Dirichlet混合多项式扩散核和Dirichlet混合多项式倒排文档频率(DCMIDF)扩散核。利用WebKBTop4和20Newsgroups语料库上进行实验,DCM流形能比欧氏空间更能准确地描述文本。与多项式核支持向量机算法、,负测地距离核支持向量机算法相比,实验结果显示文中基于DCM扩散核和DCMIDF扩散核的支持向量机算法可取得良好的文本分类效果。     

基于SVM分类问题的核函数选择仿真研究

首先讨论支持向量机(SVM)的基本思想和实现过程,随后着重对SVM核函数进行探讨,从理论上研究常用核函数的选择优化问题。采用UCI数据库中的玻璃识别数据、菖蒲植物数据以及汽车评估数据分别对选择不同的核函数情况进行实验仿真分类和比较。仿真结果表明,同类数据选择不同核函数会产生不同的分类效果,选取合适的核函数对分类效果有很大的影响。