基于SVM的不良文本信息识别

不良文本识别的实际应用中,大多数文本之间总有交界甚至彼此掺杂,这种非线性不可分问题给不良文本识别带来了难度。应用 SVM 通过非线性变换可以使原空间转化为某个高维空间中的线性问题,而选择合适的核函数是 SVM 的关键。由于单核无法兼顾对独立的不良词汇和词汇组合的识别,使识别准确率不高,而且也无法兼顾召回率。针对不良文本识别的特定应用,依据 Mercer 定理结合线性核与多项式核提出了一种新的组合核函数,这种组合核函数能兼顾线性核与多项式核的优势,能够实现对独立的不良词汇以及词汇组合进行识别。在仿真实验中评估了线性核、齐次多项式核以及组合核函数,实验结果表明组合核函数的识别准确率与召回率都比较理想。     

功放非线性特性及预失真模型研究

针对功率放大器的非线性特性问题进行研究,分别根据无记忆和有记忆两种类型的功放特性曲线用最小二乘法拟合出功放模型,根据线性化原则以及输出幅度限制和功率最大化约束,建立预失真模型.以误差函数和工程可实现性为评价指标,从不同模型中分别选出无记忆和有记忆最优模型.仿真测试表明被选取的多项式预失真模型能够有效的改善功率放大器的非线性具有较好的抗噪性,对工程实践中预失真器的设计具有一定的指导意义.     

基于多项式核RVM的非线性模型预测控制

针对非线性、不确定性对象不易建模的特点,提出了基于多项式核关联向量机(RVM)的解析型非线性预测控制方法,该方法采用多项式核RVM进行模型辨识,得到的对象模型作为预测模型。由于RVM具有较好的非线性建模能力,弥补了SVM参数设定难和稀疏性不强等弱点;同时,多项式形式的模型表达式使二次型优化目标函数可以通过函数解析方法求得最优控制输入,即简化了滚动优化模块,增强了控制的实时性。通过对一个标准的非线性Benchmark问题进行仿真实验,结果表明该方法具有良好的控制性能。     

组合核函数SVM在特定领域文本分类中的应用

面向特定领域文本分类的实际应用,存在大量样本相互掺杂的现象,使其无法线性表述,在SVM中引入核函数可以有效地解决非线性分类的问题,而选择不同的核函数可以构造不同的SVM,其识别性能也不同,因此,选择合适的核函数及其参数优化成为SVM的关键.本文基于单核核函数的性质,对多项式核函数与径向基核函数进行线性加权,构建具有良好的泛化能力与良好的学习能力的组合核函数.仿真实验结果表明,在选择正确参数的情况下,组合核函数SVM的宏平均准确率、宏平均召回率及宏平均综合分类率都明显优于线性核、多项式核与径向基核,而且能够兼顾准确率与召回率.     

基于混合核支持向量机的金融时间序列分析

核函数是支持向量机（SVM）的重要部分,它直接影响到SVM的各项性能。当前SVM在金融时间序列分析中,基本上采用高斯径向核函数（RBF）,其次才是多项式核函数。然而,每种核函数都有它的优势和不足,整合两个或多个核函数对于学习能力和泛化能力的提高是一个有效的途径。采用高斯径向核函数与多项式核函数的混合核函数运用于金融时间序列预测中,且与其单个核函数的支持向量机的实验结果进行了比较。结果表明,混合核函数具有更好的性能。     

GCPSO优化混合核SVM的地铁车站客流预测

地铁中站点客流量为地铁运营调度部门提供实时调度管理依据。将径向基核函数与多项式核函数线性组合,构建了混合核支持向量回归机（SVM）预测模型。采用基于黄金分割的混沌粒子群（GCPSO）对混合核SVM的参数进行寻优,得到最佳的参数组合。利用该混合核SVM预测广州地铁3号线站点短期客流量。结果表明,GCPSO优化的混合核SVM预测模型对地铁站点的短期客流的预测精度高,预测数据和实测数据拟合良好,相对误差较小,明显优于SVM其他三种预测方法及Elman神经网络预测方法。     

支持向量机分类器遥感图像分类研究

SVM分类器核函数的选择以及参数的设置直接影响系统的泛化能力和运行速度。引入交叉验证技术和栅格搜索技术,对径向基核、多项式核和Sigmoid核函数应用于图像多类别分类的性能进行理论推导、测试及分析,求得三种核函数应用于SVM分类器的性能,并证明了栅格搜索寻找最优参数的有效性。最后通过对TM 6波段BSQ格式遥感图像进行分类对比证明了SVM分类器核函数用于TM图像分类的可行性及高效性。     

多项式核函数SVM快速分类算法

标准的SVM分类计算过程中有大量的支持向量参与了计算，导致了分类速度缓慢。该文为提高SVM的分类速度，提出了一种快速的多项式核函数SVM分类算法，即将使用多项式核的SVM分类决策函数展开为关于待分类向量各分量的多项式，分类时通过计算各个多项式的值而得到分类结果，使分类计算量和支持向量数量无关，又保留了全部支持向量的信息。当多项式核函数的阶数或待分类向量的维数较低而支持向量数量较多时，使用该算法可以使SVM 分类的速度得到极大的提高。针对实际数据集的实验表明了该算法的有效性。     

一种改进的多项式核支持向量机文本分类器 *

多项式核函数由于具有良好的泛化性能而受到重视,并被研究用于文本分类问题。针对多项式核学习 能力较差的缺点,将学习能力较强的条件正定核与多项式核构成一个混合核函数作为改进的多项式核。实验表 明,改进的多项式核SVM文本分类器的分类效果要好于多项式核SVM文本分类器。     

基于KPCA组合核函数SVM的网络危险因素识别

本文在传统的支持向量机（SVM）分类算法中采用核主成分分析（KPCA）对网络数据进行特征抽取,将高维输入特征转化为新的低维特征;并对SVM的核函数进行改进,采用多项式核函数和径向基核函数混合的组合核函数,具有良好的学习能力和外推能力。最后在KDDCUP1999数据集上进行实验,证明了本文方法能够有效的减少学习样本数及训练时间,在网络危险因素识别中具有更高的检测率和更强的泛化能力。     

Design of semi-tensor product-based kernel function for SVM nonlinear classification

The kernel function method in support vector machine (SVM) is an excellent tool for nonlinear classification. How to design a kernel function is difficult for an SVM nonlinear classification problem, even for the polynomial kernel function. In this paper, we propose a new kind of polynomial kernel functions, called semi-tensor product kernel (STP-kernel), for an SVM nonlinear classification problem by semi-tensor product of matrix (STP) theory. We have shown the existence of the STP-kernel function and verified that it is just a polynomial kernel. In addition, we have shown the existence of the reproducing kernel Hilbert space (RKHS) associated with the STP-kernel function. Compared to the existing methods, it is much easier to construct the nonlinear feature mapping for an SVM nonlinear classification problem via an STP operator.     

Data representations and generalization error in kernel based learning machines

This paper focuses on the problem of how data representation influences the generalization error of kernel based learning machines like support vector machines (SVM) for classification. Frame theory provides a well founded mathematical framework for representing data in many different ways. We analyze the effects of sparse and dense data representations on the generalization error of such learning machines measured by using leave-one-out error given a finite amount of training data. We show that, in the case of sparse data representations, the generalization error of an SVM trained by using polynomial or Gaussian kernel functions is equal to the one of a linear SVM. This is equivalent to saying that the capacity of separating points of functions belonging to hypothesis spaces induced by polynomial or Gaussian kernel functions reduces to the capacity of a separating hyperplane in the input space. Moreover, we show that, in general, sparse data representations increase or leave unchanged the generalization error of kernel based methods. Dense data representations, on the contrary, reduce the generalization error in the case of very large frames. We use two different schemes for representing data in overcomplete systems of Haar and Gabor functions, and measure SVM generalization error on benchmarked data sets.     

基于多种核函数的SVM在垃圾邮件过滤中的应用

采用TF-IDF和Bernoulli两种模型构造邮件向量,首先详细测试了CHI降维策略对线性支持向量机进行邮件分类的影响。将基于核函数的支持向量机引入到垃圾邮件过滤中,对基于线性核、多项式核和径向基核的支持向量机在邮件分类中的准确率和训练时间进行了比较,分析了训练样本不平衡对分类的影响,并从理论上对实验结果进行了分析,实验结果证明基于径向基核函数的SVM分类器对垃圾邮件有较好的过滤效果。     

超核函数支持向量机

支持向量机是当前机器学习、模式识别和数据挖掘等领域的重要学习方法,核函数的构造是研究和应用支持向量机的关键问题.针对这一问题,提出了核函数构造的组合理论,定义了超核函数概念,并通过多项式组合现有核函数构造出一类超核函数.具体地,首先分析了一般核函数存在的过学习和欠学习现象,然后证明了组合理论构造的核函数的Mercer性质,并通过在仿真数据集和标准数据集上的对比实验,验证了超核函数的性能.理论分析和实验结果阐明了所提出的超核函数组合构造理论的合理性和有效性,开拓了模型选择组合方法的研究途径.     

组合核函数SVM在说话人识别中的应用

针对说话人识别实际应用中训练数据不足的问题,选取GMM-UBM作为基准系统模型,用EigenVoice对其作自适应,应用泛化能力较强的多项式核函数和学习能力较强的径向基核函数进行线性加权组合后的组合核函数进行模型参数优化,并用多重网格搜索法确定核函数的最优参数,采用DAG方法实现SVM核函数的多元分类.在仿真实验中评估了线性核、多项式核、径向基核以及组合核函数,实验结果表明,在采用正确的参数前提下,在不同的多分类策略、自适应时间、信噪比和不同的说话人数量的情况下,组合核函数的识别性能明显都优于其它三个单核函数.     

一种具有普适性的功放线性化预失真方案

为解决功率放大器的非线性问题,提高功放效率,提出了一种能够应用于多种类型功放的间接结构多项式数字基带预失真方案。采取间接预失真结构规避了功放的辨识过程,选择记忆多项式模型作为预失真器能够线性化多种类型的功放,同时采用改进的抑制牛顿算法减少了参数的迭代次数和运算量。以64QAM信号作为输入,对几种典型的功放模型进行数字预失真处理,通过MATLAB仿真分析预失真前后信号的功率谱变化以及ACPR值的改变,表明该方案能够取得比较理想的预失真效果,同时证明了此预失真方案具有一定的普适性。