支持向量机方法在文本分类中的改进

提出了一种应用于文本分类的KNN和SVM相结合的算法,将SVM近似看成每类只有一个代表点的1NN分类器,对于待识别样本,如果其离支持向量机的最优分界面较远,则用SVM分类;如果其离分界面较近,采用KNN对测试样本分类,将每个支持向量作为代表点,计算待识别样本和每个支持向量的距离对其作出判断.该算法综合了KNN和SVM在分类问题中的优势,既有效地降低了分类候选的数目,又提高了文本分类的精度.最后用实验验证了该算法的有效性.     

基于复合核支持向量回归机的多类分类算法

针对传统支持向量机(SVM)在解决多类分类问题时需要训练多个分类器、存在不可分区域等问题,研究了基于支持向量回归机的多类分类算法。利用回归思想求解多类分类问题,将分类样本作为回归输入,样本的类别标识作为回归输出,通过支持向量回归机训练拟合出各样本与其类别标识之间的函数关系。将待分类样本代入回归函数,对其输出取整后即可得到样本类别。该算法仅使用1个分类器,明显简化了分类过程。另外,引入复合核函数来提高支持向量回归机的性能。采用加州大学欧文分校(UCI)例题库中的多类分类问题进行仿真验证,并将改进算法与传统算法作对比,结果表明改进算法在分类速度和准确率上都有显著提高。     

结构风险最小化近邻分析解决大规模训练集支持向量机学习问题

SVM是利用靠近边界的少数向量来构造最大间隔的分类超平面,当海量样本之间存在相互混迭时,支持向量数目急剧增加,导致训练难度增大。针对该问题,本文将结构风险最小化近邻分析与支持向量机相结合构成了一种新的SVM学习方法。它首先根据各个训练数据的类间最近邻距离利用结构风险最小化近邻分析选择训练子集;在选择的样本子空间内采用乘性规则直接求取Lagrange因子,而不是传统的二次优化方法;最后加入附加剩余样本进行交叉验证处理,直到算法满足收敛性准则。各种分类实验表明本文提出的算法具有良好的性能,特别是在训练样本庞大,支持向量数量较多的情况下,能够较大幅度的减少计算复杂度,提高分类速度。     

基于K最近邻的支持向量机快速训练算法

传统支持向量机训练大规模样本时间和空间开销大,使其应用受到了很大限制。为了提高支持向量机的训练速度,根据支持向量机的基本原理,应用K最近邻思想来筛选训练样本集,提出了基于K最近邻的支持向量机快速训练算法(KNN-SVM)。算法首先选取一部分最有可能成为支持向量的样本——边界向量,然后用边界向量集代替训练样本集进行支持向量机训练,大幅度减少了训练样本的数量,使支持向量机的训练速度显著提高。同时,由于边界向量包含了支持向量,因此,支持向量机的分类能力没有受到影响。仿真实验结果表明,与传统支持向量机相比,在分类精度相同的情况下,算法能够有效地提高支持向量机的训练速度,而且还可以提高支持向量机的分类速度和推广能力。     

基于多特征融合的红外图像分类研究

针对传统红外图像目标分类方法准确率低的问题,提出了一种用结合多特征融合的粒子群优化(Particle Swarm Optimization, PSO)算法来优化支持向量机(Support Vector Machine, SVM)的方法。该方法采用方向梯度直方图(Histogram of Oriented Gradient, HOG)和局部二值模式(Local Binary Pattern, LBP)两类特征描述红外图像中目标的轮廓特征和局部纹理,从不同的方面展现红外图像的特点,在图像的特征表达上具有一定的互补性。在特征提取后对样本数据进行凸包算法计算,得到一些具有代表性的样本数据,从而提高分类计算效率;在分类模型训练时,采用PSO算法优化SVM,寻找SVM的最优惩罚因子和核参数,从而提高分类模型的准确率。实验结果表明,多特征融合的分类模型的准确率比单一特征的分类模型提高近10%,且经PSO优化的SVM最终模型的分类准确率高达99%。     

基于SVM的广义空移键控可见光通信系统信号检测算法

针对室内广义空移键控(GSSK)调制的可见光通信(VLC)系统,该文提出一种基于支持向量机(SVM)的机器学习信号检测算法。在一般的VLC系统中,极大似然(ML)检测是最优检测算法,但是ML检测算法具有很高的计算复杂度。为了解决此问题,该文利用机器学习中的SVM分类思想实现对系统接收端的信号检测,以在保证信号检测正确率的情况下,降低计算复杂度,提高GSSK-VLC系统的信号检测效率。仿真结果表明,该文提出的针对室内GSSK-VLC系统的SVM信号检测算法与ML检测算法相比,在具有接近ML的误比特率(BER)性能的同时,计算复杂度明显降低,有效提升了系统的检测性能。     

基于SVM的广义空移键控可见光通信系统信号检测算法

针对室内广义空移键控(GSSK)调制的可见光通信(VLC)系统,该文提出一种基于支持向量机(SVM)的机器学习信号检测算法.在一般的VLC系统中,极大似然(ML)检测是最优检测算法,但是ML检测算法具有很高的计算复杂度.为了解决此问题,该文利用机器学习中的SVM分类思想实现对系统接收端的信号检测,以在保证信号检测正确率的情况下,降低计算复杂度,提高GSSK-VLC系统的信号检测效率.仿真结果表明,该文提出的针对室内GSSK-VLC系统的SVM信号检测算法与ML检测算法相比,在具有接近ML的误比特率(BER)性能的同时,计算复杂度明显降低,有效提升了系统的检测性能.     

自动文本分类技术研究

随着万维网的发展,文本分类成为处理和组织大量文档数据的关键技术。在阐述了文本分类算法的研究现状,分析了朴素贝叶斯(Na ve Bayes)、kNN和支持向量机(SVM)经典文本分类算法之后,提出了应用最小二乘支持向量机(LSSVM)算法来实现文本分类。对使用用最小二乘支持向量机和一般支持向量机的文本分类结果进行了比较,并得出了结论:使用最小二乘支持向量机进行文本分类缩短了文本分类的时间,并保证了一定的召回率和准确率。     

LS-SVM在垃圾邮件过滤中的应用

基于统计学习理论的支持向量机(SVM)方法是现代智能技术的一个重要分支。SVM在保证分类精度的前提下,提高了分类器的泛化能力。着重讨论了最小二乘支持向量机(LS-SVM)算法原理,并在此基础之上,对算法在垃圾邮件过滤中的应用进行了探讨。     

基于SVM算法的分类器设计

介绍了支持向量机算法的基本思想、数据分类的概念,分析了传统支持向量机算法的一般特性。用Libsvm工具箱实现了基于SVM算法的分类器设计,并用公共数据库中的数据集对设计的分类器进行了测试,重点针对训练样本的选择、参数的影响选择与优化问题进行了研究。实验结果表明,在应用支持向量机算法做数据分类时,选择合适的训练样本和参数有利于提高分类器的准确度。     

用于SVM的RCS统计特征集约减方法

传统的支持向量机分类算法对训练样本数目敏感且不具备增量学习的能力,而空间目标识别的工程应用需要积累样本进行大样本的增量学习。根据样本在特征空间分布,提取几何意义上边缘的样本点,成功约减了应用于支持向量机学习的基于雷达散射截面统计特征的训练样本集。利用中心距离比和特征空间多维高斯分布特性,分别提取两类边界样本集和单类边缘样本集;再采用直推式实验设计方法再采样,根据样本潜在结构分布信息选择最能代表样本集结构分布的高价值样本。实验结果表明：样本初选算法能够在有效约减样本集规模的同时保持支持向量机训练分类的精度。     

一种基于类融合向量的支持向量机及其在语音识别系统中的应用

支持向量机可以通过产生的支持向量来概括数据集合中的信息,其分类函数仅依赖于一小部分训练样本,即支持向量,这使得它对噪声数据非常敏感.本文采用数据融合的方法加以改进,提出了一种新的基于类融合向量的支持向量机,降低了对噪声数据和较大偏差值的敏感性,提高了算法的容噪性能,并成功地应用于语音识别系统中,取得了较好的效果.     

基于FMCW雷达的人体复杂动作识别

针对利用摄像机进行人体动作识别时易受视距和光线影响等问题,提出一种基于FMCW雷达的人体复杂动作识别方案。首先基于FMCW信号模型对雷达采样数据采用一种以RDM（Range Doppler Map）向速度维投影的方式逐帧构建微多普勒谱图,继而基于微多普勒谱图来提取用于表征整个动作频谱相关信息的8种特征矢量。最后,基于雷达实测数据,以贝叶斯超参数调整优化后的支持向量机作为分类器,分析利用所提取的单特征矢量以及特征矢量组合来进行分类时对分类准确率的影响,用以筛选最优异的特征矢量组合。实验结果表明,从微多普勒谱图中所提取的特征矢量皆可直观地表述整个动作过程的特性,且利用最终筛选得到的最优异的特征矢量组合对已知个体和未知个体的9种动作进行识别,识别准确率分别高达99.07%和96.76%。     

复杂分类问题支持向量机的简化

对于复杂分类问题,不可避免的会有错分情况,此时支持向量机的支持向量较多,影响了识别速度.为了解决这个问题,我们提出了基于最小错分间隔的分类思想,并在此基础上得出了一种新的简化支持向量机.与普通支持向量机相比,这种简化支持向量机有较少的支持向量、较高的识别速度,而且实验结果表明,它的识别精度完全可以与普通支持向量机的识别精度相媲美,甚至更优.     

基于时频图像和高次频谱特征的雷达信号识别

针对低信噪比下雷达信号识别准确率较低的问题,提出了一种基于时频图像和高次频谱特征联合的雷达信号识别算法。该算法首先对信号采用Choi-Williams分布(Choi-Williams distribution,CWD)变换获取时频图像,接着对时频图预处理并用灰度共生矩阵(gray level co-occurrence matrix,GLCM)提取纹理特征;然后利用对称Holder系数提取信号的高次频谱特征;再将纹理特征和高次频谱特征构成一组联合特征向量,最后通过支持向量机(support vector machine,SVM)实现雷达信号的分类识别。通过对8种典型雷达信号进行实验,结果表明本算法在信噪比为-8 dB时,不同信号的识别准确率能达到90%以上。     

Application of kernel methods in signals modulation classification

A new approach to common signals classification of relevance vector machine(RVM) was presented and two signal classifiers based on kernel methods of support vector machine(SVM) and RVM were compared and analyzed.First several robust features of signals were extracted as the input of classifiers,then the kernel thought was used to map feature vectors impliedly to the high dimensional feature space,and multi-class RVM and SVM classifiers were designed to complete AM,CW,SSB,MFSK and MPSK signals recognition.Simulation result showed that when chose proper parameter,RVM and SVM had comparable accuracy but RVM had less learning time and basis functions.The classification speed of RVM is much faster than SVM.     

Robust support vector machine with bullet hole image classification

This paper proposes a robust support vector machine for pattern classification, which aims at solving the over-fitting problem when outliers exist in the training data set. During the robust training phase, the distance between each data point and the center of class is used to calculate the adaptive margin. The incorporation of the average techniques to the standard support vector machine (SVM) training makes the decision function less detoured by outliers, and controls the amount of regularization automatically. Experiments for the bullet hole classification problem show that the number of the support vectors is reduced, and the generalization performance is improved significantly compared to that of the standard SVM training.     

用改进核函数提高SVM的雷达目标识别率

对支持向量机中的高斯核进行了改进,利用改进的高斯核构造了一维高分辨率距离像的雷达目标识别算法,并将幂变换引入预处理过程.该技术提高了识别率,减少了识别时间;同时对所完成的目标识别算法的性能进行了评估,从方位角大小、信噪比和训练数据大小三个方面验证了该算法的稳健性.     

基于小波包变换的表面肌电信号模式识别

采用小波包变换的方法对表面肌电信号sEMG进行了多尺度分解,并提取小波包分解系数的能量值构建特征矢量,采用四种方法设计多类最小二乘支持向量机（LS-SVM）分类器,对8种表面肌电信号进行了模式分类。实验结果表明,采用四种多类分类方法的LS-SVM分类器对8种表面肌电信号的平均识别率在90%以上,LS-SVM分类准确率明显优于传统的RBF神经网络分类器。     

基于最近相关性分类器的单样本掌纹识别

为了解决单样本掌纹识别的困难,研究了基于最近相关性分类器(NCC)的单样本掌纹识别方法。首先对掌纹图像进行分块,划分为若干个子图像;然后运用统计特征、傅里叶变换、离散余弦变换(DCT)和Gabor变换4种方法对子图像进行特征提取,将所有子图像的特征向量组合在一起形成该图像的特征向量;最后应用NCC进行分类识别。运用PolyU掌纹图像库,对本文算法进行测试。实验结果表明:与最近邻分类器(NNC)和支持向量机(SVM)相比,在不同大小的子图像上,运用不同的特征提取算法,NCC均提高了识别率;分类时间在0.3～0.7s之间,满足实时系统的需求。