回归型模糊最小二乘支持向量机

为了克服最小二乘支持向量机对于孤立点过分敏感的问题,将模糊隶属度概念引入最小二乘支持向量机中,提出了基于支持向量域描述的模糊最小二乘支持向量回归机.该方法先对样本进行数据域描述得到一个包含该组数据的最小半径的超球,再根据特征空间中样本与超球球心的距离确定它们的隶属度,减少了奇异点(噪声)的影响;把所要求解的约束凸二次优化问题转化为正定线性方程组,并采用快速Cholesky分解的方法求解该方程组.实验结果表明该方法在不牺牲训练速度的前提下,比支持向量机和最小二乘支持向量机具有更高的预测精度.     

基于Fisher向量投影的支持向量机增量算法

针对支持向量机训练样本冗余导致训练效率低下的问题,提出一种基于Fisher向量投影的支持向量机增量算法。该算法根据支持向量机中支持向量的分布特性对初始训练集及增量集进行预处理,减少训练样本个数;通过判断初始样本是否满足新增样本集的卡罗需-库恩-塔克(Karush-Kuhn-Tucker conditions,KKT)条件,剔除对最终结果无用的样本,减少参与训练的样本数目。实验结果表明,与标准支持向量机算法和基于向量投影的支持向量机增量算法相比,基于Fisher向量投影的支持向量机增量算法的训练速度分别提升了86%和33%左右。该方法可用于大规模样本集的分类识别问题。     

鲁棒支持向量机及其稀疏算法

基于非凸光滑损失的鲁棒支持向量机分类模型对异常点具有鲁棒性,但已有求解算法需迭代求解二次规划,计算量大且收敛速度慢,不适合训练大规模数据问题。为了克服这些缺点,首先给出收敛速度更快的方法求解鲁棒支持向量机模型;然后基于最小二乘的思想,提出了一种推广的指数鲁棒最小二乘支持向量机模型及其快速收敛的求解算法,并从理论上解释了模型的鲁棒性;最后利用核矩阵的低秩近似,提出了适于处理大规模训练问题的稀疏鲁棒支持向量机算法和稀疏指数鲁棒最小二乘支持向量机算法。实验结果表明,新算法在收敛速度、测试精度和训练时间等方面均优于相关算法。     

基于特征优选模拟电路故障诊断方法

传统基于最小二乘支持向量机模拟电路故障诊断方法都是使用单一的特征向量组合训练支持向量机所有二分类器,然而实际上每个二分类器对不同的特征向量组合有不同的分类精度。因此,提出了基于马氏距离的粒子群优化算法,为最小二乘支持向量机所有二分类器优选出近最优的特征向量组合。然后,将近最优特征向量组合用于训练和测试该支持向量机。最后把该方法应用于模拟电路早期故障诊断,实验结果表明,基于近最优特征向量组合的诊断精度要高于单一特征向量组合的诊断精度。     

基于类半径的多类分类SVM算法

分析了现有多类分类支持向量机算法的不足,在此基础上提出了基于类半径的多类分类支持向量机算法.这种算法在训练前首先对训练集进行分析,然后用one-class SVM进行分类.试验结果表明,该算法分类精度较高,训练时间短.     

基于支持向量数据描述的高效异常数据检测算法

为了解决大规模数据中的异常检测问题,提出了基于支持向量数据描述(SVDD)的高效离群数据检测算法。该算法的核心思想为:首先利用SVDD获得包含单类数据的最小球形边界,然后通过该边界对未知样本数据进行分类,并利用最小闭包球算法对SVDD分类器进行优化求解。在UCI机器学习数据集和入侵检测数据集上将该算法与其他离群数据检测算法进行了实验比较,结果表明,该算法不仅获得了更高的检测准确率,而且具有较低的运行时间。     

基于最小二乘支持向量机的时用水量预测模型

针对神经网络存在结构较难确定,训练易陷入局部最优以及容易过学习等问题,提出将最小二乘支持向量机用于预测时用水量.最小二乘支持向量机(LSSVM)基于结构风险最小化,能够较好地协调经验风险最小化和学习机器VC维之间的关系,并且LSSVM在支持向量机(SVM)的基础上,通过将价值函数改为最小二乘价值函数以及用等式约束代替不等式约束,将求解的二次规划问题转变为一组等式方程,采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.根据时用水序列具有周期性和趋势性的特点,建立了基于最小二乘支持向量机的时用水量模型.实例分析表明,与基于BP网络的时用水量模型相比,基于最小二乘支持向量机的时用水量模型具有更强的预测能力.     

PSO-LSSVM的核电站破口故障程度评估方法

为了保证从核电站大量数据中有效地挖掘信息以及故障下运行状态的智能表征,本文提出一种基于粒子群优化和最小二乘支持向量机的系统级故障程度评估方法,用于完善故障诊断系统的功能.针对最小二乘支持向量机算法的超参数选取对于回归精度影响较大问题,应用基于粒子群优化算法借助智能搜索策略来优化模型的超参数.基于最优超参数的回归模型能够提取系统级参数间的约束关系,以进行实时故障程度的评估.性能测试表明:采用提出的方法能够有效评估核电站系统级故障的程度,相较于粒子群优化-支持向量机以及最小二乘支持向量机算法具有更高的回归精度,且抗噪性能良好,保证了故障诊断系统的精度及可靠性.     

基于中心加权的局部核向量机算法

为了解决大规模非线性分类中局部学习的不平衡性问题,提出一种改进的局部支持向量机算法,在高维特征空间中聚类后,为每一个簇构造局部非线性支持向量机。为了克服簇内样本的分布不均衡问题,根据闭合超平面不规则边界的几何特点,经过梯度下降寻找稳定均衡向量,以此构造簇几何中心;再结合簇密度中心共同约束类心形成双重加权中心。然后通过求解加权最小闭球问题实现对大规模样本向量的分类。对照实验显示,除了个别数据集以外,改进的算法在训练时间、测试时间以及测试精度等方面都比另外两种分类算法表现更佳。     

SVM方法在武器装备综合论证中的应用

针对现有武器装备综合论证存在的不足，引入了基于支持向量机（support vecto rmachine，SVM）的多属性决策方法。分析了多属性决策支持向量机方法的机理；建立了多属性决策支持向量机方法的价值函数决策模型和方案序关系决策模型，用以训练支持向量机；提出了基于支持向量回归和分类的多属性决策支持向量机实现算法。最后给出了一个算例。     

基于改进粒子群优化算法和CRNN的多类SVM分类

为了提高支持向量机(SVM)在多类分类中的分类效果,提出了一种基于改进粒子群优化(IMPSO)算法和协作式递归神经网络(CRNN)的多类SVM分类方法(IMPSO_CRNN_SVM算法).首先引入自适应惯性权重及自适应粒子变异,以此改进粒子群优化算法(PSO)在优化SVM参数过程中存在的容易陷入局部最优和早熟等问题; 然后基于多类SVM设计一个CRNN,并利用随机分配的训练集对该网络进行训练并构建最终决策函数,从而实现多类数据的“一次性”分类.最后利用3种数据集和实际应用对IMPSO_CRNN_SVM算法进行验证,结果表明IMPSO_CRNN_SVM算法的分类精度优于未进行参数优化的传统SVM算法、基本PSO 进行SVM参数优化的算法和未进行PSO参数优化的基于CRNN的多类支持向量机算法,因此IMPSO_CRNN_SVM算法具有一定的实用性.     

分级聚类支持向量机在汽轮机故障诊断中的应用

在两类支持向量机的基础上,综合分级聚类和决策树的思想构造多类支持向量机,从而简化了分类器结构,减少了分类器数量,避免了拒绝分类区的出现,并加快了训练和识别速度。在小样本情况下对多类汽轮发电机组故障进行了诊断研究,结果表明该方法能够正确地对故障进行识别。     

采用类电磁机制算法的SVM决策树多分类策略

基于分类问题的特点,设计了适用于分类问题的类电磁机制算法,然后设计了基于改造后的类电磁机制算法的最优决策树生成算法,用以解决支持向量机多分类问题．以最大分类间隔为准则,利用类电磁机制算法进行优化,从而生成最优或次优的决策树．在每个决策结点利用传统的支持向量机二分类方法进行分类,最终实现支持向量机多分类．仿真结果表明：这种方法比传统的1-a-1,1-a-r,DAG-SVM,DT-SVM以及GADT-SVM方法有更优的性能．     

基于二叉树和SVM的指纹分类

为解决支持向量机(Support Vector Machine, SVM)进行指纹多类分类存在困难的问题，在应用二叉树理论的基础上，提出了一种新型的指纹分类方法．该算法首先使用二叉树进行多类决策，将原始分类数据分解成3个二类分类问题，然后利用SVM进行二类分类，使3个分类超平面得到优化．两者的有机结合，充分发挥了SVM在二类分类问题方面相对于其它方法的优势，从而使算法的推广能力有较大提高，总的分类正确率可达97.9%．实验结果证明，二叉树构造多类框架将指纹多类分类问题分解成3个二类分类器系统，不仅可以有效的提高指纹分类的效率，还充分发挥了SVM分类器解决二类分类问题的优势．     

基于二叉树和SVM的指纹分类

为解决支持向量机（Support Vector Machine，SVM）进行指纹多类分类存在困难的问题，在应用二叉树理论的基础上，提出了一种新型的指纹分类方法．该算法首先使用二叉树进行多类决策，将原始分类数据分解成3个二类分类问题，然后利用SVM进行二类分类，使3个分类超平面得到优化．两者的有机结合，充分发挥了SVM在二类分类问题方面相对于其它方法的优势，从而使算法的推广能力有较大提高，总的分类正确率可达97．9％．实验结果证明，二叉树构造多类框架将指纹多类分类问题分解成3个二类分类器系统，不仅可以有效的提高指纹分类的效率，还充分发挥了SVM分类器解决二类分类问题的优势．     

基于广义微状态的运动想象分类研究

该文根据传统微状态的概念,提出了一种广义微状态定义,并基于该定义实现了一种多分类运动想象任务特征提取算法。该文使用实验室2分类数据和2008年国际脑机接口竞赛4分类数据集对提出的特征提取算法进行了测试。对2分类数据特征用最小夹角算法分类,准确率最高达到95.56%;对多分类数据特征用SVM算法分类,效果稳定,其中竞赛数据4分类kappa分析结果接近2008年竞赛获胜者水平,测试结果验证了算法的有效性。     

Fault diagnosis of a mine hoist using PCA and SVM techniques

A new method based on principal component analysis (PCA) and support vector machines (SVMs) is proposed for fault diagnosis of mine hoists. PCA is used to extract the principal features associated with the gearbox. Then, with the irrelevant gearbox variables removed, the remaining gearbox, the hydraulic system and the wire rope parameters were used as input to a multi-class SVM. The SVM is first trained by using the one class-based multi-class optimization algorithm and it is then applied to fault identification. Comparison of various methods showed the PCA-SVM method successfully removed redundancy to solve the dimensionality curse. These results show that the algorithm using the RBF kernel function for the SVM had the best classification properties.     

基于支持向量机和遗传算法的纹理识别

为了解决尺度变化和训练样本有限给纹理识别带来的困难,提出了一种基于支持向量机和遗传算法的纹理识别新方法。该方法用小波变换各子带图像共生矩阵参数、分析窗口大小、像素均值和像素标准差等参数作为纹理特征,用多类支持向量机作为分类器。用遗传算法对纹理特征集进行了优化;用输出纠错码将二类支持向量机扩展到多类,提高了分类器的泛化能力。用包含有25类单色自然纹理的图像库进行识别试验,结果表明,该方法的识别错误率小于10%,得到了比传统的贝叶斯等方法更高的识别率和更好的推广性。     

改进的球结构SVM多分类增量学习算法

针对球结构支持向量机(support vector machine,SVM)增量学习算法在训练时间和分类精度上的不足,提出了一种改进的球结构SVM多分类增量学习算法.该算法首先构造一个完全二叉树用于多类分类;分析新增样本的加入对原支持向量集的影响,将新增样本集中部分样本和原始训练集中的支持向量以及分布在球体一定范围内的样本合并做为新的训练集,完成分类器的重构.实现通过减少训练样本缩短训练时间和完善分类器提高分类精度的目的.通过UCI标准数据集实验,结果表明,该算法在所需训练的样本数、训练时间以及准确率3方面都优于球结构SVM增量学习算法,尤其当样本分布不平衡时,该算法有更高的分类准确率.     

基于LSSVM的电梯交通模式的模糊识别

提出可以对电梯交通模式进行模糊识别的方法.采用最小二乘支持向量机(LSSVM)的回归算法来学习2种交通模式的相对隶属度,通过相对比较法得到当前时刻所有交通模式的隶属度.介绍了LSSVM二值分类算法及传统的多值分类算法,分析LSSVM多值分类与函数回归的关系.分析结果表明,采用函数回归算法可以进行多值分类.若以交通模式的隶属度作为类标,则可采用LSSVM的回归算法来进行2种交通模式的模糊分类.为了提高LSSVM的线性度,分3步逐步细分电梯客流的交通模式.实验结果表明,采用该方法得到的各交通模式隶属度随时间的变化曲线与依据群控专家经验得到的曲线非常相似,识别结果的平均误差小于应用神经网络识别的平均误差,可将识别结果作为电梯群控系统的输入参数.