采用二重扰动机制的支持向量机的集成训练算法

为了有效提升支持向量机的泛化性能,提出两种集成算法对其进行训练.首先分析了扰动输入特征空间和扰动模型参数两种方式对于增大成员分类器之间差异性的作用;然后提出两种基于二重扰动机制的集成训练算法.其共同特点是,同时扰动输入特征空间和模型参数以产生成员分类器,并利用多数投票法对它们进行组合.实验结果表明,因为同时缩减了误差的偏差部分和方差部分,所以两种算法均能显著提升支持向量机的泛化性能.     

基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM 多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM类分类器的分类精度和速度.

     

辨识非线性MIMO系统的多输出ε-SVR模型研究

!针对非线性多输入多输出(MIMO)系统的黑箱辨识问题,提出一种基于ε不敏感损失函数的多输出支持向量回归机(SVR)模型,并给出了偏置的有效求取算法.在一个优化问题中,该模型能最小化所有输出带正则项的结构风险总和,并能为不同输出选择不同的核函数及模型参数.将多输出SVR模型应用于非线性MIMO系统的辨识,仿真结果表明,该模型克服了传统支持向量回归机必须为每个输出单独建模这一缺陷,并能提升系统的整体辨识能力.

     

基于交叉熵方法和支持向量机的模拟电路故障诊断

针对故障诊断系统中存在的大量无关或冗余的特征会严重影响故障诊断性能的缺陷,提出了基于交叉熵和支持向量机方法进行特征选择和参数优化的故障诊断方法．首先以某种概率分布产生若干随机样本,并依据交叉熵最小原理建立分布参数的更新规则进行特征搜索和ＳＶＭ 参数优化;然后利用优化后的特征向量和参数训练支持向量机获得故障诊断模型．故障诊断实验结果表明,该故障诊断方法能有效地优化故障特征和模型参数,提高故障诊断性能．

     

基于支持向量预选取的支持向量域故障预报

针对两种支持向量域模型分别分析了支持向量的分布特性,在此基础上从训练集中选取具有一定几何特征的向量构建预测模型.这些特征向量的预选取在不影响支持向量域的故障预报能力的前提下,大大减少了训练样本,提高了支持向量域的训练效率.仿真实验表明了该方法的有效性和可行性.

     

基于混沌优化支持向量机的轧制力预测

针对带钢热连轧轧制力的精确预测问题,提出一种基于最小二乘支持向量机模型的预测算法.在分析最小二乘支持向量机数学预测模型的基础上,提出一种改进的结合遗传算法的变尺度混沌优化方法,以进行最优模型参数的搜索.利用实测在线数据对模型进行训练并进行轧制力预测.仿真结果表明,利用该方法可使轧制力预测精度得到提高,平均误差率从BP神经网络的±10%降到±5%以下,为进一步提高热连轧厚度控制精度提供了一种有效方法.

     

一种改进的在线最小二乘支持向量机回归算法

针对一般最小二乘支持向量机处理大规模数据集会出现训练速度慢,计算量大,不易在线训练的缺点,将修正后的遗忘因子矩形窗方法与支持向量机相结合,提出一种基于改进的遗忘因子矩形窗算法的在线最小二乘支持向量机回归算法,既突出了当前窗口数据的作用,又考虑了历史数据的影响.所提出的算法可减少计算量,提高在线辨识精度.仿真算例表明了该方法的有效性.

     

基于梯度算法的支持向量机参数优化方法

首先介绍最近出现的参数优化方法,概括了高效率的参数优化算法应具备的若干特点 .然后提出了一种新的支持向量机参数优化方法.该方法先在局域内用混沌优化搜索局域最优点,再将此最优点作为梯度方向,通过改变局域范围跳出局部寻优区域. 该方法降低了对性能函数连续且可微的要求,收敛速度快,最终优化解与支持向量机的参数初始值无关.最后,通过仿真实验表明了该方法具有更高的分类和回归准确率.

     

一种LDA与SVM混合的多类分类方法

针对决策有向无环图支持向量机（ＤＤＡＧＳＶＭ）需训练大量支持向量机（ＳＶＭ）和误差积累的问题,提出一种线性判别分析（ＬＤＡ）与ＳＶＭ 混合的多类分类算法．首先根据高维样本在低维空间中投影的特点,给出一种优化ＬＤＡ 分类阈值;然后以优化ＬＤＡ 对每个二类问题的分类误差作为类间线性可分度,对线性可分度较低的问题采用非线性ＳＶＭ 加以解决,并以分类误差作为对应二类问题的可分度;最后将可分度作为混合ＤＤＡＧ 分类器的决策依据．实验表明,与ＤＤＡＧＳＶＭ 相比,所提出算法在确保泛化精度的条件下具有更高的训练和分类速度．

     

实现兼类样本类增量学习的一种算法

针对兼类样本,提出一种类增量学习算法.利用超球支持向量机,对每类样本求得一个能包围该类尽可能多样本的最小超球,使各类样本之间通过超球隔开.增量学习时"对新增样本以及旧样本集中的支持向量和超球附近的非支持向量进行训练,使得算法在很小的空间代价下实现兼类样本类增量学习.分类过程中,根据待分类样本到各超球球心的距离判定其所属类别.实验结果表明,该算法具有较快的训练,分类速度和较高的分类精度.

     

基于具有自适应分段损失函数支持向量机的产品销售预测模型

针对产品销售时序包含噪声的数据特征, 提出一种基于自适应分段损失函数的支持向量机模型(AS??-SVM). AS??-SVM 为每个样本点赋一个单独的不敏感损失值, 以此降低模型对包含较大噪声的样本点的依赖性, 并从理论上证明了该方法可增强模型部分的泛化性能. 将AS??-SVM 与??-SVM 共同应用于处理一个数值算例和一个汽车销售预测实例中, 仿真实验结果表明, AS??-SVM 是有效可行的, 可获得比??-SVM 更精确的预测结果.

     

基于递归最小二乘支持向量机的动态系统建模研究

针对递归最小二乘支持向量机的递归性易导致建模中偏微分方程组求解困难的问题,提出用解析法求解偏微分方程组,实现了完整的递归最小二乘支持向量机模型．首先分析了各参数的相关性,然后推导出偏微分方程的解析表达式并求解．仿真实例表明,在动态系统建模中,该模型的性能比常用的串并联模型以及现有不完整递归最小二乘支持向量机模型的精度更高、性能更好．

     

结合区域颜色一致性和图割的复杂场景文本分割方法

针对复杂场景文本难以有效分割的问题, 提出一种复杂场景文本分割方法. 首先, 使用简单的线性迭代聚类(SLIC) 算法将原始图像分割为若干局部区域, 并在其区域邻接图上构建图割模型; 然后, 采用高斯混合模型(GMMs) 和支持向量机(SVM) 后验概率模型对场景文本进行建模, 并引入每个局部区域与模型之间的匹配度用于计算似然能. 为了增强GMMs的鉴别力, 在参数学习中引入模型性能描述子, 自适应地获得模型参数. 实验结果表明,所提出的算法能够较好地处理复杂场景文本分割问题, 文本的识别率得到了明显的提升.

     

基于EMD多模态特征融合支持向量机的故障诊断

针对非平稳时间序列信号,提出一种基于经验模态分解(EMD)的特征提取和多模态特征融合支持向量机的故障诊断方法.首先对原始信号进行EMD分解,选择能量最大的几个基本模式分量(IMF)并提取其小波包特征,获得对每个IMF独立的特征子集;然后在每个IMF特征子集中训练SVM 弱分类器,并根据各特征子集对应的IMF能量权重进行加权融合,获得故障状态的强分类器.将该方法应用于6135型柴油机振动信号故障诊断中,实验结果表明了其可行性和有效性.

     

一种过程支持向量机及其在动态模式分类中的应用

针对一般SVM在机制上难以直接对动态模式进行分类的问题,提出了一种基于函数正交基展开的过程支持向量机.该模型的输入为时变函数,输出为模式类别.在输入函数空间中选择一组适当的正交函数基,将输入函数在该组函数基下进行有限项展开,把展开式系数作为核函数的输入.由于时变函数在基函数映射下与展开式系数一一对应,从而可利用SMO 的变换机制实现动态模式分类.给出了基于SMO的求解算法,实验结果验证了模型和算法的有效性.

     

基于SVM和Kalman预测的非线性系统故障预报

针对Kalman预测在非线性系统故障预报中预测误差较大的问题,提出一种基于支持向量机预测新息的Kalman预测方法.根据未知非线性系统的典型变量分析子空间模型进行Kalman预测,采用支持向量机时间序列预测算法预测未来时刻的新息,利用新息进行Kalman单步和多步预报.在连续搅拌反应器上的仿真研究表明:所提出方法能准确地预测较长时间段内故障过程的劣化趋势,预知可能发生的故障,使操作人员有时间采取必要措施消除故障隐患.

     

基于特征空间变换的纠错输出编码

针对基于纠错输出编码多类分类中如何保证基分类器差异性的问题, 提出一种基于特征空间变换的编码方法. 该方法引入特征空间, 将编码矩阵扩展成三维矩阵; 然后基于二类划分, 利用特征变换得到不同的特征子空间, 从而训练得到差异性大的基分类器. 基于公共数据集的实验结果表明: 该方法能够比原始的编码矩阵获得更优的分类性能, 同时增加了基分类器的差异性; 该方法适用于任何编码矩阵, 为大数据的分类提供了新的思路.

     

OCSVM集成模型解决支持向量机的大规模训练问题

该文针对集成方法实现支持向量机大规模训练的相关问题进行了深入研究,提出了一种称为"DD-Boosting"的成员分类器产生算法,能够在大规模数据集情况下利用类似Boosting技术产生稳定、高泛化性能的成员分类器。在此基础上,推导出基于OCSVM的分类器集成模型,实验仿真表明,该集成模型能够获得比主投票方法更好的泛化性能,且通过调整正则参数避免了训练过拟合问题。     

基于参数估计的一类非线性系统故障诊断算法

针对系统模型的不确定性、未知输入扰动和非线性特性, 提出一类非线性系统参数估计的故障诊断算法. 构造系统故障诊断观测器, 采用Lyapunov 稳定性定理验证观测器的稳定性, 通过Barbalat 引理证明满足故障诊断观测器为渐近稳定的表征故障参数的参数估计, 并总结了设计算法流程. 仿真结果表明, 所提出算法具有快速收敛性, 对一类非线性系统诊断效果较好.