最大间隔最小体积球形支持向量机

结合支持向量机（ＳＶＭ）类间最大分类间隔和支持向量数据描述（ＳＶＤＤ）类内最小描述体积思想,提出一种新的学习机器模型———最大间隔最小体积球形支持向量机（ＭＭＨＳＶＭ）．模型建立两个大小不一的同心超球,将正负类样本分别映射到小超球内和大超球外,模型目标函数最大化两超球间隔,实现正负类类间间隔的最大化和各类类内体积的最小化,提高了模型的分类能力．理论分析和实验结果表明该算法是有效的．     

一种LDA与SVM混合的多类分类方法

针对决策有向无环图支持向量机（ＤＤＡＧＳＶＭ）需训练大量支持向量机（ＳＶＭ）和误差积累的问题,提出一种线性判别分析（ＬＤＡ）与ＳＶＭ 混合的多类分类算法．首先根据高维样本在低维空间中投影的特点,给出一种优化ＬＤＡ 分类阈值;然后以优化ＬＤＡ 对每个二类问题的分类误差作为类间线性可分度,对线性可分度较低的问题采用非线性ＳＶＭ 加以解决,并以分类误差作为对应二类问题的可分度;最后将可分度作为混合ＤＤＡＧ 分类器的决策依据．实验表明,与ＤＤＡＧＳＶＭ 相比,所提出算法在确保泛化精度的条件下具有更高的训练和分类速度．

     

支持向量机和一类模糊推理系统的等效性及其应用

支持向量机（ＳＶＭ）和模糊推理系统（ＦＩＳ）分别源于统计学习理论（ＳＬＴ）和认知学两个不同的领域．在一定约束条件下,提出并证明了ＳＶＭ 和一类基于规则的ＦＩＳ的函数等效性定理．在此基础上,提出基于ＳＶＭ 学习过程的ＦＩＳ（ＭＢＦＩＳ）的设计方法．ＭＢＦＩＳ继承了ＳＶＭ 良好的泛化能力和对“维数灾难”的避免能力,也继承了基于规则的ＦＩＳ的显式推理能力．Ｂｅｎｃｈｍａｒｋ数据实验表明,ＭＢＦＩＳ具有良好的分类性能．

     

回归型支持向量机的调节熵函数法

基于最优化理论中的ＫＫＴ 互补条件建立支持向量回归机的无约束不可微优化模型,并给出了一种有效的光滑近似解法———调节熵函数方法．该方法不需参数取值很大便可逼近问题的最优解,从而避免了一般熵函数法为了逼近精确解,参数取得过大而导致数值的溢出现象,为求解支持向量回归机提供了一条新途径．数值实验结果表明,回归型支持向量机的调节熵函数法改善了支持向量机的回归性能和效率．

     

实现兼类样本类增量学习的一种算法

针对兼类样本,提出一种类增量学习算法.利用超球支持向量机,对每类样本求得一个能包围该类尽可能多样本的最小超球,使各类样本之间通过超球隔开.增量学习时"对新增样本以及旧样本集中的支持向量和超球附近的非支持向量进行训练,使得算法在很小的空间代价下实现兼类样本类增量学习.分类过程中,根据待分类样本到各超球球心的距离判定其所属类别.实验结果表明,该算法具有较快的训练,分类速度和较高的分类精度.

     

基于交叉熵方法和支持向量机的模拟电路故障诊断

针对故障诊断系统中存在的大量无关或冗余的特征会严重影响故障诊断性能的缺陷,提出了基于交叉熵和支持向量机方法进行特征选择和参数优化的故障诊断方法．首先以某种概率分布产生若干随机样本,并依据交叉熵最小原理建立分布参数的更新规则进行特征搜索和ＳＶＭ 参数优化;然后利用优化后的特征向量和参数训练支持向量机获得故障诊断模型．故障诊断实验结果表明,该故障诊断方法能有效地优化故障特征和模型参数,提高故障诊断性能．

     

基于图像特征提取的浮选关键参数智能预测算法

针对矿物浮选过程中回收率参数难以在线检测的问题,提出了一种智能预测算法．首先采用相对红色分量提取泡沫颜色特征,采用改进面积重构变换与分水岭方法分割泡沫图像并提取尺寸特征;然后在此基础上,通过斯密特正交化对最小二乘支持向量机（ＬＳＳＶＭ）核矩阵进行简约,利用核偏最小二乘方法进行回归计算,得到具有稀疏性的ＬＳＳＶＭ 预测模型．实验结果表明,该预测算法能有效地对矿物回收率进行预测．

     

在原始空间用Ｒｏｓｅｎｂｒｏｃｋ算法训练线性支持向量机

为了加快并行下降方法（ＣＤ）用于线性支持向量机（ＳＶＭ）时的最终收敛速度,将Ｒｏｓｅｎｂｒｏｃｋ算法（Ｒ）用于线性ＳＶＭ．在内循环,Ｒ 通过解一个单变量子问题来更新狑的一个分量,并同时固定其他分量不变;在外循环,采用Ｇｒａｍ-ｓｃｈｍｉｄｔ过程构建新的搜索方向．实验结果表明,与ＣＤ 相比,Ｒ 加快了最终的收敛,在分类中能更快地获得更
高的测试精度．

     

基于递归最小二乘支持向量机的动态系统建模研究

针对递归最小二乘支持向量机的递归性易导致建模中偏微分方程组求解困难的问题,提出用解析法求解偏微分方程组,实现了完整的递归最小二乘支持向量机模型．首先分析了各参数的相关性,然后推导出偏微分方程的解析表达式并求解．仿真实例表明,在动态系统建模中,该模型的性能比常用的串并联模型以及现有不完整递归最小二乘支持向量机模型的精度更高、性能更好．

     

广义最大间隔球形支持向量机

针对多类分类问题,提出一种超球支持向量机算法——广义最大间隔球形支持向量机,该算法利用两同心超球将正负类样本分隔开来,最大化两超球半径的差异,从而挖掘正负类样本的鉴别信息,同时对超球类支持向量机算法判决规则进行改进,引入模糊隶属度补充判决,弥补二类分类器投票决策的缺陷.理论分析了算法的相关性质,通过仿真实验验证了该算法的有效性.     

基于柯西分布加权的最小二乘支持向量机

针对Suykens等提出的加权最小二乘支持向量机(WLS-SVM)回归建模的不足和防止辨识模型的"过拟合",利用柯西分布函数的一些特性,提出了基于柯西分布加权的最小二乘支持向量机.根据预测误差的统计特性,以确定加权规则的参数,从而赋予训练样本不同的权值.由于考虑了生产过程中样本的实际特性,与已有的加权方法相比,新的加权最小二乘支持向量机更具有鲁棒性.仿真结果验证了该方法的可行性和有效性.

     

基于混沌优化支持向量机的轧制力预测

针对带钢热连轧轧制力的精确预测问题,提出一种基于最小二乘支持向量机模型的预测算法.在分析最小二乘支持向量机数学预测模型的基础上,提出一种改进的结合遗传算法的变尺度混沌优化方法,以进行最优模型参数的搜索.利用实测在线数据对模型进行训练并进行轧制力预测.仿真结果表明,利用该方法可使轧制力预测精度得到提高,平均误差率从BP神经网络的±10%降到±5%以下,为进一步提高热连轧厚度控制精度提供了一种有效方法.

     

基于网络控制系统平均时延的模糊控制器设计

针对网络控制系统（ＮＣＳ）中的随机时延问题,根据实际网络时延的分布情况,提出一种新的具有随机时延的网络控制系统的建模方法———离散Ｔ Ｓ模型,并在此基础上应用并行分布补偿原理（ＰＤＣ）设计模糊控制器．同时提出一种新的模糊控制系统隶属函数的确定方法,利用Ｌｙａｐｕｎｏｖ定理和线性矩阵不等式（ＬＭＩ）研究系统的稳定性问题,给出了基于ＬＭＩ的模糊控制器的设计方法．最后通过仿真实例验证了该控制方法能使具有时延的网络控制系统稳定．

     

基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

RBF神经网络参数估计的两种混合优化算法

基于全局搜索的进化算法和一种局部搜索算法———结构化的非线性参数优化方法（ＳＮＰＯＭ）,提出两种混合的优化算法来估计ＲＢＦ神经网络中的参数：１）初始化一定数目的种群作为ＳＮＰＯＭ 的初始值得到其适应值,通过选择、交叉和替换策略来更新种群;２）采用进化算法运行一定的代数,从最终群体中选取一些个体进一步用ＳＮＰＯＭ来优化．这两种混合优化算法的本质是用进化算法为ＳＮＰＯＭ 搜寻最优初始值,以得到全局最优解．仿真实验结果表明,该混合算法比单独使用进化算法或ＳＮＰＯＭ 更优,且优于其他一些算法．

     

基于快速聚类分析的支持向量数据描述算法

针对数据中存在的噪声对数据描述建模的影响, 提出一种基于快速聚类分析的支持向量数据描述算法. 该算法通过快速聚类分析算法对所要建模的数据进行预处理, 通过预处理快速剔除数据中存在的影响建模的噪声; 然后再将基于??NN算法计算获得的权重值加权在每一个数据上, 进行支持向量数据描述算法的建模. 在标准数据集上的实验分析表明, 所提出的支持向量数据描述算法较传统的支持向量数据描述算法和密度驱动支持向量数据描述算法在准确度上具有较明显的提升.

     

两种求解非正定核Laplac-SVR的SMO算法

提出２种用于求解非正定核Ｌａｐｌａｃｅ ＳＶＲ 的序列最小最优化（ＳＭＯ）算法．第１种算法仅针对Ｌａｐｌａｃｅ ＳＶＲ而设计;第２种算法将Ｌａｐｌａｃｅ ＳＶＲ 作为所要解决问题的一种特殊情况,使算法更具通用性．所提出的算法在保证收敛的前提下,使非正定Ｌａｐｌａｃｅ ＳＶＲ 能够达到比较理想的回归精度,具有一定的理论意义和实用价值．

     

采用二重扰动机制的支持向量机的集成训练算法

为了有效提升支持向量机的泛化性能,提出两种集成算法对其进行训练.首先分析了扰动输入特征空间和扰动模型参数两种方式对于增大成员分类器之间差异性的作用;然后提出两种基于二重扰动机制的集成训练算法.其共同特点是,同时扰动输入特征空间和模型参数以产生成员分类器,并利用多数投票法对它们进行组合.实验结果表明,因为同时缩减了误差的偏差部分和方差部分,所以两种算法均能显著提升支持向量机的泛化性能.

 

     

面向属性效应控制的等均值约束支持向量回归机

针对现有的属性效应控制方法无法有效控制非线性回归建模的属性效应问题, 基于间隔最大化和结构风险最小化原则, 通过向SVR 目标学习准则中施加等均值条件约束, 提出等均值支持向量回归机(EM-SVR). 所提出的方法具有较好的泛化能力, 同时继承了EM-LS 的良好性能. 实验结果验证了所提出方法的有效性.

     

决策树支持向量机多分类器设计的向量投影法

针对如何有效地设计决策树支持向量机(SVM)多类分类器的层次结构这个关键问题,提出一种基于向量投影的类间可分性测度的设计方法,并给出一种基于该类间可分性测度设计决策树SVM 多分类器层次结构的方法.为加快每个SVM子分类器的训练速度且保持其高推广性,将基于向量投影的支持向量预选取方法用于每个子分类器的训练中.通过对3个大规模数据集和手写体数字识别的仿真实验表明,新方法能有效地提高决策树SVM类分类器的分类精度和速度.