基于特征值分解的最大间隔支持向量回归机

广义特征值中心支持向量回归机(GEPSVR) 是一种有效的核回归算法, 但其在求解优化问题时易导致奇异 性问题. 为此, 提出一种基于特征值分解的支持向量回归机, 简称IGEPSVR. 与GEPSVR 相比, IGEPSVR 的主要优势 有: 结合最大间隔准则和GEPSVR 几何思想给出了新的距离度量准则; 在优化模型中引入Tikhonov 正则项, 克服了 可能产生的奇异性问题; IGEPSVR 仅需求解两个标准特征值, 降低了计算复杂度. 实验结果表明, 较GEPSVR 算法, IGEPSVR 不仅提高了学习能力, 而且缩短了训练时间.

     

面向大规模数据属性效应控制的核心向量回归机

属性效应在现实生活中广泛存在,如果不加以控制,将会严重影响回归学习的性能.针对大规模数据属性效应控制的非线性回归学习问题,提出了快速等均值核心向量回归机(fast equal mean-core vector regression, FEM-CVR).首先基于间隔最大化目标学习准则,通过施加等均值约束条件,提出了等均值支持向量回归机(equal mean-support vector regression, EM-SVR).在此基础上,证明了EM-SVR等价于一个中心约束最小包含球(center constrained-minimum enclosing ball, CC-MEB)问题,然后通过引入近似最小包含球理论,得到原始输入数据集的压缩集即核心集(core set),进一步提出了针对大规模数据属性效应控制的最小包含球快速非线性回归学习方法FEM-CVR,并从理论上对相关性质进行了深入分析.实验表明:该方法能够快速处理针对大规模数据属性效应控制的非线性回归学习问题,具有较好的泛化能力,并且其时间复杂度上限与数据集大小无关,仅与最小包含球近似参数ε有关.     

基于在线支持向量回归的非线性模型预测控制方法

针对非线性模型预测控制中离线模型难以适应非线性对象实时变化的缺点, 提出一种基于在线支持向量回归的非线性模型预测控制方法. 该方法通过在线支持向量回归离线训练与在线学习相结合的方式, 建立具有在线校正特性的预测模型, 同时采用最速下降原理滚动优化非线性模型预测控制的目标函数, 求得多步控制量. 通过对非线性对象的控制结果表明, 所提出方法有效且具有良好的自适应性.

     

基于支持向量机广义逆的直线永磁游标电机内模解耦控制

针对直线永磁游标电机这一多变量、强耦合的非线性系统, 提出一种基于支持向量机广义逆内模控制的方法. 在证明其数学模型存在广义逆的基础上, 通过支持向量机来辨识原系统的广义逆系统, 经复合后得到具有线性关系的伪线性系统, 然后引入内模控制方法设计附加控制器以增强整个系统的鲁棒性. 仿真结果验证了所提出方法具有良好的解耦性能和抗干扰特性.

     

基于具有自适应分段损失函数支持向量机的产品销售预测模型

针对产品销售时序包含噪声的数据特征, 提出一种基于自适应分段损失函数的支持向量机模型(AS??-SVM). AS??-SVM 为每个样本点赋一个单独的不敏感损失值, 以此降低模型对包含较大噪声的样本点的依赖性, 并从理论上证明了该方法可增强模型部分的泛化性能. 将AS??-SVM 与??-SVM 共同应用于处理一个数值算例和一个汽车销售预测实例中, 仿真实验结果表明, AS??-SVM 是有效可行的, 可获得比??-SVM 更精确的预测结果.

     

用于回归的临近支持向量机

将临近支持向量分类杌应用在回归问题上,提出临近支持向量回归机,给出线性与非线性情况下的回归函数,该方法比支持向量回归机(svR)问题减少了参数和一半变量,比最小二乘支持向量回归机(LSSVMR)求解公式更加简单,且核函数不需要满足Mercer条件.数值实验结果表明,与SVR和LSSVMR相比,该方法的学习速度更快,且泛化能力较之不相上下.     

基于快速聚类分析的支持向量数据描述算法

针对数据中存在的噪声对数据描述建模的影响, 提出一种基于快速聚类分析的支持向量数据描述算法. 该算法通过快速聚类分析算法对所要建模的数据进行预处理, 通过预处理快速剔除数据中存在的影响建模的噪声; 然后再将基于??NN算法计算获得的权重值加权在每一个数据上, 进行支持向量数据描述算法的建模. 在标准数据集上的实验分析表明, 所提出的支持向量数据描述算法较传统的支持向量数据描述算法和密度驱动支持向量数据描述算法在准确度上具有较明显的提升.

     

支持向量机回归理论与控制的综述

支持向量机回归理论与神经网络等非线性回归理论相比具有许多独特的优点.SVMR有线性回归和非线性回归,其模型的选择包括核的选择、容量控制以及损失函数的选择.SVMR在控制方面的研究包括非线性时间序列的预测及应用、系统辨识以及优化控制和学习控制等方面的研究.将SVMR应用于控制方法的研究,是智能控制的一个崭新的研究方向,具有广阔的应用前景.     

两种基于等式约束支持向量回归机比较研究

为了减小支持向量回归机(SVR)的计算复杂度、缩短训练时间,将应用于分类问题的近似支持向量机(PSVM)扩展到回归问题中,针对其原始优化问题采用直接法求取最优解,而不是转换为对偶问题求解,给出了近似支持向量回归机(PSVR)线性和非线性回归算法.并与同样基于等式约束的最小二乘支持向量回归机(LSSVR)进行了比较,在一维、二维函数回归以及不同规模通用数据集上的测试结果表明,PSVR算法简单,训练速度快,尤其在大规模数据集处理上更具优势.     

最小二乘双支持向量回归机

提出了一个最小二乘双支持向量回归机,它是在双支持向量回归机基础之上建立的,打破了标准支持向量回归机利用两条平行超平面构造ε带的思想。事实上,它是利用两条不一定平行的超平面构造ε带,每条超平面确定一个半ε-带,从而得到最终的回归函数,这使该回归函数更符合数据本身的分布情况,回归算法有更好的推广能力。另外,最小二乘双支持向量机只需求解两个较小规模的线性方程组就能得到最后的回归函数,其计算复杂度相对较低。数值实验也表明该回归算法在推广能力和计算效率上有一定的优势。     

基于SVR 的惯性/卫星组合导航系统故障诊断方法

在惯性/卫星组合导航系统中, 针对传统X² 检验法检测出故障但无法准确识别故障子系统的不足, 提出一种基于支持向量回归的故障诊断方法. 采用残差X² 检验法实时对组合导航系统进行故障检测, 并构建基于支持向量机的回归预测模型, 实现对惯性导航系统状态的预测; 根据系统模型输出和预测模型输出之差辅助进行惯性导航系统的故障判别, 诊断出系统故障源. 仿真结果表明, 所提出的方法能够快速准确地识别故障子系统, 并进行有效的系统隔离和重构, 从而使组合导航系统的性能得到保障.

     

一种基于属性加权的代价敏感支持向量机算法

针对实际中存在的各类别样本错分造成不同危害程度的分类问题,提出了一种基于属性加权的代价敏感支持向量机分类算法,即在计算各个样本特征属性对分类的重要度之后,对相应的属性进行重要度加权,所得的数据用于训练和测试代价敏感支持向量机。数值实验的结果表明,该方法提高了误分代价高的类别的分类精度,同时属性重要度的引入提高了分类器的整体分类性能。该方法对错分代价不对称的数据分类问题具有重要的现实意义。     

基于属性重要度的风险决策粗糙集属性约简

基于Pawlak 粗糙集的属性约简一般保持决策表的正区域不变, 然而由于现实中不同用户对不同约简精度的需求, 获取属性值的实际代价与个人偏好可能不同. 针对决策者主观个人偏好、客观约简精度、获取属性值的实际代价和决策表各区域的误判代价等综合情况, 提出新的约简算法, 并讨论约简代价与约简精度间的关系. 通过遗传算法, 采用启发式方法搜索出局部最优约简子集. 仿真实验表明, 所提出的算法操作性强, 更适合处理实际决策问题.

     

求解广义支持向量机的光滑型算法

提出一种求解支持向量机(SVMs)的光滑型算法.该算法基于其对偶优化模型的KKT系统,提出一类新的光滑函数族,将其KKT系统重构为一个光滑方程组,并采用光滑型算法进行求解.在适当的条件下,该算法是全局收敛和局部超线性收敛的.多个算例表明该算法非常有效,具有广阔的应用前景.     

密度加权孪生支持向量回归机

为了使数据集的内在分布更好地影响训练模型,提出一种密度加权孪生支持向量回归机算法.该算法通过k近邻算法计算获得每个数据点基于数据密度分布的密度加权值,并将密度加权值引入到标准孪生支持向量回归机算法中.算法能够很好地反映训练数据集的内在分布,使数据点准确影响训练模型.通过6个UCI数据集上的实验结果分析验证了所提出算法的有效性.     

考虑属性权重优化的犹豫模糊多属性决策方法

针对属性权重完全未知的犹豫模糊多属性决策问题, 提出一种属性权重多目标优化方法. 首先, 根据属性值的均值、方差以及属性间的关联度建立属性权重确定模型; 然后, 利用方案与犹豫模糊正理想点的相似度对方案进行排序; 最后, 通过算例分析表明了所提出方法的有效性和可行性.