一种基于Cholesky分解的动态无偏LS-SVM学习算法

针对最小二乘支持向量机用于在线建模时存在的计算复杂性问题,提出一种动态无偏最小二乘支持向量回归模型.该模型通过改进标准最小二乘支持向量机结构风险的形式消除了偏置项.得到了无偏的最小二乘支持向量机,简化了回归系数的求解.根据模型动态变化过程中核函数矩阵的特点,设计了基于Cholesky分解的在线学习算法.该算法能充分利用历史训练结果,减少计算复杂性.仿真实验表明了所提出模型的有效性.     

基于LS-SVM的小样本费用智能预测

最小二乘支持向量机引入最小二乘线性系统到支持向量机中,代替传统的支持向量机采用二次规划方法解决函数估计问题。该文推导了用于函数估计的最小二乘支持向量机算法,构建了基于最小二乘支持向量机的智能预测模型,并对机载电子设备费用预测进行了研究。结果表明最小二乘支持向量机具有比多元对数回归更高的小样本费用预测精度。     

基于LS-SVM算法的混沌时序递推预测

研究利用最小二乘支持向量机（LS-SVM）预测变参数混沌时间序列。支持向量机方法是基于结构风险最小化原理导出的,最小二乘支持向量机是一种在二次损失函数下采用等式约束求解问题的支持向量机,保留支持向量机优点的同时计算量大大减少。变参数混沌时间序列预测是典型的小样本学习问题,由于参数的慢变导致系统的动力学特性不断发生变化,全局建模预测方法很难适用,必须在线实时预测。为了快速跟踪预测变参数混沌系统的时间序列,研究了利用一种简化的最小二乘支持向量机在线递推算法进行预测。最后对典型变参数混沌时间序列的预测实验结果表明了该方法的有效性。     

基于Renyi熵的LS-SVM财务困境预测模型

为了提高企业财务困境预测的正确率,减少训练模型的样本数和训练时间,在传统支持向量机预测模型的基础上,将Renyi熵和最小二乘支持向量机算法应用于财务困境预测,提出了一种基于Renyi熵的最小二乘支持向量机预测模型.独立推导出了适合财务困境预测这一离散序列的熵以及支持向量机核函数的表达式,同时,给出了这一改进算法的实现步骤.实验结果表明,该算法无论是训练样本的数量还是训练时间,都显著优于传统的最小二乘支持向量机以及标准支持向量机预测模型.     

基于最小二乘支持向量机的航煤干点软测量应用研究

传统支持向量机是近几年发展起来的一种基于统计学习理论的学习机器,在非线性函数回归估计方面有许多应用。最小二乘支持向量机用等式约束代替传统支持向量机方法中的不等式约束,利用求解一组线性方程得出对象模型,避免了求解二次规划问题。本文采用最小二乘支持向量机解决了航空煤油干点的在线估计问题,结果表明,最小二乘支持向量机学习速度快、精度高,是一种软测量建模的有效方法。在相同样本条件下,比RBF网络具有较好的模型逼近性和泛化性能,比传统支持向量机可节省大量的计算时间。     

基于最小二乘支持向量机的模糊图像恢复

针对模糊图像恢复问题,提出了一种基于最小二乘支持向量机的模糊图像恢复算法.该方法利用最小二乘支持向量机的非线性映射能力,通过训练样本对的学习训练,在模糊图像与清晰图像之间建立映射关系对测试样本进行恢复.实际图像恢复实验表明,得到的恢复图像在视觉上和定量分析上都获得了比较好的效果.与神经网络方法相比,最小二乘支持向量机克服了神经网络的模型选择与过学习问题、局部极小问题等.     

基于LSSVM的卫星姿态控制系统故障诊断

提出了一种基于最小二乘支持向量机(LSSVM)非线性观测器的卫星姿态控制系统故障诊断方法。与标准的支持向量机回归算法相比,最小二乘支持向量机回归算法收敛速度快,适用于在线训练。该方法利用其回归逼近非线性函数的能力,设计基于最小二乘支持向量机的非线性系统状态观测器,在线训练最小二乘支持向量机回归,并用于估计卫星姿态控制系统故障。最后,通过仿真验证了这种方法可以快速准确地估计出卫星姿态控制系统的故障。     

一种LS-SVM在线式短时交通流预测方法

针对最小二乘支持向量机用于短时交通流在线预测时存在的计算复杂性问题,结合短交通流观测数据的特点,提出了一种最小二乘支持向量机在线式短时交通流预测算法。通过改进最小二乘支持向量机模型结构风险形式,消除了模型中的偏置项,从而简化了在线学习过程中Lagrange乘子的求解过程,利用训练数据集滑动时间窗口的移动来控制新样本的加入和旧样本的移除,通过线性运算即可求得由训练样本集的更新而引起Lagrange乘子的变化量,进而完成预测模型的在线更新。仿真结果表明,相对于已有算法,所提算法在保证预测精度的条件下,具有更低的计算复杂度,能够将在线模型更新时间平均降低了约62.64%。     

一种新型的多元分类支持向量机

最小二乘支持向量机采用最小二乘线性系统代替传统的支持向量机采用二次规划方法解决模式识别问题。该文详细推理和分析了二元分类最小二乘支持向量机算法，构建了多元分类最小二乘支持向量机，并通过典型样本进行测试，结果表明采用多元分类最小二乘支持向量机进行模式识别是有效、可行的。     

基于OS-LSSVM的电子装备在线故障预测模型研究

支持向量机是一种针对小样本、非线性对象的故障诊断与预测方法;为了适应装备对排除故障快速性和在线性的要求,提出了利用在线稀疏最小二乘支持向量机回归算法的基本原理,建立针对于电子装备的在线预测模型;通过Matlab技术仿真实现了对某型无人机陀螺仪电源伏值状态趋势的在线预测和故障预报,并通过对比验证了该预测模型在确保准确性的前提下有效提高了预测的快速性和实时性;最终证明基于在线稀疏最小二乘支持向量机的在线预测模型在解决该问题上具有良好的应用价值。     

基于最小二乘支持向量机的特征增量学习算法

本文针对传统的增量学习算法无法处理后采集到的样本中含有新增特征的问题,设计适应样本特征维数增加的训练算法。在基于最小二乘支持向量机的基础上,提出了特征增量学习算法。该算法充分利用先前训练得到的分类器的结构参数,仅对新增特征采用最小二乘支持向量机进行学习。实验结果表明,该算法能够在保证分类精度的同时,有效效地提高训练速度并降低存储空间。     

支持向量机在鼻咽癌患者5年生存状态预测中的应用

利用最小二乘支持向量机和文献[10]中的半监督学习算法,我们对鼻咽癌患者5年生存状态进行了预测.实验结果表明:当已标注数据比较少时,两种方法的判别精度都比较低;随着已标注数据的增多,最小二乘支持向量机的推广能力逐渐增加,而半监督学习算法并没有给出更好的结果.这说明:对于鼻咽癌患者5年生存状态预测问题,最小二乘支持向量机比半监督学习方法更具有优势.     

基于SVM的实时交通流模拟与预测系统设计

在统计学习理论的支持向量机学习算法研究基础上,采用Matlab语言设计了一种基于最小二乘支持向量机的实时交通流模拟与预测系统,详细阐述了算法设计、系统构架及实现,最后介绍了系统在城市路网交通流量预测中的应用,该系统为交通诱导数据的可视化表达提供了新的途径。     

基于改进PSO算法和LS-SVM的短期电力负荷预测

针对电力负荷的小样本、非线性、高维数和局部极小点等问题,提出采用最小二乘支持向量机方法建模,以历史负荷、温度、湿度等数据作为输入量,对短期电力负荷进行预测;针对最小二乘支持向量机在建模中存在的参数选取问题,采用一种根据种群多样性信息来指导初始种群选取和避免粒子早熟收敛现象的改进粒子群优化算法来优化最小二乘支持向量机的惩罚因子和核参数。仿真结果表明,基于改进粒子群优化算法和最小二乘支持向量机的短期电力负荷预测方法较最小二乘支持向量机预测方法、基于基本粒子群优化算法和最小二乘向量机的预测方法具有更好的预测精确度。     

基于支持向量机的大样本回归算法比较研究

支持向量机的研究是当前人工智能领域的研究热点。基于支持向量机的大样本回归问题一直是一个非常具有挑战性的课题。最近,基于递归最小二乘算法,Engel等人提出了核递归最小二乘算法。文中基于块增量学习和逆学习过程,提出了自适应迭代回归算法。为了说明两种方法的性能,论文在训练速度、精度和支持向量数量等方面,对它们做了比较。模拟结果表明:核递归最小二乘算法所得到的支持向量个数比自适应迭代回归算法少,而训练时间比自适应迭代回归算法的训练时间长,训练和测试精度也比自适应迭代回归算法差。     

基于递推模糊LSSVM的青霉素发酵优化控制

针对非线性、时变的发酵过程,提出一种递推式模糊最小二乘支持向量机建模方法。将最小二乘支持向量机和模糊思想融合起来,并采用递推式算法简化运算,仿真表明,建立的模型具有良好的预测效果。结合此模型采用粒子群优化算法优化发酵过程的补料速率控制轨线,结果证明该系统具有良好的控制效果。     

Error tolerance based support vector machine for regression

Most existing online algorithms in support vector machines (SVM) can only grow support vectors. This paper proposes an online error tolerance based support vector machine (ET-SVM) which not only grows but also prunes support vectors. Similar to least square support vector machines (LS-SVM), ET-SVM converts the original quadratic program (QP) in standard SVM into a group of easily solved linear equations. Different from LS-SVM, ET-SVM remains support vectors sparse and realizes a compact structure. Thus, ET-SVM can significantly reduce computational time while ensuring satisfactory learning accuracy. Simulation results verify the effectiveness of the newly proposed algorithm.     

The incremental learning algorithm with support vector machine based on hyperplane-distance

This paper proves the problem of losing incremental samples’ information of the present SVM incremental learning algorithm from both theoretic and experimental aspects, and proposes a new incremental learning algorithm with support vector machine based on hyperplane-distance. According to the geometric character of support vector, the algorithm uses Hyperplane-Distance to extract the samples, selects samples which are most likely to become support vector to form the vector set of edge, and conducts the support vector machine training on the vector set. This method reduces the number of training samples and effectively improves training speed of incremental learning. The results of experiment performed on Chinese webpage classification show that this algorithm can reduce the number of training samples effectively and accumulate historical information. The HD-SVM algorithm has higher training speed and better precision of classification.     

一种改进的最小二乘支持向量机软测量建模方法

针对最小二乘支持向量机(LS-SVM)缺少支持向量所具有的稀疏性和模型参数值难以选择的问题,提出利用马氏距离进行样本相似程度分析,去除集中部分样本,以恢复最小二乘支持向量机的稀疏性的方法.同时,采用κ-折交叉验证误差作为学习目标的粒子群优化算法来选取模型参数,并利用改进算法建立了精馏产品浓度的软测量模型.通过仿真验证了改进算法的有效性.结果表明模型精度较高,泛化能力强,满足工业测量要求.