基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

增量式剪枝最小二乘支持向量机的时间序列预测

根据分块矩阵计算公式和支持向量机核函数矩阵本身特点,在增量式最小二乘支持向量机算法的基础上,通过引入剪枝方法改善最小二乘支持向量机的稀疏性,并将这种方法应用于时间序列预测,试验表明这一方法在预测精度及速度上具有一定的优越性。     

基于混合核函数FOA-LSSVM的预测模型

支持向量机（SVM）的核函数类型和超参数对预测的精度有重要影响。由于局部核函数学习能力强、泛化性能弱,而全局核函数泛化性能强、学习能力弱的矛盾,通过综合两类核函数各自优点构造了基于全局多项式核和高斯核的混合核函数,并引入果蝇优化算法（FOA）对最小二乘支持向量机（LSSVM）参数进行全局寻优,提出了混合核函数FOA-LSSVM 预测模型。结果表明,该模型较传统方法在电力负荷预测精度上有了明显提高,预测结果科学可靠,在预测中具有良好的实际应用价值。     

基于改进PSO优化LSSVM的传感器补偿研究

针对最小二乘支持向量机在对传感器进行补偿时,正则化参数和核函数参数对补偿精度影响较大的问题,提出一种利用改进的粒子群优化算法优化最小二乘支持向量机模型参数的传感器补偿方法。该方法利用改进的粒子群优化算法优化最小二乘支持向量机模型的正则化参数和核函数参数,避免了人工选择参数的盲目性,提高了最小二乘支持向量机模型的预测精度。仿真实验表明,在传感器的补偿时,该方法比最小二乘支持向量机模型的补偿精度更高。     

基于PSO和LSSVM的生化过程建模研究

针对最小二乘支持向量机(LSSVM)在生化过程建模中的重要建模参数值选择问题.提出利用具有较强的全局搜索能力的粒子群(PSO)优化算法.对最小二乘支持向量机建模过程中的重要参数进行优化调整,每一个粒子的位置向量对应一组最小二乘支持向量机建模的参数.利用参数优化调整后得到的具有较优拟合预测效果的模型对谷氨酸发酵过程进行预测,仿真结果表明,该方法能使模型取得较好的预测效果.     

稀疏最小二乘支持向量机及其应用研究

提出一种构造稀疏化最小二乘支持向量机的方法．该方法首先通过斯密特正交化法对核矩阵进 行简约,得到核矩阵的基向量组;再利用核偏最小二乘方法对最小二乘支持向量机进行回归计算,从而使最 小二乘向量机具有一定稀疏性．基于稀疏最小二乘向量机建立了非线性动态预测模型,对铜转炉造渣期吹炼 时间进行滚动预测．仿真结果表明,基于核偏最小二乘辨识的稀疏最小二乘支持向量机具有计算效率高、预 测精度好的特点．     

基于多尺度小波LSSVR的污水处理过程软测量

针对污水处理中某些生物参数难以在线测量的情况,本文提出了一种基于小波核的多尺度最小二乘小波支持向量机软测量建模方法:。首先,选取墨西哥草帽小波函数作为最小二乘支持向量机的核函数,进而设计出多尺度小波最小二乘支持向量回归机(MW-LSSVR)。然后利用该支持向量机和出水水质参数特性建立混合软测量模型,实现对出水BOD浓度、COD浓度在线预测。通过在实际污水处理过程的应用,结果:表明本建模方法:具有较高的预测精度和较快的模型学习速度,能对BOD的做出准确的预测,一定程度上可以替代某些昂贵的在线测量仪表,给污水处理厂工作人员提供了控制操作依据,具有一定的实际应用价值。     

一类非平坦函数的多核最小二乘支持向量机的鲁棒回归算法

给出了标准最小二乘支持向量机的数学回归模型,并提出了多核最小二乘支持向量机算法,用于提高非平坦函数的回归精度.运用谱系聚类方法解决多核最小二乘支持向量机的解缺乏稀疏性的问题.利用偏最小二乘回归方法对多核最小二乘支持向量机进行了鲁棒回归.通过仿真实例证实了所提方法的有效性.     

基于LSSVM的VVP推力系数预报

针对神经网络存在结构较难确定、训练易陷入局部最优以及容易过学习等问题和标准SVM训练速度较慢等问题,提出最小二乘支持向量机算法,最小二乘支持向量机算法(LS-SVM)具有比其他非线性函数逼近方法具有更强的泛化能力;并且LS-SVM采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.将最小二乘支持...     

基于压缩感知的多尺度最小二乘支持向量机

提出一种基于压缩感知(Compressive sensing, CS)和多分辨分析(Multi-resolution analysis, MRA)的多尺度最小二乘支持向量机(Least squares support vector machine, LS-SVM). 首先将多尺度小波函数作为支持向量核, 推导出多尺度最小二乘支持向量机模型, 然后基于压缩感知理论, 利用最小二乘匹配追踪(Least squares orthogonal matching pursuit, LS-OMP)算法对多尺度最小二乘支持向量机的支持向量进行稀疏化, 最后用稀疏的支持向量实现函数回归. 实验结果表明, 本文方法利用不同尺度小波核逼近信号的不同细节, 而且以比较少的支持向量能达到很好的泛化性能, 大大降低了运算成本, 相比普通最小二乘支持向量机, 具有更优越的表现力.     

基于QGA-LSSVM的醋酸乙烯聚合率软测量建模

针对最小二乘支持向量机(LS-SVM)在建立醋酸乙烯(VAC)聚合率软测量模型过程中最优模型参数的选择问题,提出了利用一种量子遗传算法来自动选取LS-SVM模型正则化参数和核函数参数的方法;把LS-SVM模型参数的选择问题转化为优化问题,利用全局搜索能力强的量子遗传算法优化LS-SVM建模过程的重要参数,建立了基于QGA-LSSVM方法的VAC聚合率软测量模型;仿真结果表明:与已有的神经网络和支持向量机软测量方法相比,该模型泛化能力强,精度高,更有利于醋酸乙烯聚合率测量工程实际运用。     

一种基于全局代表点的快速最小二乘支持向量机稀疏化算法

非稀疏性是最小二乘支持向量机（Least squares support vector machine,LS-SVM）的主要不足,因此稀疏化是LS-SVM研究的重要内容.在目前LS-SVM稀疏化研究中,多数算法采用的是基于迭代选择的稀疏化策略,但是时间复杂度和稀疏化效果还不够理想.为了进一步改进LS-SVM稀疏化方法的性能,文中提出了一种基于全局代表点选择的快速LS-SVM稀疏化算法（Global-representation-based sparse least squares support vector machine,GRS-LSSVM）.在综合考虑数据局部密度和全局离散度的基础上,给出了数据全局代表性指标来评估每个数据的全局代表性.利用该指标,在全部数据中,一次性地选择出其中最具有全局代表性的数据并构成稀疏化后的支持向量集,然后在此基础上求解决策超平面,是该算法的基本思路.该算法对LS-SVM的非迭代稀疏化研究进行了有益的探索.通过与传统的迭代稀疏化方法进行比较,实验表明GRS-LSSVM具有稀疏度高、稳定性好、计算复杂度低的优点.     

多输出数据依赖核支持向量回归快速学习算法

针对基于递推下降法的多输出支持向量回归算法在模型参数拟合过程中收敛速度慢、预测精度低的情况,使用一种基于秩2校正规则且具有二阶收敛速度的修正拟牛顿算法（BFGS）进行多输出支持向量回归算法的模型参数拟合,同时为了保证模型迭代过程中的下降量和全局收敛性,应用非精确线性搜索技术确定步长因子。通过分析支持向量机（SVM）中核函数的几何结构,构造数据依赖核函数替代传统核函数,生成多输出数据依赖核支持向量回归模型。将模型与基于梯度下降法、修正牛顿法拟合的多输出支持向量回归模型进行对比。实验结果表明,在200个样本下该算法的迭代时间为72.98 s,修正牛顿法的迭代时间为116.34 s,递推下降法的迭代时间为2065.22 s。所提算法能够减少模型迭代时间,具有更快的收敛速度。     

基于Renyi熵的LS-SVM财务困境预测模型

为了提高企业财务困境预测的正确率,减少训练模型的样本数和训练时间,在传统支持向量机预测模型的基础上,将Renyi熵和最小二乘支持向量机算法应用于财务困境预测,提出了一种基于Renyi熵的最小二乘支持向量机预测模型.独立推导出了适合财务困境预测这一离散序列的熵以及支持向量机核函数的表达式,同时,给出了这一改进算法的实现步骤.实验结果表明,该算法无论是训练样本的数量还是训练时间,都显著优于传统的最小二乘支持向量机以及标准支持向量机预测模型.     

贝叶斯框架下的LSSVM和贝叶斯网络及其应用

贝叶斯理论能够利用样本信息和先验知识,简化预测模型,优化参数.主要介绍了贝叶斯框架下的最小二乘支持向量机算法和贝叶斯正则化神经网络,贝叶斯框架下的最小二乘支持向量机能确定正则化参数和核参数,贝叶斯正则化网络能够自适应的调整网络的复杂度和网络的隐节点个数.以轻柴油的凝点、闪点、95%馏出温度3个关键指标输出为例分别建立了这两种预测模型,并且对结果进行了比较,仿真结果表明贝叶斯框架下的最小二乘支持向量机比贝叶斯正则化网络有更强的泛化能力,而且程序运行速度快,运算精度高.     

基于支持向量机的软测量技术及其应用

支持向量机(SVM)是一种基于结构风险最小化原理,具有很好推广性能的学习算法。讨论了基于最小二乘支持向量机(LS-SVM)的软测量数据建模原理和方法,并将其应用在汽车排放的氮氧化合物NOX软测量中。通过与基于神经网络的软测量方法进行比较,结果显示出SVM的明显的优势,特别是对小样本、非线性、高维数一类软测量问题的建模,提供了一种有效的途径。     

布谷鸟优化混合核相关向量机的网络流量预测

为了提高网络流量的预测精度,提出一种布谷鸟算法优化混合核相关向量机的网络流量预测模型(CS-RVM)。首先采用多项式和高斯核函数构成混合核函数代替相关向量机的单一核函数,然后引入布谷鸟算法对混合核参数进行寻优,最后建立网络流量预测模型。仿真结果表明,CS-RVM具有良好的建模效果,可提高网络流量的预测精度。     

基于最小二乘支持向量机的航煤干点软测量应用研究

传统支持向量机是近几年发展起来的一种基于统计学习理论的学习机器,在非线性函数回归估计方面有许多应用。最小二乘支持向量机用等式约束代替传统支持向量机方法中的不等式约束,利用求解一组线性方程得出对象模型,避免了求解二次规划问题。本文采用最小二乘支持向量机解决了航空煤油干点的在线估计问题,结果表明,最小二乘支持向量机学习速度快、精度高,是一种软测量建模的有效方法。在相同样本条件下,比RBF网络具有较好的模型逼近性和泛化性能,比传统支持向量机可节省大量的计算时间。     

基于云PSO 的RVM入侵检测

入侵检测可为计算机网络信息提供安全保障,在其方法研究中,由于相关向量机(RVM)具有高稀疏性且预测中使用概率因素,在网络入侵检测中优于支持向量机.然而RVM的核函数参数是经验估计的,为此,提出一种基于云模型的粒子群优化算法的RVM方法,即采用云粒子群算法确定RVM的核参数,构建RVM分类模型,再采用一对一分类方法进行多类检测分类.经入侵检测实验研究,所得结果表明所提出的方法优于基于常规相关向量机的检测方法,且具有更高的入侵检测精度.     

基于最小二乘支持向量机的短期电力负荷预测

提出了结合遗传算法(Genetic Algorithm,GA)和最小二乘支持向量机(Least Squares Support Vector Machines,LS-SVM)的短期电力负荷预测。由于影响负荷预测因素的复杂性和最小二乘支持向量机参数选择的不确定性,提出了采用遗传算法同时对电力负荷训练样本进行特征提取和最小二乘支持向量机的参数选择,然后利用提取出的数据序列和选择的参数,建立最小二乘支持向量机预测模型。通过实际算例分析,证明了该算法可以改善预测模型的精度和泛化能力。