在线Lagrangian支撑向量回归

为快速求解在线支撑向量回归算法,给出了一种基于Lagrangian支撑向量回归(LSVR)的在线增量学习算法.LSVR得到的无约束最优化问题可以采用快速迭代算法求解,该迭代算法可以从任何初始点收敛.LSVR求解时,在迭代开始只需要对阶数为输入样本数加一的矩阵求逆.在线增量LSVR学习算法在线性情况下采用S-M-W公式可以明显减少运算时间,在非线性情况下矩阵求逆充分利用了历史学习结果,减少了很多重复计算.通过在多个数据集上进行对比,实验结果表明:该算法与以前算法相比不仅保持了较好的精度,同时训练时间大大减少.     

双支持向量顺序回归机

针对顺序回归问题的深入研究,基于支持向量顺序回归机提出了双支持向量顺序回归机。由于双支持向量顺序回归机所对应的2个优化问题是对称的,则只需求解其中的一个问题,进而得出一个分划超平面。又因其对应的优化问题的规模只是支持向量顺序回归机规模的一半,故其运算速度会快于支持向量顺序回归机。数值实验的结果表明:双支持向量顺序回归机在一些数据分析中具有较高的正确率。     

应用双支持向量回归机的风速预测模型

风速对风电场功率输出起着十分重要的作用,但由于风速具有很强的随机性,使得对其预测的精度不高。针对上述问题,以双支持向量回归机为主要工具,结合风电场的实测风速数据建立了风速预测模型;给出了模型的特征以及相关参数的,并与标准支持向量回归机的预测结果进行了比较。实验结果表明:双支持向量回归机在预测精度上优于标准支持向量回归机,为风电场的风速预测提供了参考。     

支持向量机回归算法及其应用

支持向量机是建立在统计学习理论基础上的通用学习方法,它可较好地解决以往很多学习方法的小样本、非线性、过学习、高维数、局部极小点等实际问题。笔者利用支持向量回归理论和方法,建立支持向量机的预测模型,并利用winSVM和MATLAB软件进行了实例预测,与二次回归预测值相比较,支持向量机预测模型具有更好的预测精度,且有很强的推广能力。     

基于支持向量区间回归的供热负荷概率预报

提出了一种基于支持向量区间回归(SVIR)的概率预报方法,克服了点预报法无法确定预报结果波动范围的缺点。该方法利用支持向量回归确定SVIR模型的初始参数,再利用两个径向基网络分别辨识SVIR的上限和下限,可以同时给出置信区间和点预报。最后,以某热力站实际供热负荷数据与BP神经网络点预报方法进行比较,验证了该方法的有效性和实用性。     

深度集成森林回归建模方法及应用

复杂工业过程因涉及多种物理/化学反应,其质量指标或环保指标等难测参数的精确数学模型难以构建.常用的基于神经网络的数据驱动建模方法存在可解释性差、样本需求量大等缺点.针对上述问题,提出了一种非神经网络模式的深度集成森林回归(deep ensemble forest regression, DEFR)建模方法.首先,基于样本空间和特征空间的随机采样策略获得训练子集后构建T个基于决策树(decision trees, DT)的子森林模型,将采用K最近邻(K-nearest neighbor, KNN)准则选取的层回归向量与原始特征组合获得的增强层回归向量作为输入层森林模型的输出;然后,采用相同方式构建包含若干预设层数的中间层森林模型;最后,基于上层增强层回归向量构建输出层的子森林模型,通过对其T个输出值的加权获得DEFR模型的预测值.采用加州大学欧文分校(University of California Irvine, UCI)平台混凝土抗压强度数据和城市固废焚烧过程的二口恶英排放质量浓度数据仿真验证了所提方法的有效性.     

基于集成学习的支持向量回归预测模型

作为统计机器学习中最为流行的算法之一,支持向量回归(SVR)在小样本、非线性、高维数据预测中有着许多优越的性质和实验表现。然而,SVR的复杂度直接由训练样本的尺寸n决定(其时间和空间复杂度分别为O(n2)、O(n3)),为此提出了一种基于集成的SVR预测模型。该模型将训练样本多次随机地分割为代表数据子集和验证数据子集,从而建立多个简化的SVR子模型及其评价,再利用组合法形成最终的集成预测器。最后,江西省某县的天气、日尖峰负荷数据用以检验该模型的适用性。     

基于支持向量回归学习机的网络流量预测

对最小二乘支持向量机的回归算法做了改进,并将其应用到网络流量预测中,在linux下编写网络抓包程序,统计出一个网段节点的流量,与文中算法所得到的预测结果进行对比,实验结果表明,将最小二乘支持向量机用于网络流量的预测,可以取得令人满意的效果.     

基于支持向量回归的音频水印提取方法

提出一种新的、基于支持向量回归(SVR)的音频水印提取方法.在该方法中,利用子采样技术将原始音频信号划分为四个子音频信号.这些子音频对应的DCT系数间具有高的相关性,将这种相关性视为一种回归问题.在水印提取过程中,利用支持向量回归来学习这种相关性,并使用训练好的SVR完成水印的提取.实验结果表明该方法对比其它几种方法有良好的性能和更好的鲁棒性.     

函数学习的小波再生核支持向量回归模型

受小波理论与再生核Hilbert空间理论的启发，提出了一种新的小波再生核。该小波再生核由不同分辨率的小波基函数生成，并且是一种容许的支持向量核。应用该小波再生核，构造了用于函数学习的最小二乘支持向量回归模型。这种回归模型融合了支持向量机与小波的优点。仿真例子说明了该方法的可行性与有效性。     

向量随机场回归分析的研究

为了更好地反映回归分析所代表模型的实际意义,应用连续参数随机向量场等相关理论,分析了回归系数的最小二乘估计,对所得估计的方差阵求出其渐进表示.     

回归型加权支持向量机方法及其应用

针对各样本重要性的差异,提出了给各个样本的惩罚系数和误差要求赋予不同权重的加权支持向量机方法.给出了对偶最优化问题的描述及其SMO训练算法.在近红外光谱汽油辛烷值测定实验中,训练样本的重要性通过测试样本与该样本的空间距离来表征.实验表明采用加权支持向量机方法提高了汽油辛烷值的测量精度,从而说明了该方法可以提高回归估计函数的泛化能力.     

基于加权系数寻优的支持向量回归算法的研究及应用

研究了加权支持向量回归(WSVR)算法中权系数的优化方法,并通过股市预测数据进行了对比分析.结果显示,通过对权系数进行寻优后,预测效果有较大改善.     

在线模糊支持向量机回归方法及其应用

针对全局建模方法很难精确描述实际生产过程,提出了一种模糊支持向量机回归建模算法,并推导出相应的增量与减量算法;在此基础上,提出了在线模糊支持向量机回归建模方法,该方法利用滚动时间窗内的数据优化建模,随着时间窗的滚动,在原有模糊支持向量机模型的基础上通过增量与减量算法实现参数的快速在线更新。通过将该方法用于丙烯腈收率的预测建模,结果表明,所提方法具有参数调整时间快、泛化能力强的优点,可以较好的跟踪丙烯腈收率的变化。     

向量自回归模型参数的极大似然估计

研究了n维向量AR（p）自归模型参数的极大亿然估计与似然比检验，给出并证明了参数、的估计值、通过实例进行了似然比检验。     

多抓取模式下人手握力的肌电回归方法

为实现假手抓取物体时的力控制,采用支持向量机回归算法从多通道肌电信号中实时萃取握力信息.利用6通道表面肌肤电极采集人体前臂肌电信号,采用一枚6维力传感器记录人手施力信息,讨论了随意捏取以及3种规范化捏取模式下两者的回归精度,并进行了跨期次精度验证及多方法比较实验.结果表明,采用支持向量机方法能够获得较好的跨期次回归性能:随意捏模式均方误差(6.31±1.20)N,相关系数平方0.85±0.05;规范化模式均方误差(5.04±0.67)N,相关系数平方0.90±0.03.结合模式分类算法,在线握力回归误差可达5 N左右,误差率在10%以内.     

用于高炉铁水质量预报的改进支持向量回归

针对建模数据中包含噪声和离群点会降低相应软测量模型准确性的问题,提出一种结合2层变量空间分析的预处理方法.用多变量修剪法在原始变量空间预处理;并提出支持向量聚类（SVC）的预处理方法,将建模数据映射到高维特征空间,构造一超球体来排除离群点.SVC无需像传统预处理方法假设数据服从正态或近似正态分布,更符合实际的高炉过程.预处理后的数据再用支持向量回归建立软测量模型.在一工业高炉铁水硅含量的建模和预报实验结果表明,所提出方法能够更有效排除离群点,且提高了支持向量回归模型的鲁棒性和预报性能.     

基于支持向量回归的飞灰含碳量测量方法

针对飞灰含碳量测量困难的问题,提出了一种基于粒子群算法的支持向量回归预测模型来测量飞灰含碳量。该模型通过粒子群算法支持向量回归的参数优化,解决了支持向量回归模型的精度问题,使模型具有良好的泛化性,并通过实例分析验证了模型的有效性。