自调用支持向量回归和偏最小二乘优化支持向量机参数

参数选择是支持向量分类、回归分析的关键问题之一,在大训练样本条件下,大范围遍历搜索极为耗时.将均匀设计(UD)分别与自调用支持向量回归(SVR)、偏最小二乘回归(PLR)结合,提出了两种将大样本搜索转化为小样本搜索的策略UD-SVR和LID-PLR:在默认搜索范围内由均匀设计产生部分参数组合,每组合对训练集经交叉测试得评价指标(对分类为准确率,对回归为均方误差);以评价指标为目标函数,对部分参数组合形成的小样本,UD-SVR自调用支持向量回归以留一法进行大范围搜索建模,UD-PLR以PLR直接建模,并预测默认范围内所有参数组合;取预测评价指标最优的对应参数组合训练大样本,完成独立预测.对8个基准分类教据集、8个回归数据集的独立预测表明,两种新方法在保证预测精度的同时,大幅度缩短了训练建模时间,为大样本支持向量机参数选择提供了新的有效解决方案,UD-SVR比UD-PLR更具鲁棒性.     

基于均匀设计优化预测模型参数的混沌时间序列预测

为解决混沌时间序列预测中的延迟时间、嵌入维与模型参数等优化问题,提出一种基于均匀设计优化预测模型参数的混沌时间序列预测模型(UD-LSSVM)。首先采用均匀设计产生多个参数组合,并采用最小二乘支持向量机得到每组参数的均方根误差(RMSE);然后最小二乘支持向量机对参数进行全组合寻优建立最优混沌时间预测模型;最后进行混沌时间序列仿真测试。仿真结果表明,相对于对比模型,UD-LSSVM不仅可以快速、准确找到延迟时间、嵌入维与模型参数的最优组合,而且提高了混沌时间序列预测的预测精度。     

基于改进的SVMR的混沌时间序列预测

针对标准支持向量机处理大规模数据集会出现训练速度慢、计算量大的缺点,提出了一种基于二叉树模型的支持向量机回归方法。通过二叉树模型将大样本数据集自适应分解成若干个子集,利用支持向量机分段提出支持向量,再把这些支持向量汇合成一个训练样本集进行训练产生决策函数,并将其应用到混沌时间序列的预测。与标准算法相比,该方法在保证泛化精度一致的前提下,极大地加快了训练速度。     

基于SVM的大样本数据回归预测改进算法

针对支持向量机回归预测精度与训练样本尺寸不成正比的问题,结合支持向量机分类与回归算法,提出一种大样本数据分类回归预测改进算法。设计训练样本尺寸寻优算法,根据先验知识对样本数据进行人为分类,训练分类模型,基于支持向量机得到各类别样本的回归预测模型,并对数据进行预测。使用上证指数的数据进行实验,结果表明,支持向量机先分类再回归算法预测得到的均方误差达到12.4,低于人工神经网络预测得到的47.8,更远低于支持向量机直接回归预测得到的436.9,验证了该方法的有效性和可行性。     

一种新的回归型约简多分辨率相关向量机

提出一种新的稀疏贝叶斯回归算法.基于相关向量机,首先通过尺度核和小波核构造完备基以提高预测精度;然后利用保局投影对输入矩阵的列进行主成分提取以减少训练时间,从而形成算法的初步模型.为进一步减小较大规模训练数据集的回归时间压力,算法对训练数据集的分层采样建立了初步模型,进而产生实际较小规模的训练数据集.实验结果表明,算法在预测精度和鲁棒性上优于传统支持向量机和相关向量机,且其训练时间较相关向量机少.     

基于GA参数优化的t-SVR网络安全风险评估方法

为了提高网络安全风险评估的准确性和实时性,提出一种t时延参数优化支持向量回归机的网络安全风险评估模型（t-SVR）。利用遗传算法（GA）的全局搜索性,对t-SVR模型中的关键参数进行组合寻优。通过对网络安全风险数据集进行仿真,结果表明,基于GA参数优化的t-SVR评估模型已经解决了SVR存在的不足,提高了网络安全风险评估的准确率,缩短了评估时间,评估性能更加稳定。     

基于支持向量机协同训练的半监督回归

将支持向量机与半监督学习理论相结合,提出基于支持向量机协同训练的半监督回归模型,使用两个支持向量机回归模型相互影响,协同训练。利用实验数据集进行实验,并与监督支持向量机回归模型、半监督自训练支持向量机回归模型作比较。实验结果表明,基于支持向量机协同训练的半监督回归模型在缺少标记样本的情况下,提高了回归估计的精度。     

基于均匀设计的最小二乘支持向量机改进算法

针对最小二乘支持向量机模型的参数选取耗时长,容易陷入局部最优而导致过拟合的问题,提出了一种基于均匀设计的将大样本搜索转化为小样本搜索技术的参数寻优方法.把支持向馘机算法的每一次训练过程作为一个试验考虑,试验影响因子为算法的参数,运用均匀设计的手段进行方案设计,采用统计的方法对结果进行分析和选择.最后把该方法应用于3个大样本数据集建模中的参数优化,仿真结果表明方法大幅度减小了时间复杂度,较好地解决了最小二乘支持向量机的参数优化问题,同时获得精确的建模效果.     

分布式SVR在短期负荷预测中的研究

准确的负荷预测,可以合理安排机组启停,降低发电成本,特别是短期负荷预测对电力系统控制、运行和规划都有重要意义。传统的预测方法不能及时准确地反映需求响应,在Hadoop环境下利用分布式支持向量回归机(Support Vector Regression,SVR)实现负荷预测,同时使用基于均匀设计的自调用SVR(UD-SVR)方法进行参数寻优,进一步提高本文实现的分布式SVR算法精度。通过真实的电力负荷数据集验证该算法,实验数据来自我国西部某地级市连续424天的真实用电量数据。结果表明,本文改进后的算法用于短期电力负荷预测是可行的,不仅预测准确度又在原有基础上明显提高,并且随着数据量的增加,计算速度也大幅提高,减小了负荷预测时间。     

基于聚类与机器学习的零售商品销量预测

本文提出一种基于K-means聚类与机器学习回归算法的预测模型以解决零售行业多个商品的销售预测问题,首先通过聚类分析识别出具有相似销售模式的商品从而实现数据集的划分,然后分别在每个子数据集上训练了支持向量回归、随机森林以及XGBoost模型,通过构建数据池的方式增加了用于训练模型的数据量以及预测变量的选择范围.在一家零售企业的真实销售数据集上对提出的模型进行了验证,实验结果表明基于K-means和支持向量回归的预测模型表现最优,且所提出的模型预测效果明显优于基准模型以及不使用聚类的机器学习模型.