基于改进灰狼算法优化多核支持向量回归机及其应用

为更好发现数据中的复杂规律,避免核函数选择的盲目性和局部最优等非线性优化问题,本文提出一种基于改进灰狼算法优化多核支持向量回归机算法.首先,基于全局核函数和局部核函数构建多核支持向量机采油速度预测模型;其次,利用基于云模型和二次插值算法改进灰狼优化算法对核函数权值和参数的选取进行优化;最后,应用灰色关联分析理论确定采油速度影响因素集,并作为多核支持向量回归机预测模型的输入.与6种采油速度预测方法进行对比,所提方法具有较好的全局寻优能力和较高的预测率的优点.     

粒子群和遗传算法优化支持向量机的破产预测

介绍了一种基于粒子群算法和遗传算法优化支持向量机预测破产的方法。这种方法融合了粒子群算法、遗传算法和支持向量机诸多优点,并行地搜寻支持向量机最优的正则化参数和核参数,由此构建优化的预测模型。采用源自UCI机器学习数据库的破产和非破产混合样本数据集,随机地读入数据和进行数据预处理,运用7重交叉校验方法客观地评价预测结果。仿真结果显示,这种方法能自动有效地构建优化的支持向量机,与其他方法比较,具有更强的推广能力和更快的学习速度,而且具有更好的破产预测准确率。     

针对小规模数据集的多模型融合算法研究

目前,对小规模数据集进行预测时,主要使用传统机器学习算法,但传统单一模型预测效果不能达到预期准确率,且无法兼顾多项评价指标。因此,文中以小规模数据集为研究对象,融合决策树、逻辑回归、支持向量机三类模型,提出了一种多模型融合算法,并分析了其在小规模数据集上的应用效果。首先,简述了决策树、逻辑回归和支持向量机的算法原理;其次,使用决策树、逻辑回归和支持向量机作为基学习器并完成单独训练,将各模型输出结果用于下一阶段模型输入,同时使用最大似然估计迭代优化参数,从而完成多模型融合过程;最后,对数据集进行分析和处理,通过实验与单一模型进行指标对比。实验结果表明,多模型融合算法在预测精确率、召回率、准确率等方面有明显提升。     

基于随机森林的帕金森疾病诊断模型构建研究

近些年来,根据帕金森疾病(PD)患者的语音数据对该疾病做出诊断成为一种行之有效的疾病诊断方法。首先,针对语音数据集中存在非均衡数据和噪声样本的问题使用SVM SMOTE过采样技术,利用支持向量机分类器寻找支持向量并在此基础上合成新的样本以达到均衡数据集的目的;为了减少数据维度,降低学习难度,运用信息增益特征选择对所有特征属性计算数值并划分数据集以此来获得信息增益,根据信息增益的大小排序选取得到八个特征作为最优特征组合;最后,构建随机森林帕金森疾病诊断模型,并采用网格搜索和交叉验证相结合的方式进行参数调优,进一步优化模型,实现诊断模型准确率的进一步提高。实验结果表明,优化后模型的准确率、灵敏度和特异度均有提升,为别为96.59%、94.81%和95.49%,且准确率均高于支持向量机、最邻近节点算法、朴素贝叶斯和决策树等决策模型。     

基于线性回归和属性集成的分类算法

对于高维度小样本数据的分类问题,高维属性的复杂性限制了分类模型预测的准确率。为了进一步提高准确率,提出了基于线性回归和属性集成的分类算法。首先,采用线性回归为每一个属性构建属性线性分类器(Attri-bute Linear Classifier,ALC);其次,为了避免因ALC数量过多而导致准确率下降,利用经验风险最小化策略中的经验损失值作为评估标准来优选ALC;最后,应用多数投票法来集成被筛选的ALC。采用高维度小样本的基因表达数据集进行实验,结果显示该算法具有比逻辑回归、支持向量机和随机森林算法更高的准确率。     

基于聚类与机器学习的零售商品销量预测

本文提出一种基于K-means聚类与机器学习回归算法的预测模型以解决零售行业多个商品的销售预测问题,首先通过聚类分析识别出具有相似销售模式的商品从而实现数据集的划分,然后分别在每个子数据集上训练了支持向量回归、随机森林以及XGBoost模型,通过构建数据池的方式增加了用于训练模型的数据量以及预测变量的选择范围.在一家零售企业的真实销售数据集上对提出的模型进行了验证,实验结果表明基于K-means和支持向量回归的预测模型表现最优,且所提出的模型预测效果明显优于基准模型以及不使用聚类的机器学习模型.     

基于随机森林算法的煤自燃温度预测模型研究

针对传统煤自燃温度预测模型预测精度较差、基于支持向量机(SVM)的预测模型对参数的选取要求较高和基于神经网络的预测模型测试时易出现过拟合的问题,提出了一种基于随机森林算法的煤自燃温度预测模型。利用煤自燃程序升温实验选取O_2浓度、CO浓度、C_2H_4浓度、CO/ΔO_2比值、C_2H_4/C_2H_6比值作为煤自燃预警指标数据,并对指标数据进行处理,将数据分为学习集和测试集;对学习集抽样形成决策树并按决策树最优特征分裂形成随机森林;采用均方误差值和判定系数(R~2)优化随机森林算法的参数,进而构建随机森林模型;将测试集数据输入已训练好的随机森林模型,得到煤自燃温度预测结果。模型对比结果表明:与基于粒子群优化反向传播(PSO-BP)神经网络算法和基于SVM算法的煤自燃温度预测模型相比,随机森林测试阶段的R~2为0.869 7,PSO-BP测试阶段的R~2为0.783 6,SVM测试阶段的R~2为0.835 0,说明基于随机森林算法的煤自燃温度预测模型能够较为准确地对煤自燃温度进行预测,具有较强的鲁棒性和普适性,解决了基于PSO-BP神经网络算法的煤自燃温度预测模型和基于SVM算法的煤自燃温度预测模型容易出现过拟合的问题。     

基于LASSO-SVM的软件缺陷预测模型研究

针对当前大多数软件缺陷预测模型预测准确率较差的问题, 提出了结合最小绝对值压缩和选择方法与支持向量机算法的软件缺陷预测模型。首先利用最小绝对值压缩与选择方法的特征选择能力降低了原始数据集的维度, 去除了与软件缺陷预测不相关的数据集; 然后利用交叉验证算法的参数寻优能力找到支持向量机的最优相关参数; 最后运用支持向量机的非线性运算能力完成了软件缺陷预测。仿真实验结果表明, 所提出的缺陷预测模型与传统的缺陷预测模型相比具有较高的预测准确率, 且预测速度更快。     

相空间重构和SVR联合优化的短时交通流预测

短时交通流预测首先重构相空间,然后采用时间序列模型预测交通流量,而支持向量回归机（SVR）是比较好的时间序列预测模型。但短时交通流相空间重构的嵌入维数与延迟时间与支持向量回归机的参数确定往往是分别独立地求解,难以达到两组参数值的同时最优,影响预测的准确性。为了提高短时交通流的预测准确性,提出一种利用粒子群算法联合优化相空间重构和支持向量回归机的预测模型,并用于实际短时交通流数据的预测。该模型的相空间重构和支持向量回归机（SVR）的参数联合一起优化,利用粒子群算法同时优化其两组参数的组合值。采用短时交通流数据仿真,结果表明联合一起优化所得参数的预测器提高了简单模型预测的效果。     

基于LightGBM算法的能见度预测模型

为了提高能见度预报的准确率,尤其是低能见度预报的准确率,提出一种基于集成学习随机森林和LightGBM的能见度预测模型。首先,以数值模式系统的气象预报数据为基础,结合地面气象观测数据、PM_2.5浓度观测数据,利用随机森林算法构建特征向量;其次,针对不同时间跨度的缺失数据,设计了3种缺失值处理方法对缺失值进行替代,生成用于训练和测试的连续性较好的数据样本集;最后,建立基于LightGBM的能见度预测模型,并用网络搜索法对其进行参数优化。把所提模型与支持向量机（SVM）、多元线性回归（MLR）、人工神经网络（ANN）在性能上进行对比。实验结果表明,对于不同的等级的能见度,应用LightGBM的能见度预测模型获得预兆得分（TS）均较高,而对于<2 km的低能见度,该模型对各观测站点的能见度预测值与各观测站点的能见度实况值的平均相关系数为0.75,平均均方误差为6.49。可见基于LightGBM的预测模型能有效提高能见度预测精度。