基于粗集属性约简的电力供应量SVM回归预测

采用基于粗糙集属性约简的支持向量机回归预测模型对我国电力供应量进行预测。根据电力供应量及其影响因素的历史数据建立决策表,利用动态层次聚类法对决策表中的连续属性进行了离散化;运用属性约简算法进行约简,提取出主要因素,并将其作为样本的特征,应用支持向量机回归预测模型对电力供应量进行预测。五年预测结果表明：与SVR模型相比,结合了属性约简方法的RS＆SVR模型充分利用了更少但是主要的预测因子的信息,预测精度有一定提高,应用效果较好。     

基于回归树的支持向量机规则提取及应用

支持向量机（SVM）因为核函数应用内积运算造成了模型较强的“黑箱性”。目前SVM的“黑箱性”研究主要采用规则提取方法解决分类问题,而回归问题鲜有提及。针对回归问题,尝试性提出基于回归树算法的SVM回归规则提取方法,算法充分利用支持向量的特殊性以及回归树的优势,建立支持向量的决策树模型,成功提取出决策能力高,包含变量少,计算量小且容易读取的规则。通过标准数据集Auto MPG和实际的煤制甲醇生产数据集进行了验证,与其他算法对比分析结果表明,所提取的回归规则在训练精度和预测精度等方面都有一定程度的提高。     

基于SVM的大样本数据回归预测改进算法

针对支持向量机回归预测精度与训练样本尺寸不成正比的问题,结合支持向量机分类与回归算法,提出一种大样本数据分类回归预测改进算法。设计训练样本尺寸寻优算法,根据先验知识对样本数据进行人为分类,训练分类模型,基于支持向量机得到各类别样本的回归预测模型,并对数据进行预测。使用上证指数的数据进行实验,结果表明,支持向量机先分类再回归算法预测得到的均方误差达到12.4,低于人工神经网络预测得到的47.8,更远低于支持向量机直接回归预测得到的436.9,验证了该方法的有效性和可行性。     

基于机器学习算法的脑卒中疾病早期预测模型研究

采用支持向量机(SVM)、随机森林(RF)和逻辑回归(LR)等机器学习方法对脑卒中患者进行分类研究,构建脑卒中疾病预测模型,以期为疾病发生提供早期预警.对kaggle网站下载healthcare-dataset-stroke-data的数据通过SMOTE智能过抽样算法构建均衡数据集,运用支持向量机、随机森林和逻辑回归算法构建脑卒中预测模型.将SMOTE算法优化前后的预测结果进行比较分析,并采用支持向量机、随机森林和逻辑回归算法对优化后的数据集构建疾病预测模型,其结果的准确率、精确度、召回率和ROC值都有明显提高.仿真实验结果可知SMOTE+随机森林算法预测模型的准确率、精确度、ROC值都优于支持向量机和逻辑回归预测模型,可用于脑卒中疾病的早期预测,为医疗手段干预赢得时间,对降低脑卒中的发病具有重要意义.     

基于粒子群优化的Wv-SVM燃气负荷预测

针对传统预测模型精度不高的问题,提出基于小波核支持向量机的复合预测模型。采用小波分析提取燃气负荷相关的特征值,通过粒子群优化算法确定小波核支持向量机的参数,利用支持向量机(SVM)解决非线性回归和时间序列问题。实验结果证明,该预测模型的预测精度比BP神经网络和传统高斯核SVM高。     

基于支撑向量机的产品质量监控研究应用

采用了一种新的机器学习方法——支持向量机，对流程企业中的历史数据进行分类分析，阐述了支持向量机的基本内容，对影响产品质量因素的样本集进行了标准化处理和主因素分析(PCA)，采用Libsvm训练了数据集，并与贝叶斯理论、BP神经网络和决策树ID3的分类结果比较，证明了算法的优越性，为产品的质量监控提供了有效依据。     

基于粒子群优化的最小二乘支持向量机税收预测模型研究

针对税收收入预测存在着非线性、不稳定性和多经济因素影响的复杂性,提出用最小二乘支持向量回归机的方法对广东省从化市的税收收入进行预测,并建立数学模型。由于模型中的参数C和σ²直接影响支持向量机的预测效果,因此巧妙地融合了粒子群优化算法的思想,采用粒子群算法对参数进行寻优来确保预测模型的精确性和稳定性。仿真实验结果表明,相对于各参比模型,用粒子群算法对参数进行寻优的最小二乘支持向量回归机的预测精度有了显著提高,从而说明了该模型的有效性和实用性。     

精确在线支持向量回归在股指预测中的应用

建立了基于精确在线支持向量机回归算法的股指短期预测模型，并通过和另外两种基于传统训练方式的支持向量机预测模型进行比较，验证了该方法的有效性。     

基于PSO-SVR的下水道可燃气体分析

针对下水道可燃气体传感器非线性、选择性差和交叉敏感的特点,建立了一种基于粒子群算法(PSO)支持向量回归机(SVR)的下水道可燃气体分析预测模型.该模型通过引入粒子群算法对支持向量回归机的重要参数进行优化,从而实现了支持向量回归机的参数自动判定,用于下水道可燃气体的定量分析.仿真结果表明:基于粒子群的支持向量回归机下水道可燃气体分析预测模型优于SVR模型,具有较好的泛化性能和较高的预测精度.     

改进粒子群算法优化支持向量机的短期负荷预测

针对支持向量回归机在预测建模中的参数选取问题,提出一种基于混沌自适应策略的粒子群优化支持向量回归机参数的方法.采用混沌映射算法和聚合度自适应判断策略,增强种群的全局寻优性能,提升粒子的多样性,从而避免种群过早收敛.充分考虑天气、节假日、居民消费等因素的影响,提出一种改进的支持向量回归机预测模型并与粒子群算法的支持向量回归机模型进行对比分析.分析结果表明,该预测模型可将预测的均方根误差降低约40％,绝对值误差降低约42％,相对误差降低约46％,仿真结果验证了所提方法优化了支持向量回归机参数,改善了预测效果.     

基于遗传算法的回归型支持向量机参数选择法

研究了遗传算法在回归型支持向量机参数选择中的应用：首先,分析了支持向量机的几个参数对其预报能力的影响,发现参数选取不当,会导致支持向量机出现过学习或欠学习现象;在此基础上提出利用遗传算法来解决回归型支持向量机的参数选择问题,模拟实验证明,该方法克服了传统参数选择方法存在的缺点,提高了支持向量机的预报精度。     

基于测度学习支持向量机的钢琴乐谱难度等级识别

现有钢琴乐谱难度分类主要由人工方式完成,效率不高,而自动识别乐谱难度等级的算法对类别的拟合度较低。因此,与传统将乐谱难度等级识别归结为回归问题不同,本文直接将其建模为基于支持向量机的分类问题。并结合钢琴乐谱分类主观性强、特征之间普遍存在相关性等特点,利用测度学习理论有难度等级标签乐谱的先验知识,依据特征对难度区分的贡献度,改进高斯径向基核函数,从而提出一种测度学习支持向量机分类算法——ML-SVM算法。在9类和4类难度两个乐谱数据集上,我们将ML-SVM算法与逻辑回归,基于线性核函数、多项式核函数、高斯径向基核函数的支持向量机算法以及结合主成分分析的各个支持向量机算法进行了对比,实验结果表明我们提出算法的识别正确率优于现有算法,分别为68.74%和84.67%。所提算法有效提高了基于高斯径向基核函数支持向量机算法在本应用问题中的分类性能。     

邻域等价关系诱导的改进ID3决策树算法

经典ID3决策树算法适用于离散型数据分类,但用于连续处理时需要数据离散化容易导致信息损失。提出邻域等价关系从而诱导邻域ID3(NID3)决策树算法,NID3算法改进了ID3决策树算法,能够直接实施连续预测并获取更好的分类效果。在邻域决策系统中,挖掘一种邻域等价关系;基于邻域等价粒化,构建邻域信息度量;基于邻域信息增益,设计NID3决策树算法。实例分析与数据实验均表明,NID3算法具有连续数据分类预测有效性,在分类机器学习中优于ID3算法。     

变精度粗糙集模型在决策树构造中的应用

针对ID3算法构造决策树复杂、分类效率不高等问题,本文基于变精度粗糙集模型提出了一种新的决策树构造算法。该算法采用加权分类粗糙度作为节点选择属性的启发函数,与信息增益相比,该标准更能够全面地刻画属性分类的综合贡献能力,计算简单,并且可以消除噪声数据对选择属性和生成叶节点的影响。实验结果证明,本算法构造的决策树在规模与分类效率上均优于ID3算法。     

基于知识的模型自动选择策略

模型自动选择是决策支持系统智能化发展的必然要求。针对目前实用算法较少的现状,提出一种模型自动选择策略。基于知识框架描述模型,根据事实库和知识库提取相应规则生成推理树,结合经验和专业知识实现模型自动选择。实验结果表明,该策略具有较高的命中率。     

基于粗糙集的决策树构造算法

针对ID3算法构造决策树复杂、分类效率不高问题,基于粗糙集理论提出一种决策树构造算法。该算法采用加权分类粗糙度作为节点选择属性的启发函数,与信息增益相比,能全面地刻画属性分类的综合贡献能力,并且计算简单。为消除噪声对选择属性和生成叶节点的影响,利用变精度粗糙集模型对该算法进行优化。实验结果表明,该算法构造的决策树在规模与分类效率上均优于ID3算法。     

模糊分类系统的邻域原理设计算法

使用支持向量机算法直接求海量数据的模糊分类系统是相当困难的.为了解决这个问题,提出了基于邻域原理设计模糊分类系统的方法.将支持向量机的理论建立在距离空间上,设计出了计算支持向量的邻域算法;利用所求的支持向量,基于平分最近点方法设计出了求分类超平面的算法,求出模糊分类系统,该算法优于基于支持向量机直接求模糊分类系统的方法.实验结果说明,该方法可有效地解决对海量数据的模糊分类系统的设计问题.     

基于流形正则化的分类与回归算法及应用

利用流形正则化的思想,围绕半监督学习,提出了一种针对流形正则化的模式分类和回归分析的新算法.该算法基于流形上的正则化项和传统的正则化项相结合的方法,利用支持向量机分类与回归已有的结果,解决半监督学习的分类与回归问题,提高了泛化能力.该算法实现简单,无需调用其他程序.通过数值试验,验证了该算法具有较好的泛化能力,对噪音具有较强的鲁棒性.且在分类问题上,该算法在输入极少数有标签样本时,也能保持较好的分类效果;在回归问题上,也具有较好的学习精度,尤其在输入带有噪音的流形数据上时,表现就更为突出.     

融合信息增益与基尼指数的决策树算法

机器学习中的决策树算法具有重要的数据分类功能,但基于信息增益的ID3算法与基于基尼指数的CART算法的分类功效还值得提高。构造信息增益与基尼指数的自适应集成度量,设计有效的决策树算法,以提升ID3与CART两类基本算法的性能。分析信息增益信息表示与基尼指数代数表示的异质无关性,采用基于知识的加权线性组合来建立信息增益与基尼指数的融合度量,开发决策树启发构造算法IGGI。关于决策树,IGGI算法有效改进了ID3算法与CART算法,相关数据实验表明IGGI算法通常具有更优的分类准确度。     

The robust and efficient adaptive normal direction support vector regression

The recently proposed reduced convex hull support vector regression (RH-SVR) treats support vector regression (SVR) as a classification problem in the dual feature space by introducing an epsilon-tube. In this paper, an efficient and robust adaptive normal direction support vector regression (AND-SVR) is developed by combining the geometric algorithm for support vector machine (SVM) classification. AND-SVR finds a better shift direction for training samples based on the normal direction of output function in the feature space compared with RH-SVR. Numerical examples on several artificial and UCI benchmark datasets with comparisons show that the proposed AND-SVR derives good generalization performance