利用粒子群算法优化SVM分类器的超参数

利用粒子群算法在求解组合优化问题时具有的全局搜索特性,设计并实现了支持向量机分类器中超参数的优选粒子群算法,扼要地叙述了算法实现中个体编码和适应度函数,通过在国际标准数据集上的实验验证了算法的有效性和高效性,最后列举了一些在上述工作基础上可开展的深入性工作。     

基于粒子群算法的支持向量机的参数优化

支持向量机(Support Vector Machine,SVM)对内部参数有着极高的依赖性,因此参数的好坏直接决定了SVM的分类效果,比如径向基核函数的参数。为了寻找出与分类问题相契合的参数,将样本数据投影到高维度特征空间,从而在特征空间中计算类内平均距离与类外中心距离之差,并将其作为参数评估的适应值;利用粒子群算法的全局寻优能力,在定义域内生成种群以代表不同的参数取值;利用粒子的随机游走来进行最优参数搜索,并将结果代入SVM进行样本训练。将所提算法与网格算法等进行了比较,结果表明所提算法的参数设定更加准确,分类准确率有显著提高,且算法复杂度并没有明显增加。     

改进的粒子群算法及其SVM参数优化应用

支持向量机是一种性能优越的机器学习算法,而其参数的选择对建模精度和泛化性能等有着重要的影响,也是目前机器学习研究的一个重要方向。在简要介绍基本粒子群优化（PSO）算法的基础上,提出了一种量子粒子群优化算法,给出了其实现方式,并通过4个基准测试函数进行性能对比评价。基于这种量子粒子群优化算法,对最小二乘支持向量机（LS-SVM）的参数优化进行了研究。仿真结果表明,量子粒子群优化算法能给出很好的优化结果。     

一种改进的基于粒子群优化的SVM训练算法

支持向量机的训练需要求解一个带约束的二次规划问题,但在数据规模很大的情况下,经典的训练算法将会变得非常困难。提出了一种改进的基于粒子群的优化算法,用于替代支持向量机中现有的训练算法。在改进后的粒子群优化算法中,粒子不仅向自身最优和全局最优学习,还以一定的概率向其他部分粒子的均值学习。同时,还引进了自适应变异算子,以降低未成熟收敛的概率。实验表明,提出的改进训练算法相对改进前的算法在性能上有显著提高。     

基于一种改进粒子群算法的SVM参数选取

支持向量机作为一个新兴的数学建模工具已经被广泛地应用到很多工业控制领域中,其良好的泛化能力和预测精度在很大程度上受到其参数选取的影响.根据智能群体进化模式改进粒子群优化算法.利用模糊C均值聚类算法分类粒子群体,并用子群体最优点取代速度更新公式中的个体历史最优点,并利用该算法搜索支持向量机的最优参数组合.对比仿真实验表明:所提优化算法是支持向量机参数选取的有效算法,在非线性函数估计中体现出优良的性能.     

基于离散微粒群优化算法的SVM参数选择

支持向量机（SVM）的学习性能和泛化能力主要取决于参数选择，然而传统的优化算法难以解决此问题。文中通过支持向量的个数建立优化目标函数，采用微粒群优化（PSO）算法对其优化，寻找最优参数。PSO是一种新兴的基于群体智慧的进化算法。实验表明，微粒群优化算法是支持向量机参数选择的有效方法。     

基于离散微粒群优化算法的SVM参数选择

支持向量机(SVM)的学习性能和泛化能力主要取决于参数选择,然而传统的优化算法难以解决此问题。文中通过支持向量的个数建立优化目标函数,采用微粒群优化(PSO)算法对其优化,寻找最优参数。PSO是一种新兴的基于群体智慧的进化算法。实验表明,微粒群优化算法是支持向量机参数选择的有效方法。     

基于自适应粒子群的SVM参数优化研究

针对粒子群算法在优化SVM参数时,存在着易陷入局部最优,早熟收敛的问题,首先提出了一种用自适应权重来代替惯性权重的粒子群算法,再引入自适应变异对粒子群算法进行优化,增强粒子的种群多样性,使其能够跳出局部最优解,从而达到全局最优.最后,将改进后的算法(GPSO-SVM)应用到UCI标准数据集上进行验证,实验结果表明,改进...     

混沌粒子群算法对支持向量机模型参数的优化

研究支持向量机模型优化问题,支持向量机的参数选择决定了其学习性能和泛化能力,由于在参数的选择范围内可选择的数量很多,在多个参数中进和盲目搜索最优参数是需要极大的时间代价,并且很难得到最优参数.常用的支持向量机优化方法有遗传算法、粒子群算法都存在易陷入局部极值,优化效果较差.为解决支持向量机参数寻优问题,提出一种基于混沌粒子群的支持向量机参数选择方法.将混沌理论引入粒子群优化算法中,从而提高种群的多样性和粒子搜索的遍历性,从而有效地提高了PSO算法的收敛速度和精度,得了优化支持向量机模型.并以信用卡案例数据作为研究对象进行了仿真,实验结果表明,混沌粒子群优化的SVM分类器比传统算法优化的SVM分类器的精度高和更高的效率,应用效果好.     

基于粒子群优化算法的网页分类技术

粒子群优化算法由于其高效、容易理解、易于实现,在很多领域得到了应用.网页分类是网络信息检索研究的关键技术之一,在对网页的表示时,将Web页面分解为不同的部分,之后迭代使用SVM算法构造分类器.由于PSO算法是一种基于迭代的优化工具,对训练过程中迭代产生的网页分类器进行优化组合,产生最终分类器,同时也增强了分类器的自适应性.实验结果表明,通过对迭代产生的分类器进行优化组合,以及对网页结构的划分,寻找并利用网页集中蕴藏的规律综合计算特征权值,大大提高了网页分类的正确率和F-measure值,所以这种方法是有效的、稳健的和实用的.     

基于动量粒子群的混合核SVM参数优化方法

支持向量机（SVM）可以很好地用来解决分类问题,参数优化尤其重要。混合核函数的引入,使得SVM又多了一个可调参数。针对该参数用人工或经验的方法获取具有局限性,采用动量粒子群（MPSO）对SVM基本参数、混合可调核参数进行综合寻优,来寻找最佳参数组合。通过UCI数据仿真,对比结果表明：所提优化方法能够快速有效地提取最佳参数组合,所得SVM性能明显提高,分类效果更好。     

基于改进离散二进制粒子群的SVM选择集成算法

针对基于离散二进制粒子群（BPSO）的SVM选择集成算法的分类精度不高,以及所选分类器个数过多等问题,利用改进的离散二进制粒子群算法（IBPSO）和SVM选择集成算法相结合,提出基于IBPSO的SVM选择集成算法。通过选用合适的适应度函数以及调节因子[k],进行多次仿真,实验表明,对由boostrap方式生成的SVM集合,基于IBPSO的SVM选择集成在精度和分类器个数方面均优于基于BPSO的SVM选择集成,证明了IBPSO算法的优越性。     

量子粒子群优化算法的控制参数分析

针对现有的量子粒子群优化算法（ QPSO）中收缩扩张系数α取固定值或线性变化时,不能很好地适应复杂的多维非线性优化搜索问题,提出了两种参数α控制策略：基于Logistic函数的动态非线性递减策略和自适应参数调整策略。在第一种策略中引入S型函数来描述α值在进化过程中的动态变化特性,第二种策略中引入反馈调节方式来控制α值的变化。几个典型函数的实验测试结果表明,两种改进后的参数调整策略对于复杂优化问题在收敛速度和平均最优值上都有所改善,明显优于取固定值或线性变化策略。     

带自适应变异的量子粒子群优化算法

提出了一种带有自适应变异的量子粒子群优化（AMQPSO）算法,利用粒子群的适应度方差和空间位置聚集度来发现粒子群陷入局部寻优时,对当前每个粒子经历过的最好位置进行自适应变异以实现全局寻优。通过对典型函数的测试以及与量子粒子群优化（QPSO）算法和自适应粒子群优化（AMPSO）算法的比较,说明AMQPSO算法增强了全局搜索的性能,优于其他算法。     

基于PSO和BP复合算法的模糊神经网络控制器

为了克服单独应用粒子群算法（PSO）或BP算法训练模糊神经网络控制器参数时存在的缺陷,提出了一种训练模糊神经网络参数的PSO＋BP算法。该算法将二者相结合,即在PSO算法中加入一个BP算子,以充分利用PSO算法的全局寻优能力和BP算法的局部搜索能力,从而更有效地提高其收敛速度、训练效率和提高该模糊神经网络控制器的控制效果。最后的仿真实验结果验证了该基于PSO＋BP复合算法的模糊神经网络控制器的有效性和可行性。     

基于权重QPSO算法的PID控制器参数优化

传统的PID控制器参数优化方法容易产生振荡和较大的超调量,因此智能算法如遗传算法（SGA）和粒子群算法（PSO）被用于参数优化,弥补传统算法的不足,但是遗传算法在进化过程中收敛速度慢,粒子群算法存在易于早熟的缺点。在分析量子粒子群算法（QPSO）的基础上,在算法中引入了权重系数,提出使用改进的量子粒子群算法（WQPSO）优化PID控制器参数。将改进量子粒子群算法与量子粒子群算法、粒子群算法通过benchmark测试函数进行了比较。最后,通过三个传递函数实例,分别使用Z-N、GA、PSO方法和改进的量子粒子群算法进行了PID控制器参数优化设计,并对结果进行了分析。     

改进的粒子群算法优化TSFNN的交通流预测

为提高T-S模糊神经网络在交通流量预测的准确性,提出了一种改进的粒子群算法优化T-S 模糊神经网络预测交通流量的算法。该算法利用改进粒子群算法通过群体极值进行[t]分布变异,使算法跳出局部收敛,使用改进的粒子群算法优化T-S模糊神经网络,能够优化网络参数配置,进而提高网络的预测精度。利用优化后的T-S模糊神经网络对实测交通流量进行预测,实验仿真表明优化的T-S模糊神经网络可有效提高交通流量预测精度,减小预测误差。     

利用T-S模糊自适应PSO算法优化PID参数

针对微粒群优化算法存在的早熟问题,提出了一种基于T-S模型的模糊自适应PSO算法（T-SPSO算法）。算法依据种群当前最优性能指标和惯性权重值所制定T-S规则,动态自适应惯性权重取值,改善了PSO算法的收敛性。将该算法应用于PID控制器的参数整定,可得到更优的控制器参数。仿真结果验证了所提出算法的有效性和所设计控制器的优越性。     

基于聚集密度的粒子群多目标优化算法

为了改善粒子群多目标优化算法的分布性,引入了聚集密度以进行精英集的更新。其基本思想为：计算群体中每个个体的聚集密度,根据目标函数值和聚集密度定义一个偏序集,采用比例选择原则依次从偏序集中选择个体,更新精英集。通过数值实验用量化指标研究了新算法的收敛性和分布性,结果表明：新算法的收敛性与常规粒子群多目标优化算法相当,但分布性有了明显的提高。