SVM参数优化的AFMC算法

支持向量机的参数选择仍未有系统的理论指导,其优化选择一直是支持向量机的一个重要研究方向。考虑到人工鱼群算法优化支持向量机参数往往易陷入最优参数组合微小邻域的问题,构造了用于支持向量机参数优化的AFMC算法。该算法前期利用鱼群算法较好的并行寻优性能,能快速寻得问题的近似最优解,而后利用MonteCarlo法进行局部寻优,以实现快速、有效地获取强近优解。数值实验结果表明,该算法具有较好的分类性能和较快的寻优速度,验证了在支持向量机参数寻优中的有效性和可行性。     

基于人工鱼群算法的孪生支持向量机

孪生支持向量机（twin support vector machine, TWSVM）是在支持向量机的基础上产生的机器学习算法,具有训练速度快、分类性能优越等优点。但是孪生支持向量机无法很好地处理参数选择问题,不合适的参数会降低分类能力。人工鱼群算法（artificial fish swarm algorithm, AFSA）是一种群智能优化算法,具有较强的全局寻优能力和并行处理能力。本文将孪生支持向量机与人工鱼群算法结合,来解决孪生支持向量机的参数选择问题。首先将孪生支持向量机的参数作为人工鱼的位置信息,同时将分类准确率作为目标函数,然后通过人工鱼的觅食、聚群、追尾和随机行为来更新位置和最优解,最后迭代结束时得到最优参数和最优分类准确率。该算法在训练过程中自动确定孪生支持向量机的参数,避免了参数选择的盲目性,提高了孪生支持向量机的分类性能。     

果蝇耦合均匀设计算法及其优化SVM参数

支持向量机的参数选择仍无系统的理论指导,且参数优化一直是支持向量机的一个重要研究方向。传统果蝇优化算法能够较快寻得一个较优的近似最优解,随后在该解的邻域继续迭代而造成寻优时间的严重增加。针对该问题构建了果蝇优化算法与均匀设计相耦合的果蝇耦合均匀设计算法,并将其用于支持向量机的参数优化。该算法首先利用果蝇优化算法并行寻优以快速得到所研究问题的一个较优近似最优解,然后跳转执行均匀设计的局部寻优,以获得一个更优的近似最优解。数值实验结果表明:该算法具有较快的寻优效率和较高的分类精度,验证了其在支持向量机参数优化中的有效性和可行性。     

深度优先搜索的支持向量机参数优化算法

研究支持向量机参数优化问题,由于算法要求准确选择SVM参数,支持向量机在处理大样本数据集时和最优模型参数确定时,消耗的时间长、占有内存大,易获得局部最优解的难题.为了解决支持向量机存在的不足,采用深度优先搜索算法对其参数优化机机制进行改进.将向量机参数优化视成一个组合优化问题,将支持向量机模型的分类误差作为优化目标函数,采用深度优先算法对其进行求解,最后将模型应用于3个标准分类数据集.仿真结果表明,优化参数后的支持向量机加快模型的训练速度度,提高了分类的准确率,很好的解决了支持向量机参数优化难题.     

改进人工鱼群算法在SVM参数优化中的应用

支持向量机的参数优化一直是一个重要的研究方向。参数的好坏很大程度上决定了支持向量机的分类精度和泛化能力。针对人工鱼群算法优化支持向量机参数时,容易在后期徘徊于最优解附近、难以逼近的问题,提出了人工鱼群加速算法,使用速度参数代替人工鱼步长,从而求得最优目标并得到SVM的最优参数组合。仿真实验结果表明：该算法收敛速度快,求解数值精度高,对初值的依赖程度低,在SVM参数优化中具有更好的性能、更高的分类准确率,是一个极其有效的参数优化方法。     

支持向量机算法多目标模型选择

为适应支持向量机（Support Vector Machine,SVM）算法应用过程中的不同性能指标要求,将SVM算法的模型选择问题作为一个多目标优化（Multi-Object Optimization,MOO）问题进行处理。以改进的粒子群优化（Particle Swarm Optimization,PSO）算法对该多目标优化问题进行求解,得到其Pareto解集,在具体应用中根据实际需要从Pareto解集中选择适合的最优解作为支持向量机算法参数,实现支持向量机算法的模型选择。在几个数据集上的仿真实验表明,该方法能够较快地得到Pareto解集,解集中的参数组合能够满足对支持向量机算法速度和泛化能力的不同要求。     

基于混沌机制的人工蜂群算法优化的支持向量机分类器

支持向量机的分类性能在很大程度上取决于其相关参数的选择,为了改善支持向量机的分类准确率,本文采用基于混沌机制的人工蜂群算法对其参数进行优化。在传统人工蜂群算法的基础上,采用Logistic混沌映射初始化种群和锦标赛选择策略,进一步提高人工蜂群算法的收敛速度和寻优精度。该方法采用分类准确率作为适应度函数,利用人工蜂群算法对支持向量机的惩罚因子和核函数参数进行优化。通过对多个标准数据集的分类测试,证明基于混沌机制的人工蜂群算法优化的支持向量机分类器能够获得更高的分类准确率。     

基于SVM-IOA集成的动态风险识别模型研究

动态风险识别是根据已知的风险信息尽早预测未来可能存在的风险。基于支持向量机的风险识别技术能够较全面地、自动地通过学习模型来识别可能存在的风险,该技术已经成为动态风险识别的主要方法。为了提高识别的效率与准确性,支持向量机参数的选取非常关键,而人工免疫算法是一种有效的随机全局优化技术,具有精确度高、收敛速度快且不易陷入局部最优解等优点。该文首先对原始数据进行特征选取及降维处理,然后通过人工免疫优化算法(IOA)选择支持向量机(SVM)的惩罚参数和核函数的参数,同时结合支持向量机多分类方法的优势,提出一种新的动态风险识别模型—基于支持向量机和免疫优化算法集成的动态风险识别模型。在Heart-Disease数据集上的实验结果表明,该模型正向与反向的抗原识别率分别为95.82%和96.01%,均高于传统识别模型。     

基于免疫算法与支持向量机的异常检测方法

在异常检测中, 应用支持向量机算法能使检测系统在小样本的条件下具有良好的泛化能力。 但支持向量机的参数取值决定了其学习性能和泛化能力，且大量无关或冗余的特征会降低分类的性能。基于此，提出了一种基于免疫算法的支持向量机参数和特征选择联合优化的方法。免疫算法是一种新的有效随机全局优化技术，它具有不易陷入局部最优、解的精度高、收敛速度快等优点。 仿真结果表明算法在提高异常检测的检测正确率的同时相应的测试时间也在缩短。     

支持向量机的参数优化及其文本分类中的应用

支持向量机的优化算法对准确检索所需信息资料很重要.传统支持向量机参数寻优方法速度慢、运算量大,具有一定的盲目性.针对准确快速检索到所需信息,为提高支持向量机算法的性能,提出了一种采用免疫算法对支持向量机参数进行优化的文本分类方法(IA-SVM).将支持向量机模型参数作为抗体的基因设计了抗体的编码方案,利用人工免疫算法对支持向量机的惩罚因子和径向基核函数进行优化搜索,使支持向量机的分类性能最优.实验结果表明,IA-SVM算法减少了对支持向量机参数选择的盲目性,在文本分类问题上明显提高了分类正确率和检索速度.     

一种基于无向加权图的距离检索和查询方法

在无向加权图上进行距离检索和对象查询是使用无向加权图的重要工作,也是解决实际问题的重要步骤。该文提出一种基于距离签名的处理方法来实现距离检索和查询,通过距离分级、签名编码和压缩等,实现了检索和查询的高效率,减少了存储空间。描述了建模及处理KNN查询的过程,实验证明了该方法的有效性。     

A multi-objective genetic algorithm for simultaneous model and feature selection for support vector machines

The Support Vector Machines (SVM) constitute a very powerful technique for pattern classification problems. However, its efficiency in practice depends highly on the selection of the kernel function type and relevant parameter values. Selecting relevant features is another factor that can also impact the performance of SVM. The identification of the best set of parameters values for a classification model such as SVM is considered as an optimization problem. Thus, in this paper, we aim to simultaneously optimize SVMs parameters and feature subset using different kernel functions. We cast this problem as a multi-objective optimization problem, where the classification accuracy, the number of support vectors, the margin and the number of selected features define our objective functions. To solve this optimization problem, a method based on multi-objective genetic algorithm NSGA-II is suggested. A multi-criteria selection operator for our NSGA-II is also introduced. The proposed method is tested on some benchmark data-sets. The experimental results show the efficiency of the proposed method where features were reduced and the classification accuracy has been improved.     

人工鱼群算法在SVM参数优化选择中的应用

针对支持向量机的参数优化缺乏理论支持,而SVM交叉检验法选取又较为费时的情况下,提出了基于人工鱼群算法的支持向量机参数优化选取算法,并以SVM分类预测准确率最大为优化原则,利用人工鱼群算法的较好并行性和较强的全局寻优能力,以实现最优目标并得到SVM的最优参数组合。数值实验结果表明：人工鱼群算法在SVM参数优化选取中具有更快的寻优性能,同时具有较高的分类准确率。该方法具有较好的并行性和较强的全局寻优能力。     

改进蚁群算法在SVM参数优化研究中的应用

支持向量机参数的选择决定着支持向量机的分类精度和泛化能力,而其参数优化缺乏理论指导,在此背景下提出了ACO-SVM模型。该模型将SVM分类预测准确率作为目标函数,对蚁群算法进行改进,引入有向搜索和基于时变函数更新的信息素更新原则,利用蚁群算法的并行性、正反馈机制和较强的鲁棒性,以求得最优目标并得到SVM的最优参数组合。数值实验结果表明,改进蚁群算法在SVM参数优化选取中具有更好的寻优性能,具有较高的分类准确率;该方法具有较好的并行性和较强的全局寻优能力。     

改进的MEA进行特征选择及SVM参数同步优化

特征选择和参数优化是提高支持向量机（SVM）分类性能的两个重要手段,将两者进行同步优化能提高分类器的分类精度。利用思维进化算法（MEA）进行特征选择和SVM参数同步优化能取得较好的分类效果,但也存在着收敛速度慢,易陷入局部最优的问题,无法进一步提高分类精度。针对这一问题,提出了一种改进的思维进化算法进行分类器优化（RMEA-SVM）,在传统思维进化算法的基础上引入了“学习”和“反思”机制,利用子群体间信息共享进行学习,通过适应度值的比较进行反思。通过这种方式保证种群的多样性,加快收敛速度,进一步提高分类精度。实验结果证明了算法的有效性。     

基于改进斑点鬣狗优化算法的同步优化特征选择

针对传统支持向量机（SVM）在封装式特征选择中分类精度低、特征子集选择冗余以及计算效率差的不足,利用元启发式优化算法同步优化SVM与特征选择。为改善SVM分类效果以及选择特征子集的能力,首先,利用自适应差分进化（DE）算法、混沌初始化与锦标赛选择策略对斑点鬣狗优化（SHO）算法改进,以增强其局部搜索能力并提高其寻优效率与求解精度;其次,将改进后的算法用于特征选择与SVM参数调整的同步优化中;最后,在UCI数据集进行特征选择仿真实验,采取分类准确率、选择特征数、适应度值及运行时间来综合评估所提算法的优化性能。实验结果证明,改进算法的同步优化机制能够在高分类准确率下降低特征选择的数目,该算法比传统算法更适合解决封装式特征选择问题,具有良好的应用价值。     

改进的基于粒子群优化的支持向量机特征选择和参数联合优化算法

针对支持向量机(SVM)中特征选择和参数优化对分类精度有较大影响,提出了一种改进的基于粒子群优化(PSO)的SVM特征选择和参数联合优化算法(GPSO-SVM),使算法在提高分类精度的同时选取尽可能少的特征数目。为了解决传统粒子群算法在进行优化时易出现陷入局部最优和早熟的问题,该算法在PSO中引入遗传算法(GA)中的交叉变异算子,使粒子在每次迭代更新后进行交叉变异操作来避免这一问题。该算法通过粒子之间的不相关性指数来决定粒子之间的交叉配对,由粒子适应度值的大小决定其变异概率的大小,由此产生新的粒子进入到群体中。这样使得粒子跳出当前搜索到的局部最优位置,提高了群体的多样性,在全局范围内寻找更优值。在不同数据集上进行实验,与基于PSO和GA的特征选择和SVM参数联合优化算法相比,GPSO-SVM的分类精度平均提高了2%~3%,选择的特征数目减少了3%~15%。实验结果表明,所提算法的特征选择和参数优化效果更好。     

基于克隆选择的差分进化算法及其在SVM中的应用

支持向量机参数是影响其性能的重要因素,但对支持向量机核参数的选取仍没有形成一套成熟的理论,从而严重影响了其广泛的应用。将克隆选择算法引入差分进化算法,对基本克隆选择算法和差分进化算法中的策略进行改进。将两种改进的算法进行融合,提出了一种基于克隆选择的差分进化算法,并将其应用于SVM核参数的优化中。测试结果表明,该算法不仅可以有效避免差分进化算法易早熟收敛的问题,而且寻优能力得到显著提高;在UCI数据库wine数据中的应用表明,利用克隆选择差分进化算法优化SVM核参数加快了参数搜索的速度,提高了SVM预测精度和泛化能力,具有较高的分类准确率和较好的推广性能。     

基于优化支持向量机的人脸表情分类

分析了支持向量机（support vector machine, SVM）目前主要存在的问题和参数选择对分类性能的影响后, 提出了以改进粒子群算法优化SVM关键参数的优化SVM算法。将加入拥挤度因子的微粒群算法引入到SVM中, 在不牺牲泛化性能的前提下, 对其参数进行优化, 增加了SVM初始化参数的多样性, 减慢了局部搜索, 促进其在全局范围内的寻优搜索, 以有效克服SVM算法过分依赖初始值和容易陷入局部极小值的缺点, 并利用由粗到精的策略构造多层SVM人脸表情分类器, 在提高准确率的基础上加快分类的速度。实验证明, 新算法具有速度快、准确率高的优点。