一种改进的支持向量机的文本分类算法

在文本分类中,应用支持向量机(SVM)算法能使分类在小样本的条件下具有良好的泛化能力.但支持向量机的参数取值决定了其学习性能和泛化能力.为提高支持向量机算法的性能,提出了一种采用免疫算法对支持向量机参数进行优化的文本分类算法(IA-SVM).算法减少了对支持向量机参数选择的盲目性,提高了SVM的预测精度.实验表明,IA-SVM算法在文本分类问题上明显提高了分类正确牢,学习速度也有提高.     

改进麻雀搜索算法优化SVM的异常点检测

支持向量机是检测异常点的常用方法，但其仍然存在难以高效获取最优参数，导致检测效率低、稳定性差的问题。鉴于此，提出一种改进的麻雀搜索算法ISSA,并将其用于优化支持向量机参数。首先，采用改进折射反向学习和可变对数螺线改进传统麻雀搜索算法；然后，利用改进麻雀搜索算法ISSA对支持向量机参数进行优化；最后，将优化后的支持向量机用于异常点检测。仿真实验结果表明，在G-mean和F-measure 2个评价指标上，利用ISSA优化后的支持向量机检测效果明显优于其它3种分类算法，具有更优秀的检测效率、稳定性和泛化能力。     

基于离散微粒群优化算法的SVM参数选择

支持向量机（SVM）的学习性能和泛化能力主要取决于参数选择，然而传统的优化算法难以解决此问题。文中通过支持向量的个数建立优化目标函数，采用微粒群优化（PSO）算法对其优化，寻找最优参数。PSO是一种新兴的基于群体智慧的进化算法。实验表明，微粒群优化算法是支持向量机参数选择的有效方法。     

基于改进量子粒子群算法的支持向量机参数优化方法

支持向量机参数的选择对建模精度和泛化性能等有着重要的影响,提出量子粒子群优化(QPSO)改进算法优化支持向量机（SVM）参数的方法。该方法首先将混合扰动算子引入QPSO算法中,用于获取平均最优位置,建立一种基于混合扰动算子的QPSO算法改进方法（IQPSO）,然后用IQPSO算法的全局优化能力对支持向量机惩罚系数和核参数进行综合寻优,求取最优化参数组合,从而提高支持向量机的求解速度和解的精确性。利用测试函数和UCI测试数据,对IQPSO-SVM进行仿真测试与分类,实验结果表明,IQPSO能获得很好的优化结果,IQPSO-SVM具有较好的泛化性能。     

基于支持向量回归机的HHT边界效应处理

针对希尔伯特-黄变换中的边界效应，提出了基于支持向量回归机的时间序列预测方法．在支持向量回归机的应用当中，参数的选取对它的泛化性能有很大影响．在讨论了参数对支持向量回归机的泛化性能的影响基础上，提出了通过微粒群优化算法来优化支持向量回归机参数的方法，使得支持向量回归机在应用中能够自适应的选择最优参数，从而获得了更好的泛化性能，提高了在端点处的延拓精度，很好地抑制了端点效应．试验表明，该优化算法能够很好解决支持向量回归机的参数选取问题．通过与神经网络的延拓方法和黄等人的HHTDPS结果对比，基于支持向量回归机的时间序列预测方法可以更好地解决在希尔伯特-黄变换中存在的边界效应，得到的固有模态函数具有较小的失真．     

基于离散微粒群优化算法的SVM参数选择

支持向量机(SVM)的学习性能和泛化能力主要取决于参数选择,然而传统的优化算法难以解决此问题。文中通过支持向量的个数建立优化目标函数,采用微粒群优化(PSO)算法对其优化,寻找最优参数。PSO是一种新兴的基于群体智慧的进化算法。实验表明,微粒群优化算法是支持向量机参数选择的有效方法。     

支持向量回归参数的混合选择

为提高支持向量回归算法的学习能力和泛化性能，提出了一种优化支持向量回归参数的混合选择算法。根据训练样本的规模和噪声水平等信息，确定支持向量回归参数的取值范围，用实数编码的免疫遗传算法搜索最佳参数值。混合选择算法具有较高的精度和效率，在选择支持向量回归参数时，不必考虑模型的复杂度和变量维数。仿真实验结果表明，该算法是选择支持向量回归参数的有效方法，应用到函数逼近问题时具有优良的性能。     

一种基于支持向量机的入侵检测模型

支持向量机(support vector machines)是一种建立在统计学习理论基础之上的机器学习方法。基于支持向量机在处理小样本、高维数及泛化能力强等方面的优势，该文提出了一种根据结构风险最小化原则基于支持向量机的入侵检测系统，首先简单介绍了入侵检测系统近来的发展状况和支持向量机的分类算法，然后给出以支持向量机分类算法为基础的入侵检测模型，以系统调用执行迹进行仿真实验，详细讨论了该模型的工作过程及核函数参数的选取对检测性能的影响。实验表明，该模型在先验知识较小的情况下，能够较好的检测出异常的入侵调用。     

基于特征属性信息熵的网络异常流量检测方法

针对网络异常流量检测问题,文章提出一种基于网络流量特征属性信息熵的异常流量检测方法。该方法首先计算描述网络流量特征变化的源端口号、目的端口号、源IP地址和目的IP地址这4种特征属性信息熵,并进行归一化处理,降低异常样本数据对分类性能的影响;然后利用自适应遗传算法对支持向量机分类器的惩罚参数和核函数参数进行优化,提高分类器泛化能力,同时改进遗传算法的交叉算子和变异算子,减少支持向量机分类器的训练时间;最后通过训练好的支持向量机分类器识别4种流量特征属性信息熵的变化以实现网络异常流量检测。仿真实验表明,该方法提取的4种流量特征属性信息熵能够有效表征异常流量变化,在多种异常流量类型条件下,具有较高的异常流量识别率和较低的误判率,且检测方法的鲁棒性较好。     

基于差分进化算法的支持向量回归机参数优化

支持向量机是结构风险最小化原理的一种新型学习技术,被广泛应用到很多工业控制领域中,良好的泛化能力和预测精度在很大程度上受到参数选取的影响.传统参数选择方法易陷入局部最优,为提高优化识别参数的精度和效率,提出基于差分进化算法的支持向量回归机参数优化算法.以均方误差最小为优化准则,差分进化算法的全局寻优能力,搜索支持向量回归机的最优参数组合,达到对参数的最优选择.通过Matlab进行仿真实验,结果表明改进的算法不仅加快参数搜索和优化的速度,而且选择的最优参数能大大提高支持向量机预测精度和泛化能力,并具有良好的鲁棒性和较强的全局寻优能力.     

基于One-Class支持向量机的Windows注册表异常检测

注册表作为Microsoft Windows操作系统的核心,控制着Windows整个系统的运行,而Micosoft Windows是目前应用最广泛,同时也是遭受恶意行为攻击最多的操作系统。针对这一现象,本文提出一种基于One-Class支持向量机的异常检测方法,利用Windows注册表建立入侵检测模型,通过支持向量机算法实时判断当前注册表的访问行为是否为异常状态来发现和识别入侵。实验表明,该方法对未知病毒和入侵行为具有较高的检测率,可以在先验知识较少的情况下提高学习机的推广能力;同时,利用One-Class支持向量机方法可以在不影响检测性能的条件下减少检测的反应时间,大大提高了检测系统的性能。     

基于最小二乘支持向量机的短期电力负荷预测

提出了结合遗传算法(Genetic Algorithm,GA)和最小二乘支持向量机(Least Squares Support Vector Machines,LS-SVM)的短期电力负荷预测。由于影响负荷预测因素的复杂性和最小二乘支持向量机参数选择的不确定性,提出了采用遗传算法同时对电力负荷训练样本进行特征提取和最小二乘支持向量机的参数选择,然后利用提取出的数据序列和选择的参数,建立最小二乘支持向量机预测模型。通过实际算例分析,证明了该算法可以改善预测模型的精度和泛化能力。     

一种判断类间空间分布情形的有效方法

层次结构设计是层次支持向量机应用中的关键问题,不同层次结构下,层次支持向量机的分类性能有很大差别.分析了层次支持向量机及其存在的问题,提出了一种有效判断类间空间分布情形的简单方法.仿真试验表明,基于该方法设计的层次支持向量机与基于传统方法设计的层次支持向量机相比,具有较高的分类精度.     

改进人工鱼群算法在SVM参数优化中的应用

支持向量机的参数优化一直是一个重要的研究方向。参数的好坏很大程度上决定了支持向量机的分类精度和泛化能力。针对人工鱼群算法优化支持向量机参数时,容易在后期徘徊于最优解附近、难以逼近的问题,提出了人工鱼群加速算法,使用速度参数代替人工鱼步长,从而求得最优目标并得到SVM的最优参数组合。仿真实验结果表明：该算法收敛速度快,求解数值精度高,对初值的依赖程度低,在SVM参数优化中具有更好的性能、更高的分类准确率,是一个极其有效的参数优化方法。     

基于- 范数约束的LSSVR 多核学习算法

针对核函数选择对最小二乘支持向量机回归模型泛化性的影响, 提出一种新的基于????- 范数约束的最小二乘支持向量机多核学习算法. 该算法提供了两种求解方法, 均通过两重循环进行求解, 外循环用于更新核函数的权值, 内循环用于求解最小二乘支持向量机的拉格朗日乘数, 充分利用该多核学习算法, 有效提高了最小二乘支持向量机的泛化能力, 而且对惩罚参数的选择具有较强的鲁棒性. 基于单变量和多变量函数的仿真实验表明了所提出算法的有效性.

     

基于混沌优化算法的支持向量机参数选取方法

支持向量机（SVM）的参数取值决定了其学习性能和泛化能力．对此，将SVM参数的选取看作参数的组合优化，建立组合优化的目标函数，采用变尺度混沌优化算法来搜索最优目标函数值．混沌优化算法是一种全局搜索方法，在选取SVM参数时，不必考虑模型的复杂度和变量维数．仿真表明，混沌优化算法是选取SVM参数的有效方法，应用到函数逼近时具有优良的性能．     

遗传支持向量机模型优化在入侵检测中的应用

针对目前入侵检测检测精度低的问题,根据遗传和支持向量机算法的特点,建立了一种遗传支持向量机模型。该模型首先用遗传算法优化支持向量机参数,再用优化后的支持向量机构建入侵检测模型,使用该模型进行入侵检测。实验通过讨论了支持向量机参数的选择对检测精度的影响,选取了合适的参数(c,σ)。结果表明,把这种遗传支持向量机模型用于入侵检测提高了检测精度。     

基于光滑Ramp损失函数的健壮支持向量机

提出一种新型的基于光滑Ramp损失函数的健壮支持向量机,能够有效抑制孤立点对泛化性能的影响,并采用CCCP将它的非凸优化目标函数转换成连续、二次可微的凸优化。在此基础上,给出训练健壮支持向量机的一种Newton型算法并且分析了算法的收敛性质。实验结果表明,提出的健壮支持向量机对孤立点不敏感,在各种数据集上均获得了比传统的SVMlight算法和Newton-Primal算法更优的泛化能力。     

An Analytic Center Machine

Support vector machines have recently attracted much attention in the machine learning and optimization communities for their remarkable generalization ability. The support vector machine solution corresponds to the center of the largest hypersphere inscribed in the version space. Recently, however, alternative approaches (Herbrich, Graepel, & Campbell, In Proceedings of ESANN 2000) have suggested that the generalization performance can be further enhanced by considering other possible centers of the version space like the center of gravity. However, efficient methods for calculating the center of gravity of a polyhedron are lacking. A center that can be computed efficiently using Newton's method is the analytic center of a convex polytope. We propose an algorithm, that finds the hypothesis that corresponds to the analytic center of the version space. We refer to this type of classifier as the analytic center machine (ACM). Preliminary experimental results are presented for which ACMs outperform support vector machines.     

基于遗传算法和最小二乘支持向量机可靠性分配*

为了提高系统可靠性的精确快速分配,采用支持向量机对系统可靠性进行建模,采用逆向思维对系统可靠性进行分配;为了提高求解速度和鲁棒性,用最小二乘法对支持向量机进行算法优化,并用遗传算法对最小二乘支持向量机进行参数优化;为了提高分配精度,用三角模糊数进行模糊处理;最后针对某系统的可靠性,采用遗传算法优化和模糊处理的最小二乘支持向量机进行分配,并与神经网络和普通遗传算法优化的最小二乘支持向量机进行对比。结果表明,用遗传算法优化和模糊数处理的最小二乘支持向量机具有分配精度高,泛化能力强等优点。