基于后验概率加权的模糊支持向量机

针对支持向量机对训练样本内的噪音和孤立点特别敏感、极大地影响了支持向量机分类性能的弱点,提出了一种基于后验概率的加权模糊支持向量机.在模糊支持向量机中引入样本后验概率加权系数后,得到的样本点的隶属度在减弱噪音及孤立点对支持向量机分类的影响的同时,不影响支持向量对分类超平面的作用.实验结果证明,在抗击孤立点和噪音点的干扰方面,该法取得了很好的效果,提高了支持向量机分类的泛化能力和应用范围.     

回归型加权支持向量机方法及其应用

针对各样本重要性的差异,提出了给各个样本的惩罚系数和误差要求赋予不同权重的加权支持向量机方法.给出了对偶最优化问题的描述及其SMO训练算法.在近红外光谱汽油辛烷值测定实验中,训练样本的重要性通过测试样本与该样本的空间距离来表征.实验表明采用加权支持向量机方法提高了汽油辛烷值的测量精度,从而说明了该方法可以提高回归估计函数的泛化能力.     

基于改进的K近邻和支持向量机客户流失预测

将K近邻分类法和支持向量机分类法结合起来,给出一种电信客户流失预测方法,即对边界样本采用加权K近邻分类,而对非边界样本采用改进的支持向量机分类。在公开不平衡数据集和电信数据集上的实验可验证所给方法有效,且能提高少数类的检测精度和总体评价指标。     

基于支持向量预选取的分类方法

提出了一种基于支持向量预选取的两类分类方法,在不影响分类性能的前提下,根据支持向量的几何特征,采用向量投影的概率分布法和减法聚类再选取法,在训练样本集中预先选择与分类有关的一组支持向量,代替整个训练样本集,进行支持向量机两类分类.数据实验结果表明,该方法有效地提高了支持向量机分类器的学习效率,实现了较高的分类精确度.     

基于支持向量机的光伏发电功率预测

分析了光伏系统的发电特性以及影响光伏发电的因素,建立了基于支持向量机的光伏系统发电功率预测模型.该模型以结构风险最小化原则取代了传统机器学习方法中的经验风险最小化原则,在小样本的机器学习中有着优异的性能.用某一天的数据作为训练样本集,首先对数据进行去噪和归一化,然后用支持向量机方法对样本集进行训练和发电功率预测.仿真结果表明,基于支持向量机的预测模型具有较高的精度,可用于光伏发电系统的预测.     

基于Fisher向量投影的支持向量机增量算法

针对支持向量机训练样本冗余导致训练效率低下的问题,提出一种基于Fisher向量投影的支持向量机增量算法。该算法根据支持向量机中支持向量的分布特性对初始训练集及增量集进行预处理,减少训练样本个数;通过判断初始样本是否满足新增样本集的卡罗需-库恩-塔克(Karush-Kuhn-Tucker conditions,KKT)条件,剔除对最终结果无用的样本,减少参与训练的样本数目。实验结果表明,与标准支持向量机算法和基于向量投影的支持向量机增量算法相比,基于Fisher向量投影的支持向量机增量算法的训练速度分别提升了86%和33%左右。该方法可用于大规模样本集的分类识别问题。     

基于聚类粒度的模糊支持向量机

为了提高模糊支持向量机在大规模数据集上的训练效率,提出了一种基于聚类粒度的模糊支持向量机算法.首先在每类训练样本上执行无监督聚类算法,产生聚类颗粒.在综合考虑了聚类中心、半径和聚类中的样本数目等聚类信息基础上,找到每个聚类内部的边缘点和交叉点集合,去除对分类贡献很小的聚类内部点,最终形成了新的用于模糊支持向量机训练的样本集合.随后的试验结果表明,由聚类颗粒生成的约简样本集合,很好的表示了原有样本的分布,不仅提高了训练效率,同时保持了较好的分类效果.     

基于径向基函数网络估计密度函数的数据分类

针对样本总体分布已知的分类问题，提出了一种新的分类方法.通过非线性映射将训练样本映射到高维特征空间，基于向量投影法从训练样本中选择边界向量，运用多维二叉树搜索法确定每个边界向量同类中的k-近邻，运用统计理论中的大数定理估计样本的类条件概率密度函数，由边界向量与相应的密度函数构成新的训练样本对.对每一类数据建立一个径向基函数（RBF）网络，以相应类的边界向量作为中心，通过训练以RBF网络来估计样本的类条件概率密度，并采用基于最小错误率的贝叶斯决策来实现分类.对机器学习数据的仿真研究结果表明该方法具有与支持向量机（SVM）相似的识别率，并且能快速有效地实现多类分类.     

基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.     

蚁群算法选择特征与WSVM融合的网络入侵检测

为了提高网络入侵检测率,提出一种蚁群算法选择特征与加权支持向量机的网络入侵检测方法.利用蚁群算法选择网络数据的关键特征,计算信息增益获得各个特征权重,根据特征权重构建了加权支持向量机的网络入侵分类器,并通过KDD CUP 99数据集验证了其有效性.结果表明:该算法能够有效降低特征维数,提高网络入侵检测率和检测效率.     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

一种调整分类超平面偏移的方法一平均距离比MDR法

分析了传统的支持向量分类机对不平衡数据集的影响,并提出了一种调整分离超平面偏移的方法一平均距离比MDR法．首先分别计算正、负类的支持向量到分离超平面距离的平均值,让这个平均值之比等于两类样本数的反比,从而得到偏移b＊的值．实验表明,对于不平衡数据集问题,该方法比标准SVM具有更好的效果．     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

用遗传算法求SVM的最优超平面

支持向量机(SVM)是解决小样本学习问题的有力工具,其关键是如何得到判别样本类别的最优超平面。受约束条件的限制,最优超平面的求解比较繁琐。遗传算法具有全局搜索最优解的特点,是求最优值问题的非常有效的方法。由此,利用遗传算法得到了一个直接求最优超平面近似解的方法,该方法不同于传统的二次规划方法。     

边界偏转覆盖增量支持向量机

为了利用不断积累的网络样本提高故障诊断效能,针对标准支持向量机不直接支持增量学习的问题,提出一种边界偏转覆盖增量支持向量机. 根据违背Karush Kuhn Tucker条件的新增样本在特征空间中可引起原分类边界改变的情况,设计边界偏转覆盖算法预选支持向量再生区作为增量训练工作集,解决了难以确定的非支持向量向支持向量的转化问题. 理论分析和实验结果表明,该方法能有效简化训练工作集,在保证故障诊断精度的同时大幅度提高增量训练效率.     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

基于GWO-SVM的下肢假肢穿戴者骑行相位识别

针对下肢假肢穿戴者骑行相位识别的问题,提出基于灰狼算法优化的支持向量机(GWO-SVM)分类模型. 建立下肢多源信息系统,采集膝关节、踝关节的加速度信号以及膝关节角度信号. 应用奇异值分解,对采集到的信号进行降噪处理. 在对信号进行降噪处理之后,为了避免单一信号不确定的影响,从数据冗余角度,选取各信号的特征点,开展归一化处理,组成多维特征向量,作为SVM分类模型的输入. 为了能够进一步提高分类精度,加强全局优化能力,利用GWO算法对核参数进行优化. 通过与PSO-SVM分类模型、GA-SVM分类模型对比表明,基于GWO优化的SVM分类模型对骑行相位的识别率为94%,高于其他方法优化的SVM分类模型.     

面向大规模数据的隐私保护学习机

随着海量数据不断涌入,SVM隐私泄露问题日益严重。在分析已有隐私保护支持向量机基础上,提出一种面向大规模数据的隐私保护学习机(PPLM)。该方法首先通过核心向量机对大规模样本进行采样,然后在核心集上选取两个样本点并将两点连线的法平面作为最优分类面。通过对标准数据集和人工数据集的实验表明,PPLM可有效地解决大规模样本分类问题,且分类效果良好。