基于壳向量的线性支持向量机快速增量学习算法

提出了一种新的基于壳向量的增量式支持向量机快速学习算法.在增量学习的过程中，利用训练样本集中的几何信息，在样本中选取一部分最有可能成为支持向量的样本--壳向量，它是支持向量集的一个规模较小的扩展集，将其作为新的训练样本集，再进行支持向量训练.这在很大程度上减少了求取支持向量过程中的二次优化运算时间，使增量学习的训练速度大为提高.与单纯使用支持向量代表样本数据集合进行增量学习的传统算法相比，使用该算法使分类精度得到了提高.针对肝功能检测标准数据集（BUPA）的实验验证了该算法的有效性.     

基于Fisher向量投影的支持向量机增量算法

针对支持向量机训练样本冗余导致训练效率低下的问题,提出一种基于Fisher向量投影的支持向量机增量算法。该算法根据支持向量机中支持向量的分布特性对初始训练集及增量集进行预处理,减少训练样本个数;通过判断初始样本是否满足新增样本集的卡罗需-库恩-塔克(Karush-Kuhn-Tucker conditions,KKT)条件,剔除对最终结果无用的样本,减少参与训练的样本数目。实验结果表明,与标准支持向量机算法和基于向量投影的支持向量机增量算法相比,基于Fisher向量投影的支持向量机增量算法的训练速度分别提升了86%和33%左右。该方法可用于大规模样本集的分类识别问题。     

一种基于多支持向量机分类器的并行学习算法

为了在并行计算系统中应用支持向量机,提出一种基于多支持向量机分类器的并行学习算法.分析了w-model算法的不足,并在训练过程中采用循环式反馈更新各支持向量机分类器以避免样本的分布状态对各分类器性能的影响,提高各分类器的训练精度.学习过程以平均分类精度为阈值,对部分分类器重新训练,实现对多分类器学习系统性能的全局优化.在UCI标准测试数据集上进行的实验结果表明,循环式反馈能有效地平衡多分类器学习性能相差过大的问题,算法较w-model具有更高的训练效率和分类效率.     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

一种改进的支持向量机E-SVM算法

在文本分类中,应用支持向量机(SVM)算法能使分类在小样本的条件下具有良好的泛化能力,但支持向量机的参数取值决定了其学习性能和泛化能力.为提高支持向量机算法的性能,提出了一种支持向量机优化算法E-SM,引入信息熵来表征惩罚系数C,提出了加权系数,算法实现了SVM训练过程中参数的智能化,减少了对支持向量机参数选择的盲目性,减少了部分训练样本集数目,提高了SVM性能.实验表明,E-SVM算法较传统算法具有更好的分类精度和时间效率.     

改进的球结构SVM多分类增量学习算法

针对球结构支持向量机(support vector machine,SVM)增量学习算法在训练时间和分类精度上的不足,提出了一种改进的球结构SVM多分类增量学习算法.该算法首先构造一个完全二叉树用于多类分类;分析新增样本的加入对原支持向量集的影响,将新增样本集中部分样本和原始训练集中的支持向量以及分布在球体一定范围内的样本合并做为新的训练集,完成分类器的重构.实现通过减少训练样本缩短训练时间和完善分类器提高分类精度的目的.通过UCI标准数据集实验,结果表明,该算法在所需训练的样本数、训练时间以及准确率3方面都优于球结构SVM增量学习算法,尤其当样本分布不平衡时,该算法有更高的分类准确率.     

基于类半径的多类分类SVM算法

分析了现有多类分类支持向量机算法的不足,在此基础上提出了基于类半径的多类分类支持向量机算法.这种算法在训练前首先对训练集进行分析,然后用one-class SVM进行分类.试验结果表明,该算法分类精度较高,训练时间短.     

边界偏转覆盖增量支持向量机

为了利用不断积累的网络样本提高故障诊断效能,针对标准支持向量机不直接支持增量学习的问题,提出一种边界偏转覆盖增量支持向量机. 根据违背Karush Kuhn Tucker条件的新增样本在特征空间中可引起原分类边界改变的情况,设计边界偏转覆盖算法预选支持向量再生区作为增量训练工作集,解决了难以确定的非支持向量向支持向量的转化问题. 理论分析和实验结果表明,该方法能有效简化训练工作集,在保证故障诊断精度的同时大幅度提高增量训练效率.     

基于在线SVM的裂解炉燃料气热值软测量

针对裂解炉燃料气离线热值模型泛化能力差的问题,提出一种具有自适应能力的在线支持向量机(Online SVM)建模方法.该方法将增量式支持向量机(ISVM)与近似线性依靠(ALD)条件相结合,通过计算新样本与建模样本间的近似线性依靠值,选择满足ALD条件的独立新样本更新SVM模型.分析裂解炉燃料气热值的影响因素,并用Online SVM算法建立裂解炉燃料气热值在线软测量模型.该模型由离线训练模块和在线模型更新模块组成.离线训练模块基于离线数据训练得到初始热值软测量模型,在线更新模块通过使离线模型学习线性独立新样本来保证热值模型的在线预测精度.利用合成数据、Benchmark数据与裂解炉燃料气热值数据,将该方法与传统的支持向量机(SVM)与LS-SVM方法进行对比仿真研究.结果表明:该方法能够适应新的工况,具备自适应学习新样本的能力,可以用于具有慢时变特征的裂解炉燃料气系统热值软测量建模.     

基于深度卷积网络的图像分类算法研究

卷积神经网络在有大量训练数据的基础上,其分类精度已经可以超过支持向量机(SVM)分类精度。将图像分类算法应用于标准数据集CIFAR-10是测试算法性能和精度的一种方法,在此数据集中分别以3k批次和100k批次的数据训练深度卷积网络,可以分别达到70%和80%以上的分类精度。     

基于多支持向量机分类器的增量学习算法研究

为了将一般增量学习算法扩展到并行计算环境中,提出一种基于多支持向量机分类器的增量学习算法.该算法根据多分类器对新增样本集的分类结果,以样本到分类超平面的平均距离为条件重新构造支持向量集更新分类器,直到所有分类器的分类精度满足指定阈值.实验结果表明了该算法的可行性和正确性.     

一种改进的加权边界调节支持向量机算法

为了改进现有支持向量机所确定的边界抗干扰能力差、对噪声数据敏感等问题,减少野点数据对形成支持向量机边界存在的影响,根据各个样本在整个训练样本集中的重要性不同,将各个训练样本的重要性程度值作为权值赋予边界值上,提出了一种基于加权边界调节的支持向量机算法.通过对标准UCI数据集和人工数据集上的仿真实验表明,基于加权边界调节的支持向量机具有较好的野点免疫能力,具有更高的分类精度、更少的支持向量和更好的推广能力.     

基于纹理特征的高分辨率遥感影像分类方法

灰度共生矩阵能较好反映影像灰度统计规律,小波变换能较好反映影像的多尺度特性,利用两者结合进行了纹理特征提取。将灰度共生矩阵和小波变换提取纹理特征作为分类特征向量,建立基于支持向量机分类模型对高分辨率遥感影像进行分类;在支持向量机参数优化问题上,利用遗传算法进行参数寻优,有效的避免多学习和欠学习状态的发生。分类实验结果表明了本方法的有效性。     

一种调整分类超平面偏移的方法一平均距离比MDR法

分析了传统的支持向量分类机对不平衡数据集的影响,并提出了一种调整分离超平面偏移的方法一平均距离比MDR法．首先分别计算正、负类的支持向量到分离超平面距离的平均值,让这个平均值之比等于两类样本数的反比,从而得到偏移b＊的值．实验表明,对于不平衡数据集问题,该方法比标准SVM具有更好的效果．     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

并行PSVM算法及其在入侵检测中的应用(英文)

基于并行PSVM(proximal support vector machine)分类法,利用ε-支持向量与原数据集等价的特点,将PSVM和cascade SVM模型高效结合,加速训练入侵数据集.提出一种新的PSVM增量学习方法,它能快捷更新分类器.通过大量基于著名的KDD CUP1999数据集实验,研究表明,该算法相对其他SVM方法,在保证较高检测率和较低误报率的同时,其训练时间降低80%,且能通过增量学习新数据集来有效更新分类器.