鲁棒最小二乘孪生支持向量机及其稀疏算法

最小二乘孪生支持向量机通过求解两个线性规划问题来代替求解复杂的二次规划问题,具有计算简单和训练速度快的优势。然而,最小二乘孪生支持向量机得到的超平面易受异常点影响且解缺乏稀疏性。针对这一问题,基于截断最小二乘损失提出了一种鲁棒最小二乘孪生支持向量机模型,并从理论上验证了模型对异常点具有鲁棒性。为使模型可处理大规模数据,基于表示定理和不完全Cholesky分解得到了新模型的稀疏解,并提出了适合处理带异常点的大规模数据的稀疏鲁棒最小二乘孪生支持向量机算法。数值实验表明,新算法比已有算法分类准确率、稀疏性、收敛速度分别提高了1.97%~37.7%、26~199倍和6.6~2 027.4倍。     

基于鲁棒学习的最小二乘支持向量机及其应用

鉴于最小二乘支持向量机比标准支持向量机具有更高的计算效率和拟合精度,但缺少标准支持向量机的鲁棒性,即当采样数据存在奇异点或者误差变量的高斯分布假设不成立时,会导致不稳健的估计结果,提出了一种鲁棒最小二乘支持向量机方法.该方法在最小二乘支持向量机基础上,通过引入鲁棒学习方法来获得鲁棒估计.仿真分析及某湿法冶金厂的应用实例验证了该方法的可行性和有效性.     

在线鲁棒最小二乘支持向量机回归建模

鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归（least squares support vector regression,LSSVR）建模易受离群点的影响.针对这一问题,结合鲁棒学习算法（robust learning algorithm,RLA）,本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.     

一类非平坦函数的多核最小二乘支持向量机的鲁棒回归算法

给出了标准最小二乘支持向量机的数学回归模型,并提出了多核最小二乘支持向量机算法,用于提高非平坦函数的回归精度.运用谱系聚类方法解决多核最小二乘支持向量机的解缺乏稀疏性的问题.利用偏最小二乘回归方法对多核最小二乘支持向量机进行了鲁棒回归.通过仿真实例证实了所提方法的有效性.     

用SVM和LS-SVM分析变压器故障诊断

介绍并比较了支持向量机分类器和最小二乘支持向量机分类器的算法,提出了基于支持向量机的二叉树多分类变压器故障诊断模型.将标准支持向量机(C-SVM)分类器和最小二乘支持向量机(LS-SVM)分类器分别用于变压器故障诊断,通过网格搜索和交叉验证法取得支持向量机的参数,准确率较高.试验结果表明,支持向量机和最小二乘支持向量机在变压器故障诊断中具有很大的应用潜力.     

一种井下人员无线定位算法研究

针对传统井下指纹定位算法存在需要采集大量指纹数据和定位精度不高的问题,提出了一种差分鱼群优化最小二乘支持向量机(DEAFSA-LSSVM)的井下人员无线定位算法.首先将井下实验区域划分为多个小区域,并利用克里金插值算法建立指纹数据库;然后利用差分进化与人工鱼群混合智能算法优化正则化参数和核函数宽度,建立最小二乘支持向量机算法模型,利用无线采集接收终端采集待定位点的无线信息数据,通过最小二乘支持向量机算法模型计算出其所属小区域;最后利用小区域内无线信息数据,通过加权K近邻算法进行实时定位.实验结果表明:该定位算法的收敛速度快,分类准确,准确率达到98.87%;定位精度高,平均定位误差为1.51 m,比未经优化的最小二乘支持向量机算法的定位精度提高18.82%.     

基于粗糙集与改进LSSVM的入侵检测算法研究

提出了基于粗糙集和改进最小二乘支持向量机的入侵检测算法。算法利用粗糙集理论的可辨识矩阵对样本属性进行约简,减少样本维数;利用稀疏化算法对最小二乘支持向量机进行改进,使其既具备稀疏化特性又具备快速检测的特点,提高了数据样本分类的准确性。结合算法不仅充分发挥粗糙集对数据有效约简和支持向量机准确分类的优点,同时克服了粗糙集在噪声环境中泛化性较差,支持向量机识别有效数据和冗余数据的局限性。通过实验证明,基于粗糙集和改进最小二乘支持向量机的入侵检测算法的检测精度高,误报率和漏报率较低,检测时间短,验证了算法的实效性。     

最小二乘分解算法在车型识别中的应用

提出一种最小二乘支持向量机的序贯最小分类分解算法.针对最小二乘支持向量机,通过对核函数的相关变换,将二阶的误差信息归结到优化方程的一阶信息中,从而简化运算过程.采用最优函数梯度二阶信息选择工作集,实现最小二乘支持向量机分解算法,提高了算法的收敛性.采用径向基核函数和交叉验证网格搜索的方法验证算法的分类准确性.实验结果表明,提出的分类算法应用于车型识别中,可以得到比其他分类方法更好的分类准确度.     

基于鲁棒最小二乘支持向量机的气动参数拟合

最小二乘支持向量机（LS－SVM）比标准支持向量机具有更高的计算效率,但是却散失了标准支持向量机的稀疏特性,而且当考虑异常值或者误差变量的高斯假设不成立时,会导致不稳健的估计结果。为了克服这两个缺点,在飞行器的气动参数拟合计算中引入了一种鲁棒最小二乘支持向量机（RLS－SVM）,该方法通过加权的支持向量机来获得鲁棒估计,并通过对支持值谱进行剪枝最终得到稀疏解。仿真结果表明：RLS－SVM方法简单,学习速度快,拟合精度高,鲁棒性强,是一种在飞行器轨迹计算中值得推广和采用的方法。     

用KPCA-LSSVM预测变压器油击穿电压

击穿电压是变压器油品质的重要参数,针对变压器油击穿电压难测试问题,提出基于核主元分析和最小二乘支持向量机的预测方法。为了提高变压器油击穿电压的软测量预测精度,本文选取与击穿电压关联性强的4个参量建立核主元分析模型进行特征提取,消除数据的相关性,得到的4个主成分的方差累计贡献率达96.84%,以此4个主成分作为最小二乘支持向量机软测量模型的输入;采用交叉验证法选取最小二乘支持向量机的惩罚参数和径向基核函数参数,建立核主元分析的最小二乘支持向量机变压器油击穿电压的预测模型,与BP神经网络和最小二乘支持向量机方法进行比较,采用平均相对误差和均方根误差来评价模型的性能指标。实验结果表明,本文提出的预测模型预测精度高、泛化能力好,能够满足变压器油击穿电压的测量需求。     

一种基于粒子群算法的配电网低电压诊断模型研究

随着智能电网建设的发展,传统的基于检测技术的配电低电压原因诊断已变成基于数据挖掘的电力大数据分类技术,而着眼于低电压故障原因的数据分类研究在国内尚处于起步阶段,为此该文提出一种采用改进聚类算法和支持向量机分类算法的配电网低电压诊断模型。该模型首先采用Canopy-Kmeans的聚类算法基于配电网历史运行数据进行低电压原因的聚类分析并得出可能存在的低电压原因,然后采用经粒子群算法对支持向量机数据分类算法进行参数优化,最后使用结果参数优化的支持向量机算法对智能电表所采集的配电网实时运行数据进行低电压原因分类并最终输出低压故障原因的诊断结果。实验表明,采样基于粒子群优化的支持向量机诊断模型能够实现90%的低电压原因诊断准确度。     

Classification and regression models of audio and vibration signals for machine state monitoring in precision machining systems

We present a data-driven method for monitoring machine status in manufacturing processes. Audio and vibration data from precision machining are used for inference in two operating scenarios: (a) variable machine health states (anomaly detection); and (b) settings of machine operation (state estimation). Audio and vibration signals are first processed through Fast Fourier Transform and Principal Component Analysis to extract transformed and informative features. These features are then used in the training of classification and regression models for machine state monitoring. Specifically, three classifiers (K-nearest neighbors, convolutional neural networks and support vector machines) and two regressors (support vector regression and neural network regression) were explored, in terms of their accuracy in machine state prediction. It is shown that the audio and vibration signals are sufficiently rich in information about the machine that 100% state classification accuracy could be accomplished. Data fusion was also explored, showing overall superior accuracy of data-driven regression models.     

基于小波变换和FRVM的电能质量扰动分类

针对相关向量机(RVM)计算复杂度大、训练时间长的问题,提出一种基于快速相关向量机(FRVM)的优化算法,其大大减少了相关向量机的训练时间,提高了分类的精度.将它应用于电能质量扰动分类中,首先对电能质量扰动信号进行基于小波变换的时频分析,提取小波变换各层信号的能量与标准信号的能量之差组成特征向量;然后用FRVM对特征量进行分类,进而实现基于小波变换和FRVM的电能质量扰动分类新方法.实验仿真验证了该方法能够对各类电能质量扰动信号进行分类,并且其分类效率和准确率均优于传统的相关向量机分类方法.     

基于深度森林的无线传感器网络故障分类算法

针对无线传感器网络(WSN)节点容易出现故障从而导致网络瘫痪的问题,提出了一种基于改进的深度森林的无线传感器网络故障分类方法;深度森林是基于森林的集成学习方法,其输入是多维特征向量,特征向量将由多粒度扫描和级联森林这两个主要组成部分进行处理,多粒度扫描通过处理数据之间的关系来增强数据表示的能力,级联森林用于分类或预测;针对级联森林部分随着层数的增加可能造成的维数问题进行优化后,将该算法用于故障分类可以提高故障诊断的精确度;在仿真验证阶段,将该算法与深度神经网络(DNN)和支持向量机(SVM)算法进行对比;结果显示,该算法可以准确地识别出不同的故障类型,并且在损坏故障和电源故障的识别达到了最高精度,综合平均精度在98.4%;对偏移故障、漂移故障和通信故障的识别略低于卷积神经网络(CNN)算法,但综合训练时间、参数调节来看,该算法更能满足实际工程的需要。     

支持向量机算法实现人民币序列号识别

人民币序列号识别是一个小样本、非线性和高维模式识别问题,是当前模式识别中的难题之一,具有重要研究意义和实用价值。主要研究了统计学习理论中支持向量机的二次优化算法,并将支持向量机应用于货币序列号的机器识别中。将次序最小优化算法构建的支持向量机用于序列号识别,充分发挥了支持向量机解决小样本、非线性和高维模式识别问题的优点。支持向量机（SVM）实验结果表明,这种支持向量机货币识别方法具有较高的可实现性和识别精度。     

运动想象脑电信号特征提取与分类算法研究

针对运动想象脑电信号特征提取困难,分类正确率低的问题,提出了利用小波熵进行特征提取并采用支持向量机（SVM）来分类的算法。计算运动想象脑电信号的功率,通过理论分析选择小波包尺度,对信号功率进行小波包分解并计算其小波包熵（WPE）,提取C3、C4导联的小波包熵插值组成特征向量,将特征向量作为分类器的输入送入支持向量机进行分类。采用国际BCI竞赛2003中的Graz数据进行验证,算法的最高分类正确率达97.56%。算法特征向量维数低、数据量小、分类正确率高,对运动想象脑电信号特征提取及分类的任务可以提供参考方法。     

基于自适应增强SVM集成算法的风机故障诊断

提出了自适应增强支持向量机集成算法,并结合风机噪声信号的人耳听觉谱特征,对风机故障进行分类识别.现场实测数据的识别实验证明,该算法可正确识别99%的正常机器,并且对故障类型诊断的正确识别率比单个支持向量机分类器高1.88%～2.50%.     

结合ReliefF与支持向量机的特征选择方法研究

利用ReliefF作为特征选择方法,采用基于支持向量机的分类准确率作为特征子集的评估准则,进而决定删除的特征数目.用UCL数据集中Segmenatation数据集进行测试,通过实验研究证明,采用结合ReliefF与支持向量机的方法进行特征选择,能够有效地提高分类准确率.     

基于混沌机制的人工蜂群算法优化的支持向量机分类器

支持向量机的分类性能在很大程度上取决于其相关参数的选择,为了改善支持向量机的分类准确率,本文采用基于混沌机制的人工蜂群算法对其参数进行优化。在传统人工蜂群算法的基础上,采用Logistic混沌映射初始化种群和锦标赛选择策略,进一步提高人工蜂群算法的收敛速度和寻优精度。该方法采用分类准确率作为适应度函数,利用人工蜂群算法对支持向量机的惩罚因子和核函数参数进行优化。通过对多个标准数据集的分类测试,证明基于混沌机制的人工蜂群算法优化的支持向量机分类器能够获得更高的分类准确率。