惩罚复杂诊断系统混合噪音的模糊小波分类机

针对复杂故障诊断系统特征数据中具有高斯、幅值较大、奇异点等混合噪音, 设计一种分段式损失函数, 构造基于小波基函数的小波核函数, 由此得到一种输出为模糊数的模糊小波ν-支持向量分类机, 即模糊鲁棒小波ν-支持向量分类机(FRWν-SVC). 它可以有效地压制故障特征时序的多种噪音和奇异点, 具有很强的鲁棒性, 而且它比标准模糊小波ν-支持向量分类机(FWν-SVC)具有更简洁的对偶优化问题. 最后进行了汽车装配线故障诊断的实例分析, 结果表明基于FRWν-SVC的故障诊断模型是有效可行的.     

基于鲁棒学习的最小二乘支持向量机及其应用

鉴于最小二乘支持向量机比标准支持向量机具有更高的计算效率和拟合精度,但缺少标准支持向量机的鲁棒性,即当采样数据存在奇异点或者误差变量的高斯分布假设不成立时,会导致不稳健的估计结果,提出了一种鲁棒最小二乘支持向量机方法.该方法在最小二乘支持向量机基础上,通过引入鲁棒学习方法来获得鲁棒估计.仿真分析及某湿法冶金厂的应用实例验证了该方法的可行性和有效性.     

间隔ν-支持向量机及其几何问题

提出总间隔ν=支持向量机(TM-ν-SVM),该算法可取得比ν-SVM更好的理论分类性能.研究表明TM-ν-SVM等价于求解特征空间中的两个压缩凸包的最近点对.讨论压缩凸包的相关性质,并给出对应的几何算法.数值模拟实验表明TM-ν-SVM和对应的几何算法可取得比其它算法更好的性能.     

基于具有自适应分段损失函数支持向量机的产品销售预测模型

针对产品销售时序包含噪声的数据特征, 提出一种基于自适应分段损失函数的支持向量机模型(AS??-SVM). AS??-SVM 为每个样本点赋一个单独的不敏感损失值, 以此降低模型对包含较大噪声的样本点的依赖性, 并从理论上证明了该方法可增强模型部分的泛化性能. 将AS??-SVM 与??-SVM 共同应用于处理一个数值算例和一个汽车销售预测实例中, 仿真实验结果表明, AS??-SVM 是有效可行的, 可获得比??-SVM 更精确的预测结果.

     

最小二乘Littlewood-Paley小波支持向量机

基于小波分解理论和支持向量机核函数的条件，提出了一种多维允许支持向量核函数——Littlewood-Paley小波核函数．该核函数不仅具有平移正交性，而且可以以其正交性逼近二次可积空间上的任意曲线，从而提升了支持向量机的泛化性能．在Littlewood-Paley小波函数作为支持向量核函数的基础上，提出了最小二乘Littlewood-Paley小波支持向量机(LS-LPWSVM)．实验结果表明，LS-LPWSVM在同等条件下比最小二乘支持向量机的学习精度要高，因而更适用于复杂函数的学习问题．     

基于尺度核函数的最小二乘支持向量机

支持向量机的核函数一直是影响其学习效果的重要因素.本文基于小波分解理论和支持向量机核函数的条件,提出一种多维允许支持向量尺度核函数.该核函数不仅具有平移正交性,且可以以其正交性逼近二次可积空间上的任意曲线,从而提升支持向量机的泛化性能.在尺度函数作为支持向量核函数的基础之上,提出基于尺度核函数的最小二乘支持向量机(LS-SSVM).实验结果表明,LS-SSVM在同等条件下比传统支持向量机的学习精度更高,因而更适用于复杂函数的学习问题.     

一类不确定性鲁棒LQR的奇异值特性分析

针对系统矩阵存在的范数有界不确定性,基于一种鲁棒线性二次调节器(LinearQuadratic Regulators,LQR)的设计,利用其鲁棒回差方程,详细推导了这种鲁棒LQR灵敏度函数的奇异值最大值与规范LQR灵敏度函数的奇异值最大值之间的关系,证明这种鲁棒LQR相对于规范LQR具有较小的灵敏度函数的最大奇异值,灵敏度函数的奇异值特性分析说明这种鲁棒LQR设计相对规范LQR有较好的控制性能。表明灵敏度函数的奇异值特性分析,是一种有效的控制系统性能分析方法。     

基于GMM超向量核函数的说话人识别

针对现有说话人识别系统识别率不高,鲁棒性能差的缺点,提出了一种基于超向量的核函数构造方法.通过对超向量进行KL散度变换和L2线性内积变换,分别得到KL散度线性核函数、KL散度非线性核函数以及L2内积核函数.实验结果表明,将这三种核函数分别应用于支持向量机的说话人识别系统,可以得到优于常规核函数的识别性能.     

一种新颖隶属度函数的模糊支持向量机

传统的支持向量机(SVM)训练含有外部点或噪音数据时,容易产生过拟合(over-fitting)。通过模糊隶属度函数来降低外部点或被污染数据的选择。本文提出了一种新的核隶属度函数,这种新的隶属度函数不仅依赖于每个样本点到类型中心的距离,还依赖于该样本点最邻近的K个其他样本点的距离。实验结果表明了具有该隶属度函数的模糊支持向量机的有效性。     

基于模糊划分和支持向量机的TSK模糊系统

为了提高模糊系统处理高维问题的推广能力与鲁棒性能,提出将模糊聚类和支持向量机算法结合起来构造TSK模糊系统的算法.首先运用模糊聚类算法对输入空间进行划分,确定模糊规则前件的隶属函数.然后用支持向量机算法确定模糊规则的后件参数.该支持向量机的核函数是由模糊规则前件的隶属函数构造的,并且是Mercer核.在3个数据集的实验结果表明,与TSK模糊系统的传统算法和支持向量机相比较,本文算法具有更好的推广能力和鲁棒性.     

双正则化参数的L_2-SVM参数选择

寻找支持向量机(SVM)的最优参数是支持向量机研究领域的热点之一。2范数软间隔SVM(L2-SVM)将样本转化成线性可分,在原始单正则化参数L2-SVM的基础上,提出双正则化参数的L2-SVM,获得它的对偶形式,从而确定了最优化的目标函数。然后结合梯度法,提出了一种新的支持向量机参数选择的新方法(Doupenalty-Gradient)。实验使用了10个基准数据集,结果表明,Doupenalty-Gradient方法是可行且有效的。对于实验所用的样本,极大地改善了分类精度。     

新型鲁棒孪生支持向量回归机

回归问题是模式识别与机器学习领域的基本问题之一,孪生支持向量回归机（TSVR）是在支持向量回归机（SVR）基础上发展而来的一种处理回归问题的新算法,它在处理无噪声数据时表现出较好的性能,但在处理有噪声数据时往往性能不佳。为了降低噪声对孪生支持向量回归机性能的影响,结合ε-不敏感损失函数与Huber损失函数构造了混合Hε损失函数,该损失函数可以有效地适应于不同分布类型的噪声;然后基于混合Hε损失函数和结构风险最小化（SRM）原则提出了一种鲁棒的孪生支持向量回归机（Hε-TSVR）,并在原始空间中利用牛顿迭代法求解模型。分别在有噪声和无噪声的人工数据集、UCI数据集上进行实验,与支持向量回归机和孪生支持向量回归机等算法比较,实验结果验证了所提算法的有效性。     

一种基于机器学习的P2P网络流量识别方法

对等(P2P)覆盖网络作为一种典型的分布式系统日益受到人们的重视.P2P应用遍及文件共享、流媒体、即时通信等多个领域,P2P应用所产生的流量占据了互联网流量的60%以上.为了更好地管理和控制P2P流量,有必要对P2P流量识别模型进行深入的研究.提出一种基于小波支持向量机的机器学习模型(ML-WSVM)来识别已知和未知的P2P流量,ML-WSVM是通过满足小波框架和Mercer定理的小波基函数替换支持向量机核函数的方法,实现小波与支持向量机的结合.该模型充分利用了小波的多尺度特性与支持向量机在分类方面的优势.然后,提出基于损失函数的串行最小化算法来优化求解ML-WSVM的最优分类面.最后,理论分析和实验结果表明该方法大大提高了对P2P网络流量的识别精度和识别效率,尤其是对加密报文的识别.     

鲁棒最小二乘孪生支持向量机及其稀疏算法

最小二乘孪生支持向量机通过求解两个线性规划问题来代替求解复杂的二次规划问题,具有计算简单和训练速度快的优势。然而,最小二乘孪生支持向量机得到的超平面易受异常点影响且解缺乏稀疏性。针对这一问题,基于截断最小二乘损失提出了一种鲁棒最小二乘孪生支持向量机模型,并从理论上验证了模型对异常点具有鲁棒性。为使模型可处理大规模数据,基于表示定理和不完全Cholesky分解得到了新模型的稀疏解,并提出了适合处理带异常点的大规模数据的稀疏鲁棒最小二乘孪生支持向量机算法。数值实验表明,新算法比已有算法分类准确率、稀疏性、收敛速度分别提高了1.97%~37.7%、26~199倍和6.6~2 027.4倍。     

在线鲁棒最小二乘支持向量机回归建模

鉴于工业过程的时变特性以及现场采集的数据通常具有非线性特性且包含离群点,利用最小二乘支持向量机回归（least squares support vector regression,LSSVR）建模易受离群点的影响.针对这一问题,结合鲁棒学习算法（robust learning algorithm,RLA）,本文提出了一种在线鲁棒最小二乘支持向量机回归建模方法.该方法首先利用LSSVR模型对过程输出进行预测,与真实输出相比较得到预测误差;然后利用RLA方法训练LSSVR模型的权值,建立鲁棒LSSVR模型;最后应用增量学习方法在线更新鲁棒LSSVR模型,从而得到在线鲁棒LSSVR模型.仿真研究验证了所提方法的有效性.     

小波支持向量机

在研究支持向量机(SVM)核方法和小波框架理论的基础上,提出了一种称为小波支持向量机(WaveletSupport Vector Machines,WSVM)的新的机器学习构造方法.该方法引入小波基函数构造SVM的核函数,得到了一种新的SVM模型,然后提出了此模型的结构设计和实现算法,最后给出了几种常用的小波核函数,并给出了理论证明.通过仿真实验,把该方法与小波神经网络、高斯核SVM相比较,得到了较好的实验结果,从而验证了该方法的正确性和有效性.     

鲁棒双子支持向量回归

针对传统支持向量回归机缺乏鲁棒性而鲁棒支持向量回归机稀疏性不理想,提出了新的支持向量回归方法（鲁棒双子支持向量回归）。为了求解的方便,该方法的损失函数由两个可微的凸函数构成,并且采用CCCP技术对其进行求解。该方法在获得良好稀疏性的同时有效地抑制了过失误差的影响。通过人工数据和现实真实数据对该方法的测试,验证了新方法的有效性。     

基于压缩感知的多尺度最小二乘支持向量机

提出一种基于压缩感知(Compressive sensing, CS)和多分辨分析(Multi-resolution analysis, MRA)的多尺度最小二乘支持向量机(Least squares support vector machine, LS-SVM). 首先将多尺度小波函数作为支持向量核, 推导出多尺度最小二乘支持向量机模型, 然后基于压缩感知理论, 利用最小二乘匹配追踪(Least squares orthogonal matching pursuit, LS-OMP)算法对多尺度最小二乘支持向量机的支持向量进行稀疏化, 最后用稀疏的支持向量实现函数回归. 实验结果表明, 本文方法利用不同尺度小波核逼近信号的不同细节, 而且以比较少的支持向量能达到很好的泛化性能, 大大降低了运算成本, 相比普通最小二乘支持向量机, 具有更优越的表现力.     

高斯小波支持向量机的研究

证明了偶数阶高斯小波函数满足支持向量机的平移不变核函数条件．应用小波核函数建立了相应的高斯小波支持向量机,并且使用云遗传算法对支持向量机及其核函数的参数进行优化．用该算法与常用的高斯核和Morlet小波核支持向量机进行对比实验．通过对非线性函数的逼近和电力系统短期负荷的预测,验证了该算法的有效性和优越性,表明其具有一定的实用价值．     

提升小波支持向量机在交通流量预测中的应用*

采用提升小波方法构造出一种满足双正交的小波函数,并将这种小波函数作为支持向量机的核函数;此外,用线性规划问题来代替二次规划问题及稀疏正则化,本质上确保了解的稀疏性.基于提升小波构造出提升小波支持向量机模型,并将其用于交通流量的预测中.仿真实验表明该模型具有良好的预测能力和泛化能力.