基于小波包移频算法的遥感图像融合技术

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

稀疏最小二乘支持向量机

针对大规模数据集的回归和分类问题，改进了最小二乘支持向量机.以再生核希尔伯特空间中的线性分析为基础，把样本集映射到再生空间中，然后张成再生空间的一个线性子空间，并求出这个子空间的基.利用基线性表示子空间中的其他元素，减小了求解矩阵的维数，通过求解规模相对较小的线性方程组完成对支持向量机的训练.采用该方法对较大规模的数据样本进行了回归和分类仿真试验，并与普通的最小二乘支持向量机进行比较.结果表明，采用该方法解决复杂非线性函数的回归和分类问题，不但可以得到稀疏解，而且计算速度比普通最小二乘支持向量机提高了约20％.     

双核函数最小二乘支持向量机汽油干点软测量建模

针对单核函数最小二乘支持向量机容易陷入局部最优值,提出双核函数最小二乘支持向量机软测量建模算法。该方法利用Sigmoid核函数与RBF核函数线性加权构成双核函数,去除部分较小支持向量样本的方法,改善最小二乘支持向量机的稀疏特性,提高模型运算速度,用k-交叉验证法进行部分参数的优化,最后将此方法用于建立汽油干点软测量模型,并与标准支持向量机、单核最小二乘支持向量机比较,结果表明双核函数最小二乘支持向量机软测量模型具有更高的计算精度和更好的推广能力。     

鲁棒支持向量机及其稀疏算法

基于非凸光滑损失的鲁棒支持向量机分类模型对异常点具有鲁棒性,但已有求解算法需迭代求解二次规划,计算量大且收敛速度慢,不适合训练大规模数据问题。为了克服这些缺点,首先给出收敛速度更快的方法求解鲁棒支持向量机模型;然后基于最小二乘的思想,提出了一种推广的指数鲁棒最小二乘支持向量机模型及其快速收敛的求解算法,并从理论上解释了模型的鲁棒性;最后利用核矩阵的低秩近似,提出了适于处理大规模训练问题的稀疏鲁棒支持向量机算法和稀疏指数鲁棒最小二乘支持向量机算法。实验结果表明,新算法在收敛速度、测试精度和训练时间等方面均优于相关算法。     

基于最小二乘支持向量机的时用水量预测模型

针对神经网络存在结构较难确定,训练易陷入局部最优以及容易过学习等问题,提出将最小二乘支持向量机用于预测时用水量.最小二乘支持向量机(LSSVM)基于结构风险最小化,能够较好地协调经验风险最小化和学习机器VC维之间的关系,并且LSSVM在支持向量机(SVM)的基础上,通过将价值函数改为最小二乘价值函数以及用等式约束代替不等式约束,将求解的二次规划问题转变为一组等式方程,采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.根据时用水序列具有周期性和趋势性的特点,建立了基于最小二乘支持向量机的时用水量模型.实例分析表明,与基于BP网络的时用水量模型相比,基于最小二乘支持向量机的时用水量模型具有更强的预测能力.     

最小二乘支持向量机分类问题的算法实现

介绍了支持向量机理论、常用的支持向量机内积核函数以及最小二乘支持向量机算法.采用最小二乘法实现了支持向量机分类算法.数字仿真结果表明,该算法的识别正确率可达100%.     

DE-LSSVM网络流量多分类方法

支持向量机对网络流量进行分类时,支持向量机参数易导致分类模型的性能下降,分类精度低下等问题。针对该问题,提出一种改进差分优化算法与最小二乘支持向量机多分类器结合的方法,该模型采用具有自适应算子的DE算法作为优化方法,以LSSVM作为分类方法,交替进行,最终使分类结果最好。实验结果证明,该模型在网络流量多分类中,具有较低的均方根误差和更高的F1指数。     

最小二乘支持向量机变型算法研究

推导出最小二乘支持向量机(LSSVM)的分类几何意义,再将近似支持向量机(PSVM)等价推广至回归问题,最后提出PSVM的另一种非线性模型——直接支持向量机(DSVM)．与LSSVM相比,PSVM和DSVM增强了问题的凸性,计算复杂度低．且对非线性时,DSVM比PSVM更简单,替换核函数就可实现线性与非线性的统一．数值实验表明,线形情况下PSVM比LSSVM的训练速度至少快一倍,非线性时,DSVM比PSVM速度要快一倍左右;在泛化能力方面线性PSVM不低于LSSVM,非线性时DSVM最高．     

最小二乘大间隔孪生支持向量机

针对最小二乘孪生支持向量机（LSTWSVM）精度较低和可能存在的"奇异性"问题,提出了一种最小二乘大间隔孪生支持向量机（LSLMTSVM）.该算法在最小二乘孪生支持向量机的优化目标函数中引入了间隔分布,提高了算法的泛化性能.在目标函数中加入正则项,实现了结构风险最小化,进一步提高了分类能力.实验结果表明,最小二乘大间隔孪生支持向量机比已有的相关算法性能更优.     

和声搜索最小二乘支持向量机预测模型及其应用

为了改进目前最小二乘支持向量机(LSSVM)参数选择的盲目性,将和声搜索(Harmony Search)算法引入到最小二乘支持向量机中来.利用具有全局优化功能的和声搜索算法对LSSVM中正则化参数γ和核函数参数σ的进行自动优选,提出了和声搜索最小二乘支持向量机(Harmony Search Least Squares Support Vector Machine,HS-LSSVM)算法.通过对丰满大坝位移的建模预测并和BP神经网络模型及传统统计回归模型的分析比较,表明HS-LSSVM模型具有更小的预测误差和更高的预测精度.     

基于局域波法和KPCA-LSSVM的滚动轴承故障诊断

针对故障滚动轴承振动信号具有非平稳性,提出基于局域波法和核主元分析 最小二乘支持向量机(KPCA LSSVM )的故障诊断方法.先对轴承振动信号进行局域波分解得到若干内禀模式函数(IMF),分别计算各IMF分量的特征能量、奇异值和AR模型参数作为原始特征向量,再用KPCA将原始特征向量映射到高维特征空间提取主元构造新的特征向量,将其作为LSSVM分类器的输入来实现轴承的故障诊断.故障诊断试验结果表明,KPCA LSSVM诊断方法通过KPCA得到更多的识别信息,改善了LSSVM的分类性能,相对于直接LSSVM诊断方法具有更优的泛化性,可准确识别轴承的故障类别和严重程度.     

一种具有统计不相关性的最优边界鉴别向量集

为了解决现有维数约简算法受样本分布影响较大、不支持小样本学习等问题,在分析线性鉴别分析(LDA)中最优鉴别向量与支持向量机(SVM)中分类超平面法向量之间关系的基础上,基于统计不相关最优鉴别向量集优于正交最优鉴别向量集的事实,提出了通过对改进的SVM的二次优化问题进行递归求解来获取具有统计不相关性的最优边界鉴别向量集的算法,并使用核方法将其推广到可以解决非线性特征抽取问题.结果表明:在采用相同参数并使用k-最近邻分类器进行训练和测试的情况下,提出的算法对实际数据集Waveform,Heart,Diabetis的分类精度均高于SVM和RSVM,不会出现当抽取超过最优维数时随着抽取维数的增加分类精度反而降低的现象,体现了本算法在抽取不相关特征向量方面的有效性.     

Prediction method for surface finishing of spiral bevel gear tooth based on least square support vector machine

The predictive model of surface roughness of the spiral bevel gear (SBG) tooth based on the least square support vector machine (LSSVM) was proposed.A nonlinear LSSVM model with radial basis function (RBF) kernel was presented and then the experimental setup of PECF system was established.The Taguchi method was introduced to assess the effect of finishing parameters on the gear tooth surface roughness,and the training data was also obtained through experiments.The comparison between the predicted values and...     

基于径向基函数网络估计密度函数的数据分类

针对样本总体分布已知的分类问题，提出了一种新的分类方法.通过非线性映射将训练样本映射到高维特征空间，基于向量投影法从训练样本中选择边界向量，运用多维二叉树搜索法确定每个边界向量同类中的k-近邻，运用统计理论中的大数定理估计样本的类条件概率密度函数，由边界向量与相应的密度函数构成新的训练样本对.对每一类数据建立一个径向基函数（RBF）网络，以相应类的边界向量作为中心，通过训练以RBF网络来估计样本的类条件概率密度，并采用基于最小错误率的贝叶斯决策来实现分类.对机器学习数据的仿真研究结果表明该方法具有与支持向量机（SVM）相似的识别率，并且能快速有效地实现多类分类.     

基于支持向量AAM迭代学习的性别分类算法

为了提高性别检测的精度，提出了一种支持向量机（SVM）与主动外观模型（AAM）相结合的迭代学习算法.采用AAM对初始训练样本建模，在此基础上构造SVM分类器.在当前迭代过程所产生的支持向量中随机选择不同性别的样本，对其AAM参数线性插值而生成一系列伪样本，并从中选取被当前分类器误分类或正确分类但分类可信度低的样本参与下次迭代学习.实验结果表明，采用该算法所构造的伪样本是初始训练样本的有效补充，提出的伪样本选择方案优于传统的Bootstrap方法，迭代学习方法逐步提高了性别分类器的检测精度.     

基于支持向量机的增量学习算法研究

分析了支持向量机理论中支持向量的特性,利用支持向量与样本空间划分的等价性,提出一种新的基于支持向量机的增量学习算法.该算法考虑新增样本集的分布可能改变对已有样本的分类结果,利用支持向量的分布特性,用对样本的划分差集构造新的支持向量集和分类平面,使差集中的样本点对分类贡献尽可能最大,有效提高了分类精度.同时差集操作简单易行,有效降低了问题的计算复杂度.实验结果表明,与常规增量算法相比,该算法在不改变时间复杂度量级的前提下对分类精度有显著提高.     

一种基于支持向量机的目标定位方法

为了提高声纳在浅水域的性能，提出了一种基于统计学习理论的目标识别器的目标定位方法.该方法选择支持向量机（SVM）作为学习算法的核心.从已知训练样本得到多通道数据的协方差矩阵，将得到的矩阵转化为SVM的输入多维特征向量，并训练SVM而获得权向量.利用此权向量和SVM输出估计，可以得到目标位置信息.理论推导和仿真结果表明，与多重信号分类（MUSIC）算法相比较，该方法具有高的定位精度和快的收敛速度.该方法能有效地对在平面波模型下的目标进行测向，并具有鲁棒性.     

核Fisher判别分析在数字信号分类中的应用

为了提高通信信号的识别精度,提出了一种基于核Fisher判别分析(KFDA)的数字调制信号分类器设计方法.将接收信号的高阶累积量作为分类特征向量,利用核函数的思想把非线性向量映射到一个高维空间,并在高维空间中利用线性Fisher判别分析实现数字信号的分类.将多类分类器分解成一系列二类问题,并给出了KFDA用于信号分类的详细流程.仿真实验结果表明,当选择合适的核参数时,基于KFDA的分类精度与支持向量机相当,但由于避免了求解非线性优化问题,故计算复杂度低,训练时间短.     

SVM with discriminative dynamic time alignment

In the past several years, support vector machines (SVM) have achieved a huge success in many fields, especially in pattern recognition. But the standard SVM cannot deal with length-variable vectors, which is one severe obstacle for its applications to some important areas, such as speech recognition and part-of-speech tagging. The paper proposed a novel SVM with discriminative dynamic time alignment (DDTA-SVM) to solve this problem. When training DDTA-SVM classifier, according to the category information of the training samples, different time alignment strategies were adopted to manipulate them in the kernel functions, which contributed to great improvement for training speed and generalization capability of the classifier. Since the alignment operator was embedded in kernel functions, the training algorithms of standard SVM were still compatible in DDTA-SVM. In order to increase the reliability of the classification, a new classification algorithm was suggested. The preliminary experimental results on Chinese confusable syllables speech classification task show that DDTA-SVM obtains faster convergence speed and better classification performance than dynamic time alignment kernel SVM (DTAK-SVM). Moreover, DDTA-SVM also gives higher classification precision compared to the conventional HMM. This proves that the proposed method is effective, especially for confusable length-variable pattern classification tasks.