一种SVM增量学习算法α-ISVM

基于SVM(support vector machine)理论的分类算法,由于其完善的理论基础和良好的试验结果,目前已逐渐引起国内外研究者的关注.深入分析了SVM理论中SV(support vector,支持向量)集的特点,给出一种简单的SVM增量学习算法.在此基础上,进一步提出了一种基于遗忘因子α的SVM增量学习改进算法α-ISVM.该算法通过在增量学习中逐步积累样本的空间分布知识,使得对样本进行有选择地遗忘成为可能.理论分析和实验结果表明,该算法能在保证分类精度的同时,有效地提高训练速度并降低存储空间的占用.  

基于核函数的SVM机与三层前向神经网络的关系

针对尚未完全解决的SVM理论中求核函数的问题，首先证明了Vapnik的基于核函数的SVM机与三层前向神经网络的等价性；其次以作者提出的神经网络的覆盖算法为工具，证明了如下的定理（核函数存在性定理）；对任给的样本集（规模有限），必存在一函数（或相应的核函数），样本集在此函数映射下，映成某高维空间中的一子集（样本集的像集），在此高维空间中，像集是线性可分的；最后给出求解此函数的算法，算法的计算复杂性是多项式的，且算法求到的解在高维空间上是最大间隔解。  

基于SVM的综合评价方法研究

系统介绍了统计学习理论与支持向量机的基本思想，研究了它们在综合评价中的应用。分析了科研立项评审系统的设计方法，建立了基于SVM的评审系统。文末比较了新评审系统和采用其它方法如模糊排序、神经网络等建立的评审系统所分别取得的拟合效果，比较结果表明：采用支持向量机设计的评审系统结构简单、思路清晰地且能取得更为理想的评审结果。  

Constructing support vector machine ensemble

Even the support vector machine (SVM) has been proposed to provide a good generalization performance, the classification result of the practically implemented SVM is often far from the theoretically expected level because their implementations are based on the approximated algorithms due to the high complexity of time and space. To improve the limited classification performance of the real SVM, we propose to use the SVM ensemble with bagging (bootstrap aggregating) or boosting. In bagging, each individual SVM is trained independently using the randomly chosen training samples via a bootstrap technique. In boosting, each individual SVM is trained using the training samples chosen according to the sample's probability distribution that is updated in proportional to the errorness of the sample. In both bagging and boosting, the trained individual SVMs are aggregated to make a collective decision in several ways such as the majority voting, least-squares estimation-based weighting, and the double-layer hierarchical combining. Various simulation results for the IRIS data classification and the hand-written digit recognition, and the fraud detection show that the proposed SVM ensemble with bagging or boosting outperforms a single SVM in terms of classification accuracy greatly.  

模糊多类支持向量机及其在入侵检测中的应用

针对支持向量机理论中现存的问题：多类分类问题和对于噪音数据的敏感性，提出了一种模糊多类支持向量机算法．该算法是在Weston等人提出的多类SVM分类器的直接构造方法中引入模糊成员函数，针对每个输入数据对分类结果的不同影响，该模糊成员函数得到相应的值，由此可以得到不同的惩罚值，并且在构造分类超平面时，可以忽略那些对分类结果影响很小的数据．在充分的数值实验基础上，将文中提出的方法应用于当前一个重要的应用领域——计算机网络入侵检测问题，并得到了较好的实验结果．理论分析与数值实验都表明，该算法是切实可行的，并具有良好的鲁棒性。  

基于混沌优化算法的支持向量机参数选取方法

支持向量机（SVM）的参数取值决定了其学习性能和泛化能力．对此，将SVM参数的选取看作参数的组合优化，建立组合优化的目标函数，采用变尺度混沌优化算法来搜索最优目标函数值．混沌优化算法是一种全局搜索方法，在选取SVM参数时，不必考虑模型的复杂度和变量维数．仿真表明，混沌优化算法是选取SVM参数的有效方法，应用到函数逼近时具有优良的性能．  

一种新的支持向量机多类分类方法

分析了目前的支持向量机多类分类方法存在的问题以及缺点．针对以上问题及缺点，提出了基于二叉树的支持向量机的多类分类方法，并在UCI数据库上进行了验证，取得了良好效果．  

多核学习方法

多核学习方法是当前核机器学习领域的一个新的热点. 核方法是解决非线性模式分析问题的一种有效方法, 但在一些复杂情形下, 由单个核函数构成的核机器并不能满足诸如数据异构或不规则、样本规模巨大、样本不平坦分布等实际的应用需求, 因此将多个核函数进行组合, 以获得更好的结果是一种必然选择. 本文根据多核的构成, 从合成核、多尺度核、无限核三个角度, 系统综述了多核方法的构造理论, 分析了多核学习典型方法的特点及不足, 总结了各自的应用领域, 并凝炼了其进一步的研究方向.  

基于LS-SVM的非线性预测控制技术

探讨了利用最小二乘支持向量机(LS—SVM)进行非线性系统辨识的方法，LS—SVM用等式约束代替传统支持向量机中不等式约束，求解过程从解QP问题变成解一组等式方程，将得到的LS—SVM模型应用到非线性预测控制，提出了基于LS—SVM模型的非线性预测控制算法，通过CSTR过程仿真表明，最小二乘支持向量机学习速度快，在小样本情况下具有良好的非线性建模和泛化能力，基于LS—SVM的预测控制算法具有很好的控制性能。  

一种新的基于二叉树的SVM多类分类方法

介绍了几种常用的支持向量机多类分类方法，分析其存在的问题及缺点。提出了一种基于二叉树的支持向量机多类分类方法（BT SVM），并将基于核的自组织映射引入进行聚类。结果表明，采用该方法进行多类分类比1 v r SVMs和1 v 1 SVMs具有更高的分类精度。