非稀疏多核组合的支持向量回归方法

为了改善支持向量回归机的性能,本文提出了一种利用多核学习解决回归问题的算法(NS-MKR),算法对基本核函数的组合系数施加了Lp范数的约束(p>1),以得到组合系数的非稀疏解,并采用了两步优化方法,首先求解基于加权组合核的标准支持向量回归问题,用于学习拉格朗日乘子,然后采用简单的计算,求得基本核函数的组合系数,这两个步骤交替进行,直到满足事先定义的收敛准则。在人工数据集和真实数据集上的实验表明,相对于传统的单核和稀疏多核支持向量回归方法,本文提出的算法有更好的泛化性能。     

基于双重正则化支持向量机的肿瘤基因选择

针对标准L2范数支持向量机和L1范数支持向量机在肿瘤基因分类分析中表现出的优缺点,在利用Bhattacharyya距离剔除部分对分类无关紧要特征基因,从而得到少数高相关至关重要特征基因的基础上,将一种双重正则化支持向量机应用到DNA微阵列分类中。用一种二次多项式损失函数把这种有约束的优化问题改变为无约束且可微的优化问题,这可以用BFGS算法来求解,通过对两种肿瘤特征基因数据集实验分析知,该算法对肿瘤特征基因分类具有较强的可行性和有效性。     

再生核支持向量机在非线性系统中的应用

为了提高非线性系统辨识的精度,提出用Walsh函数作为空间V0的尺度函数,构造出L2(R)空间的正交规范序列。结合小波多分辨分析,将Hilbert空间分为一系列子空间,并由可分Hilbert空间与L2(R)的等价性,利用内积同构的线性算子,可以把V0子空间的尺度函数折算为Hilbert空间的子空间V0的尺度函数,构造出新的Walsh序列再生核。通过仿真实验,与传统的RBF核函数、高斯核函数等比较,该尺度再生核函数具有更高的辨识精度,较少支持向量数目,充分体现了支持向量机较好的推广性能。     

双核函数最小二乘支持向量机汽油干点软测量建模

针对单核函数最小二乘支持向量机容易陷入局部最优值,提出双核函数最小二乘支持向量机软测量建模算法。该方法利用Sigmoid核函数与RBF核函数线性加权构成双核函数,去除部分较小支持向量样本的方法,改善最小二乘支持向量机的稀疏特性,提高模型运算速度,用k-交叉验证法进行部分参数的优化,最后将此方法用于建立汽油干点软测量模型,并与标准支持向量机、单核最小二乘支持向量机比较,结果表明双核函数最小二乘支持向量机软测量模型具有更高的计算精度和更好的推广能力。     

稀疏最小二乘支持向量机

针对大规模数据集的回归和分类问题，改进了最小二乘支持向量机.以再生核希尔伯特空间中的线性分析为基础，把样本集映射到再生空间中，然后张成再生空间的一个线性子空间，并求出这个子空间的基.利用基线性表示子空间中的其他元素，减小了求解矩阵的维数，通过求解规模相对较小的线性方程组完成对支持向量机的训练.采用该方法对较大规模的数据样本进行了回归和分类仿真试验，并与普通的最小二乘支持向量机进行比较.结果表明，采用该方法解决复杂非线性函数的回归和分类问题，不但可以得到稀疏解，而且计算速度比普通最小二乘支持向量机提高了约20％.     

基于K型核函数的支持向量机

提出了一个可行的支持向量核函数——K型核函数,由此得到了K型支持向量机.证明了K型核函数满足Mercer条件且是转移不变支持向量核函数,分析了K型核函数具有较小的计算量和计算时间代价,并且相应的K型支持向量机具有较高的精确性和较好的泛化能力,利用K型核函数得到了一种新型的K型支持向量机.最后给出了几个计算机模拟的实例,包括支持向量回归和支持向量分类,来说明K型支持向量机的优势.     

再生核支持向量机在刀具故障诊断中的应用

提出了一种构造再生核的新方法:用Walsh函数作为空间V0的尺度函数,构造出L2(R)空间的正交规范序列。首先,结合小波多分辨分析,将Hilbert空间分为一系列子空间,并根据可分Hilbert空间与L2(R)的等价性,利用内积同构的线性算子,把V0子空间的尺度函数折算为Hilbert空间的子空间V~0的尺度函数,构造出新的Walsh序列再生核;然后,运用小波包频带能量分解技术提取不同频带内刀具在不同工作状态下的特征向量。通过仿真实验表明,该尺度再生核函数具有更高的辨识精度,较少支持向量数目,充分体现了支持向量机较好的推广性能。     

基于小波包移频算法的遥感图像融合技术

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

基于CCA对LSSVM分类器的稀疏化

为了对分类最小二乘支持向量机实施有效的稀疏化，以提高分类速率，采用分类相关分析算法，按序提取样本核矩阵的全部分类相关成分，并依据样本核矩阵各列与分类相关成分的相关性，对训练集所有个体按分类的重要性排序，进而可选取最重要的部分个体作为支持向量，并将其余非支持向量的信息转移至支持向量，以提高支持向量的分类表达能力.由此构建一种新的稀疏型最小二乘支持向量机CS LSSVM，并将其应用于多个模式分类的实际问题.测试结果表明，CS LSSVM稀疏性很强，且保持了标准LSSVM的分类性能，还可直接适用于多类问题.     

基于核空间的全局正交鉴别矢量集方法

提出了一种基于核的全局正交鉴别矢量集方法。首先应用支持向量机中核函数的概念,将样本隐式地映射到特征空间,然后构造特征空间的正交空间,再将特征空间样本映射到特征空间的正交空间,求解基于Fisher的全局正交鉴别矢量集。在ORL人脸图像库上的实验结果表明,与现有的基于核的广义鉴别矢量集算法(GDA)和改进的基于核的广义鉴别矢量集算法(MGDA),以及基于核的直接鉴别矢量集算法(KDDA)相比,本文算法有更高的识别率及鲁棒性。     

一种改进的双支持向量机

双支持向量机是近年提出的一种新的支持向量机。在处理模式分类问题时,双支持向量机速度远远超过传统支持向量机,而且显示出较好的推广能力。但双支持向量机没有考虑不同输入样本点可能会对分类超平面的形成产生不同影响,在某些实际问题中具有局限性。为了克服这个缺点,提出了一种基于模糊隶属度的双支持向量机。该算法设计了一种基于距离的模糊隶属度函数,给不同的训练样本赋予不同的模糊隶属度,构建两个最优非平行超平面,最终实现二值分类。实验结果表明,这种改进双支持向量机的分类性能优于传统的双支持向量机。     

基于小波核支持向量机的蛋白质二级结构预测

提出一种基于小波核支持向量机分类模型,将其用于SARS蛋白质二级结构预测.实验表明,该模型与其他同类方法相比,提高蛋白质二级结构预测的准确度达到1%～2%.     

一种基于支持向量机的非线性系统辨识方法

提出一种新的非线性系统辨识方法,基于支持向量机回归算法,选取高斯核函数构造了从输入空间到高维特征空间的非线性映射,以避免繁琐的运算,实现对非线性系统的辨识。仿真结果表明了SVM具有很好的拟合和泛化能力,同基于神经网络的非线性系统辨识相比,其辨识和泛化性能要优于神经网络。支持向量机的使用为工业过程的系统辨识提供了一条新的途径。     

基于最小二乘支持向量机的时用水量预测模型

针对神经网络存在结构较难确定,训练易陷入局部最优以及容易过学习等问题,提出将最小二乘支持向量机用于预测时用水量.最小二乘支持向量机(LSSVM)基于结构风险最小化,能够较好地协调经验风险最小化和学习机器VC维之间的关系,并且LSSVM在支持向量机(SVM)的基础上,通过将价值函数改为最小二乘价值函数以及用等式约束代替不等式约束,将求解的二次规划问题转变为一组等式方程,采用径向基核函数,得到LSSVM模型的待定参数比标准支持向量机少,仅为2个.根据时用水序列具有周期性和趋势性的特点,建立了基于最小二乘支持向量机的时用水量模型.实例分析表明,与基于BP网络的时用水量模型相比,基于最小二乘支持向量机的时用水量模型具有更强的预测能力.     

最小二乘支持向量机分类问题的算法实现

介绍了支持向量机理论、常用的支持向量机内积核函数以及最小二乘支持向量机算法.采用最小二乘法实现了支持向量机分类算法.数字仿真结果表明,该算法的识别正确率可达100%.     

一类新样条光滑支持向量机

对光滑函数的逼近性能进行研究。为了更好地逼近支持向量机模型中的加号函数,提出两个新的三阶样条光滑函数。用新的光滑函数替代支持向量机模型中的加号函数,得到一种新的光滑支持向量机模型。由于新模型具有二阶光滑性,可用Newton—Armijo算法快速求解,数据实验表明新模型具有比较优越的分类性能。     

Mandarin Digits Speech Recognition Using Support Vector Machines

A method of applying support vector machine (SVM) in speech recognition was proposed, and a speech recognition system for mandarin digits was built up by SVMs. In the system, vectors were linearly extracted from speech feature sequence to make up time-aligned input patterns for SVM, and the decisions of several 2-class SVM classifiers were employed for constructing an N-class classifier. Four kinds of SVM kernel functions were compared in the experiments of speaker-independent speech recognition of mandarin digits. And the kernel of radial basis function has the highest accurate rate of 99.33 %, which is better than that of the baseline system based on hidden Markov models (HMM) (97.08%). And the experiments also show that SVM can outperform HMM especially when the samples for learning were very limited.     

政策干预对投资者间博弈的影响

研究政策干预对机构投资者博弈策略和均衡结果的影响。研究结果表明,政府的政策干预有利于机构投资者的市场操纵行为。增加机构投资者数量,减少信息不对称程度,可以减少股价操纵事件的发生。     

支持向量机在短期用水量预测中的应用

针对基于经验风险最小化的神经网络存在模型结构较难确定和过学习的问题,根据时用水序列具有周期性和趋势性的特点,建立了基于支持向量机的时用水量预测模型.支持向量机采用结构风险最小化准则,在最小化学习误差的同时缩小模型泛化误差的上界,因此具有较强的泛化能力.此外,支持向量机通过将机器学习问题转化为二次规划问题,可获得全局最优解.实例分析结果表明,与基于BP网络的预测模型相比,基于支持向量机的时用水量预测模型建模速度更快,预测精度更高.     

基于多层感知器的深度核映射支持向量机

为改善支持向量机的性能,从深度学习的角度研究核学习的方法,提出了基于多层感知器的深度核映射支持向量机模型( deep kernel mapping support vector machine,DKMSVM)以及相应的学习算法。该模型首先通过多层感知器学习一个从原始输入空间到合适维度空间的核映射代替传统意义上的核函数,然后直接在合适维度空间使用支持向量机进行分类,而不是采用核技巧进行求解。实验结果验证了DKMSVM的有效性。