PSO优化多核RVM的模拟电路故障预测

针对模拟电路健康管理的特点，提出了一种基于PSO优化多核RVM的模拟电路故障预测方法。利用参数分析得到电路的输出频域响应作为特征，计算其与电路无故障标准响应的欧氏距离来表征电路元件健康值，将多个核函数线性组合，并用PSO优化多核RVM参数后的模型实现对各个时间点元件的健康值变化轨迹进行预测。仿真结果表明，该方法在小样本情况下，预测效果优于单一核函数的RVM模型，适用于健康管理中实时预测，具有较好的实用性。     

改进的RVM在肺结节检测中的研究与应用

在模式识别问题中,相关向量机（RVM）作为一种新的机器学习方法备受关注,近年来,多核RVM方法的提出使得RVM得到更广泛的应用。多核RVM模型中核参数的取值及不同核函数组合权重系数的取值对模型分类性能至关重要,然而在实际应用中其值却多由经验值给定而非定量分析计算得到。为此,对基于粒子群算法（PSO）及基于二阶锥规划（SOCP）的多核RVM参数优化模型进行研究,构造合理的核函数组合,并给出快速求解方法。最后将该方法应用到肺结节检测中,采用公共数据集LIDC中的肺部CT图像,通过图像处理模块,提取候选结节的特征信息,利用改进的多核RVM模型对肺结节进行分类验证。实验结果表明,与基于PSO的多核RVM模型相比,基于PSO与SOCP相结合的多核RVM模型不仅提高了运算效率而且取得了更好的分类性能。     

基于FOA优化混合核LSSVM的铁路货运量预测

单一核最小二乘支持向量机(LSSVM)在铁路货运量预测中难以准确描述货运量的复杂变化特征,限制了预测精度的提高。针对该问题,提出一种基于果蝇算法(FOA)优化混合核LSSVM的预测方法。以多项式核与径向基核组合的混合核函数作为LSSVM核函数,构建铁路货运量的混合核LSSVM预测模型,同时利用FOA全局寻优能力强、计算速度快等优点优化选择混合核LSSVM参数。以我国铁路货运量为例进行方法验证。结果表明,所提方法的RMSE、MAE、MAPE和THEIL值分别为8433.0、6670.8、0.0180和0.0117,均小于其他模型,FOA算法搜索混合核LSSVM参数的时间为40.2948秒,分别比GA和PSO算法减少了2.6208秒和20.7016秒,适合于铁路货运量的短期预测。     

基于QPSO-RVM的双酚A软测量建模

相关向量机(RVM)预测模型在贝叶斯框架下用最大似然方法对模型权值进行训练,可以有效解决过学习的问题,有较高的模型泛化能力且具有较为稀疏的相关向量和核函数选择上不用满足Mercer条件等优点。RVM的基本思想是使用核方法将自变量从低维空间映射到高维空间,以获得因变量与自变量线性回归的稀疏解。核矩阵作为训练数据信息到回归模型的信息通道,其唯一参数即核函数宽度的选取直接影响RVM模型的回归性能。本文基于量子粒子群优化算法(QPSO)提出了RVM核函数参数值的优化方法,并使用该方法建立双酚A(BPA)生产过程中裂解回收单元的BPA含量软测量模型。实际应用结果表明优化后的RVM模型预测精度有明显的提高,表明了该方法的有效性。     

基于EEMD-RVM的陀螺漂移混合建模预测

陀螺漂移序列具有非平稳和非线性的特点,针对单一模型难以对其实现精确预测的问题,提出一种基于集合经验模态分解(EEMD)和相关向量机(RVM)的混合建模方法,实现对陀螺漂移序列的区间预测.首先,利用集合经验模态分解将漂移序列分解为多个模态和一个余量;将模态区分为噪声和趋势两个分量,对噪声分量建立分布模型,对趋势分量建立RVM模型,两者等权相加还原得混合模型;最后,给定置信度,得到置信区间预测结果.将该方法用于某振动陀螺漂移序列预测实例,结果表明:该混合预测模型能准确预测陀螺漂移,其中RVM的预测精度达到99.86%,且验证集以给定的置信度落在预测区间内,可为陀螺的寿命预测和性能分析提供依据.     

基于多项式核RVM的非线性模型预测控制

针对非线性、不确定性对象不易建模的特点,提出了基于多项式核关联向量机(RVM)的解析型非线性预测控制方法,该方法采用多项式核RVM进行模型辨识,得到的对象模型作为预测模型。由于RVM具有较好的非线性建模能力,弥补了SVM参数设定难和稀疏性不强等弱点;同时,多项式形式的模型表达式使二次型优化目标函数可以通过函数解析方法求得最优控制输入,即简化了滚动优化模块,增强了控制的实时性。通过对一个标准的非线性Benchmark问题进行仿真实验,结果表明该方法具有良好的控制性能。     

基于KPCA优化IHS-RVM的小时间尺度网络流量预测模型

网络流量时间序列具有高维度、非线性和时变性等特征,针对传统时间序列模型预测精度较低的问题,提出基于KPCA(Kernel Principal Component Analysis)优化IHS-RVM的小时间尺度网络流量预测模型。首先对网络流量时间序列进行相空间重构,确定嵌入维数和延迟时间。然后利用KPCA对网络流量样本进行核主成分特征提取,降低嵌入维数,并获取核主元矩阵。在此基础上,通过改进HS(Harmony Search)算法(IHS)确定RVM核参数。最后利用参数优化的RVM模型进行小时间尺度网络流量预测。为了交叉验证模型的性能,采用实际数据进行性能对比分析。结果表明,本模型性能优于KPCA-IHS-ESN、KPCA-IHS-SVM和IHS-RVM模型,取得了良好的效果。     

粒子群优化混合核极限学习机的构造煤厚度预测方法

在构造煤厚度的预测中,针对预测精度不高的问题,提出利用粒子群优化（PSO）算法优化极限学习机（ELM）的方法来对构造煤厚度进行预测。首先,利用主成分分析（PCA）对三维地震属性进行降维处理,在降低地震属性的维数的同时消除变量之间的相关性。然后,构建全局多项式核函数和局部高斯径向基核函数混合核极限学习机（HKELM）模型,并利用PSO算法优化HKELM的核参数。同时,针对PSO算法存在容易陷入局部最优的问题,在PSO算法中加入模拟退火的思想和随迭代次数减小的惯性权重,以及基于反向学习的变异操作,使PSO算法可以更容易跳出局部极小值点,得到更优结果。此外,为了增强模型的泛化能力,在核函数的基础上加入L2正则项,有效地避免了噪声和异常点对模型泛化性能的影响。最后,将预测模型应用到阳煤集团新景矿区芦南二采区中部15#煤层中,预测得到的采区构造煤厚度与实际地质资料具有较高的一致性。实验结果表明,利用改进PSO算法优化HKELM构建构造煤厚度预测模型的预测误差较小,可以推广用于实际采区的构造煤厚度预测。     

基于PSO与LS-SVM的作物需水量预测

为了提高作物需水量预测精度,提出基于粒子群优化算法(PSO)优化最小二乘支持向量机(LS-SVM)的预测模型。该模型以空气湿度、温度、太阳辐射以及风速为输入,利用多项式核函数和径向基核函数的非负线性组合构造核函数,将粒子群优化算法(PSO)与交叉验证方法用于确定模型参数。实验结果表明与神经网络和随机森林相比,PSO优化的LS-SVM可获得更好的预测精度和泛化能力,可用于节水灌溉,具有较高的应用价值。     

基于AIC的RVM核参数选择方法及其应用

在采用高斯径向基函数的相关向量机(RVM)回归模型中,核参数与模型性能之间关系复杂,针对如何确定RVM核参数的问题,提出一种基于AIC准则选择RVM的核参数的方法。首先基于Akaike Information Criterion (AIC)思想,得出一种新的统计量Q,同时将Q作为适应度函数;然后利用微分进化算法（Differential Evolution Algorithm,DE）对核参数进行寻优,以此选择确定核参数;最后利用该算法建立RVM回归模型对黄金价格进行短期预测。实验结果表明,该模型较传统方法建立的预测模型具有更高的拟合精度和更好的泛化能力,进一步证明基于AIC准则选择RVM的核参数的方法的可行性和有效性。     

基于云PSO 的RVM入侵检测

入侵检测可为计算机网络信息提供安全保障,在其方法研究中,由于相关向量机(RVM)具有高稀疏性且预测中使用概率因素,在网络入侵检测中优于支持向量机.然而RVM的核函数参数是经验估计的,为此,提出一种基于云模型的粒子群优化算法的RVM方法,即采用云粒子群算法确定RVM的核参数,构建RVM分类模型,再采用一对一分类方法进行多类检测分类.经入侵检测实验研究,所得结果表明所提出的方法优于基于常规相关向量机的检测方法,且具有更高的入侵检测精度.     

Multi-kernel optimized relevance vector machine for probabilistic prediction of concrete dam displacement

The observation data of dam displacement can reflect the dam’s actual service behavior intuitively. Therefore, the establishment of a precise data-driven model to realize accurate and reliable safety monitoring of dam deformation is necessary. This study proposes a novel probabilistic prediction approach for concrete dam displacement based on optimized relevance vector machine (ORVM). A practical optimization framework for parameters estimation using the parallel Jaya algorithm (PJA) is developed, and various simple kernel/multi-kernel functions of relevance vector machine (RVM) are tested to obtain the optimal selection. The proposed model is tested on radial displacement measurements of a concrete arch dam to mine the effect of hydrostatic, seasonal and irreversible time components on dam deformation. Four algorithms, including support vector regression (SVR), radial basis function neural network (RBF-NN), extreme learning machine (ELM) and the HST-based multiple linear regression (HST-MLR), are used for comparison with the ORVM model. The simulation results demonstrate that the proposed multi-kernel ORVM model has the best performance for predicting the displacement out of range of the used measurements dataset. Meanwhile, the ORVM model has the advantages of probabilistic output and can provide reasonable confidence interval (CI) for dam safety monitoring. This study lays the foundation for the application of RVM in the field of dam health monitoring.

     

单核和多核相关向量机的比较研究

针对相关向量机中的核函数选择问题进行研究,对高斯核函数进行改进,提出修正的高斯核函数方法,并比较改进的高斯核函数与普通高斯核函数的特性,证明提出的核函数的优良特性。在对单一核函数改进的基础上,进行多核相关向量机核函数的研究,结合局部性高斯核函数和全局性多项式核函数形成混合核函数,并运用于相关向量机。在不同大小的数据集上对几种核函数进行对比实验,验证修正的高斯核函数及混合核函数的性能。     

基于K均值聚类和粒子群优化的多核SVM图像分割

图像分割是图像理解和计算机视觉的重要内容.针对单核SVM在进行图像分割过程中不能兼顾分割精度高和泛化性能好的问题,提出一种基于K均值聚类和优化多核SVM的图像分割算法.该算法首先运用K均值聚类算法自动选取训练样本,然后提取其颜色特征和纹理特征作为训练样本的特征属性,并使用其对构造的多核SVM分割模型进行训练,最后用粒子群优化算法对多核核参数、惩罚因子以及核权重系数联合寻优,使生成的多核SVM具有更好的分割性能.实验结果表明,本文方法在有效提取图像目标细节的同时,获得了更高的分割精度,与基于单核的SVM分割模型相比,具有更强的泛化能力.     

基于PSO优化SVM的转炉炼钢用氧量预测研究

用氧量是影响钢水质量的主要因素之一,为提高转炉炼钢用氧量模型的预测精度,提出基于PSO优化SVM的吹氧量建模预测方法。针对SVM结构参数依据经验选取,致使预测模型的泛化能力差,在标准PSO算法的基础上,优化SVM的惩罚系数、不敏感损失系数和高斯核宽度系数3个结构参数,并建立转炉炼钢用氧量预测模型;在此基础上利用UCI数据库中的Auto-MPG标准数据,验证了方法的有效性;最后以某钢厂100 t转炉的实际生产数据建立吹氧量预测模型,结果表明,与标准BP、RBF及SVM相比,基于PSO优化SVM的转炉炼钢吹氧量预测模型精度高、泛化能力强。     

基于改进PSO优化SVR的交通事故预测模型

为了有效预测交通事故,提出一种基于改进粒子群算法优化支持向量回归机的预测模型。改进粒子群算法利用网格搜索对全局最优粒子的邻域进行精细搜索,结合粒子群算法较快的收敛速度和网格搜索较强局部搜索能力的优点,提高了支持向量回归机相关参数的优化精度,进而改善了交通事故预测模型的预测性能。仿真结果表明,基于改进粒子群算法优化支持向量回归机的交通事故预测模型达到了较快的学习速度和较高的预测精度,具有良好的工程应用性。      

Sparse regression mixture modeling with the multi-kernel relevance vector machine

A regression mixture model is proposed where each mixture component is a multi-kernel version of the Relevance Vector Machine (RVM). This mixture model exploits the enhanced modeling capability of RVMs, due to their embedded sparsity enforcing properties. In order to deal with the selection problem of kernel parameters, a weighted multi-kernel scheme is employed, where the weights are estimated during training. The mixture model is trained using the maximum a posteriori approach, where the Expectation Maximization (EM) algorithm is applied offering closed form update equations for the model parameters. Moreover, an incremental learning methodology is also presented that tackles the parameter initialization problem of the EM algorithm along with a BIC-based model selection methodology to estimate the proper number of mixture components. We provide comparative experimental results using various artificial and real benchmark datasets that empirically illustrate the efficiency of the proposed mixture model.