组合核函数相关向量机的网络安全态势预测

为了提高网络安全态势的预测精度,针对单一核函数的局限性,提出一种组合核函数相关向量机的网络安全态势预测模型。首先对网络安全态势时间序列进行重新构造,得到相关向量机的学习样本,然后采用多项式和高斯核函数构建组合核函数,并采用组合核函数相关向量机对网络安全态势样本进行学习,建立网络安全态势预测模型,最后对网络安全态势预测性能进行测试。实验结果表明,相对于单一核函数相关向量机以及其它网络安全态势预测模型,组合核函数相关向量机提高了网络安全态势的预测准确性,可以满足网络安全态势预测的实际应用需求     

基于遗传优化加权相关向量机的网络热点预测模型

为了提高网络热点事件的预测精度,提出一种基于遗传优化加权相关向量机的网络热点事件预测模型(GA-WRVM)。首先对每个样本数据的噪声方差加上一个权值系数得到加权相关向量机,然后用组合核函数代替相关向量机的单一核函数,并采用遗传算法对核参数进行优化建立预测模型,最后利用网络热点数据进行仿真实验分析。结果表明,相对于神经网络和支持向量机,GA-WRVM降低了网络热点事件的预测误差,获得了更高的网络热点预测精度,具有更强的泛化能力。     

基于改进相关向量机的模拟电路故障预测

针对模拟电路实际使用过程中的可靠性问题，提出一种基于改进相关向量机的模拟电路故障预测方法。在提取被测电路的故障特征参数之后，将传统相关向量机中单个核函数改进为多个不同核函数组合形成混合核函数，提高算法的泛化性能。利用量子方法改进人工蜂群算法提升其优化效果以对各个核函数的权重因子寻优，从而提高算法的预测精度。将离散灰色模型与多核相关向量机相结合，提升算法的长期趋势预测性能。仿真结果表明，该方法的绝对误差、相对误差和测试误差均小于传统的相关向量机预测方法。     

改进RVM预测海水水质

为对海洋水质污染治理提供科学的理论基础,在统计学习理论框架下提出一种海水水质预测模型.结构上,该模型由数据降维、非线性逼近和参数优化3个功能部分构成.该模型用主成分分析对10种海水水质影响因子进行数据降维,从中提取主成分作为相关向量机的输入;利用相关向量机进行逼近,采用组合核函数替代传统的单一核构建多核映射机制,通过萤火虫算法优化组合核的权重及其模型的相关参数.实验结果表明,针对动态复杂的海洋数据,相关向量机的多核映射机制在预测精度上明显优于单一核的映射机制,进一步从统计分析角度验证了模型的有效性.     

布谷鸟优化混合核相关向量机的网络流量预测

为了提高网络流量的预测精度,提出一种布谷鸟算法优化混合核相关向量机的网络流量预测模型(CS-RVM)。首先采用多项式和高斯核函数构成混合核函数代替相关向量机的单一核函数,然后引入布谷鸟算法对混合核参数进行寻优,最后建立网络流量预测模型。仿真结果表明,CS-RVM具有良好的建模效果,可提高网络流量的预测精度。     

基于多模型变权重组合的软件可靠性仿真研究

研究提高软件可靠性预测精度问题,对软件可靠性研究已成为当前软件工程的一个研究热点,传统的单一软件可靠性模型由于使用的技术及提取的信息有限,软件可靠性预测精度不高。为提高软件可靠性预测精度,在建立多种单一软件可靠性预测模型的基础上,提出一种样本点的多模型变权重组合模型。将多种预测技术有效地聚合在一起,取长补短,在样本数据有限的情况下,不仅改善了样本内学习能力也增强了样本外的泛化能力,提高了综合预测精度。仿真验证模型无论在样本内还是样本外都较优于经过模拟退火算法优化的BP神经网络(SA-BP)及经过遗传算法优化的最小二乘支持向量机(GA-LSVM),说明变权重组合模型是一种精度更高的软件可靠性失效数据预测模型,具有较好的应用推广价值。     

一种混合核函数SVM建模方法及其应用

为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法.所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性.并利用量子粒子群算法(QPSO)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取最优化参数组合,从而提高模型的精度.采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求.     

基于CS-HRVM的网络流量预测

为了获得更加理想的网络流量预测结果,准确刻画网络流量的变化趋势,提出一种基于布谷鸟搜索算法优化组合核相关向量机的网络流量预测模型（CS-HRVM）。首先针对网络流量的混沌特性,采用相空间理论建立网络流量的多维学习样本,并采用组合核函数构建相关向量机,然后将学习样本输入到相关向量机中进行训练,并采用布谷鸟搜索算法对模型参数进行优化,从而建立网络流量预测模型,最后采用仿真实验对模型性能进行仿真对比实验。结果表明,CS-HRVM获得了比其他网络流量预模型更高的预测精度,而且可以对含噪网络流量进行准确预测。     

软件可靠性预测的相关向量机模型

相关向量机是一种解决回归问题非常有效的方法,针对软件失效时间及其之前的m个失效时间数据使用相关向量机进行学习,以建立失效时间之间内在的依赖关系,由此构建新的基于相关向量机的软件可靠性预测模型.在4个数据集上的实验结果表明,新模型在预测能力上较之广泛使用的基于支持向量机或人工神经网络的软件可靠性预测模型有明显的提高,同时也表明现时失效数据的预测能力比很久之前观测的失效数据更强,最后通过实验对合理的m值及不同数据集上核函数参数取值进行研究.     

单核和多核相关向量机的比较研究

针对相关向量机中的核函数选择问题进行研究,对高斯核函数进行改进,提出修正的高斯核函数方法,并比较改进的高斯核函数与普通高斯核函数的特性,证明提出的核函数的优良特性。在对单一核函数改进的基础上,进行多核相关向量机核函数的研究,结合局部性高斯核函数和全局性多项式核函数形成混合核函数,并运用于相关向量机。在不同大小的数据集上对几种核函数进行对比实验,验证修正的高斯核函数及混合核函数的性能。     

多稀疏回声状态网络预测模型

针对单回声状态网络难以充分描述数据信息的问题,提出多稀疏回声状态网络预测模型.通过对相关回声状态网络的组合权值及由相关样本得到的基函数的权值同时进行学习,获得优化的多个稀疏回声状态网络组合模型.所提模型不同于双稀疏相关向量机等多核学习模型,它不需要选择特定的核函数及相应的核参数.因此,该模型不但能更好的描述数据信息,避免了双稀疏相关向量机及其他多核学习中核函数及其参数不易选择的问题.同时,所提模型不需要采用交叉验证的方式确定回声状态网络的谱半径和稀疏度,只需确定相应的区间.本文通过两组标杆数据和一组实际数据仿真实验,与传统回声状态网络方法相比,验证了所提模型具有更好的预测性能.     

Modelling of diesel engine performance using advanced machine learning methods under scarce and exponential data set

Traditional methods on creating diesel engine models include the analytical methods like multi-zone models and the intelligent based models like artificial neural network (ANN) based models. However, those analytical models require excessive assumptions while those ANN models have many drawbacks such as the tendency to overfitting and the difficulties to determine the optimal network structure. In this paper, several emerging advanced machine learning techniques, including least squares support vector machine (LS-SVM), relevance vector machine (RVM), basic extreme learning machine (ELM) and kernel based ELM, are newly applied to the modelling of diesel engine performance. Experiments were carried out to collect sample data for model training and verification. Limited by the experiment conditions, only 24 sample data sets were acquired, resulting in data scarcity. Six-fold cross-validation is therefore adopted to address this issue. Some of the sample data are also found to suffer from the problem of data exponentiality, where the engine performance output grows up exponentially along the engine speed and engine torque. This seriously deteriorates the prediction accuracy. Thus, logarithmic transformation of dependent variables is utilized to pre-process the data. Besides, a hybrid of leave-one-out cross-validation and Bayesian inference is, for the first time, proposed for the selection of hyperparameters of kernel based ELM. A comparison among the advanced machine learning techniques, along with two traditional types of ANN models, namely back propagation neural network (BPNN) and radial basis function neural network (RBFNN), is conducted. The model evaluation is made based on the time complexity, space complexity, and prediction accuracy. The evaluation results show that kernel based ELM with the logarithmic transformation and hybrid inference is far better than basic ELM, LS-SVM, RVM, BPNN and RBFNN, in terms of prediction accuracy and training time.     

利用PSO-SA混合优化支持向量回归的径流预报模型研究

为了有效提高径流预报的准确度,提出一种有效的融合优化策略,采用基于粒子群和模拟退火算法相结合的混合方法同时优化支持向量回归核函数类型和内核参数,以此建立一种有效的混合优化支持向量回归径流预报模型。提出的方法为核函数选择和参数优化提供了一种有效途径。通过对广西柳州柳江径流实例分析,并与纯粹的支持向量回归模型对比,研究结果表明,该模型预测稳定,具有较高泛化性能和预测准确度,为径流预报提供了一种有效预测方法。     

利用组合核函数建立VSV系统回归预测模型

利用支持向量回归机(SVR)建立了飞机巡航阶段发动机可调静子叶片系统(VSV)的回归预测模型.在利用SVR进行建模时,核函数的选用尤为关键,核函数有局部核函数和全局核函数,利用单一核函数训练模型易出现过拟合或欠拟合问题.为解决核函数的选用难题,避免训练过程中出现模型过拟合或欠拟合问题,提出了组合核函数.通过对单一核函数的组合,组合核函数兼具全局核函数和局部核函数的优点.最后,利用粒子群算法(PSO)对模型进行参数寻优优化,结果表明:相较于单一核函数,采用组合核函数的模型训练时间更短,模型精度更高.     

Software reliability prediction model based on support vector regression with improved estimation of distribution algorithms

Software reliability prediction plays a very important role in the analysis of software quality and balance of software cost. The data during software lifecycle is used to analyze and predict software reliability. However, predicting the variability of software reliability with time is very difficult. Recently, support vector regression (SVR) has been widely applied to solve nonlinear predicting problems in many fields and has obtained good performance in many situations; however it is still difficult to optimize SVR's parameters. Previously, some optimization algorithms have been used to find better parameters of SVR, but these existing algorithms usually are not fully satisfactory. In this paper, we first improve estimation of distribution algorithms (EDA) in order to maintain the diversity of the population, and then a hybrid improved estimation of distribution algorithms (IEDA) and SVR model, called IEDA-SVR model, is proposed. IEDA is used to optimize parameters of SVR, and IEDA-SVR model is used to predict software reliability. We compare IEDA-SVR model with other software reliability models using real software failure datasets. The experimental results show that the IEDA-SVR model has better prediction performance than the other models.     

基于EEMD-RVM的陀螺漂移混合建模预测

陀螺漂移序列具有非平稳和非线性的特点,针对单一模型难以对其实现精确预测的问题,提出一种基于集合经验模态分解(EEMD)和相关向量机(RVM)的混合建模方法,实现对陀螺漂移序列的区间预测.首先,利用集合经验模态分解将漂移序列分解为多个模态和一个余量;将模态区分为噪声和趋势两个分量,对噪声分量建立分布模型,对趋势分量建立RVM模型,两者等权相加还原得混合模型;最后,给定置信度,得到置信区间预测结果.将该方法用于某振动陀螺漂移序列预测实例,结果表明:该混合预测模型能准确预测陀螺漂移,其中RVM的预测精度达到99.86%,且验证集以给定的置信度落在预测区间内,可为陀螺的寿命预测和性能分析提供依据.     

基于KPCA-LS-SVM的工业锅炉烟气含氧量预测

排烟含氧量是评价燃烧过程好坏和锅炉优化运行的重要指标,也是调节最佳风煤比的主要依据。针对工业锅炉氧量计使用受限的问题,提出一种混合的软测量方法:。为了提高烟气含氧量的软测量预测精度,本文分析与烟气含氧量有关的锅炉运行变量,从中确定8个,并采用核主成分析法进行参数处理,整合冗余,降低维数。经处理后得到的6个主成分,其累计贡献率达95.522%,以此作为最小二乘支持向量机软测量模型的输入。在此基础上,通过划分网格来改进交叉实验法,进而优化最小二乘支持向量机的2个参数。经优化得到的误差参数γ和径向基核函数参数σ~2分别为90.3和239.6,模型具有较高的训练精度。最后对某循环流化床锅炉进行建模仿真,利用采集的数据,分别建立最小二乘支持向量机、核主成分分析的最小二乘支持向量机和BP神经网络3种模型。应用3种模型对烟气含氧量进行预测,并采用3个模型性能指标进行对比分析。结果:表明,基于核主成分分析的最小二乘支持向量机的工业锅炉烟气含氧量模型,在小样本条件下学习更加有效,建模采样过程更快,预测精度更高。该模型有助于实现工业锅炉烟气含氧量在线软测量。     

A support vector machine with a hybrid kernel and minimal Vapnik-Chervonenkis dimension

We present a mechanism to train support vector machines (SVMs) with a hybrid kernel and minimal Vapnik-Chervonenkis (VC) dimension. After describing the VC dimension of sets of separating hyperplanes in a high-dimensional feature space produced by a mapping related to kernels from the input space, we proposed an optimization criterion to design SVMs by minimizing the upper bound of the VC dimension. This method realizes a structural risk minimization and utilizes a flexible kernel function such that a superior generalization over test data can be obtained. In order to obtain a flexible kernel function, we develop a hybrid kernel function and a sufficient condition to be an admissible Mercer kernel based on common Mercer kernels (polynomial, radial basis function, two-layer neural network, etc.). The nonnegative combination coefficients and parameters of the hybrid kernel are determined subject to the minimal upper bound of the VC dimension of the learning machine. The use of the hybrid kernel results in a better performance than those with a single common kernel. Experimental results are discussed to illustrate the proposed method and show that the SVM with the hybrid kernel outperforms that with a single common kernel in terms of generalization power.