基于RBF神经网络的时间序列预测

前馈神经网络在时间序列预测中的应用已得到充分地认可,一些模型已经提出,例如多层感知器(MLP),误差反向传播(BP)和径向基函数(RBF)网络等等。相对于其他前馈神经网络,RBF网络学习速度快,函数逼近能力强,因而在时间序列预测方面具有很好的应用前景。     

基于支持向量机函数逼近的性能研究

通过仿真分析比较支持向量机与前馈神经网络在非线性函数逼近的结果,得出在小样本下,SVM的样本依赖程度、抗噪声能力和泛化性能都优于前馈神经网络。     

基于深度学习的乳腺癌预测

随着人民生活水平的不断进步与对美好生活的向往,人们对于个人的健康越来越重视.乳腺癌是对女性健康威胁最大的恶性肿瘤之一,对乳腺癌进行快速、精准诊断并提供个性化治疗方案已成为目前社会的迫切需求.论文使用深度学习TensorFlow框架构建前馈神经网络,根据从乳房块细针抽吸(FNA)数字化图像数据描述的细胞核特征中,分析不同维度的病理特点,预测乳腺癌是良性还是恶性.为医疗行业提供一种高效乳腺癌预测手段,具有一定的实际意义.     

极限学习机在岩性识别中的应用

基于传统支持向量机(SVM)训练速度慢、参数选择难等问题,提出了基于极限学习机(ELM)的岩性识别.该算法是一种新的单隐层前馈神经网络(SLFNs)学习算法,不但可以简化参数选择过程,而且可以提高网络的训练速度.在确定了最优参数的基础上,建立了ELM的岩性分类模型,并且将ELM的分类结果与SVM进行对比.实验结果表明,ELM以较少的神经元个数获得与SVM相当的分类正确率,并且ELM参数选择比SVM简便,有效降低了训练速度,表明了ELM应用于岩性识别的可行性和算法的有效性.     

基于相关向量机的煤自燃预测方法

在煤自燃程度预测方面,基于径向基(RBF)神经网络的方法结构复杂、易陷入局部最优,基于支持向量机(SVM)方法的核函数受Mercer条件限制而对参数敏感,传统的机器学习方法误差较大。针对上述问题,提出了一种基于相关向量机(RVM)的煤自燃预测方法。以易发生煤自燃现象的亭南煤矿为例,模拟煤样自燃升温过程并采集气体浓度与煤自燃温度数据,建立训练样本和测试样本;由训练样本构建RVM模型,得到模型的最优参数;将测试样本代入已训练的RVM模型中,预测煤自燃温度值。与基于RBF神经网络和SVM的煤自燃预测方法进行比较,结果表明,基于RBF神经网络和SVM的煤自燃预测方法训练误差较小,但测试误差较大,说明这2种方法存在过拟合现象,泛化能力差;基于RVM的煤自燃预测方法的训练误差与测试误差比较接近且预测精度最高。     

基于小波神经网络的电力系统短期负荷预测模型研究

实现了BP神经网络电力负荷预测模型和小波神经网络电力负荷预测模型.通过对两种神经网络的算法进行理论分析以及两种模型的预测结果比较发现,小波神经网络在神经网络节点数目相同的情况下,小波神经网络比BP神经网络具有更高的预测精度.小波神经网络是一种建立在小波理论基础上的一种新型前馈神经网络,具有许多优良特性.文中所指的小波神经网络的优点,例如所需网络节点少和预测精度高,已经在电力负荷预测中得到验证.表明小波神经网络模型预测精度高,自适应性好,收敛速度也明显快.     

基于Boruta-PSO-SVM的股票收益率研究

针对股票收益率的分类预测研究中支持向量机(SVM)存在的参数选择困难以及分类性能较差的问题,提出了一种基于特征选择(Boruta算法)和粒子群优化(PSO)算法SVM的新算法.通过Boruta算法对训练集进行特征选择,剔除无价值的特征以降低输入维度,同时引入PSO算法优化SVM核函数参数,从而提高SVM的分类性能.实验结果表明:相比决策树、神经网络及极限学习机算法,新算法取得了更高的分类精度,可以有效提高股票收益率的分类预测性能.     

基于聚类和支持向量机的话务量预测模型

针对利用单因素时问序列模型进行话务量预测的不足,建立基于模糊C均值(FCM)聚类和支持向量机(SVM)的多元回归话务量预测模型.模型使用FCM算法对话务量的原始样本集聚类,选择与待预测样本特征最相似的样本子集作为训练集.使用SVM训练样本,通过决策回归函数预测话务量.实际话务量数据验证表明,该方法较周期时间序列和神经网络预测方法具有更高的预测精度和泛化能力.     

支持向量机在时间序列预测中的应用

介绍了时间序列预测的研究现状以及支持向量机(SVM)回归算法的基本原理,将支持向量机回归用于某型雷达磁控管高压数据的预测,并将支持向量机预测结果与BP神经网络预测结果进行了比较.     

基于支持向量机的非线性系统辨识

本文针对未知非线性系统,提出了基于支持向量机(SVM)的系统辨识方法,并且通过仿真分析比较了基于SVM与基于RBF神经网络系统辨识及预测结果,仿真结果表明SVM方法比RBF神经网络方法具有更高的预测精度和更好的泛化能力。     

基于Logistic回归、ANN、SVM的乳腺癌复发影响因素研究

为找出乳腺癌复发的影响因素,并比较人工神经网络（ANN）型、支持向量机型（SVM）和logistic回归型在乳腺癌复发中的预测效能.本文结合南斯拉夫卢布尔雅那大学医疗中心乳腺癌肿瘤研究所的277例数据,对乳腺癌复发的影响因素进行研究.分别采用了logistic回归、人工神经网络和支持向量机方法来建立乳腺癌复发的预测模型,并对这三种分析方法进行了理论方法和预测效能的比较.结果发现,肿瘤大小、有无结节冒、肿瘤恶性程度（P<0.05）是乳腺癌术后复发的主要影响因素,而在不同的预测方法中相对于logistic回归模型,支持向量机和人工神经网络具有更好的预测效能,其中支持向量机的预测效能最好.     

基于深度学习与特征融合的恶意网页识别方法研究

互联网环境的高度开放性和无序性导致了网络安全问题的普遍性和不可预知性, 网络安全问题已成为当前国际社会关注的热点问题。基于机器学习的恶意网页识别方法虽然卓有成就, 但随着对恶意网页识别需求的不断提高, 在识别效率上仍然表现出较大的局限性。本文提出一种基于深度学习与特征融合的识别方法, 将图卷积神经网络(Generalized connection network,GCN)与一维卷积神经网络(Convolution neural network, CNN)、支持向量机(Support vector machine, SVM)相结合。首先, 考虑到传统神经网络只适用于处理结构化数据以及无法很好的捕获单词间非连续和长距离依赖关系, 从而影响网页识别准确率的缺点,通过 GCN 丰富的关系结构有效捕获并保持网页文本的全局信息; 其次, CNN 可以弥补 GCN 在局部特征信息提取方面的不足,通过一维 CNN 对网页 URL(Uniform resource locator, URL)进行局部信息提取, 并进一步将捕获到的 URL 局部特征与网页文本全局特征进行融合, 从而选择出兼顾 CNN 模型和 GCN 模型特点的更具代表性的网页特征; 最终, 将融合后的特征输入到 SVM分类器中进行网页判别。本文首次将 GCN 应用于恶意网页识别领域, 通过组合模型有效兼顾了深度学习与机器学习的优点, 将深度学习网络模型作为特征提取器, 而将机器学习分类算法作为分类器, 通过实验证明, 测试准确率达到 92.5%, 高于已有的浅层的机器学习检测方法以及单一的神经网络模型。本文提出的方法具有更高的稳定性, 以及在精确率、召回率、 F1 值等多项检测指标上展现出更加优越的性能。     

极限学习机在机场旅客吞吐量预测中的应用

极限学习机(ELM)是一种新型单馈层神经网络算法,在训练过程中只需要设置合适的隐藏层节点个数,随机赋值输入权值和隐藏层偏差,一次完成无需迭代.结合遗传算法在预测模型参数寻优方面的优势,找到极限学习机的最优参数取值,建立成都双流国际机场旅客吞吐量预测模型,通过对比支持向量机、BP神经网络,分析遗传-极限学习机算法在旅客吞吐量预测中的可行性和优势.仿真结果表明遗传-极限学习机算法不仅可行,并且与原始极限学习机算法相比,在预测精度和训练速度上具有比较明显的优势.     

基于Spark的分布式大数据机器学习算法

对于大数据而言,机器学习技术是不可或缺的;对于机器学习而言,大规模的数据可以提升模型的精准度。然而复杂的机器学习算法从时间和性能上都急需分布式内存计算这种关键技术。Spark分布式内存计算可以实现算法的并行操作,有利于机器学习算法处理大数据集。因此本文提出在Spark分布式内存环境下实现非线性机器学习算法,其中包括多层可变神经网络、BPPGD SVM、K-means,并在实现的基础上进行数据压缩、数据偏向抽样或者数据加载等方面的优化。为了实现充分配置资源批量运行脚本,本文也实现SparkML调度框架来调度以上优化算法。实验结果表明,优化后的3种算法平均误差降低了40%,平均时间缩短了90%。     

Multi-step Learning Rule for Recurrent Neural Models: An Application to Time Series Forecasting

Multi-step prediction is a difficult task that has attracted increasing interest in recent years. It tries to achieve predictions several steps ahead into the future starting from current information. The interest in this work is the development of nonlinear neural models for the purpose of building multi-step time series prediction schemes. In that context, the most popular neural models are based on the traditional feedforward neural networks. However, this kind of model may present some disadvantages when a long-term prediction problem is formulated because they are trained to predict only the next sampling time. In this paper, a neural model based on a partially recurrent neural network is proposed as a better alternative. For the recurrent model, a learning phase with the purpose of long-term prediction is imposed, which allows to obtain better predictions of time series in the future. In order to validate the performance of the recurrent neural model to predict the dynamic behaviour of the series in the future, three different data time series have been used as study cases. An artificial data time series, the logistic map, and two real time series, sunspots and laser data. Models based on feedforward neural networks have also been used and compared against the proposed model. The results suggest than the recurrent model can help in improving the prediction accuracy.     

基于一维卷积神经网络的网络流量分类方法

针对传统机器学习算法对于流量分类的瓶颈问题,提出基于一维卷积神经网络模型的应用程序流量分类算法。将网络流量数据集进行数据预处理,去除无关数据字段,并使数据满足卷积神经网络的输入特性。设计了一种新的一维卷积神经网络模型,从网络结构、超参数空间以及参数优化方面入手构造了最优分类模型。该模型通过卷积层自主学习数据特征,解决了传统基于机器学习的流量分类算法中特征选择问题。通过网络公开数据集进行模型测试,相比于传统的一维卷积神经网络模型,所设计的神经网络模型的分类准确率提升了16.4%,总分类时间节省了71.48%。另外在类精度、召回率以及[F1]分数方面都有较好的提升。     

A one-layer recurrent neural network for support vector machine learning.

This paper presents a one-layer recurrent neural network for support vector machine (SVM) learning in pattern classification and regression. The SVM learning problem is first converted into an equivalent formulation, and then a one-layer recurrent neural network for SVM learning is proposed. The proposed neural network is guaranteed to obtain the optimal solution of support vector classification and regression. Compared with the existing two-layer neural network for the SVM classification, the proposed neural network has a low complexity for implementation. Moreover, the proposed neural network can converge exponentially to the optimal solution of SVM learning. The rate of the exponential convergence can be made arbitrarily high by simply turning up a scaling parameter. Simulation examples based on benchmark problems are discussed to show the good performance of the proposed neural network for SVM learning.     

多阶灰色支持向量机集成预测模型研究

对灰色预测模型GM(1,1)和支持向量机SVM预测模型进行分析,提出了多阶灰色支持向量机集成预测模型Dm_GM(1,1)-SVM。通过多阶缓冲算子改进灰色预测模型的预测精度,对最终预测值的各个相关指标进行预测;同时,采用粒子群优化算法对支持向量机模型进行径向基核参数和惩罚参数寻优,得到最佳参数对(c,g),从而确定支持向量机的最佳回归模型;最后将各指标预测值作为支持向量机模型的输入,依据预测模型和预测模型的输入值求得预测结果。实验实例表明,多阶灰色支持向量机集成模型和传统的预测模型相比,在本例中预测精度更高,说明多阶灰色预测模型和支持向量机模型相结合在解决实际预测问题中具有实用价值。     

Fault diagnosis of power transformer based on support vector machine with genetic algorithm

Diagnosis of potential faults concealed inside power transformers is the key of ensuring stable electrical power supply to consumers. Support vector machine (SVM) is a new machine learning method based on the statistical learning theory, which is a powerful tool for solving the problem with small sampling, nonlinearity and high dimension. The selection of SVM parameters has an important influence on the classification accuracy of SVM. However, it is very difficult to select appropriate SVM parameters. In this study, support vector machine with genetic algorithm (SVMG) is applied to fault diagnosis of a power transformer, in which genetic algorithm (GA) is used to select appropriate free parameters of SVM. The experimental data from several electric power companies in China are used to illustrate the performance of the proposed SVMG model. The experimental results indicate that the SVMG method can achieve higher diagnostic accuracy than IEC three ratios, normal SVM classifier and artificial neural network.     

基于深度学习的航空发动机传感器故障检测

针对传统反向传播(BP)神经网络和支持向量机(SVM)存在的过拟合、维数灾难、参数选择困难等问题,提出了一种基于深度学习算法的航空发动机传感器故障检测方法.对发动机参数记录仪采集的多维数据进行预处理,建立基于深度置信网络(DBN)的故障检测模型,利用预处理后的数据对检测模型进行训练,经过DBN故障检测模型逐层特征学习实现了传感器故障检测.仿真结果表明:在无人工特征提取和人工特征提取的情况下,基于DBN故障检测的准确率均高于BP神经网络和SVM模型.