回声状态网络LM算法及混沌时间序列预测

回声状态网络（ESN）学习算法中可能存在解的奇异问题,在时间序列预测时易导致病态解问题,且伴随着具有较大幅值的输出权值,尤其是当训练样本个数小于输出权值维数时,ESN的解必为奇异的.鉴于此,考虑使用LM（Levenberg Marquardt）算法代替常用的线性回归方法,自适应选择LM参数,从而有效地控制输出权值的幅值,提高ESN的预测性能.通过Lorenz混沌时间序列进行预测研究,对大连月平均气温实际数据进行仿真研究,取得了较好的预测效果.     

一种错误率可控的混沌时间序列区间预测算法

针对高风险背景下的混沌时间序列区间预测问题,首次将回声状态网络与一致性预测框架相结合,提出基于两者的混沌时间序列区间预测算法.该算法将回声状态网络的拟合能力与一致性预测区间的可靠性相结合,使得最终的预测区间包含被预测值的频率或概率可以被显著性水平参数所控制,即预测区间具有极高的可信度.同时,由于使用岭回归学习回声状态网络的输出权重,使得算法在学习阶段对样本的留一交叉估计可以被快速地计算,极大地缩短了一致性预测的学习时间.理论分析表明,所提出算法的时间复杂度等价于原始回声状态网络算法的时间复杂度,即算法具有较快的计算速度.实验表明,所提出算法能够较精确地控制预测的错误率,对噪声具有鲁棒性,且预测区间比基于高斯过程的预测区间更加准确地刻画了被预测值的波动范围.     

多元混沌时间序列的因子回声状态网络预测模型

针对采用回声状态网络预测多元混沌时间序列时存在的病态解问题, 本文建立了因子回声状态网络模型, 通过因子分析(Factor analysis, FA)方法提取高维储备池状态矩阵的公因子, 去除冗余和噪声成分. 利用降维后的因子变量与期望输出之间的线性回归关系, 求解网络未知参数. 基于Lorenz序列和大连月平均气温--降雨量的仿真实验验证了本文所提模型的有效性.     

混沌时间序列的Anfis-量子网络预测

针对混沌时间序列的解析方程的不确定性,本文提出了Anfis-量子组合预测网络。此网络不依赖混沌时间序列的确定性方程和初始条件,根据给定的训练数据,先采用Anfis网络对训练数据进行处理,再与量子神经网络组合预测,从而提高预测能力和精度。最后以Mackey-Glass混沌时间序列进行实验,结果表明Anfis-量子网络具有良好的局部泛化能力,其预测精度明显高于BP神经网络和量子神经网络。     

嵌入局部模型的SOM网络对混沌时间序列预测研究

针对混沌时间序列特征空间多变性的特点，在SOM自组织神经网络中嵌入局部线性回归模型，用于混沌时间序列的预测，该方法融合了局部线性预测的优点以及SOM网络数据快速聚类能力，可视化特征识别性质和拓扑保留映射特点，既可减少运算时间和存储空间，又能适应混沌时间序列的多变特征，取得了较高的预测精度。     

基于层次化可塑性回声状态网络的混沌时间序列预测

为了提高回声状态网络对于混沌时间序列特征提取与预测的能力,提出一种层次化可塑性回声状态网络模型.该模型将多个储备池顺序连接,通过逐层特征变换的方式增强对非线性多尺度动态特征的提取能力.同时,引入神经科学中的内在可塑性机制模拟真实生物神经元的放电率分布,以最大化神经元的信息传递为目标对储备池进行预训练.层次化可塑性回声状态网络不仅能够增加模型的容量,降低随机投影所带来的不稳定性,而且也为理解储备池的表示、处理、记忆及储存操作提供一种新的思路.仿真实验结果表明,相比于其他7种改进的回声状态网络模型,所提出的模型在人造数据和真实数据所构成的混沌时间序列预测任务中均能取得最优的预测精度.     

混沌时间序列的组合网络预测研究

针对混沌时间序列的解析方程的不确定性,提出了自适应模糊递归网络组合预测网络.网络不依赖混沌时间序列的确定性方程和初始条件,根据给定的训练数据,先采用Anfis网络对训练数据进行处理,然后与Elman网络组合预测,从而提高了预测能力和精度.通过对Mackey2Glass混沌时间序列仿真实验,表明了Anfis-Elman网络增强了局部泛化能力,其预测精度明显高于BP网络和Elamn等网络.     

基于小波神经网络的混沌时间序列预测

本文提出了一种用小波神经网络进行混沌时间序列预测的方法,并介绍了小波神经网络的基本构造和学习算法。在此基础上,通过由Logistic方程产生的混沌时间序列对该网络进行模拟实验,证明了该神经网络具有较好的预测效果。     

基于贝叶斯网络的混沌时间序列预测

混沌时间序列预测是混沌理论的一个重要方向和研究热点,在气象、水力、经济和通信等各个领域有着广泛的应用。然而,由于混沌时间序列高度复杂的非线性特征,很难从理论上定量研究。利用贝叶斯网络（BNs）在处理不确定知识方面的优势,并结合相空间重构理论,建立了混沌时间序列非线性全局预测模型,实现对其动力学特性分析,从而达到预测目的。实验结果表明：模型具有良好的稳定性和预测能力,并能够有效地克服过拟合现象。     

基于RBF神经网络的混沌时间序列预测

本文提出将径向基函数(RBF)神经网络应用于混沌时间序列的预测,设计了一个三层RBF网络结构.对于三个典型的混沌系统,在不同的噪声水平下,采用RBF网络模型分别进行了预测研究.仿真结果表明,采用RBF网络进行混沌时间序列的预测能够取得比现有其它方法更好的效果.     

A chaotic time series prediction model for speech signal encoding based on genetic programming

In this paper, a novel solving method for speech signal chaotic time series prediction model was proposed. A phase space was reconstructed based on speech signal's chaotic characteristics and the genetic programming (GP) algorithm was introduced for solving the speech chaotic time series prediction models on the phase space with the embedding dimension m and time delay τ. And then, the speech signal's chaotic time series models were built. By standardized processing of these models and optimizing parameters, a speech signal's coding model of chaotic time series with certain generalization ability was obtained. At last, the experimental results showed that the proposed method can get the speech signal chaotic time series prediction models much more effectively, and had a better coding accuracy than linear predictive coding (LPC) algorithms and neural network model.     

多元混沌时间序列的加权极端学习机预测

针对多元混沌时间序列具有强非线性, 难以建立数学模型进行准确预测的问题, 本文提出一种加权极端学习机预测算法. 首先对多元混沌时间序列进行相空间重构, 并根据相空间中输入数据对预测误差的影响施加不同的权重. 然后, 提出一种支持向量极端学习机预测模型, 具有支持向量机的核映射表达能力以及极端学习机的一步快速训练能力, 因此训练简便且具有较好的泛化性能. 所提算法具有和训练样本三次方成正比的计算复杂度, 因此适用于10^2～10^3样本规模的平稳时间序列. 基于Lorenz混沌时间序列和年太阳黑子和黄河年径流混沌时间序列预测的仿真结果证明所提算法的有效性.     

Optimizing wavelet neural networks using modified cuckoo search for multi-step ahead chaotic time series prediction

Determining the optimal number of hidden nodes and their proper initial locations are essentially crucial before the wavelet neural networks (WNNs) start their learning process. In this paper, a novel strategy known as the modified cuckoo search algorithm (MCSA), is proposed for WNNs initialization in order to improve its generalization performance. The MCSA begins with an initial population of cuckoo eggs, which represent the translation vectors of the wavelet hidden nodes, and subsequently refines their locations by imitating the breeding mechanism of cuckoos. The resulting solutions from the MCSA are then used as the initial translation vectors for the WNNs. The feasibility of the proposed method is evaluated by forecasting a benchmark chaotic time series, and its superior prediction accuracy compared with that of conventional WNNs demonstrates its potential benefit.     

混沌时间序列预测模型的比较研究

针对目前混沌时间序列预测模型预测结果差异较大的问题,归纳了4种混沌时间序列预测模型：BRF神经网络模型、最大Lyapunov指数模型、局域线性模型和Volterra滤波器自适应预测模型,并对这4种预测模型进行了比较研究。应用4种预测模型对几个典型的非线性系统进行预测仿真。结果表明,这4种预测模型对典型混沌时间序列预测都具有很好的预测效果;在预测精度上BRF模型和Volterra模型明显优于最大Lyapunov指数模型和局域线性模型。     

A modified quantized kernel least mean square algorithm for prediction of chaotic time series

A modified quantized kernel least mean square (M-QKLMS) algorithm is proposed in this paper, which is an improvement of quantized kernel least mean square (QKLMS) and the gradient descent method is used to update the coefficient of filter. Unlike the QKLMS method which only considers the prediction error, the M-QKLMS method uses both the new training data and the prediction error for coefficient adjustment of the closest center in the dictionary. Therefore, the proposed method completely utilizes the knowledge hidden in the new training data, and achieves a better accuracy. In addition, the energy conservation relation and a sufficient condition for mean-square convergence of the proposed method are obtained. Simulations on prediction of chaotic time series show that the M-QKLMS method outperforms the QKLMS method in terms of steady-state mean square errors.     

混沌时间序列预测模型参数同步优化

传统上相空间重构与预测模型参数优化分开优化,割裂两者的联系,模型预测性能难以达到最优。利用相空间重构和预测模型参数的互相关系,提出一种混沌时间序列预测模型参数同步优化方法。首先采用均匀设计方法对影响模型预测精度的参数进行均匀设计,然后采用自调用最小二乘支持向量机进行参数同步优化,得到最优参数。以经典混沌时间序列太阳黑子年平均数为例进行了验证,结果表明,相对传统的参数优化算法,参数同步优化算法时间复杂度低、预测精度高,为混沌时间序列预测模型参数优化提供了一种新的思路。     

混沌时间序列的混合粒子群优化预测

提出一种混合粒子群优化算法,即在改进粒子群优化算法全局搜索模型参数的基础上,利用梯度下降法进一步确定径向基神经网络模型参数,以提高网络的收敛精度和网络性能.采用基于RBFNN的混合粒子群优化算法进行离散Henon和连续Mackey-Glass混沌时间序列预测仿真,结果表明该算法能快速精确地预测混沌时间序列,是研究复杂非线性动力系统辨识和控制的一种有效方法.     

时间序列一步预测方法*

为了改善时间序列预测的性能,提出一种时间序列一步预测分析方法。首先将一个时间序列分解为总体趋势和个体波动两个序列,然后分别对这两个序列进行预测分析,再将结果合成得到最终的预测结果。对于总体趋势序列利用加权滤波算法进行分析,而对于个体波动序列则先进行混沌特性分析,再结合混沌预测分析方法对其进行预测。利用混沌优化方法动态地调节预测网络的参数,逐渐提高网络的预测精度。利用该方法分别对混沌序列、实际股票价格等序列进行了仿真预测分析,仿真结果表明,该方法具有良好的预测效果。     

混沌时间序列改进的加权一阶局域预测法

加权一阶局域预测法是目前最常用的一种混沌时间序列预测方法。基于延迟坐标相空间重构理论,提出了混沌时间序列改进的加权一阶局域预测法。仿真结果表明该方法的多步预测性能与一步预测性能明显好于加权一阶局域预测法的多步预测性能与一步预测性能。