融合结构化信息与时序演化信息的多变量间歇性时间序列预测

复杂装备制造企业的售后配件需求不定时发生、需求波动大,导致需求数据呈现典型的间歇性、小样本特点.当面对间歇性程度高、突发需求较大的序列时,现有预测模型难以准确捕获其需求波动规律,无法有效预测配件需求走势.为提高多组配件的预测精度和稳定性,同时考虑序列间结构化信息和序列自身时序演化信息,提出一种新的多变量间歇性时间序列预测方法.首先,提出一种基于张量的轻型梯度提升机模型,通过张量分解,重构原始需求数据,修正序列中的异常需求值,并利用轻型梯度提升机对多组序列进行联合预测;然后,构建一种新的线性衰减修正模型,将修正因子引入线性衰减指数平滑方法,对每条序列分别预测需求量和间隔区间;最后,将2个预测模型进行加权融合,得到最终预测结果.分别在2个复杂装备制造企业的售后配件需求数据集上进行实验验证,实验结果表明,与多个时间序列预测算法相比,所提出方法能够有效预测需求波动趋势,提升预测精度和数值稳定性.     

Pattern‐Similarity‐Based Model for Time Series Prediction

This research proposes a pattern/shape‐similarity‐based clustering approach for time series prediction. This article uses single hidden Markov model (HMM) for clustering and combines it with soft computing techniques (fuzzy inference system/artificial neural network) for the prediction of time series. Instead of using distance function as an index of similarity, here shape/pattern of the sequence is used as the similarity index for clustering, which overcomes few of the shortcomings associated with distance‐based clustering approaches. Underlying hidden properties of time series are captured with the help of HMM. The prediction method used here exploits the pattern identification prowess of the HMM for cluster selection and the generalization and nonlinear modeling capabilities of soft computing methods to predict the output of the system. To see the validity of the proposed method in the real‐life scenario, it is tested on four different time series. The first is a benchmark Mackey–Glass time series, which is tested for delay parameters τ = 17 and τ = 30. The remaining time series are monthly sunspot data time series, Laser data time series and the last is Lorenz attractor time series. Simulation results show that the proposed method provide a better prediction performance in comparison with the existing methods.     

Time Series Generation by Recurrent Neural Networks

The properties of time series, generated by continuous valued feed-forward networks in which the next input vector is determined from past output values, are studied. Asymptotic solutions developed suggest that the typical stable behavior is (quasi) periodic with attractor dimension that is limited by the number of hidden units, independent of the details of the weights. The results are robust under additive noise, except for expected noise-induced effects – attractor broadening and loss of phase coherence at large times. These effects, however, are moderated by the size of the network N.     

间歇性时间序列的可预测性评估及联合预测方法

在高端制造企业的运维业务中,配件需求随机发生,且伴随有大量的零需求阶段,同时,对应的配件需求数据量小,且呈现出间歇性和块状分布的特点,导致现有时间序列预测方法难以有效预测配件需求走势。为解决该问题,提出了一种间歇性时间序列的可预测性评估及联合预测方法。首先,提出了一种新的间歇相似度指标,通过统计两条序列中“0”元素出现的频次和位置,并结合最大信息系数和平均需求间隔等度量指标,有效评估了序列的趋势信息和波动规律,并实现了对间歇性序列可预测性的量化;其次,基于该指标,构建了一个间歇相似度层次聚类方法来自适应地筛选相似性高、可预测性强的序列,剔除极度稀疏、无法预测的序列;此外,探索利用序列间的结构化信息,并构建多输出支持向量回归（M-SVR）模型,从而实现小样本下的间歇性序列联合预测;最后,分别在两个公开数据集（UCI礼品零售数据集和华为电脑配件数据集）和某大型制造企业实际配件售后数据集上进行实验。实验结果表明,相比多个典型的时间序列预测方法,所提方法可有效挖掘各类间歇性序列的可预测性,提高小样本间歇性序列的预测精度,从而为制造企业配件需求预测提供了一种新的解决方案。     

基于LSTM和时间序列分析法的短期风速预测

短期风速对输电线路影响巨大,由于短期风速的随机性和非线性特性,使得短期风速难以精确预测。提出了一种将长短时记忆网络和时间序列分析法相结合的组合预测算法来实现对短期风速的预测。首先,利用时间序列分析法对短期风速进行预测得到预测结果和预测残差,然后利用长短时记忆网络对预测残差进行预测,最后将两种方法得到的预测结果进行线性组合得到最终的预测结果序列。为验证所提出的算法的实际效果,将提出的算法与时间序列分析法、长短时记忆网络以及BP神经网络等进行对比。实验结果表明,组合算法有效提高了短期风速序列预测精度,是一种可行的分析方法。     

BP神经网络误差修正的电力物资时间序列预测

传统的ARIMA时间序列分析方法是基于线性技术来进行时序预测,而对非线性数据的处理不尽合理,效果欠佳;而影响电力物资需求的因素非常多,绝大多数的物资序列通常既包含了线性时序的部分,又包含了非线性时序的成分.本文提出在ARIMA对电力物资需求预测的基础上,融合BP神经网络进行误差修正,以全面提取物资序列中的复合特征,提高电力物资的预测精度.实验结果表明,误差修正后的电力物资预测精度有了显著提高,可以为制定物资采购计划提供重要的数据支持.     

基于关联向量机的混沌时间序列预测

混沌是一种貌似无规则的运动,指在确定的系统中,不需附加任何随机因素亦可出现类似随机的行为.在混沌的研究上,根据混沌系统提取的非线性时间序列对系统的未来进行预测,是一个十分重要的方面,混沌时间序列的非线性性给预测建模带来困难.关联向量机(RVM)是一种建立在支持向最机(SVW)之上的统计学习新方法.基于RVM埘以典型混沌时间序列为对象展开预测研究,实验表明在若干步内,RVM具有较高预测准确度,适用于混沌时间序列的多步预测.     

Attractor reliability reveals deterministic structure in neuronal spike trains

When periodic current is injected into an integrate-and-fire model neuron, the voltage as a function of time converges from different initial conditions to an attractor that produces reproducible sequences of spikes. The attractor reliability is a measure of the stability of spike trains against intrinsic noise and is quantified here as the inverse of the number of distinct spike trains obtained in response to repeated presentations of the same stimulus. High reliability characterizes neurons that can support a spike-time code, unlike neurons with discharges forming a renewal process (such as a Poisson process). These two classes of responses cannot be distinguished using measures based on the spike-time histogram, but they can be identified by the attractor dynamics of spike trains, as shown here using a new method for calculating the attractor reliability. We applied these methods to spike trains obtained from current injection into cortical neurons recorded in vitro. These spike trains did not form a renewal process and had a higher reliability compared to renewal-like processes with the same spike-time histogram.     

复混沌系统的稳态控制

混沌系统的多稳态具有复杂性和非预期性,引起了人们的极大关注,如何针对混沌系统进行稳态控制还没有有效的方法.混沌吸引子是复混沌系统典型的动态特性.本文的主要目标是选择合适的控制方法使复混沌系统在预定的位置范围获得期望的稳态吸引子.本文即针对复混沌稳态吸引子的控制问题,提出了分段函数控制器和比例正弦函数控制器,分别用于实现稳态吸引子的位置控制和形状控制,其中混沌吸引子的位置由分段函数的间隔控制,混沌吸引子的形状由系统参数或正弦函数控制.这两种控制器简单可行,易于实现.最后,通过复Lorenz混沌系统和一个物理实例Duffing振子仿真实验验证了所提出控制器的有效性.     

Failure of pseudo-periodic surrogates

A surrogate test is a method for determining the properties of time-series data. Some methods have been proposed to generate surrogate data that can be used to determine whether a pseudo-periodic time series has deterministic properties beyond pseudo-periodicity. Luo’s method is one such method. In this article, Luo’s method and the problems associated with it are discussed. In this method, surrogate datasets are produced by adding the time-shifted data to the original data. Consequently, the pseudo-periodicity of the time series is presumably preserved, but the fine structure related to the deterministic properties is destroyed. Luo’s method gives correct results for many data. However, it generates incorrect results for certain time series, for example, the time series of the Rössler chaotic attractor and phase-shifted sinusoidal waves. To overcome this problem, we propose an alternative method based on the Poincaré section.     

基于小世界回声状态网的时间序列预测

为了提高时间序列的预测精度, 提出了利用改进的小世界网络优化泄露积分型回声状态网(Leaky-integrator echo state network, Leaky ESN)的时间序列预测方法. 首先提出一个改进型小世界网络, 其加边概率是节点间距离的负指数函数. 然后, 利用加边概率直接表示Leaky ESN储备池两个神经节点的连接权值, 取值范围为[0,1], 表征了节点间的连接程度. 利用这个新型小世界网络改进Leaky ESN的储备池神经节点的连接方式, 有目的地实现了稀疏连接, 减小了Leaky ESN储备池随机稀疏连接的盲目性, 提高了储备池的适应性.最后, 利用改进的Leaky ESN预测典型的非线性时间序列, 并利用Matlab仿真软件验证了本文提出方法的有效性. 与Leaky ESN相比, 本文提出的方法具有更高的预测精度和更短的训练时间.     

Prediction of a Lorenz chaotic attractor using two-layer perceptron neural network

This paper investigates the prediction of a Lorenz chaotic attractor having relatively high values of Lypunov's exponents. The characteristic of this time series is its rich chaotic behavior. For such dynamic reconstruction problem, regularized radial basis function (RBF) neural network (NN) models have been widely employed in the literature. However, author recommends using a two-layer multi-layer perceptron (MLP) NN-based recurrent model. When none of the available linear models have been able to learn the dynamics of this attractor, it is shown that the proposed NN-based auto regressive (AR) and auto regressive moving average (ARMA) models with regularization have not only learned the true trajectory of this attractor, but also performed much better in multi-step-ahead predictions. However, equivalent linear models seem to fail miserably in learning the dynamics of the time series, despite the low values of Akaike's final prediction error (FPE) estimate. Author proposes to employ the recurrent NN-based ARMA model with regularization which clearly outperforms all other models and thus, it is possible to obtain good results for prediction and reconstruction of the dynamics of the chaotic time series with NN-based models.     

时间序列一步预测方法*

为了改善时间序列预测的性能,提出一种时间序列一步预测分析方法。首先将一个时间序列分解为总体趋势和个体波动两个序列,然后分别对这两个序列进行预测分析,再将结果合成得到最终的预测结果。对于总体趋势序列利用加权滤波算法进行分析,而对于个体波动序列则先进行混沌特性分析,再结合混沌预测分析方法对其进行预测。利用混沌优化方法动态地调节预测网络的参数,逐渐提高网络的预测精度。利用该方法分别对混沌序列、实际股票价格等序列进行了仿真预测分析,仿真结果表明,该方法具有良好的预测效果。     

基于奇异值分解技术的离心机故障诊断

在简单介绍WH-800型离心机基本结构及工作原理的基础上,介绍了基于重构吸引子轨迹矩阵的奇异值分解技术,并引入自相关函数对现有奇异值分解技术加以改进．通过对现场实测故障信号的分析,表明改进的奇异值分解技术具有很好的降噪效果,能在强噪声背景环境下准确提取设备的故障特征信号,为离心机的故障诊断提供了一种新的思路．     

基于EMD与K-means算法的时间序列聚类

有效实现时间序列聚类的重要前提是序列的维数得到约简,序列中包含的噪声能够被滤除.文中提出一种能够对时间序列进行有效预处理的方法.该方法先通过经验模态分解实现时间序列趋势的提取,再利用自底向上算法对趋势序列进行分段,最后转换成由{-1,0,1}构成的齐序列.为了证明该方法既能实现降维,也可实现数据序列中噪声的滤除,文中利用K-means算法对经过上述方法预处理后的序列进行聚类.实验结果表明,与直接对原序列进行聚类相比,对预处理后的数据序列进行聚类,空间复杂度较低、准确性较高.     

基于VMD循环随机跳跃状态网络的时间序列长期预测

由于混沌系统的演化规律复杂,直接对混沌时间序列进行长期预测通常难以达到较好的效果.针对此问题,利用变分模态分解方法将混沌时间序列转化为一系列特征子序列,利用排列熵评估选取子序列个数的合理性,保证特征子序列包含了原序列长期演化趋势.此外,提出一种改进的确定性循环跳跃状态网络作为子序列的预测模型,该网络模型中的储备池采用单向环状连接和双向随机跳跃的拓扑结构,能够避免储备池确定连接结构造成的预测精度较低和随机连接造成网络的不稳定性问题.通过所提出模型对时间序列进行长期预测,采用多种评估手段对预测结果进行分析, 表明所提出模型对于长期预测具有较大的优势.     

实时演进数据序列集的内在模式提取与行为预测

复杂系统数据序列集未来行为的预测是一个难点,利用数据挖掘实现预测是有潜力的技术途径.针对包含多元时间序列和非时间序列的实时演进数据集,整合序列分割、聚类、模式在线匹配等处理流程,提出了一种主题发现与联合决策相结合的预测方法.在整个方法构建中,将拟构造的主题发现式预测和联合决策预测融合进前期的序列分割与聚类中,采用多时间粒度、多跨度对序列进行对应分层与分割,聚合形成各层的标准模式集.再以标准模式集,依照预测策略,反向搜索具有高稳定性延展行为的复合模式作为主题模式集,从而实现基于在线模式匹配的行为预测.最后,采用分布式并行计算的架构实现整个处理算法.理论推导和实验数据分析证明,相比传统的时间序列预测方法准确度得到提高.     

基于LSTM网络的移动云计算多元负载预测模型

针对移动云主机负载变化大、难以精准预测的问题,提出一种联合特征选择下基于长短期记忆网络的AR-LSTM-ED负载预测模型,能够对云主机负载进行单步和长时间多步预测.首先采用联合特征选择的方法得到与目标预测负载序列相关的其他负载序列,并且利用适用于在线预测的无抽取的小波变换方法将目标预测特征分解成更加易于预测的子序列.最...     

基于多尺度分析和神经网络的时间序列预报

本文提出一种由小波变换和神经网络相结合,进行时间序列预报的新方法。其中,小波作为滤波部分对原始序列进行多尺度分解,产生更容易建模和预测的子序列,再把上述子序列作为神经网络的输入进行时域预报。该方法考虑原时间序列的频率特性,采用不同的神经网络进行预报。     

基于异常序列剔除的多变量时间序列结构化预测

针对传统多变量时间序列预测方法未考虑变量间依赖关系从而影响预测效果的问题,提出了一种基于异常序列剔除的多变量时间序列预测算法.该算法旨在利用多维支持向量回归机（Multi-dimensional support vector regression,M-SVR）内在的结构化输出特性,对选取到具有相似性的多个变量序列进行联合预测.首先,对已知序列进行基于模糊熵的层次聚类,实现对相似序列的初步划分;其次,求出类中所有序列的主曲线,根据序列到主曲线的距离计算各个序列的异常因子,从而进一步剔除聚类结果中的异常序列;最后,将选取到的相似变量序列作为输入,利用M-SVR进行预测.通过理论分析,证明本文算法在理论上存在信息损失上界与可靠度下界,从而说明本文算法的合理性与可行性.采用混沌时间序列数据与多个实际数据集进行对比实验,结果表明,与现有多个代表性方法相比,本文算法可有效挖掘多变量时间序列的内在结构信息,预测精度更高,数值稳定性更好.