基于时频域信息融合和多尺度对抗的轨迹预测

目前已有许多工作将Transformer运用到时间序列预测相关任务. 然而, 相比其他时间序列, 运动轨迹数据存在运动学的不确定性, 没有明显的周期特性. 为了降低噪声干扰, 增强趋势建模, 本文在Transformer架构的基础上, 提出一种基于时频域信息融合和多尺度对抗训练的目标轨迹预测方法. 将小波分解嵌入网络模型, 实现时频域自适应滤波; 并与时域注意力进行融合, 能够更有效地对观测轨迹的长期趋势特性进行编码. 并设计了一个全卷积判别器, 通过对抗训练学习序列的多尺度短期微运动表示, 进一步提高预测精度. 本文建立了一个包括2维船舶轨迹和3维飞行器轨迹的轨迹预测数据集DT作为基准, 并在此与Transformer、LogTrans、Informer等模型进行对比实验. 实验结果表明本文的方法在中长期轨迹预测任务上优于其他模型.     

时间序列可变尺度的时频特征求解及其分类

对于许多实际应用来说,获取多个不同窗口尺度上的模式,有助于发现时间序列的不同规律性特征.同时,通过对时间序列时域和频域两方面的分析,有助于挖掘更多的知识.提出了一种新的基于可变尺度的时域频域辨别性特征挖掘方法以及应用于分类的算法.主要采用了不同尺度窗口、符号聚合近似技术以及符号傅里叶近似技术等,以有效地发掘时间序列不同尺度时域频域模式;与此同时,使用统计学方法挖掘部分最具辨别性的特征用于时间序列分类,有效地降低了算法时间复杂度.在多个数据集上的对比实验结果,说明了该算法具有较高的准确率;在真实数据集上的解析,表明了该算法具有更强的可解释性.同时,该算法可扩展应用到多维时间序列分类问题中.     

基于小波分解的时序预测模型mWDLNet及其应用研究

各种类型的深度神经网络模型已被应用到时序分析中,但基于频域的神经网络与时域的线性模型融合仍然缺乏有效的模型.提出一种基于多级小波分解的深度网络和差分自回归移动平均模型相融合的方法(mWDLNet),时序信号经小波分解到频域,由卷积神经网络和长短期记忆网络提取时序信号的空间和时间维度特征,同时利用差分自回归移动平均模型(...     

小波分析和时间序列法相融合的信息安全态势估计

为了提高信息安全态势的估计精度,提出一种小波分析和时间序列分析相融合的信息安全态势估计方法。首先收集信息安全变化的历史数据,然后采用小波分析对数据进行分解,再分别采用时间序列方法对分解后数据进行建模和估计,最后采用小波分析对估计结果进行重构。结果表明,该方法可以准确跟踪信息安全变化趋势,提高信息安全态势估计的精度。     

基于多模态对抗学习的无监督时间序列异常检测

时间序列异常检测旨在发现对应时序特征中不符合一般规律的特异性模式,是机器学习领域重要的研究方向之一.然而,现有的时序异常检测方法大多为单模态学习,忽略了时序信息在多模态空间上不同特征分布的关联性和互补性,不能充分利用已有信息进行有效地模式挖掘,从而造成检测效果差等问题.为此,提出了一种基于多模态对抗学习的无监督时间序列异常检测模型.首先,将原始时间序列转换至频域空间,构造多模态时间序列表示.其次,提出多模态生成对抗网络模型,针对多模态时间序列,实现正常时序信息关于时域和频域特征分布的无监督联合学习.最后,通过将异常检测问题转化为时间序列在时域和频域空间的重构度量问题,从时域空间和频域空间2个方面度量时间序列的异常值,实现更有效的异常检测.在时间序列数据集合UCR和MIT-BIH中的6个真实数据集的实验结果表明,在异常检测任务上相较于传统单模态异常检测方法,提出方法在AUC和AP这2个性能指标上最高分别提升了12.50％和21.59％,证明了方法的有效性.     

用于多元时间序列预测的自适应频域模型

近年来,学术和工业领域对时间序列数据的研究热潮不断增长,但其中蕴含的频率信息仍缺乏有效的建模.研究发现,时间序列预测依赖于不同的频率模式,为未来的趋势预测提供有用的线索:短期的序列预测更多依赖于高频分量,而长期预测则更多关注低频数据.为更好地挖掘时间序列的多频模式,提出了一个多特征自适应频域预测模型MAFD.该模型分为两个阶段:在第一阶段中,模型通过XGBoost算法对输入向量进行重要性度量,选择高重要性特征;在第二阶段,模型将时间序列的频率特征提取和目标序列的频域建模集成到一起,并根据时间序列对频率模式的依赖特点构建一个端到端的预测网络.MAFD的创新性体现在预测网络能够根据输入序列的动态演变自动关注不同的频率分量,从而揭示时间序列的多频模式,强化模型的学习能力.采用4种不同领域的数据集对模型进行了性能验证,实验结果表明,与现有经典的预测模型相比,MAFD具有更高的准确性和更小的滞后性.     

基于小波分析的时间序列数据挖掘

将小波分析和ARMA模型引入时间序列数据挖掘中。利用小波消噪对原始时间序列进行滤波,利用小波变换充分提取和分离金融时间序列的各种隐周期和非线性,把小波分解序列的特性和分解数据随尺度倍增而倍减的规律充分用于BP神经网络和自回归移动平均模型的建模。利用小波重构技术将各尺度域的预报结果组合成为时间序列的最终预报。经过试验验证了该方法的实际有效性。     

一种时间序列分解的卫星周期性参数预测方法

卫星遥测参数预测对卫星故障发现有着重要的指导作用。针对周期性参数难以预测的问题,提出了一种基于时间序列分解的卫星周期性参数的预测方法。该方法首先在频域上使用小波分析对参数序列进行降噪并提取参数的周期;然后,在时域上对参数的时间序列进行分解,进一步得到参数的趋势项和随机项,并根据各项特点分别使用灰色模型和ARMA模型进行预测;最后,重组各部分的预测值,得到最终预测结果。通过对我国某卫星遥测数据的对比实验分析,验证了该方法的正确性和有效性。     

时间序列数据趋势转折点提取算法

时间序列数据蕴含趋势信息,可以根据数据的趋势信息提取趋势转折点,达到压缩数据、减少噪声影响的目的。通过分析时间序列数据的趋势信息,提出自适应数据趋势转折点提取算法。该算法不依赖任何先验知识,根据数据本身的趋势特征自动提取趋势转折点,提取信息包括坐标索引和对应数据。UCR时间序列分类数据集与SEEP、CAP和PAA等算法进行对比的实验结果表明,在多种数据情况下,该算法拟合误差和分类错误率更小,平均拟合误差为0.373 6,分类错误率同原始数据的分类错误率相比减少3.39%。     

交通事故局部时空模式的张量分解可视分析方法

交通事故数据中蕴含细粒度的局部时空模式,但它们往往被数据全集所掩盖而难以被发现.找到合适的数据子集是发现有意义的局部时空模式的重要前提,也是最为烦琐的过程.为此,提出基于张量分解方法自动获取数据子集的交通事故局部时空模式可视分析方法.首先,对交通事故数据集进行张量建模;并运用张量分解方法自动获取一组捕获了数据集各维度上...     

基于姿态校正与姿态融合的2D/3D骨架动作识别方法

针对现有的人体骨架动作识别方法对肢体信息挖掘不足以及时间特征提取不足的问题,提出了一种基于姿态校正模块与姿态融合模块的模型PTF-SGN,实现了对骨架图关键时空信息的充分利用。首先,对骨架图数据进行预处理,挖掘肢体和关节点的位移信息并提取特征;然后,姿态校正模块通过无监督学习的方式获取姿态调整因子,并对人体姿态进行自适应调整,增强了模型在不同环境下的鲁棒性;其次,提出一种基于时间注意力机制的姿态融合模块,学习骨架图中的短时刻特征与长时刻特征并融合长短时刻特征,加强了对时间特征的表征能力;最后,将骨架图的全局时空特征输入到分类网络中得到动作识别结果。在NTU60 RGB+D、NTU120 RGB+D两个3D骨架数据集和Penn-Action、HARPET两个2D骨架数据集上的实验结果表明,该模型能够有效地识别骨架时序数据的动作。     

基于多分辨率特征和时频注意力的环境声音分类

针对环境声音分类(ESC),提出了一种基于多分辨率特征和时频注意力的卷积神经网络环境声音分类方法.首先,相较单一分辨率的谱图,多通道多分辨率特征可以丰富特征信息,实现不同特征分辨率之间信息互补,增强特征的表达能力;其次,针对声信号提出了一种时频注意力模块,该模块先利用不同大小的一维卷积分别关注时域和频域有效信息,再用二维卷积将两者进行融合,从而抑制环境声中背景噪声并消除由多通道多分辨率带来的冗余信息干扰.实验结果表明,在ESC-10和ESC-50两个基准数据集上的分类准确率达到了98.50％和88.46％,与现有的最新方法相比分别提高了2.70％和0.76％.     

Combining discrete SVM and fixed cardinality warping distances for multivariate time series classification

Time series classification is a supervised learning problem aimed at labeling temporally structured multivariate sequences of variable length. The most common approach reduces time series classification to a static problem by suitably transforming the set of multivariate input sequences into a rectangular table composed by a fixed number of columns. Then, one of the alternative efficient methods for classification is applied for predicting the class of new temporal sequences. In this paper, we propose a new classification method, based on a temporal extension of discrete support vector machines, that benefits from the notions of warping distance and softened variable margin. Furthermore, in order to transform a temporal dataset into a rectangular shape, we also develop a new method based on fixed cardinality warping distances. Computational tests performed on both benchmark and real marketing temporal datasets indicate the effectiveness of the proposed method in comparison to other techniques.     

Time series representation and similarity based on local autopatterns

Time series data mining has received much greater interest along with the increase in temporal data sets from different domains such as medicine, finance, multimedia, etc. Representations are important to reduce dimensionality and generate useful similarity measures. High-level representations such as Fourier transforms, wavelets, piecewise polynomial models, etc., were considered previously. Recently, autoregressive kernels were introduced to reflect the similarity of the time series. We introduce a novel approach to model the dependency structure in time series that generalizes the concept of autoregression to local autopatterns. Our approach generates a pattern-based representation along with a similarity measure called learned pattern similarity (LPS). A tree-based ensemble-learning strategy that is fast and insensitive to parameter settings is the basis for the approach. Then, a robust similarity measure based on the learned patterns is presented. This unsupervised approach to represent and measure the similarity between time series generally applies to a number of data mining tasks (e.g., clustering, anomaly detection, classification). Furthermore, an embedded learning of the representation avoids pre-defined features and an extraction step which is common in some feature-based approaches. The method generalizes in a straightforward manner to multivariate time series. The effectiveness of LPS is evaluated on time series classification problems from various domains. We compare LPS to eleven well-known similarity measures. Our experimental results show that LPS provides fast and competitive results on benchmark datasets from several domains. Furthermore, LPS provides a research direction and template approach that breaks from the linear dependency models to potentially foster other promising nonlinear approaches.     

基于深度残差概率随机森林的时间序列分类方法

时间序列数据广泛存在于工业、医疗等应用领域,由于其时序相关性强、特征空间维度大,使得传统的时间序列分类方法普遍存在精度不足和需要复杂特征工程等问题.充分考虑深度神经网络在处理复杂时序数据上的优越性以及决策树方法拟合数据能力强的优势,提出一种基于残差网络和概率决策树的端到端统一深度学习模型.该模型利用残差网络从原始时间序列中提取高级特征,为了更好地建立时序数据特征与类别标签间的映射关系,将概率决策树融入至残差网络的分类层.同时,设计随机子空间的集成策略,缓解由于残差网络的深层结构产生的过度拟合现象,并给出联合优化模型分裂参数和预测参数的迭代优化方案.在大量的基准数据集和工业案例上进行实验和分析,实验结果表明,所提出模型的分类性能优于传统方法与其他深度学习方法,且可有效提高残差网络的泛化能力.     

Processing Short-Term and Long-Term Information With a Combination of Polynomial Approximation Techniques and Time-Delay Neural Networks

Neural networks are often used to process temporal information, i.e., any kind of information related to time series. In many cases, time series contain short-term and long-term trends or behavior. This paper presents a new approach to capture temporal information with various reference periods simultaneously. A least squares approximation of the time series with orthogonal polynomials will be used to describe short-term trends contained in a signal (average, increase, curvature, etc.). Long-term behavior will be modeled with the tapped delay lines of a time-delay neural network (TDNN). This network takes the coefficients of the orthogonal expansion of the approximating polynomial as inputs such considering short-term and long-term information efficiently. The advantages of the method will be demonstrated by means of artificial data and two real-world application examples, the prediction of the user number in a computer network and online tool wear classification in turning.     

基于过程神经网络的时间序列预测及其应用研究

针对传统时间序列预测方法难以表达时间序列中时间累积效应的缺陷,提出一种基于过程神经网络的时间序列预测方法．就时间序列的短期预测和长期预测问题分别应用该方法建立了两种预测模型,并给出了相应的学习算法．以航空发动机状态监控中滑油铁金属含量预测为例验证了两种预测模型及其学习算法的有效性,并得到了满意的结果．     

UMTS-Mixer: 基于时间相关性和通道相关性的时间序列异常检测

多变量时间序列的异常检测是一个具有挑战性的问题, 要求模型从复杂的时间动态中学习信息表示, 并推导出一个可区分的标准, 该标准能从大量正常时间点识别出少量的异常点. 但在时间序列分析中仍存在多变量时间序列复杂的时间相关性和高维度使得异常检测性能较差的问题, 针对上述问题, 本文提出了一种基于MLP (multi-layer perceptron)架构的模型(UMTS-Mixer), 由于MLP的线性结构对顺序敏感, 将其用来捕获时间相关性和跨通道相关性. 大量实验表明UMTS-Mixer能够有效地检测时间序列异常, 并在4个基准数据集上的表现更好, 同时, 在MSL和PSM两个数据集上取得了最高的F1, 分别为91.35%, 92.93%.     

Performance of a spatio-temporal error model for raster datasets under complex error patterns

The CLC (Combined Location Classification) error model provides indices for overall data uncertainty in thematic spatio-temporal datasets. It accounts for the two major sources of error in such datasets, location error and classification error. The model assumes independence between error components, while recent studies revealed various degrees of correlation between error components in actual datasets. The goal of this study is to determine if the likely violation of model assumptions biases model predictions. A comprehensive algorithm was devised to simulate the entire process of error formation and propagation. Time series thematic maps were constructed, and modified maps were derived as realizations of underlying error patterns. Error rate and pattern (positive autocorrelation) were controlled for location error and for classification error. The magnitude of correlation between errors from different sources and correlation between error at different time steps was also controlled. A very good agreement between model predictions and simulation results was found in the absence of correlation in error between time steps and between error types, while the inclusion of such correlations was shown to affect model fit slightly. Given our current knowledge of spatio-temporal error patterns in real data, the CLC error model can be used reliably to assess the overall uncertainty in thematic change detection analyses.