基于时空注意力机制的加油站级客流量预测

加油站是重要的能源供给单位,对加油站站点的下一时段客流量进行精准预测,可为相关资源的调度与分配提供决策支撑。针对加油站级客流量预测问题,结合加油站客流数据的时空特征,提出一种基于注意力机制的时空网络模型。以路网结构建模的站级客流数据为输入,结合卷积神经网络、长短期记忆网络与注意力机制,解决站点间的空间依赖、短期与长期时序依赖以及长期时序依赖中的时间漂移问题,精准预测下一时段的站级客流量。在真实数据集上的实验结果表明,与历史平均模型、长短期记忆网络模型和双向长短期记忆网络模型等基线模型相比,该模型在均方误差（RMSE）、平均绝对误差与平均绝对百分比误差上均有所提升,其中RMSE提升22.89%。     

基于大数据的智能移动充电桩调度方法设计与实现

新能源汽车正在以其环境友好、能源清洁的优势,逐渐替代传统化石能源车辆。大力推广新能源汽车成为世界各国应对日益严重的环境恶化和能源枯竭问题的主流可行方案之一。本文提出了基于大数据分析的智能充电桩网络调度方法,分析了智能充电桩网络系统与大数据的关系,通过神经网络训练模型,预测充电桩使用流量分布。通过搭建的融合智能算法的可视化调度实验平台,证明了本文提出的BP神经网络预测方法不但在预测计算时间上有一定优势,而且预测误差最小,该预测方法可以广泛应用于智能移动充电桩调度领域。     

基于传输时延预测的多路径并发传输数据分配算法

针对多路径并发传输模型的整体性能在路径性能存在差异时会急剧下降的原因进行分析,给出了获取通信路径传输时延的有效评估方案,并在此基础上提出了一种基于传输时延预测的多路径并发传输数据分配算法.该算法通过获取和预测数据块在各条路径上引入的传输时延,以按序到达为目标对多路径并发传输模型发送回合内和发送回合间的数据分配过程进行优化,能够有效地减少路径传输性能差异对多路径并发传输模型整体性能带来的影响.分析和实验结果表明,该算法相对于默认的轮询数据分配算法能够取得较好的运行性能.     

注意力ConvLSTM模型在RUL预测中的应用

预测性维护的应用能够极大地降低企业运维成本,而设备剩余使用寿命(Remaining Useful Life,RUL)预测是预测性维护的关键技术之一.针对传统RUL预测算法难以提取时序数据的潜藏特征以及特征权重分配不合理的问题,本文提出一种基于注意力机制(Attention Mechanism)的卷积长短时记忆(Convolution Long-Short Term Memory,ConvLSTM)预测模型,该模型充分利用LSTM网络处理和预测长期时间序列的优势,并引入注意力机制对产生显著影响的特征因子提高权重,极大地优化了模型的时空特征提取能力.为验证模型预测效果,本文以NASA提供的CMAPSS数据集为对象进行实验,以均方根误差(Root Mean Squared Error,RMSE)和数据集自定义的Score为评价指标,将预测结果与其他RUL预测算法作比对,证明了该模型具有更佳的预测准确性.     

计及预测误差影响的电力系统异质多能源经济调度研究

风能和太阳能等清洁能源接入电网的规模越来越大,但风光出力的不确定性给电力系统经济调度带来了严重的困难.论文首先对风能和太阳能出力的预测误差分布情况进行分析,并将预测误差记入经济调度优化模型中的发电成本,提出了一种计及风能、太阳能出力预测误差影响的风能、太阳能和火力异质多能源电力系统经济调度优化模型.建立包含风能、太阳能和火力发电的仿真计算模型,采用遗传粒子群算法进行优化求解,计算结果验证了论文方法的有效性.论文方法可为包含风能和太阳能的电力系统经济调度提供有效的借鉴和技术指导.     

数据驱动下的综合能源系统短期多元负荷预测

精准可靠的多元负荷预测对于综合能源系统规划运行具有重要的实用价值,针对园区综合能源系统多元负荷预测问题,提出一种数据驱动下的短期多元负荷预测方法。概述园区综合能源系统多能耦合的运行特点,提出适用于多元负荷相关性分析方法。基于长短时记忆网络(longshort-term memory,LSTM)、极端梯度提升(extreme gradient boosting,XGboost)模型,采用误差倒数法对LSTM、XGboost模型预测结果进行加权组合构建短期多元负荷预测模型。采用园区实际运行数据验证了组合模型的有效性,实验结果表明,相较其它两种单一预测模型,LSTM-XGboost组合模型的预测精度更高。     

基于马尔可夫链的智能微电网光伏发电预测

太阳能等可再生能源在微网中的应用不断增多,同时也带来了诸多挑战。最关键的问题之一是其出力的不确定性。对于该问题提出一种基于马尔可夫链(Markov Chain, MC)以及数据驱动技术的太阳能发电模型,利用该模型可以预测智能微网中太阳能电池的发电量。为了减小预测误差,利用历史数据对马尔可夫链进行连续训练。通过算例分析验证了所提模型的有效性。     

WSN流量的双卡尔曼并行递推预测算法研究

针对WSN流量预测,基于AR模型提出一种WSN流量双卡尔曼并行递推预测算法.该算法使用两个Kalman滤波器,交替进行AR模型参数的递推辨识与时变数据中真实值的最优估计,根据序列数据的最新信息实时修正AR模型参数进行动态预测.同时针对大步长的流量预测,引入滚动修正思想,克服动态预测算法存在间隔时间过长的缺点,降低多步预测误差.实验研究表明,利用研究的双卡尔曼并行递推算法使用AR模型进行多步预测,从原理设计和实现算法上,实现了WSN流量的准确预测.     

融合CNN-BiLSTM-Attention的集成学习价格预测

价格预测对于大宗农产品市场的稳定具有重要意义,但是大宗农产品价格与多种因素有着复杂的相关关系.针对当前价格预测中对数据完整性依赖性强与单一模型难以全面利用多种数据特征等问题,提出了一种将基于注意力机制的卷积双向长短期记忆神经网络(CNN-BiLSTM-Attention)、支持向量机回归(SVR)与LightGBM组合的增强式集成学习方法,并分别在包含历史交易、天气、汇率、油价等多种特征数据的数据集上进行了实验.实验以小麦和棉花价格预测为目标任务,使用互信息法进行特征选择,选择误差较低的CNN-BiLSTM-Attention模型作为基模型,与机器学习模型通过线性回归进行增强式集成学习.实验结果表明该集成学习方法在小麦及棉花数据集上预测结果的均方根误差(RMSE)值分别为12.812, 74.365,较之3个基模型分别降低11.00%, 0.94%、4.44%,1.99%与13.03%, 4.39%,能够有效降低价格预测的误差.     

基于数据挖掘的四维飞行轨迹预测模型

为了解决传统的空气动力学模型在预测四维飞行轨迹上误差较大的问题,提出一种基于数据挖掘的预测模型。该模型挖掘历史飞行时间数据,从中找出影响飞行时间的因素,预测出下一次飞行的全程时间,然后从历史位置数据中分析得出飞机在每个采样周期点上的位置,实现完整的四维轨迹预测。仿真试验验证了该模型预测的准确性和可用性。     

Alternative Parameter Estimation Methods for the Compound Poisson Software Reliability Model with Clustered Failure Data

The ‘compound Poisson’ (CP) software reliability model was proposed previously by the first named author for time-between-failure data in terms of CPU seconds, using the ‘maximum likelihood estimation’ (MLE) method to estimate unknown parameters; hence, CPMLE. However, another parameter estimation technique is proposed under ‘nonlinear regression analysis’ (NLR) for the compound Poisson reliability model, giving rise to the name CPNLR. It is observed that the CP model, with different parameter estimation methods, produces equally satisfactory or more favourable results as compared to the Musa–Okumoto (M–O) model, particularly in the event of grouped or clustered (clumped) software failure data. The sampling unit may be a week, day or month within which the failures are clumped, as the error recording facilities dictate in a software testing environment. The proposed CPNLR and CPMLE yield comparatively more favourable results for certain software failure data structures where the frequency distribution of the cluster (clump) size of the software failures per week displays a negative exponential behaviour. Average relative error (ARE), mean squared error (MSE) and average Kolmogorov–Smirnov (K–S Av.D_n) statistics are used as measures of forecast quality for the proposed and competing parameter-estimation techniques in predicting the number of remaining future failures expected to occur until a target stopping time. Comparisons on five different simulated data sets that contain weekly recorded software failures are made to emphasize the advantages and disadvantages of the competing methods by means of the chronological prediction plots around the true target value and zero per cent relative error line. The proposed generalized compound Poisson (MLE and NLR) methods consistently produce more favourable predictions for those software failure data with negative exponential frequency distribution of the failure clump size versus number of weeks. Otherwise, the popularly used competing M–O log-Poisson model is a better fit for those data with a uniform clump size distribution to recognize the log-Poisson effect while the logarithm of the Poisson equation is a constant, hence uniform. The software analyst is urged to perform exploratory data analysis to recognize the nature of the software failure data before favouring a particular reliability estimation method. © 1997 by John Wiley & Sons, Ltd.     

基于特征空间k最近邻的批次过程监视

针对具有非高斯、非线性及多工况特性的批次过程,提出一种基于特征量最近邻统计指标的过程监视方法. 首先,将批次过程正常工况原始数据投影到其特征空间,提取主元T和平方预测误差SPE,并进行特征量k最近邻距离平方和的求解. 然后,采用核密度估计法获得概率密度分布函数,确定统计监视控制限. 特征空间的主元T和SPE特征量能全面代表原始数据的有用信息. 采用特征量k最近邻建立监视模型将会节省存储空间,提高建模样本数量与变量之比以及检测异常工况的速度. 另外,利用局部近邻数据建模可以解决过程具有的非线性和多工况问题,而应用核密度估计法可以解决过程数据具有的非高斯分布问题. 最后,在半导体生产过程的成功应用表明了所提方法的有效性.     

Conditional mean estimation under asymmetric and heteroscedastic error by linear combination of quantile regressions

In this paper we propose a new estimator for regression problems in the form of the linear combination of quantile regressions. The proposed estimator is helpful for the conditional mean estimation when the error distribution is asymmetric and heteroscedastic.It is shown that the proposed estimator has the consistency under heteroscedastic regression model: Y=μ(X)+σ(X)·e, where X is a vector of covariates, Y is a scalar response, e is a zero mean random variable independent of X and σ(X) is a positive value function. When the error term e is asymmetric, we show that the proposed estimator yields better conditional mean estimation performance than the other estimators. Numerical experiments both in synthetic and real data are shown to illustrate the usefulness of the proposed estimator.     

基于特征选择和数据增强的电池荷电状态预测

现有基于神经网络的电池荷电状态(state of charge, SOC)预测研究大多把重点放在模型结构和相关参数的优化上,却忽略了训练数据的重要作用.针对该问题,文中提出了一种基于特征选择和数据增强的电池SOC预测方法.首先,方法根据原始电池充放电数据进行特征工程,并使用排列重要性(permutation importance, PI)方法选出对模型预测最有帮助的7个特征;其次,通过加入高斯噪声来扩大训练数据样本总量,达到数据增强的目的.实验使用双向长短时记忆网络(bidirectional long short-term memory, Bi-LSTM)作为预测模型,使用Panasonic 18650PF数据集作为训练数据.使用标准Bi-LSTM进行预测时,平均绝对误差(mean absolute error, MAE)和最大误差(max error,MaxE)分别为0.65%和3.92%,而在进行特征选择和数据增强后,模型预测的MAE和MaxE分别为0.47%和2.62%,表明PI特征工程与高斯数据增强方法可以进一步提升电池荷电状态预测模型的精度.     

Exact bootstrap <Emphasis Type="Italic">k</Emphasis>-nearest neighbor learners

Bootstrap aggregation, or bagging, is a method of reducing the prediction error of a statistical learner. The goal of bagging is to construct a new learner which is the expectation of the original learner with respect to the empirical distribution function. In nearly all cases, the expectation cannot be computed analytically, and bootstrap sampling is used to produce an approximation. The k-nearest neighbor learners are exceptions to this generalization, and exact bagging of many k-nearest neighbor learners is straightforward. This article presents computationally simple and fast formulae for exact bagging of k-nearest neighbor learners and extends exact bagging methods from the conventional bootstrap sampling (sampling n observations with replacement from a set of n observations) to bootstrap sub-sampling schemes (with and without replacement). In addition, a partially exact k-nearest neighbor regression learner is developed. The article also compares the prediction error associated with elementary and exact bagging k-nearest neighbor learners, and several other ensemble methods using a suite of publicly available data sets.     

基于多特征融合的航空发动机剩余寿命预测

针对航空发动机剩余可用寿命(RUL)预测任务中代表性特征提取不充分导致RUL预测精度较低等问题, 提出了一种基于多特征融合的航空发动机RUL预测方法. 利用指数平滑法(ES)降低原始数据中的噪声干扰, 得到相对平稳的特征数据. 使用双向长短期记忆网络(Bi-LSTM)提取特征数据的时序特征, 利用多头注意力机制(Multi-attention)为时序特征赋予权重; 设计卷积长短期记忆网络(Conv-LSTM)提取特征数据的时空特征; 提取特征数据的手工特征并使用Softmax函数计算权重. 设计一个特征融合框架将上述特征进行融合, 然后通过全连接网络回归实现最终RUL预测. 使用C-MAPSS数据集对模型进行仿真验证, 与Bi-LSTM等模型进行对比, 模型RUL预测精度更高, 适应性更好.     

基于XGBoost和TCN-Attention的棉花价格多影响因素选择及预测

棉花价格受多种因素影响而复杂多变, 通过选择合适的数据特征和预测模型可提高棉花价格预测精度. 本文以棉花日现货价格数据为研究目标, 采集了供需关系、国际市场、宏观经济、产业链这4个方面的9项影响因素作为特征, 使用极限梯度提升(XGBoost)算法对棉花价格影响因素进行特征评估筛选, 选取其中5项特征后, 采用引入注意力机制(Attention)的时间卷积网络(TCN) TCN-Attention、TCN、LSTM、GRU等模型对棉花价格进行预测. 通过消融实验和对比实验, 结果表明: (1)经过XGBoost特征筛选后, TCN-Attention价格预测的平均绝对误差(MAE)和均方根误差(RMSE)为41.47和58.76, 与未筛选相比分别降低了77.57%和76.49%. (2)与TCN、LSTM、GRU相比, 本文提出的TCN-Attention模型预测结果更准确, MAE和RMSE均降低50%以上, 运行时间较LSTM、GRU缩短60%.     

一种基于EGMM的高斯过程回归软测量建模

提出了一种基于误差高斯混合模型（EGMM）的高斯过程回归（GPR）软测量方法．首先,选择合适的变量组成误差数据集,利用贝叶斯信息准则优化得到合适的高斯成分的个数;然后用EGMM对误差数据进行拟合计算得到条件误差均值和方差的表达式;最后当新的数据到来时,用建立的GPR模型进行输出预测,并利用EGMM模型得到的条件误差均值对输出进行补偿,从而得到更加精确的建模结果．通过数值仿真及硫回收装置（SRU）的H₂S浓度的软测量,进一步验证所提算法的可行性和有效性．     

Fast computation of sample entropy and approximate entropy in biomedicine

Both sample entropy and approximate entropy are measurements of complexity. The two methods have received a great deal of attention in the last few years, and have been successfully verified and applied to biomedical applications and many others. However, the algorithms proposed in the literature require O(N²) execution time, which is not fast enough for online applications and for applications with long data sets. To accelerate computation, the authors of the present paper have developed a new algorithm that reduces the computational time to O(N^3/2)) using O(N) storage. As biomedical data are often measured with integer-type data, the computation time can be further reduced to O(N) using O(N) storage. The execution times of the experimental results with ECG, EEG, RR, and DNA signals show a significant improvement of more than 100 times when compared with the conventional O(N²) method for N = 80,000 (N = length of the signal). Furthermore, an adaptive version of the new algorithm has been developed to speed up the computation for short data length. Experimental results show an improvement of more than 10 times when compared with the conventional method for N > 4000.     

基于注意力机制的CNN-LSTM的ADS-B异常数据检测

广播式自动相关监视(ADS-B)是民航新一代空中交通管理系统的重要组成部分,由于协议没有数据加密和认证,导致容易受到数据攻击.为了准确检测ADS-B数据攻击,基于ADS-B数据的时序性,提出了一种基于注意力机制的卷积神经网络-长短期记忆网络(convolutional neural networks-long short-term memory, CNN-LSTM)异常数据检测模型.首先,利用CNN提取ADS-B数据的特征,然后以时序形式将特征向量输入到LSTM中,最后使用注意力机制进行网络参数优化,实现对ADS-B数据的预测,通过计算预测误差,来进行异常检测.实验表明,该模型能够很好地检测出模拟的4种类型的异常数据,与其他机器学习方法相比,具有更高的准确率和F1分数.