基于KF与ESN的糖厂澄清工段在线预测

糖厂澄清工段是甘蔗制糖的重要工艺环节之一,是一个复杂的物理、化学过程,具有非线性、大时滞、时变等特点.而且不同的榨季、甘蔗的品种、新技术的应用等情况,都可能导致过去良好的控制模型往往不能及时适应新情况的发生.基于大量离线、在线数据,结合回声状态网络(ESN)和Kalman滤波(KF)的特点,设计了应用于糖厂澄清工段的在线自适应预测方法.该方法将Kalman滤波应用于ESN的高维状态空间中,可以直接对网络的输出权值进行更新.将仿真结果与基于EKF的RBF网络相比较,说明了基于KF与ESN的糖厂澄清工段在线预测模型的优越性.     

强跟踪延迟滤波算法及其在感应电机无速度传感器控制中的应用

在强跟踪滤波(Strong track filter, STF)算法和延迟扩展Kalman滤波(Schmidt extended Kalman filter, SEKF)算法的基础上, 提出了强跟踪延迟滤波(Strong track Schmidt filter, STSF)算法, 结合感应电机降阶模型建立了电机状态估计算法, 将其应用于感应电机无速度传感器控制系统中, 并与扩展Kalman滤波(Extended Kalman filter, EKF)、SEKF和STF三种算法的状态估计性能作比较. 仿真和实验结果表明, STSF算法在估计精度、跟踪速度、抑止噪声等方面均优于EKF算法, 并且计算复杂度显著降低, 能有效在线估计电机转速和磁链.     

基于强跟踪平方根容积卡尔曼滤波的纯方位目标运动分析方法

针对纯方位目标跟踪系统中模型状态简化、系统噪声统计特性未知、目标初始距离信息不准确导致的滤波收敛时间长和滤波精度不高的问题,以自主水下机器人(Autonomous Underwater Vehicle, AUV)跟踪水下动态目标为例,提出了一种基于强跟踪平方根容积卡尔曼滤波器(Strong Tracking Square Root Cubature Kalman Filter, STFSRCKF)的纯方位目标运动分析算法。该算法在滤波过程中,利用平方根容积卡尔曼滤波器(Square Root Cubature Kalman Filter, SRCKF)完成预测更新,对于SRCKF中的每个容积点采用强跟踪滤波器(Strong Tracking Filter, STF)进行更新,设计滤波增益以抑制噪声对系统状态估计的影响,有效提高了滤波的数值稳定性,减小了状态估计误差。通过仿真分析,比较了扩展卡尔曼滤波器(Extended Kalman Filter, EKF)、无迹卡尔曼滤波器(Unscented Kalman Filter, UKF)、平方根容积卡尔曼滤波器(Square-Root Cubature Kalman Filter, SRCKF)、STFSRCKF的算法性能,实验表明所提算法具有跟踪速度快,精度高等优点。     

基于自适应Kalman滤波的智能电网假数据注入攻击检测EI北大核心CSCD

研究了一种针对智能电网中假数据注入攻击的有效检测方法.假数据注入攻击可以保持攻击前后残差基本不变,绕过传统的不良数据检测技术.首先基于电网模型,分析了假数据注入攻击的攻击特性,针对噪声统计特性未知且无迹Kalman滤波(Unscented Kalman filter,UKF)不稳定的现象,提出了自适应平方根无迹Kalman滤波改进算法.基于状态估计值,结合中心极限定理提出检测算法,并与欧几里得检测方法、巴氏系数检测方法进行比较.最后,仿真表明本文所提检测算法的优越性.     

基于贝叶斯回归的多核回声状态网络研究

在利用单储备池模型对多变量预测研究时,多个变量只能通过单个储备池进行特征映射,无法分别刻画各个变量的动力学特性.针对以上问题,提出一种多储备池回声状态网络.混沌系统中各个变量分别通过各个储备池扩展成高维的特征向量,采用Bayesian线性回归的方法,对多核回声状态网络输出权值进行训练,形成一种新的预报器,即多核贝叶斯状态回声机(MrBESN).实际数据的仿真结果验证了所提方法的有效性.     

基于回声状态网络的BOD在线软测量模型

针对污水处理过程的BOD建模问题,提出了一种基于回声状态网络的BOD在线软测量方法;基于梯度下降规则对回声状态网络的在线学习算法进行了研究;为保证学习算法的收敛性,基于Lyapunov理论对学习率范围进行了确定;实验表明,基于回声状态网络的在线BOD预测方法较常规神经网络预测精度提高约两个数量级,模型的适应性也大幅提高。     

多稀疏回声状态网络预测模型

针对单回声状态网络难以充分描述数据信息的问题,提出多稀疏回声状态网络预测模型.通过对相关回声状态网络的组合权值及由相关样本得到的基函数的权值同时进行学习,获得优化的多个稀疏回声状态网络组合模型.所提模型不同于双稀疏相关向量机等多核学习模型,它不需要选择特定的核函数及相应的核参数.因此,该模型不但能更好的描述数据信息,避免了双稀疏相关向量机及其他多核学习中核函数及其参数不易选择的问题.同时,所提模型不需要采用交叉验证的方式确定回声状态网络的谱半径和稀疏度,只需确定相应的区间.本文通过两组标杆数据和一组实际数据仿真实验,与传统回声状态网络方法相比,验证了所提模型具有更好的预测性能.     

多元时间序列的子空间回声状态网络预测模型

针对采用回声状态网络预测多元混沌时间序列时储备池学习算法可能存在的病态解问题,该文提出了一种基于快速子空间分解方法的回声状态网络预测模型.所提模型利用Krylov子空间分解方法提取储备池状态矩阵的子空间,子空间代替原状态矩阵进行输出权值求解,可以消除储备池状态矩阵的冗余信息,有效地解决伪逆算法存在的病态解问题,并且降低计算复杂度,提高泛化性能和预测精度.基于两组多元混沌时间序列的仿真结果验证了该文所提模型的有效性和实用性.     

线性离散状态时滞系统UFIR滤波算法

针对含状态时滞的线性离散时变状态空间模型,提出一类无偏有限脉冲响应(UFIR)滤波算法.通过构造含有时滞状态的增广系统模型,对原系统进行无时滞转换.利用扩展状态空间模型的思路,将现有UFIR滤波算法推广至含控制输入的状态时滞系统中,并进一步求解相应的迭代形式,保留类Kalman算法快速计算的特点.通过仿真例子表明了所提出算法的有效性.     

GPS定位误差分析与状态估计

通过分析GPS定位误差的统计特性,可将GPS定位误差作为二阶Markov随机过程处理。该文结合载体的Singer模型,利用扩展Kalman滤波算法,对系统状态进行估计。试验结果表明,利用扩展Kalman滤波算法比标准Kalman滤波算法在定位精度上有较大程度的提高,对于低动态用户消除相关误差的影响具有一定应用价值。     

考虑气象因素的短期电力负荷预测研究

针对如何提高短期电力负荷预测精度的问题,提出基于核主成分分析法(Kernel principal component analysis,KPCA)和改进的回声状态网络(Echo state network,ESN)算法相结合的方法对短期电力负荷进行预测研究。通过卡尔曼滤波(Kalman filtering,KF)方法训练回声状态网络的输出权值,引入修正因子对卡尔曼滤波的协方差矩阵进行修正,从而实现回声状态网络结构参数的调整,获得理想的网络结构模型。采用Lyapunov理论验证了改进回声状态网络算法的收敛性。采用核主成分分析法对气象因素进行降维处理,获得能够体现数据信息的主元信息。通过UCI(University of California Irvine)数据集仿真对比,验证了该算法相比于ESN、SVM(Support vector machine)、BP(Back propagation)、GA(Genetic algorithm)等算法具有更高的预测精度。在考虑气象因素的前提下,对短期负荷预测进行仿真实验,实验结果显示在正常天气和存在气象突变的情况下,改进的回声状态网络算法较GA-ESN和GA-BP算法有更高的预测精度,验证了该方法的实用性。     

基于蚁群算法优化回声状态网络的研究

针对输出权值采用最小二乘法的回声状态网络(ESN),在随机选取输入权值和隐层神经元阈值时,存在收敛速度慢、预测精度不稳定等问题,提出了基于蚁群算法优化回声状态网络(ACO-ESN)的算法。该算法将优化回声状态网络的初始输入权值、隐层神经元阈值问题转化为蚁群算法中蚂蚁寻找最佳路径的问题,输出权值采用最小二乘法计算,通过蚁群算法的更新、变异、遗传等操作训练回声状态网络,选择出使回声状态网络预测误差最小的输入权值和阈值,从而提高其预测性能。将ACO-ESN与ELM、I-ELM、OS-ELM、B-ELM等神经网络的仿真结果进行对比,结果验证经过蚁群算法优化的回声状态网络加快了其收敛速度,改善了其预测性能,并增强了隐层神经元的敏感度。     

基于小世界回声状态网的时间序列预测

为了提高时间序列的预测精度, 提出了利用改进的小世界网络优化泄露积分型回声状态网(Leaky-integrator echo state network, Leaky ESN)的时间序列预测方法. 首先提出一个改进型小世界网络, 其加边概率是节点间距离的负指数函数. 然后, 利用加边概率直接表示Leaky ESN储备池两个神经节点的连接权值, 取值范围为[0,1], 表征了节点间的连接程度. 利用这个新型小世界网络改进Leaky ESN的储备池神经节点的连接方式, 有目的地实现了稀疏连接, 减小了Leaky ESN储备池随机稀疏连接的盲目性, 提高了储备池的适应性.最后, 利用改进的Leaky ESN预测典型的非线性时间序列, 并利用Matlab仿真软件验证了本文提出方法的有效性. 与Leaky ESN相比, 本文提出的方法具有更高的预测精度和更短的训练时间.     

一种深度回声状态网络的输入尺度自适应算法

深度回声状态网络是回声状态网络与深度学习思想的结合,合理选取不同谱半径的内部状态矩阵和弱积分参数能有效增强深度回声状态网络的多尺度时域特性。利用数据可视化分析输出矩阵在不同网络层中的分布关系,发现高层网络中部分神经元处于饱和工作状态且该状态抑制了网络动态预测能力。提出一种深度回声状态网络的输入矩阵自适应算法,在对网络内部状态的均值和方差进行递推估计的基础上判断神经元饱和状态,通过自适应调整各层输入权重的值来增强神经元动态性。数值计算结果表明,基于输入尺度自适应算法的深度回声状态网络相对同等规模的单层回声状态网络对于动态系统的预测精度有成倍提升。     

基于ESN的污水处理过程优化控制

针对污水处理过程能耗过高的问题,提出了一种基于状态回声网络(ESN)的在线优化控制方法。建立了污水处理过程预测模型,实现性能指标的预测;根据系统的状态以及预测的性能指标,采用ESN实时优化控制变量的设定值;将优化后的设定值传送给底层控制器进行跟踪控制。将ESN优化控制方法在污水处理过程基准仿真模型(BSM1)上进行了验证,实验结果表明,该方法不但能够满足出水水质的要求,而且降低了污水处理过程运行成本。     

Recursive Bayesian echo state network with an adaptive inflation factor for temperature prediction

Temperature prediction is a challenging problem and a concern in energy, environment, industry and agriculture etc. Climate models and statistical time-series forecasting methods are the ineffective forecasting tools of the long-range temperature prediction. A recurrent neural network (RNN) can model complex system with high accuracy. As a type of RNN design approach, echo state network (ESN) is used for temperature forecasting in this study. Based on analysis of monthly maximum, mean and minimum temperatures data sets, a novel recursive Bayesian linear regression (RBLR) algorithm based on ESN is presented in this study. The algorithm consists of two main components: an ESN and a RBLR algorithm with an adaptive inflation factor that changes the confidence level of the prior data. Our proposed method improves the prediction accuracy of the long-range temperature forecasting. Experimental investigations using Central England temperature time series show that the proposed method can forecast monthly maximum, mean and minimum temperatures for the next 12 months and produce good prediction.

     

ESN岭回归学习算法及混沌时间序列预测

ESN（回声状态网络）是一种新型的递归神经网络．可有效处理非线性系统辨识以及混沌时间序列预测问题．针对ESN学习算法中可能存在的解的奇异问题,利用岭回归方法代替原有的线性回归算法．通过贝叶斯或Bootstrap方法确定岭回归方法中的正则项系数．从而有效地控制输出权值的幅值,改善ESN的预测性能．该方法在月太阳黑子预测问题中显示出较好的结果．     

一种具有small world 特性的ESN 结构分析与设计

针对回声状态网络（ESN）结构设计复杂、参数选择难度大的问题,提出一种具有small world特性的ESN（SWESN）.首先采用神经元空间增长算法在平面区域生成small world拓扑网络;然后根据网络节点与基准点的Euclidean距离将网络节点进行重新排序,并将平面上的物理节点及其连接映射为SWESN的内部神经元连接矩阵,从而使动态神经元池具有small world特性.实验表明,SWESN动力学特性比常规ESN更为丰富,在鲁棒性、抗干扰能力等方面均优于常规的ESN.