基于改进ELM的递归最小二乘时序差分强化学习算法及其应用

针对值函数逼近算法对精度及计算时间等要求,提出了一种基于改进极限学习机的递归最小二乘时序差分强化学习算法。首先,将递推方法引入到最小二乘时序差分强化学习算法中消去最小二乘中的矩阵求逆过程,形成递推最小二乘时序差分强化学习算法,减少算法的复杂度及其计算量。其次,考虑到LSTD（0）算法收敛速度慢,加入资格迹增加样本利用率提高收敛速度的算法,形成LSTD（λ）算法,以保证在经历过相同数量的轨迹后能收敛于真实值。同时,考虑到大部分强化学习问题的值函数是单调的,而传统ELM方法通常运用具有双侧抑制特性的Sigmoid激活函数,增大了计算成本,提出采用具有单侧抑制特性的Softplus激活函数代替传统Sigmoid函数,以减少计算量提高运算速度,使得该算法在提高精度的同时提高了计算速度。通过与传统基于径向基函数的最小二乘强化学习算法和基于极限学习机的最小二乘TD算法在广义Hop-world问题的对比实验,比较结果证明了所提出算法在满足精度的条件下有效提高了计算速度,甚至某些条件下精度比其他两种算法更高。     

基于自联想递阶神经网络的多输入参数化工过程软传感器(英文)

To explore the problems of monitoring chemical processes with large numbers of input parameters, a method based on Auto-associative Hierarchical Neural Network (AHNN) is proposed. AHNN focuses on dealing with datasets in high-dimension. AHNNs consist of two parts:groups of subnets based on well trained Auto-associative Neural Networks (AANNs) and a main net. The subnets play an important role on the performance of AHNN. A simple but effective method of designing the subnets is developed in this paper. In this method, the subnets are designed according to the classification of the data attributes. For getting the classification, an effective method called Extension Data Attributes Classification (EDAC) is adopted. Soft sensor using AHNN based on EDAC (EDAC-AHNN) is introduced. As a case study, the production data of Purified Terephthalic Acid (PTA) solvent system are selected to examine the proposed model. The results of the EDAC-AHNN model are compared with the experimental data extracted from the literature, which shows the efficiency of the proposed model.     

基于特征提取的函数连接神经网络研究及其化工过程建模应用

对于化工过程中带噪声、强耦合的高维数据建模问题,常规的函数连接神经网络(functional link neural networks,FLNN)无法有效地进行处理。为解决该问题,提出一种基于主元分析(principal components analysis,PCA)的函数连接神经网络(PCA-FLNN)。通过对FLNN的函数扩展层进行特征提取,不仅去除变量间的线性相关关系,而且提取数据的主成分,进而简化FLNN学习数据的复杂度。为验证所提方法的有效性,首先采用UCI数据Airfoil Self-Noise对其性能进行验证;随后将所提的方法应用于精对苯二甲酸(purified terephthalic acid,PTA)生产过程建模;与传统FLNN进行对比,标准数据和工业数据的仿真结果表明,PCA-FLNN在处理复杂化工过程数据时具有收敛速度快和建模精度高的特点。     

基于特征提取的函数连接神经网络研究及其化工过程建模应用

对于化工过程中带噪声、强耦合的高维数据建模问题,常规的函数连接神经网络（functional link neural networks,FLNN）无法有效地进行处理。为解决该问题,提出一种基于主元分析（principal components analysis,PCA）的函数连接神经网络（PCA-FLNN）。通过对FLNN的函数扩展层进行特征提取,不仅去除变量间的线性相关关系,而且提取数据的主成分,进而简化FLNN学习数据的复杂度。为验证所提方法的有效性,首先采用UCI数据Airfoil Self-Noise对其性能进行验证;随后将所提的方法应用于精对苯二甲酸（purified terephthalic acid,PTA）生产过程建模;与传统FLNN进行对比,标准数据和工业数据的仿真结果表明,PCA-FLNN在处理复杂化工过程数据时具有收敛速度快和建模精度高的特点。     

基于FEEMD-AE与反馈极限学习机组合模型预测研究与应用

针对现有工业过程非平稳时间序列中的特征提取及预测问题,提出了基于快速集合经验模态分解（fast ensemble empirical mode decomposition,FEEMD）、近似熵（approximate entropy,AE）和反馈极限学习机（feedback extreme learning machine,FELM）的组合模型。首先,针对复杂非平稳时序数据,采用FEEMD方法将其分解为从高频到低频的相对平稳的本征模态函数分量和余项;其次,为解决经过FEEMD分解出来的分量复杂度问题,运用近似熵（AE）计算分量复杂度并进行特征重构,以降低分量复杂性;然后,基于传统ELM结构,通过引入反馈机制,在输出层与隐含层之间增加反馈层用来记忆隐含层输出数据,并计算数据趋势变化率动态更新反馈层输出,形成反馈极限学习机（FELM）,对非线性动态系统的下一时刻输出进行预测;最后,将所提出的组合预测模型通过UCI标准数据集与精对苯二甲酸（PTA）溶剂系统进行建模仿真,仿真结果表明,提出的组合模型预测方法能够得到较高的预测精度,为实际生产操作优化提供了一定的指导。     

基于主成分分析--改进的极限学习机方法的精对苯二甲酸醋酸含量软测量

目前,化工生产过程日益复杂,生产操作变量越来越多,由于客观条件的限制,有些重要的过程参数无法通过直接测量的手段精确测得.通过软测量可实现复杂化工生产过程重要参数的精确测量,进而指导化工企业的生产,提高化工生产的产出效率,是解决问题的一个有效的方法.针对复杂化工过程软测量建模中存在的问题,本文提出了一种改进的极限学习机模型(improved extreme learning machine,IELM).一方面将主成分分析(principal component analysis,PCA)方法应用到极限学习机(ELM)里,通过PCA对模型输入变量进行主成分分析,不仅去除了变量间的线性相关关系,而且对高数据进行降维处理,最终降低了极限学习机的输入复杂性;另一方面利用相关系数判断输入主元数据与输出数据间的相关关系,从而得到正相关输入和负相关输入,依据这两类数据构造ELM模型,使得每类输入数据对网络的输出有同样的作用,进一步提高极限学习机的泛化能力.最后建立了PCA-IELM模型,首先用标准数据库的Triazines数据集验证该模型有效性,随后得出了基于PCA-IELM方法的精对苯二甲酸(purified terephthalic acid,PTA)溶剂脱水塔塔顶醋酸含量软测量模型,仿真结果表明PCA-IELM模型处理高维数据时较传统的ELM算法具有稳定性好,建模精度高等特点,为神经网络在复杂化工应用领域提供新思路.     

隐含层组合型ELM研究及应用

大多统计模型的输出与输入都是高度非线性和线性相叠加的关系,为了更好地实现数据驱动的研究,本文提出了一种隐含层组合型的ELM(Extreme Learning Machine with Hybrid Hidden Layer,HHL-ELM)神经网络。该HHL-ELM神经网络在传统的ELM网络的隐含层中增加一个特殊的节点,该特殊节点的激活函数与隐含层其他节点激活函数不同,从而形成了一种隐含层组合的网络结构,试图增强ELM网络模型的输出。同时,本文利用UCI标准数据集中的Housing数据集进行了测试,并通过工业应用实例进行了验证。最后进行了模型对比,结果表明HHL-ELM网络在处理复杂数据时具有精度高的特点,为神经网络发展及其应用提供了新思路。     

基于数据属性划分的递阶ELM研究及化工应用

针对极限学习机（ELM）不能有效处理化工过程中强耦合、带噪声的高维数据建模问题,提出了一种基于数据属性划分的递阶ELM神经网络DHELM。该神经网络采用数据属性划分（DAD）方法对高维输入进行聚类、建立自联想子网,并将自联想子网所提取的特征分量作为极限学习机的输入进行建模。同时,利用UCI标准数据集进行了测试,通过工业应用实例进行了验证,并进行了模型对比。结果表明,DHELM网络在处理复杂高维数据时具有收敛速度快、建模精度高、网络稳定性强的特点,为神经网络发展及其化工应用提供了新思路。     

基于数据特征提取的AANN-ELM研究及化工应用

针对极限学习机不能有效解决化工过程中高维数据建模的问题,本文将其与自联想神经网络结合,通过自联想神经网络过滤输入数据中存在的冗余信息、提取特征分量,并对所提取的特征分量采用极限学习机进行训练,由此形成了一种基于数据特征提取的AANN-ELM(auto-associative neural network-extreme learning machine)神经网络。同时,以UCI标准数据集进行测试,以精对苯二甲酸(PTA)溶剂系统进行验证,结果表明,AANN-ELM在处理高维数据时具有学习速度快、网络稳定性强、建模精度高的特点,为神经网络在复杂化工生产中的应用提供了新思路。     

基于分位数回归CGAN的虚拟样本生成方法及其过程建模应用

针对复杂工业过程因难以检测变量或因时间上和经济上成本因素导致的建模样本稀缺问题,提出了一种将分位数回归（quantile regression）嵌入到条件生成式对抗网络（conditional generative adversarial network, CGAN）的虚拟样本生成方法QRCGAN。首先,在标准CGAN“生成器-判别器”两元对弈结构中嵌入回归器,使模型不仅具备标签样本生成能力,同时也具备处理回归预测问题的能力。其次,以分位数回归神经网络实现回归器,连同判别器和生成器进行同步对抗训练。当模型到达Nash平衡时,在分位数回归神经网络回归器的作用下,生成器能够产生落在一定置信区间的新样本。然后,利用Kullback-Leibler（KL）散度评估生成样本的质量。最后,通过标准函数数据和实际化工过程数据验证所提方法的有效性。