基于自编码神经网络特征提取的回声状态网络研究及过程建模应用

在复杂化工建模过程中,由于过程数据的时序性、高非线性以及高维数的特点,导致传统的静态神经网络建模无法满足一定的精度。为了解决该问题,提出一种基于自编码神经网络特征提取的回声状态网络模型(features extracted from auto-encoder based echo state network, FEAE-ESN)。传统回声状态网络(echo state network, ESN)方法中,储备池的节点数目很多,输出的维数很高,数据间存在共线性。为解决上述问题,待回声状态网络训练好之后,使用自编码神经网络对其储备池输出进行特征提取。通过自编码网络特征提取,一方面可以有效地降低储备池输出的维数,从而降低数据的复杂度;另一方面提取的特征去除了原有储备池输出的共线性,能够进一步提高广义逆的计算性能;最终提高回声状态网络的建模精度。所提方法 FEAE-ESN用于田纳西-伊斯曼复杂过程建模,仿真结果验证了所提方法的有效性。     

稀土萃取分离过程组分含量区间控制方法

针对稀土萃取过程出口产品的组分含量可以在一定区间范围浮动的要求,提出了一种基于广义预测控制的稀土萃取过程组分含量区间控制方法。首先基于萃取分离过程数据辨识建立组分含量回声状态神经网络（echo state network,ESN）模型;然后针对稀土萃取过程中不同运行工况,采用改进的广义预测控制算法设计组分含量预测控制器,将系统的输出约束纳入求解控制律的优化问题中,使预测控制针对组分含量输出在不同的区域范围采用不同的控制强度,从而实现区间控制同时保证两端出口产品的纯度,最后基于CePr/Nd（铈镨/钕）萃取过程数据的仿真试验验证了该方法的有效性。     

基于正则化的函数连接神经网络研究及其复杂化工过程建模应用

在化工过程的建模中,由于过程数据的高维度和高非线性,导致计算量大幅提升和建模难度加大。为了解决这一问题,提出了一种基于正则化方法的函数连接神经网络模型（regularization based functional link neural network, RFLNN）。所提出的RFLNN方法里,通过使用正则化的方法对函数连接神经网络的权值进行优化,一方面大幅降低网络计算复杂度和计算量,另一方面极大程度上克服网络局部极值和过拟合的问题,以提高函数连接神经网络的学习速度和精度。为了验证所提出方法的有效性,首先采用UCI数据中Real estate valuation数据对其性能进行测试;随后将所提的方法应用于高密度聚乙烯（high density polyethylene,HDPE）复杂生产过程进行建模。UCI标准数据与工业数据的仿真结果表明,与传统FLNN对比,RFLNN在处理高维复杂化工过程数据时具有收敛速度快、建模精度高等特点。     

基于数据特征提取的AANN-ELM研究及化工应用

针对极限学习机不能有效解决化工过程中高维数据建模的问题,本文将其与自联想神经网络结合,通过自联想神经网络过滤输入数据中存在的冗余信息、提取特征分量,并对所提取的特征分量采用极限学习机进行训练,由此形成了一种基于数据特征提取的AANN-ELM(auto-associative neural network-extreme learning machine)神经网络。同时,以UCI标准数据集进行测试,以精对苯二甲酸(PTA)溶剂系统进行验证,结果表明,AANN-ELM在处理高维数据时具有学习速度快、网络稳定性强、建模精度高的特点,为神经网络在复杂化工生产中的应用提供了新思路。     

稀土萃取分离过程组分含量区间控制方法

针对稀土萃取过程出口产品的组分含量可以在一定区间范围浮动的要求,提出了一种基于广义预测控制的稀土萃取过程组分含量区间控制方法。首先基于萃取分离过程数据辨识建立组分含量回声状态神经网络(echo state network,ESN)模型;然后针对稀土萃取过程中不同运行工况,采用改进的广义预测控制算法设计组分含量预测控制器,将系统的输出约束纳入求解控制律的优化问题中,使预测控制针对组分含量输出在不同的区域范围采用不同的控制强度,从而实现区间控制同时保证两端出口产品的纯度,最后基于Ce Pr/Nd(铈镨/钕)萃取过程数据的仿真试验验证了该方法的有效性。     

基于稀疏局部嵌入深度卷积网络的冷水机组故障诊断方法

针对于冷水机组提出一种基于稀疏局部嵌入深度卷积网络（sparsely local embedding network,SLENet）的故障诊断方法。采用稀疏局部嵌入方法代替卷积核,对输入数据进行特征选择,避免了复杂的训练和调参过程。另外采用空间金字塔最大池化作为网络的输出层,减少了网络的输出维数和分类器的计算量。针对美国采暖、制冷与空调工程师学会提供的冷水机组的典型故障数据进行分类,结果表明,该方法相比深度卷积网络（CNN）和支持向量机（SVM）方法具有更高的故障诊断精度。     

基于稀疏局部嵌入深度卷积网络的冷水机组故障诊断方法

针对于冷水机组提出一种基于稀疏局部嵌入深度卷积网络(sparsely local embedding network,SLENet)的故障诊断方法。采用稀疏局部嵌入方法代替卷积核,对输入数据进行特征选择,避免了复杂的训练和调参过程。另外采用空间金字塔最大池化作为网络的输出层,减少了网络的输出维数和分类器的计算量。针对美国采暖、制冷与空调工程师学会提供的冷水机组的典型故障数据进行分类,结果表明,该方法相比深度卷积网络(CNN)和支持向量机(SVM)方法具有更高的故障诊断精度。     

基于特征提取的函数连接神经网络研究及其化工过程建模应用

对于化工过程中带噪声、强耦合的高维数据建模问题,常规的函数连接神经网络（functional link neural networks,FLNN）无法有效地进行处理。为解决该问题,提出一种基于主元分析（principal components analysis,PCA）的函数连接神经网络（PCA-FLNN）。通过对FLNN的函数扩展层进行特征提取,不仅去除变量间的线性相关关系,而且提取数据的主成分,进而简化FLNN学习数据的复杂度。为验证所提方法的有效性,首先采用UCI数据Airfoil Self-Noise对其性能进行验证;随后将所提的方法应用于精对苯二甲酸（purified terephthalic acid,PTA）生产过程建模;与传统FLNN进行对比,标准数据和工业数据的仿真结果表明,PCA-FLNN在处理复杂化工过程数据时具有收敛速度快和建模精度高的特点。     

基于特征提取的函数连接神经网络研究及其化工过程建模应用

对于化工过程中带噪声、强耦合的高维数据建模问题,常规的函数连接神经网络(functional link neural networks,FLNN)无法有效地进行处理。为解决该问题,提出一种基于主元分析(principal components analysis,PCA)的函数连接神经网络(PCA-FLNN)。通过对FLNN的函数扩展层进行特征提取,不仅去除变量间的线性相关关系,而且提取数据的主成分,进而简化FLNN学习数据的复杂度。为验证所提方法的有效性,首先采用UCI数据Airfoil Self-Noise对其性能进行验证;随后将所提的方法应用于精对苯二甲酸(purified terephthalic acid,PTA)生产过程建模;与传统FLNN进行对比,标准数据和工业数据的仿真结果表明,PCA-FLNN在处理复杂化工过程数据时具有收敛速度快和建模精度高的特点。     

基于数据属性划分的递阶ELM研究及化工应用

针对极限学习机（ELM）不能有效处理化工过程中强耦合、带噪声的高维数据建模问题,提出了一种基于数据属性划分的递阶ELM神经网络DHELM。该神经网络采用数据属性划分（DAD）方法对高维输入进行聚类、建立自联想子网,并将自联想子网所提取的特征分量作为极限学习机的输入进行建模。同时,利用UCI标准数据集进行了测试,通过工业应用实例进行了验证,并进行了模型对比。结果表明,DHELM网络在处理复杂高维数据时具有收敛速度快、建模精度高、网络稳定性强的特点,为神经网络发展及其化工应用提供了新思路。     

基于泄漏积分型回声状态网络的软测量动态建模方法及应用

提出一种基于泄漏积分型回声状态网络（LiESN）的软测量动态建模方法,给出LiESN的岭回归离线学习算法与递推最小二乘（RLS）在线学习算法。通过引入正则化系数,岭回归离线学习算法可有效地控制输出权值的幅值,改善ESN的预测性能。RLS在线学习算法能适应大数据集的处理,满足过程建模实时性的需求。将基于LiESN的软测量方法分别用于预测脱丁烷塔底部丁烷组分的含量及计算硫回收装置中尾气的组成,实现对精炼厂相关产品质量的实时监控,并采用模型残差的四图分析对建模性能进行评价。在同等条件下,与基本的ESN网络以及支持向量机（SVM）等软测量建模方法进行了比较,结果表明,所提出的LiESN方法取得了很好的预测性能,计算精度满足工业生产的实际要求。     

Soft sensor modeling method based on hybrid model of nearest neighbor and neural network

Soft-sensing modeling can effectively solve the problems of large measurement lag, high price, and complex maintenance of online analytical instruments in the production process. At present, neural network based on data-driven is one of the main tools of soft sensor. In the process of modeling data collection, the collection of dominant variables is much more difficult than that of auxiliary variables, resulting in a large amount of unlabeled data. However, traditional soft sensor modeling methods ignore these unlabeled data and only use a small amount of labeled data for modeling, which has negative effect on the prediction accuracy of the model. To solve the problem of label missing, the nearest neighbor algorithm is used to pseudo label the unlabeled data. At the same time, a network structure is designed by combining convolution operation and gated recurrent unit neural network (GRU) to further utilize the unlabeled data, extract the dynamic feature from data at different time, and improve the prediction accuracy of the neural network. Finally, the method is applied to the prediction of propane concentration on the top of propylene distillation column. The results show that the model can solve the problem of label missing in the nonlinear dynamic system and has higher prediction accuracy.     

基于最近邻与神经网络融合模型的软测量建模方法

软测量建模能够有效地解决生产过程中在线分析仪表测量滞后大、价格昂贵、维护保养复杂等问题。目前,基于数据驱动的神经网络是软测量建模的主要工具之一。而在建模数据的采集过程中,主导变量的采集相对辅助变量要困难得多,由此产生了大量缺失标签的数据。但传统的软测量建模方法却忽视了这些无标签数据,只利用少量的有标签数据建模,从而影响了模型的预测精度。为了解决标签缺失的问题,采用最近邻算法对无标签数据进行伪标记,同时设计了由卷积操作与门限循环单元神经网络（GRU）结合的网络结构来进一步利用无标签数据,提取不同时刻数据中的动态特征,提高神经网络的预测精度。最后将该方法应用于丙烯精馏塔塔顶丙烷浓度的预测,实验结果表明该模型能有效处理非线性动态系统的标签缺失问题,具有更高的预测精度。     

基于改进Bagging算法的高斯过程集成软测量建模

为提高对工况复杂的工业过程进行软测量建模的模型精度和泛化能力,提出了一种基于改进Bagging算法的高斯过程集成软测量建模方法。该算法采用高斯过程回归算法建立集成学习模型的基学习器,并在Bagging算法对训练样本重采样生成基学习器训练子集的基础上,采用基于正则化互信息的特征排序指标进行基学习器的输入特征抽取,实现有监督的特征扰动,从而改善学习器的差异度。待测样本进行软测量估计时,根据各高斯过程基学习器输出的方差自适应地选择基学习器进行集成输出。采用工业双酚A生产装置反应器的现场数据建模仿真,结果表明该方法是有效的。     

基于深层神经网络的多输出自适应软测量建模

在污水处理运行过程中,多个重要的难测过程变量的存在,不仅妨碍了生产过程的监控,而且阻碍了过程控制策略的调整或优化。即使软测量模型得到合理的构建,在投入运行后仍然遭受性能的退化和同时带来的高昂的维护成本。此外,合适辅助变量的选取直接影响后续建模的效果。因此,文中提出了一种基于深层神经网络的多输出自适应软测量模型,用于污水处理过程中多个目标变量的同步在线预测。其中,深层神经网络基于一种栈式自编码而构建,在极端复杂场景下具有优异的在线预测性能;并在建模中引入时差建模和变量重要性投影（VIP）这两种算法,以应对性能退化问题和实现辅助变量的精选。最后,通过一个实际案例对所提出模型进行验证。结果表明,所提出的软测量模型不仅具有较好的多输出预测性能,且在单目标预测结果上也有不错的表现。     

基于VAE-DBN的故障分类方法在化工过程中的应用

针对化工过程高维数据的故障特征难以提取的难题,提出变分自动编码器(VAE)结合深度置信网络(DBN)的混合故障诊断方法. 在VAE的编码部分对隐变量空间Z添加约束,通过重参数化方法进行反向传播训练,可无监督地学习不同故障对应的隐变量特征,其作为DBN分类模型的输入特征训练网络,输入测试集进行故障诊断. 田纳西伊斯曼流程(TE)应用结果表明,VAE能提取原始数据更加抽象有效的特征,VAE?DBN分类准确.     

基于Ms-NIPLS-GPR的化工过程性能等级评估方法

针对化工过程中因输入输出数据间非线性关系造成在线性能评估准确度不足的问题,提出一种基于多数据空间非线性迭代偏最小二乘和高斯过程回归（multi-space nonlinear iterative partial least squares and Gaussian process regression,Ms-NIPLS-GPR）的性能分级评估方法。首先将性能相近的过程历史数据划分成不同性能等级的集合,利用Ms-NIPLS方法提取不同性能等级训练数据的特征子空间,然后用GPR获得特征子空间与性能等级标签之间的非线性映射结构,建立输入数据与性能等级之间的离线模型。得到模型后,在线评估当前过程性能等级,同时通过构造过渡性能系数来区分稳态性能等级和稳态性能等级间的过渡性能状态。最后,将该方法应用到乙烯裂解过程在线性能评估中,说明该性能评估方法的有效性和准确性。     

基于加权概率CVDA的动态化工系统微小故障检测

典型变量差异度分析（CVDA）是近年来提出的一种新型动态过程监控方法,已在微小故障检测领域获得成功应用。针对传统CVDA方法忽视了特征量的概率信息挖掘问题,提出一种基于加权概率CVDA（WPCVDA）的动态化工系统微小故障检测方法。一方面,该方法在基本CVDA模型特征基础上引入Wasserstein距离（WD）度量特征量概率分布的变化,构造概率化的WD特征提高CVDA模型对微小故障的灵敏度;另一方面,进一步考虑不同的WD特征成分携带故障信息的差异性,设计一种自适应权值计算策略,为关键的故障敏感特征成分设置大的权值,突出其在监控统计量中的作用。在一个标准化工过程的验证结果说明,所提出的WPCVDA方法比传统CVDA方法具有更好的微小故障检测性能。     

深度融合特征提取网络及其在化工过程软测量中的应用

复杂化工过程的观测数据往往同时包含非线性和强动态特性,而传统的化工过程软测量方法无法准确提取观测数据的非线性动态特征,以至影响数据建模和质量预报的准确性。提出了一种基于变分自编码器的深度融合特征提取网络(deep fusion features extraction network, DFFEN)。在变分自编码器框架下,通过构建潜隐特征信息传递通道,提取非线性动态潜隐变量。并利用自注意力机制(self-attention)融合关键的隐层信息,优化因信息传递通道过长而导致的潜在特征被遗忘的问题。此外,在后端网络构建潜隐变量和关键质量变量之间的回归模型,以实现关键质量变量的预报。最后,通过数值案例和实际的合成氨过程验证了所提出的DFFEN模型的可行性和有效性。