一种基于k-近邻互信息变化率的输入变量选择方法

针对多变量时间序列建模中的输入变量选择问题,提出一种基于κ-近邻互信息变化率的变量选择方法.根据多变量之间的相关关系,以输入输出之间的κ-近邻互信息变化率作为评价标准选择相关变量;同时根据输入变量子集之间互信息值的大小判断变量是否为冗余变量;通过设定合适的阈值系数,可以有效地实现输入变量选择.Friedman,Lorenz混沌时间序列以及Housing数据的变量选择仿真结果验证了所提出方法的有效性.     

自动编码器与典型相关分析方法联合驱动的工业过程质量监测

本文将自动编码器(AE)特征提取方法和典型相关分析方法(CCA)有机结合,提出了一种联合驱动的质量监测模型及其质量相关的故障检测方法.首先,利用AE算法对输入样本进行无监督自动学习和重构,实现数据的特征提取和降维;其次,利用CCA算法实现特征与质量变量关联最大化,建立质量变量与特征变量的关系模型;根据监测模型的潜结构投影,构建T2统计量和SPE统计量及其相应控制限.将提出的方法用于分析带钢热连轧过程现场实际数据,结果表明,基于自动编码器-典型相关分析方法(AE-CCA)的质量监测方法能够准确的检测出故障,并且检测效果优于传统的核典型相关分析(KCCA)算法.     

基于互信息的软测量变量选择

针对软测量建模中的变量选择问题,提出了一种结合信息论中最大熵和互信息的方法。该方法采用最大熵原理,对软测量中各辅助变量和主导变量的概率分布进行估计,得到主导变量和各辅助变量间的互信息,这些互信息间接地反映了主导变量和各辅助变量间的相关性,包括线性相关和非线性相关。然后产生随机样本并计算和主导变量间的互信息,重复多次该过程就可以得到一个无关变量和主导变量间的互信息样本。用T检验寻找一个阈值作为判断相关性的标准。对于互信息小于阈值的变量作不相关变量处理,并结合测试效果筛选出最佳的软测量辅助变量。仿真结果证明,基于互信息的软测量变量选择方法具有直观、简单实用和可靠性高的优点,并且有效地改善了模型的估计精度。     

基于核二次互信息的发酵过程质量预测模型

为提高对发酵过程中质量变量的预测精度,解决发酵数据非线性的问题,提出一种基于核二次互信息回归的质量预测模型.将非线性过程数据核映射至高维特征空间,使其线性可分;基于高维特征空间,使用Renyi二次熵与二次互信息定义目标函数提取过程特征,建立过程特征与质量变量间的回归模型;二次互信息可衡量变量间的非线性关系.仿真实验及大肠杆菌发酵生产数据的实验结果表明,该方法具有较高质量预测精度,对非线性数据有较强处理能力.     

带反馈输入BP神经网络的应用研究

为了有效解决具有非线性特征的水文预报精准度的问题,通过对反向传播BP神经网络的学习和研究,分析了变量间的相互信息,提出了系统间相关信息熵的概念,并建立了适合水文预测的自迭代反向传播神经网络模型.该模型通过对迭代因子的及时修正,在反向传播中不断调整网络的权值和阈值,从而在很大程度上改善了传统BP算法所带来的不足,提高了预测的精度.实际的应用研究表明,自迭代反向传播模型的预测效果优于传统预测模型.     

互信息深度稀疏自编码融合DLSTM预测网络

针对工业系统变量之间存在动态和相互关联特性导致关键变量预测精度降低问题,提出一种互信息深度堆叠稀疏自编码数据特征网络（mutual information-deep stack sparse auto-encoder,MI-DSSAE）结合深度长短期记忆（deep LSTM,DLSTM）预测模型。MI-DSSAE模型对稀疏编码器改进,采用堆叠稀疏编码器结构,引入互信息作为重构损失权重,对多个稀疏编码器隐层迁移并微调。预测部分采用深度DLSTM网络结构,用双层Bi-LSTM结构对序列数据的动态变化特性双向捕捉,将输出数据输入到普通LSTM进行记忆处理,进行全连接层加权预测关键质量变量。采用流程化工业案例脱丁烷塔的C4含量对提出的模型验证,同时对比RNN、LSTM、GRU模型以及MI-DSSAE-RNN、MI-DSSAE-LSTM、MI-DSSAE-GRU等模型,通过RMSE、R2和MAE多项回归误差指标对比分析,验证MI-DSSAE-DLSTM模型的有效性。     

台风最大风速预测的高斯过程回归模型

针对影响台风最大风速的输入变量较多以及输入变量与输出变量之间的非线性变化特点,首先计算各个输入变量与输出变量间的互信息,这些互信息间接地反映了各个输入变量与输出变量间的相关性;然后根据t检验法确定一个阈值,对于互信息小于阈值的输入变量作不相关变量处理,筛选出最佳的模型输入变量;最后采用高斯过程回归模型对筛选后的样本集进行拟合,在贝叶斯非参数建模的框架下,确定高斯过程回归模型的协方差函数.仿真结果表明,所得高斯过程模型能够满足绝对误差的预定要求,且具有较大的实用价值.     

基于互信息的主成分分析特征选择算法

主成分分析是一种常用的特征选择算法,经典方法是计算各个特征之间的相关,但是相关无法评估变量间的非线性关系.互信息可用于衡量两个变量间相互依赖的强弱程度,且不局限于线性相关,鉴于此,提出一种基于互信息的主成分分析特征选择算法.该算法计算特征间的互信息,以互信息矩阵的特征值作为评价准则确定主成分的个数,并衡量主成分分析特征选择的效果.通过实例对所提出方法和传统主成分分析方法进行比较,并以神经网络为分类器分析分类效果.     

基于自适应稀疏监督典型相关分析的特征选择

特征选择旨在识别高维数据最具信息性的特征,以实现高维数据的低维表示。稀疏监督典型相关分析模型利用样本的监督数据,通过提取具有最大相关性的稀疏典型向量实现特征选择。但是,为了求解方便,该模型一般把优化目标从典型变量的相关系数组合简化为协方差组合,此简化将导致较大的特征选择偏差。针对这一问题,提出一种新的基于自适应稀疏监督典型相关分析的特征选择模型。该模型引入一组自适应权重系数,有效解决了“两两协方差的不公平组合”问题,提高了模型的特征选择能力。实验结果验证了模型的有效性和特征选择的准确性。     

混合高斯变分自编码器的聚类网络

目的 经典的聚类算法在处理高维数据时存在维数灾难等问题,使得计算成本大幅增加并且效果不佳。以自编码或变分自编码网络构建的聚类网络改善了聚类效果,但是自编码器提取的特征往往比较差,变分自编码器存在后验崩塌等问题,影响了聚类的结果。为此,本文提出了一种基于混合高斯变分自编码器的聚类网络。方法 使用混合高斯分布作为隐变量的先验分布构建变分自编码器,并以重建误差和隐变量先验与后验分布之间的KL散度(Kullback-Leibler divergence)构造自编码器的目标函数训练自编码网络;以训练获得的编码器对输入数据进行特征提取,结合聚类层构建聚类网络,以编码器隐层特征的软分配分布与软分配概率辅助目标分布之间的KL散度构建目标函数并训练聚类网络;变分自编码器采用卷积神经网络实现。结果 为了验证本文算法的有效性,在基准数据集MNIST(Modified National Institute of Standards and Technology Database)和Fashion-MNIST上评估了该网络的性能,聚类精度(accuracy,ACC)和标准互信息(normalized mutua...     

Weighted part mutual information related component analysis for quality-related process monitoring

Industrial products have become the core of today’s highly competitive international society, but quality-related faults happened in practical industrial processes heavily affect product quality. In this paper, we will consider the problem of the detection of quality-related faults. Inspired by part mutual information (PMI), we develop a process monitoring method called weighted PMI based related component analysis (WPMI-RCA). Firstly, combining PMI and Bayesian weighted fusion, process variables strongly related to quality are selected with the supervision of multi-quality indicators. Then, the selected variables are modeled by related component analysis (RCA) and thus orthogonal related components (RCs) containing the main information of quality variations can be obtained. The process data space can be divided into two subspaces and the monitoring statistics are developed for the quality-related fault detection. Finally, the validity of WPMI-RCA is demonstrated by a numerical example and the benchmark Tennessee Eastman process (TEP). The proposed method can improve the detection rates of quality-related faults and significantly reduce the nuisance detections. It may be helpful to improve the management efficiency for practical industrial processes.     

基于核典型相关性-熵成分分析的工业过程质量监测方法

工业过程多变量、数据高维度和非线性的特点使得对其质量监测及质量相关的故障诊断变得复杂.融合核熵成分分析(KECA)及典型相关分析(CCA)方法的思想,进行特征提取降维的同时确保所提取特征与质量变量的最大相关性,提出一种新的质量相关的工业过程故障检测方法.首先,采用KECA对输入数据进行核空间的映射及特征提取,同时融合CCA算法思想使得所提取特征与质量变量间关联最大化;然后,构建监测统计量并用Parzen窗估计其控制限,用于过程的故障检测;最后,运用所提方法对带钢热连轧工业过程实际生产数据进行分析,并与其他4种传统非线性算法对比分析,实验结果验证了所提方法的准确性、有效性及先进性.     

基于Bagging-CVA的动态过程及质量相关故障检测

针对过程数据具有时序相关性以及过程故障是否影响产品质量的问题,提出一种基于Bagging思想和典型变量分析(CVA)的故障检测方法(Bagging-CVA).采用Bagging思想对建模数据随机抽样构成多组新的数据集,消除数据的时序相关性.分别在每组新的数据集基于CVA方法建立过程相关和质量相关的故障检测模型,同时监测...     

基于自适应混合核典型变量分析的工业过程质量相关故障检测

质量相关故障检测技术是保障工业过程安全顺行和质量稳定的重要手段,是当前流程工业过程控制领域的研究热点.针对工业过程的非线性与动态特性及其质量相关故障的时变特性,提出一种基于自适应混合核典型变量分析(AMKCVA)的质量相关故障检测方法.该方法通过设计合理的混合核函数和自适应监测统计量,提升了工业过程质量相关故障的检测性...     

Monitoring of quality-relevant and quality-irrelevant blocks with characteristic-similar variables based on self-organizing map and kernel approaches

Variables in quality-related process monitoring can be divided into quality-relevant and quality-irrelevant groups depending on the correlation with the quality indicator. These variables can also be separated into multiple sets in which variables are closely relevant to one another because of the interdependence of the process. Block monitoring with reasonable variable partition and reliable model can distinguish quality-related and quality-unrelated faults and improve monitoring performance. A block monitoring method based on self-organizing map (SOM) and kernel approaches is proposed. After collecting and normalizing the sample data including process variables and quality ones, the data matrix is transposed. The inverted samples are used as the input of SOM, and variables with the same behavioral characteristic and a close correlation are topologically mapped in a similar area. Accordingly, samples can be visually blocked into quality-relevant and independent subspaces. Given the nonlinearity of industrial process, kernel partial least squares (KPLS) and kernel principal component analysis (KPCA) are employed to monitor the two types of blocks. The information provided by fault detection can reveal the effects on quality indicators and the location of faults. Finally, the effectiveness of SOM-KPLS/KPCA is evaluated using a numerical example and the Tennessee–Eastman process.     

Parallel quality-related dynamic principal component regression method for chemical process monitoring

Traditional quality-related process monitoring mainly focuses on the magnitude change of the quality variables caused by additive faults. However, the abnormal fluctuations in the quality variables caused by multiplicative faults are often overlooked. In this paper, a novel parallel dynamic principal component regression (P-DPCR) algorithm is proposed to monitor the changes in the magnitude and fluctuation of the quality variables simultaneously. Firstly, in order to eliminate the interference of quality-unrelated variables, the quality-related process variables are selected on the basis of correlation analysis. Secondly, the dynamic extension and moving window are carried out for process variables and quality variables, in which the dynamic variables space (called X-space/Y-space) and the variance space (called VX-space/VY-space) are constructed. Afterwards, double quality-related statistics based on the regression model of these four spaces are given, and the comprehensive monitoring decision can be obtained. Finally, two numerical cases and the Tennessee Eastman process are used to show the effectiveness of the proposed method.     

基于改进高效偏最小二乘的质量相关故障诊断

高效偏最小二乘(EPLS)作为偏最小二乘(PLS)的扩展算法之一, 在质量相关故障检测中取得了良好的应用 效果. 然而, 研究发现当系统中存在一些与产品质量无关的信息时会导致EPLS的检测率降低, 影响工业生产安全及 效益. 同时, 传统的基于贡献图的故障诊断方法在无故障时输入变量会对故障检测指标的贡献值不均等, 从而影响 故障诊断效果. 针对上述问题, 本文提出了一种改进高效偏最小二乘(IEPLS)的质量相关故障诊断方法. 所提方法首 先用正常数据建立IEPLS算法模型, 利用获得的模型参数对过程变量进行空间分解. 然后在分解后的空间中定义局 部信息增量均值和局部动态阈值, 结合故障判据进行故障检测. 当故障发生后, 利用每个变量的新息矩阵计算对故 障总体的新息贡献率, 根据各个变量新息贡献率大小实现对故障变量的定位. 最后, 使用田纳西伊士曼过程(TEP)对 算法性能进行了验证.     

基于高效核偏最小二乘的质量相关故障检测

核偏最小二乘(KPLS)是一种多元统计方法, 广泛应用于过程监控, 然而, KPLS采用斜交分解, 导致质量相关空间存在冗余信息易引发误报警. 因此, 本文提出了高效核偏最小二乘(EKPLS)模型, 所提方法通过奇异值分解(SVD)将核矩阵正交分解为质量相关空间和质量无关空间, 有效降低质量相关空间中的冗余信息, 并采用主成分分析(PCA)按方差大小将质量相关空间分解为质量主空间和质量次空间. 此外, 为进一步降低由质量无关故障引发的误报警, 提出基于质量估计的正交信号修正(OSC)预处理方法, 并结合EKPLS模型提出了OSC-EKPLS算法. OSCEKPLS通过质量估计值对被测数据进行OSC预处理, 降低了计算复杂度和误报率. 最后, 通过数值仿真和田纳西–伊斯曼过程验证了OSC-EKPLS具有良好的故障检测性和更低的误报率.     

基于核直接分解的过热蒸汽系统故障诊断方法

为提高过热蒸汽系统的运行效率并减少非紧要故障的报警率,本文提出一种质量相关的非线性故障检测与诊断方法.首先,利用核函数将过程变量映射到高维特征空间以消除原始变量之间的非线性耦合.然后,在特征空间进行核直接分解得到两个正交子空间,并在两个子空间中分别设计统计量指标进行质量相关的故障检测.在此基础上,利用偏微分贡献图提取每个变量对联合统计量指标的贡献率,并根据贡献率大小最终确定故障变量.仿真结果表明,所提出的方法能够准确区分影响过热蒸汽温度和不影响过热蒸汽温度的故障,有效降低了非紧要故障的报警率,提高了过热蒸汽系统的运行效率.