非线性偏最小二乘建模方法及在近红外光谱建模上的应用

偏最小二乘算法(PLS)是常用的线性光谱建模方法。针对汽油在线调合中具有非线性特点的辛烷值、干点等属性应用PLS方法建立模型误差较大问题,本文提出了残差-递阶偏最小二乘的建模方法,该方法对已经提取成分后的自变量中剩余的信息再提取主成分,并将该主成分作为新的自变量参与回归建模。仿真验证结果表明:残差-递阶偏最小二乘方法建立的模型中验证集的样本数据误差均在正负0.2之间。残差-递阶偏最小二乘方法与偏最小二乘、递阶偏最小二乘叫-PLS)两种方法比较,残差-递阶偏最小二乘建立的模型有的更高的精度和模型适应性。     

混合PLS特征提取和CVM的异常入侵检测研究

为提高异常入侵检测的效率,提出一种混合偏最小二乘特征提取和核心向量机算法的入侵检测模型。模型使用偏最小二乘算法在入侵数据集上进行主成分提取,在此基础上构建特征集,引入适用于解决大规模样本训练问题的核心向量机算法,在特征集上建立入侵检测模型,使用该模型对异常入侵行为进行检测和判断。通过基于KDD99数据集上的入侵检测实验,验证了混合模型的可行性和有效性。     

采煤机齿轮箱故障诊断方法

针对采煤机齿轮箱运行过程中很容易发生润滑不良或异常磨损等故障的问题,提出了一种基于偏最小二乘回归的采煤机齿轮箱故障诊断方法。选取采煤机齿轮箱内润滑油的铁元素含量、黏度、酸值和水分为检测指标,在对数据进行初值化及主成分提取处理后,建立了采煤机齿轮箱磨损状态的偏最小二乘回归模型。采用某煤矿采煤机齿轮箱的实际运行状态诊断对该偏最小二乘回归模型进行了检验,结果表明在齿轮箱正常磨损情况下,润滑油中铁元素含量实测值与预测值的误差较小,故障情况下二者误差较大,从而可准确判断出齿轮箱的磨损状态和故障情况。     

偏最小二乘法中主成分数确定的新方法

目的：合理地确定偏最小二乘法中的主成分数,方法：基于对 加权原理建立了适用于矩阵元素缺损数据的加权偏小二乘算法,将此算法应用于按矩阵元素分组的交互证实（Cross-validation),根据最大熵原理采用方差平方和σ2（自变量短阵残差的平方和／自由度）作为主成分数的判据,结果与结论：通过对Monte-Carlo法产生的多组分光光度数据进行计算,与常规的偏最小二乘法相比更加符合理论值,表明本算法较好地解决了偏最小二乘法中主成分数的确定问题。     

局部惩罚加权核偏最小二乘算法及其应用

为改善软测量模型精度,提出了一种局部惩罚加权核偏最小二乘算法.该方法通过核映射将原始输入映射到高维特征空间实现对非线性问题的线性化处理,并通过偏最小二乘算法进行主成分提取,降低数据维数;对由主成分构成的新数据集,依据局部学习思想构建局部惩罚加权最小二采回归模型,降低模型对异常数据的敏感度、优化模型参数.鉴于多模型可以改...     

基于正交信号修正与高效偏最小二乘的质量相关故障检测方法

偏最小二乘(PLS)是一种广泛应用于多变量统计过程监控中的有效算法,高效偏最小二乘(EPLS)是近年提出的一种PLS改进算法,在质量相关故障检测中具有良好的检测效果,但当测试数据含有质量无关故障时,EPLS算法的误报率偏高,可能导致误报警,对工业过程中的故障检测有较大影响.为降低检测质量无关故障的误报率,将EPLS结合4种正交信号修正(OSC)方法提出4种OSC-EPLS算法.用质量无关故障样本建立OSC模型对在线监测数据进行预处理,将处理后的信息用EPLS算法进行故障检测,误报率明显降低.最后结合田纳西-伊斯曼工业过程,应用OSC-EPLS、PLS、EPLS算法进行故障检测,分别比较误报率和有效报警率的大小,体现所提出算法在故障检测中的优势.     

基于改进高效偏最小二乘的质量相关故障诊断

高效偏最小二乘(EPLS)作为偏最小二乘(PLS)的扩展算法之一, 在质量相关故障检测中取得了良好的应用 效果. 然而, 研究发现当系统中存在一些与产品质量无关的信息时会导致EPLS的检测率降低, 影响工业生产安全及 效益. 同时, 传统的基于贡献图的故障诊断方法在无故障时输入变量会对故障检测指标的贡献值不均等, 从而影响 故障诊断效果. 针对上述问题, 本文提出了一种改进高效偏最小二乘(IEPLS)的质量相关故障诊断方法. 所提方法首 先用正常数据建立IEPLS算法模型, 利用获得的模型参数对过程变量进行空间分解. 然后在分解后的空间中定义局 部信息增量均值和局部动态阈值, 结合故障判据进行故障检测. 当故障发生后, 利用每个变量的新息矩阵计算对故 障总体的新息贡献率, 根据各个变量新息贡献率大小实现对故障变量的定位. 最后, 使用田纳西伊士曼过程(TEP)对 算法性能进行了验证.     

基于近似偏最小一乘的闭环系统辨识新方法

本文基于近似最小一乘准则和主成分分析,针对反馈通道模型阶次低于前向通道模型阶次且反馈通道不存在噪声的闭环系统,进行了近似偏最小一乘递推辨识算法的推导.为解决最小一乘准则函数不可微的问题,本文算法用确定性可导函数近似代替残差绝对值.近似偏最小一乘辨识算法可以克服基于最小二乘准则的辨识算法在受到满足(SαS)分布的尖峰噪声干扰时残差平方项过大的缺点,具有目标函数可导,计算简单的优点.同时,通过主成分分析去除数据向量各元素之间的线性相关,可以得出模型参数的唯一解.仿真实验表明,本文算法可以对反馈通道模型阶次低于前向通道模型阶次的闭环系统进行直接辨识,抑制了尖峰噪声对辨识结果的影响,具有优良的稳健性,可以更好地应用于闭环系统辨识.     

二维非负偏最小二乘在人脸识别中的应用

传统的基于统计的子空间学习算法如主成分分析,通过学习只能得到一系列特征脸,忽略了人脸识别中重要的局部信息（如眼睛、鼻子）。而利用到类别信息的算法如线性判别分析,也会因为小样本问题而有所影响。为了解决这些问题,结合二维偏最小二乘与非负矩阵分解的非负性思想提出二维非负偏最小二乘(Two-Dimensional Nonnegative Partial Least Squares,2DNPLS)算法。其核心思想是在提取人脸特征时加入了非负性约束,使得2DNPLS不仅拥有偏最小二乘算法加入类别信息带来的分类效果,还保留了图像矩阵的内部结构信息,而且还使得到的基矩阵具有非负的局部的可解释性。在ORL,Yale人脸库中的实验结果表明,该算法从时间上和识别率上均优于人脸识别的主流算法。     

正交信号校正的自回归模型及其在动态过程监测中的应用

针对采样数据的自相关性, 提出一种基于自回归(AR) 模型的动态过程建模方法. 首先, 利用正交信号校正(OSC) 消除用于AR模型回归的两数据集间的正交不相关信号; 然后, 在处理过的数据上进行偏最小二乘(PLS) 回归建模. 该方法对模型潜隐成分和残差信息同时进行在线监测, 并借鉴贝叶斯推理方法将多个监测指标进行融合, 以易化触发故障警报的决策过程. 最后通过在田纳西-伊斯曼(Tennessee Eastman, TE) 过程上的仿真实验验证了所提出方法的有效性.

     

基于局部信息增量与MPLS的质量相关故障检测方法

在工业生产中,对系统进行故障检测具有十分重要的作用.改进的偏最小二乘(modified partial least squares,MPLS)是在PLS基础上提出的一种扩展算法,在质量相关故障检测中具有良好的检测效果,但当测试数据中含有质量无关故障时,MPLS算法漏报率较高.另外,MPLS算法的阈值为固定值会导致其误报率增加,这些问题会对工业过程监控产生较大影响.鉴于此,提出一种基于局部信息增量与MPLS的质量相关故障检测方法(local information increment-MPLS,LII-MPLS).在MPLS基础上,通过使用局部信息增量技术对测试数据进行实时更新检测后,质量相关故障的漏报率明显降低.同时,过程复杂化导致静态控制限不能满足故障检测的需求,现存的动态控制限适用范围具有一定局限性,因此改进静态控制限将其推广为局部动态阈值.最后,通过田纳西伊士曼过程(Tennessee Eastman process,TEP)仿真实验验证了所提出算法的有效性.     

Canonical correlation analysis-based fault detection methods with application to alumina evaporation process

In this paper, canonical correlation analysis (CCA)-based fault detection methods are proposed for both static and dynamic processes. Different from the well-established process monitoring and fault diagnosis systems based on multivariate analysis techniques like principal component analysis and partial least squares, the core of the proposed methods is to build residual signals by means of the CCA technique for the fault detection purpose. The proposed methods are applied to an alumina evaporation process, and the achieved results show that both methods are applicable for fault detection, while the dynamic one delivers better detection performance.     

粗决策树动态规则提取算法研究及应用

针对静态算法对大数据和增量数据处理不足的问题,构造了基于粗决策树的动态规则提取算法,并将其应用于旋转机械故障诊断中.将粗集与决策树结合,用增量方式实现样本抽取;经过动态约简、决策树构造、规则提取与选择、匹配4个步骤的循环迭代过程,实现了数据的动态规则提取,使得提取的规则具有更高的可信度;同时,将算法应用于旋转机械故障诊断这一动态问题中,验证了算法的有效性;最后,将所提算法分别与静态算法和增量式动态算法进行了效率对比分析,实验结果表明,所提算法能够以最精简的规则获得更多数据隐含信息.     

Efficient residuals pre-processing for diagnosing multi-class faults in a doubly fed induction generator,under missing data scenarios

This paper focuses on the development of a pre-processing module to generate the latent residuals for sensor fault diagnosis in a doubly fed induction generator of a wind turbine. The pre-processing module bridges a gap between the residual generation and decision modules. The inputs of the pre-processing module are batches of residuals generated by a combined set of observers that are robust to operating point changes. The outputs of the pre-processing module are the latent residuals which are progressively fed into the decision module, a dynamic weighting ensemble of fault classifiers that incrementally learns the residuals-faults relationships and dynamically classifies the faults including multiple new classes.The pre-processing module consists of the Wold cross-validation algorithm along with the non-linear iterative partial least squares (NIPALS) that projects the residual to the new feature space, extracts the latent information among the residuals and estimates the optimal number of principal components to form the latent residuals. Simulation results confirm the effectiveness of this approach, even in the incomplete scenarios, i.e., the missing data in the batches of generated residuals due to sensor failures.     

带有稳定学习的递归神经网络动态偏最小二乘建模

针对目前非线性动态偏最小二乘(PLS)建模方法在拟合较强非线性化工过程时存在的问题, 提出一种基于稳定学习的递归神经网络动态PLS建模方法. 该算法将递归神经网络与Hammerstein模型相结合, 对外部PLS提取的特征向量进行内部建模, 具有逼近较强非线性化工过程的能力, 改善了模型的适用范围. 此外, 采用带有稳定学习的参数更新算法对模型参数进行在线修正, 改善了模型的预测精度和自适应能力. 将此方法应用于氧化铝生产过程铝酸钠溶液组分浓度建模实验, 仿真结果表明, 本方法是可行有效的.     

Design teacher and supervised dual stacked auto-encoders for quality-relevant fault detection in industrial process

Current fault detection methods based on deep neural networks only consider process information and ignore quality indicators. In order to obtain features representing both process variables and quality indicators efficiently, this paper designs teacher and supervise dual stacked auto-encoder (TSSAE) for quality-relevant fault detection in industrial process which separates the feature extraction and model construction. To separate the feature extraction and model construction, a mixing stacked auto-encoder which consists of a nonlinear encoder and a linear decoder is designed to extract features of process variables and quality indicators. Another encoder is supervised by the extracted features and further predict the process variables and quality indicators only from process variables. Then quality-relevant, quality-irrelevant and residual subspaces are constructed in a linear way and fault detection is implemented in these subspaces based on Euclidean distance and kernel density estimation. Finally, the effectiveness of TSSAE is evaluated by a numerical example and the Tennessee-Eastman process.     

局部近邻标准化偏最小二乘的多模态间歇过程故障检测

本文针对多模态间歇过程数据多中心和模态方差差异明显的问题,提出了一种基于局部近邻标准化偏最小二乘方法.首先,采用统计模量方法处理间歇过程数据,再利用局部近邻标准化方法将统计模量后的训练数据进行高斯化处理,建立偏最小二乘监控模型,确定控制限;然后,同样对统计模量后的测试数据进行局部近邻标准化处理,再计算测试数据的高斯偏最小二乘监控指标,进行过程监视及故障检测.最后,通过数值实例和青霉素发酵过程验证方法有效性.实验结果表明所提方法解决了故障样本近邻集跨模态问题,对多模态数据具有更好的故障检测能力.     

基于PLS特征提取的网络异常入侵检测CVM模型

为改善网络安全防护水平,提出一种基于偏最小二乘(PLS)法和核向量机(CVM)的组合式异常入侵检测方法.首先,采用PLS算法提取网络数据的主成分,构建特征集;然后,利用CVM构建特征集的异常入侵检测模型,进而完成异常入侵检测和判定.仿真实验结果表明,所提出的方法具有CVM的大规模数据快速处理能力,而且检测性能与L1-SVM和L2-SVM大致相当,尤其主成分数 为1538时能保持相对较高的检测水平,验证了将其用于异常入侵检测的有效性和可行性.