基于多层感知器神经网络的精矿品位预报

精矿品位是直接关系到选矿生产效率和产品质量的重要指标,精矿品位的在线检测对提高赤铁矿选矿生产流程的产品质量和生产效率、减少资源消耗具有重要意义。但是,由于选矿生产的强非线性和强耦合性,使得精矿品位往往难于在线连续测量。为了建立精矿品位与工艺指标之间的模型,以便于调整各工艺指标,从而实现全流程优化,本文采用多层感知器神经网络和系统辨识相结合的方法,运用Matlab系统辨识工具箱和神经网络工具箱,提出了由线性模型和非线性补偿模型组成的混合模型结构的精矿品位预报方法,建立了精矿品位预报模型。该方法提高了对于复杂工业过程中精矿品位指标的预报精度,通过现场数据和一系列对比实验验证了本方法的有效性和优点。     

基于多层感知器神经网络的精矿品位预报北大核心CSCD

精矿品位是直接关系到选矿生产效率和产品质量的重要指标,精矿品位的在线检测对提高赤铁矿选矿生产流程的产品质量和生产效率、减少资源消耗具有重要意义。但是,由于选矿生产的强非线性和强耦合性,使得精矿品位往往难于在线连续测量。为了建立精矿品位与工艺指标之间的模型,以便于调整各工艺指标,从而实现全流程优化,本文采用多层感知器神经网络和系统辨识相结合的方法,运用Matlab系统辨识工具箱和神经网络工具箱,提出了由线性模型和非线性补偿模型组成的混合模型结构的精矿品位预报方法,建立了精矿品位预报模型。该方法提高了对于复杂工业过程中精矿品位指标的预报精度,通过现场数据和一系列对比实验验证了本方法的有效性和优点。     

一种混合核函数SVM建模方法及其应用

为了提高模型的泛化能力和精度,提出了一种基于混合核函数的支持向量机(SVM)建模方法.所提出的混合核函数由径向基函数和多项式函数加权组合而成,克服了支持向量机模型中单个核函数的局限性.并利用量子粒子群算法(QPSO)对惩罚系数、核参数以及混合权重系数进行综合寻优,求取最优化参数组合,从而提高模型的精度.采用锌湿法冶炼净化过程现场数据对建模的方法进行了测试,结果表明,所提出的混合核函数支持向量机模型具有较好的泛化性能和预测精度,预测结果满足现场工艺生产的要求.     

基于特征分组的多核融合在线自适应识别算法

为提高C-SVM的泛化性能,提出一种基于特征分组的多核融合在线自适应识别算法.此算法首先把特征按照待识别样本集的特性分为若干组,然后根据各组特征的特性采用不同的核函数训练C-SVM模型,并分别把各个模型支持向量间的相似度作为其权重系数,通过自适应样本不断调整权重系数和模型参数,使得C-SVM模型的参数能够随着待识别样本特性的变化而自适应地变化.将此算法应用于非特定人语音情感识别系统,与RBF核、多项式核和Sigmoid核的对比证明了多核融合在线自适应识别算法的优越性,通过与中性语句归一化方法相比证明了本文算法的有效性和稳定性.     

自适应聚焦损失的图像目标检测算法

现代目标检测算法仍然存在由现有目标检测架构引起的正负样本不平衡和训练数据引起的难易样本不平衡。现有方法一般采用基于类别频率的重采样或基于类别预测概率的重新加权,虽然减轻了类别的不平衡问题,但是引入了新的超参数,为每个训练任务需要进行大量的手动调整超参数。为此在现有Focal Loss损失函数基础上提出了一个新的损失函数自适应聚焦损失（Adaptive Focal Loss）,使模型聚焦于对训练过程贡献更大的困难样本,并且可自适应地调整超参数。根据训练过程中每批图像标签中的正负样本数量计算出自适应的加权因子来实现对正负样本的动态平衡。根据训练过程中不同阶段各类真实标签的期望概率计算出自适应的调制因子来自适应地平衡难易样本。为验证方法的有效性,在PASCAL VOC2007测试数据集中平均精度均值达到80.75%,相比较于原算法提高了3.45个百分点。在PASCAL VOC2012测试数据集中平均精度均值达到77.17%,相比较于原算法提高了1.87个百分点。实验结果表明,把Adaptive Focal Loss作为网络的损失函数,相比于原始的Focal Loss损失函数检测精度有所提升,并具有较大的实用价值。     

基于更新样本智能识别算法的自适应集成建模

选择表征建模对象特性漂移的新样本对软测量模型进行自适应更新,能够降低模型复杂度和运行消耗,提高模型可解释性和预测精度.针对新样本近似线性依靠程度（Approximate linear dependence, ALD）和预测误差（Prediction error, PE）等指标只能片面反映建模对象的漂移程度,领域专家结合具体工业过程需要依据上述指标和自身积累经验进行更新样本的有效识别等问题,本文提出了基于更新样本智能识别算法的自适应集成建模策略.首先,基于历史数据离线建立基于改进随机向量泛函连接网络（Improved random vector functional-link networks, IRVFL）的选择性集成模型;然后,基于集成子模型对新样本进行预测输出后采用在线自适应加权算法（On-line adaptive weighting fusion, OLAWF）对集成子模型权重进行更新,实现在线测量阶段对建模对象特性变化的动态自适应;接着基于领域专家知识构建模糊推理模型对新样本相对ALD（Relative ALD, RALD）值和相对PE（Relative PE, RPE）值进行融合,实现更新样本智能识别,构建新的建模样本库;最后实现集成模型的在线自适应更新.采用合成数据仿真验证了所提算法的合理性和有效性.     

在线KPLS建模方法及在磨机负荷参数集成建模中的应用

针对过程非线性、基于历史数据构建的离线模型泛化性差以及基于滑动窗口 和每样本递推更新的在线建模方法难以均衡建模精度和建模速度等问题, 提出了一种在线 核偏最小二乘(On-line kernel partial least squares, OLKPLS)建模方法. 该方法依据新样本与建模样本间的近似线性依靠(Approximate linear dependence, ALD)值和代表工业过程特性漂移幅度的 阈值, 选择有价值样本更新KPLS模型, 并采用合成数据和Benchmark平台数据对该方法进 行了仿真验证. 针对基于离线历史数据建立的融合多传感器信息的磨机负荷参数集成模型难以适应磨 矿过程时变特性的问题, 提出了基于OLKPLS和在线自适应加权融合算法的在线集成建模方 法, 并通过实验球磨机的实际运行数据仿真验证了方法的有效性.     

基于核函数的PLS丁苯橡胶聚合转化率软测量

针对企业对丁苯橡胶聚合转化率需在线高精度预测的需求,考虑实际工况复杂性和偏最小二乘(PLS)算法非线性处理能力的不足,分别建立了引入单核和混合核函数的丁苯橡胶聚合转化率PLS预测模型。工业数据仿真结果表明:基于核的PLS模型均可满足企业生产对预测精度的要求,即聚合转化率预测绝对误差大于1.5的比例不大于样本总数的10%,尤其是混合核PLS因兼有局部和全局特性,表现出更优的性能。     

组合核函数高斯过程的网络流量预测模型

针对网络流量的非线性和时变性等特点,为了提高网络流量预测精度,提出一种组合核函数高斯过程的网络流量预测模型。用自相关法和假近邻法计算网络流量的延迟时间和嵌入维数,构建网络流量学习样本;采用组合核函数高斯过程对训练集进行学习,并且参数通过遗传算法进行优化;最后采用网络流量数据对模型性能测试。仿真表明,相对于对比模型,组合核函数高斯模型获得了更高的预测精度,预测结果更加稳定、可靠,具有较大的实际应用价值。     

时变过程在线辨识的即时递推核学习方法研究

为了及时跟踪非线性化工过程的时变特性, 提出即时递推核学习 (Kernel learning, KL)的在线辨识方法. 针对待预测的新样本点, 采用即时学习 (Just-in-time kernel learning, JITL)策略, 通过构造累积相似度因子, 选择与其相似的样本集建立核学习辨识模型. 为避免传统即时学习对每个待预测点都重新建模的繁琐, 利用两个临近时刻相似样本集的异同点, 采用递推方法有效添加新样本, 并删减旧模型的样本, 以快速建立新即时模型. 通过一时变连续搅拌釜式反应过程的在线辨识, 表明了所提出方法在保证计算效率的同时, 较传统递推核学习方法提高了辨识的准确程度, 能更好地辨识时变过程.     

核学习自适应预测控制器的在线更新方法

针对非线性过程控制器的设计问题,将基于稀疏核学习的一种具有解析形式的自适应预测控制算法与选择性递推核学习相结合.该在线核学习模型可以通过递推算法进行节点增长和删减的有效更新.因此,所提出的控制器复杂度可控,且能学习过程的时变等特性,从而获得更好的性能.通过一非线性时变过程的仿真研究,验证了所提出的核学习控制器较传统的PID和无在线更新的核学习控制器等具有更好的自适应能力和鲁棒性.     

基于核映射极限学习机的入口氮氧化物预测

针对在线贯序极限学习机(OS-ELM)算法隐含层输出不稳定、易产生奇异矩阵和在线贯序更新时没有考虑训练样本时效性的问题,提出一种基于核函数映射的正则化自适应遗忘因子(FFOS-RKELM)算法.该算法利用核函数代替隐含层,能够产生稳定的输出结果.在初始阶段加入正则化方法,通过构造非奇异矩阵提高模型的泛化能力;在贯序更新阶段,通过新到的数据自动更新遗忘因子.将FFOS-RKELM算法应用到混沌时间序列预测和入口氮氧化物时间序列预测中,相比于OS-ELM、FFOS-RELM、OS-RKELM算法,可有效地提高预测精度和泛化能力.     

基于改进核主元分析的TE故障诊断

PCA、KPCA作为常用的多变量统计监控算法,一般适用于定常过程。针对实际工业过程的时变、非线性特性,提出一种基于分块的改进KPCA算法。该方法通过采用随时间更新的核矩阵代替固定核矩阵用于主元模型的建立,使非线性监控模型能够在线更新,从而提高KPCA的检测正确率。与KPCA方法相比,该方法的运算复杂度明显降低。将该方法应用于TE(Tennessee Eastman)过程,仿真结果显示,该方法具有较好的监测性能,且所需时间大大减小,说明了本算法的有效性。     

A sparse kernel algorithm for online time series data prediction

Kernel based methods have been widely applied for signal analysis and processing. In this paper, we propose a sparse kernel based algorithm for online time series prediction. In classical kernel methods, the kernel function number is very large which makes them of a high computational cost and only applicable for off-line or batch learning. In online learning settings, the learning system is updated when each training sample is obtained and it requires a higher computational speed. To make the kernel methods suitable for online learning, we propose a sparsification method based on the Hessian matrix of the system loss function to continuously examine the significance of the new training sample in order to select a sparse dictionary (support vector set). The Hessian matrix is equivalent to the correlation matrix of sample inputs in the kernel weight updating using the recursive least square (RLS) algorithm. This makes the algorithm able to be easily implemented with an affordable computational cost for real-time applications. Experimental results show the ability of the proposed algorithm for both real-world and artificial time series data forecasting and prediction.     

An adaptive multimode process monitoring strategy based on mode clustering and mode unfolding

A comprehensive monitoring framework is proposed for multimode processes in which mode clustering and mode unfolding are integrated within an adaptive strategy. To start, an aggregated k-means algorithm produces an optimal ensemble clustering solution for a multimode process dataset. Next, a mode unfolding (MU) scheme enables the development of a single principal component analysis (PCA) model for processes operating under multiple desired steady-states (modes). Finally, adaptive strategies for online mode identification and model updating are presented to address the challenges in fault detection in the presence of multiple operating modes. The validity and usefulness of the adaptive MU-PCA based monitoring framework is demonstrated through a study of the Tennessee Eastman benchmark process.     

Online Multiple Kernel Classification

Although both online learning and kernel learning have been studied extensively in machine learning, there is limited effort in addressing the intersecting research problems of these two important topics. As an attempt to fill the gap, we address a new research problem, termed Online Multiple Kernel Classification (OMKC), which learns a kernel-based prediction function by selecting a subset of predefined kernel functions in an online learning fashion. OMKC is in general more challenging than typical online learning because both the kernel classifiers and the subset of selected kernels are unknown, and more importantly the solutions to the kernel classifiers and their combination weights are correlated. The proposed algorithms are based on the fusion of two online learning algorithms, i.e., the Perceptron algorithm that learns a classifier for a given kernel, and the Hedge algorithm that combines classifiers by linear weights. We develop stochastic selection strategies that randomly select a subset of kernels for combination and model updating, thus improving the learning efficiency. Our empirical study with 15 data sets shows promising performance of the proposed algorithms for OMKC in both learning efficiency and prediction accuracy.     

基于自适应子空间在线PCA的手势识别

基于视觉的手势识别系统的学习一般是离线的,导致系统对新手势的正确识别需要重新离线学习,因此系统实时性、可扩展性和鲁棒性较差,不适合认知发育的智能框架。文中提出了基于自适应子空间在线PCA的手势识别方法。该方法通过计算样本投影系数向量的PCA来实现子空间在线更新,并根据新样本与已学习样本的差异程度,调整子空间更新策略,使算法自适应于不同情况,减少计算和存储开销,实现增量的在线学习和识别手势的目的。实验表明,本文方法能处理未知手势问题,实现手势在线积累和更新,逐渐增强系统识别能力。     

基于核自适应滤波器的时间序列在线预测研究综述

核自适应滤波器(Kernel adaptive filter, KAF)是时间序列在线预测的重点研究领域之一, 本文对核自适应滤波器的最新进展及未来研究方向进行了分析和总结. 基于核自适应滤波器的时间序列在线预测方法, 能较好地解决预测、跟踪问题. 本文首先概述了三类核自适应滤波器的基本模型, 包括核最小均方算法、核递归最小二乘算法和核仿射投影算法(Kernel affine projection algorithm, KAPA). 在此基础上, 从核自适应滤波器在线预测的内容和机理入手, 综述基于核自适应滤波器的时间序列在线预测方法. 最后, 本文将介绍这一领域潜在的研究方向和发展趋势, 并展望未来的挑战.     

Adaptive nonlinear discriminant analysis by regularized minimum squared errors

Kernelized nonlinear extensions of Fisher's discriminant analysis, discriminant analysis based on generalized singular value decomposition (LDA/GSVD), and discriminant analysis based on the minimum squared error formulation (MSE) have recently been widely utilized for handling undersampled high-dimensional problems and nonlinearly separable data sets. As the data sets are modified from incorporating new data points and deleting obsolete data points, there is a need to develop efficient updating and downdating algorithms for these methods to avoid expensive recomputation of the solution from scratch. In this paper, an efficient algorithm for adaptive linear and nonlinear kernel discriminant analysis based on regularized MSE, called adaptive KDA/RMSE, is proposed. In adaptive KDA/RMSE, updating and downdating of the computationally expensive eigenvalue decomposition (EVD) or singular value decomposition (SVD) is approximated by updating and downdating of the QR decomposition achieving an order of magnitude speed up. This fast algorithm for adaptive kernelized discriminant analysis is designed by utilizing regularization techniques and the relationship between linear and nonlinear discriminant analysis and the MSE. In addition, an efficient algorithm to compute leave-one-out cross validation is also introduced by utilizing downdating of KDA/RMSE.