基于混合SVR-PLS方法的丙烯腈收率软测量建模

为了更有效地处理过程非线性、多输入和数据共线性等复杂特性,提高模型的推广能力和精度,提出了混合支持向量回归机-偏最小二乘法(SVR—PLS)方法．该方法兼具SVR和PLS的优点．用PLS进行特征提取．用SVR建立PLS的内部模型．对工业丙烯腈生产过程丙烯腈收率软测量建模的应用表明．采用该方法建立的软测量模型．在模型精度、推广能力等方面明显优于一些传统软测量建模方法．满足工业应用要求．     

发酵罐KPCA与SVR软测量技术的研究

青霉素发酵过程具有较强的非线性、时变性和不确定性,发酵过程中的基质浓度、青霉素菌体浓度、产物浓度等关键生物参数难以实时在线测量,而离线化验存在时滞大的问题,难以满足实时在线控制的要求。针对这一问题,提出了一种基于核主成分分析(KPCA)与支持向量机回归(SVR)的软测量建模方法。首先,利用KPCA提取软测量输入数据空间中的非线性主成分;然后,采用SVR算法建立了可准确预测青霉素发酵过程重要参数的软测量模型。试验结果表明,与传统建模方法相比,KPCA-SVR软测量模型的测量精度高、跟踪性能好、泛化能力强,能满足发酵过程中青霉素菌丝浓度的在线测量要求,是一种有效的软测量建模方法。     

基于因子回归模型的软测量方法

在工业过程中,有很多重要变量往往无法在线检测,通常通过软测量方法进行估计,主元回归是其中1种常用方法。相比于主元,因子更具广泛意义,更能反映数据的本质特征。基于此,提出1种基于因子回归模型的软测量方法,先对过程日常运行数据进行因子分析,建立因子生成模型,并提取因子信息,然后建立因子与关键变量间的因子回归模型,在线应用时先将可测变量代入生成模型得到因子变量,然后将因子代入到因子回归模型,软测量出关键变量。将该方法应用到化工吸附分离过程中,比较了因子回归模型与主元回归模型的软测量效果,结果表明前者优于后者。     

生物发酵过程中SSVIP-NNI软测量方法

生物发酵过程中关键生化变量难以直接检测,提出了一种利用基于敏感性与特异性的变量投影重要性(SSVIP)方法优化神经网络逆系统(NNI)的软测量方法。根据逆系统理论建立软测量模型,采用VIP变量优选方法,对软测量模型中的辅助变量进行优化。为了进一步提高VIP方法优选变量的性能,利用模型敏感性与特异性的概念,重新定义了VIP筛选阈值,确定最优的发酵过程软测量模型的变量。构造神经网络近似最优逆系统软测量模型,实现对发酵过程中关键过程变量的估计。通过Pensim仿真平台进行实验研究,结果表明经过辅助变量优选的神经网络逆系统软测量模型具有更高的估计精度和泛化能力。     

基于多K最近邻回归算法的软测量模型

针对单一模型预测精度较低的问题,提出多K最近邻回归算法(MKNN)的软测量建模方法.该方法采用高斯过程选择软测量模型的辅助变量,通过自适应仿射传播聚类方法将输入样本数据分成多组数据,对每组数据用K最近邻回归(KNN)算法建立子模型,各个子模型的预测输出通过主元回归(PCR)方法连接.用该方法建立粗汽油干点软测量模型,仿真研究表明,该算法的预测精度和泛化能力优于单KNN模型.     

基于非线性慢特征回归的动态软测量建模

隐变量模型如部分最小二乘已经被广泛用于建立低维子空间,并以此建立回归模型用于质量预测。然而,它们都是基于工业过程的静态假设,一般实际的工业过程都是动态的。本文提出一种非线性慢特征回归模型,用作动态软测量模型。首先,对线性慢特征分析进行非线性扩展,然后非线性的慢特征作为隐变量通过扩展后的慢特征分析从过程数据中被提取出来。不同于传统的隐变量模型,慢特征分析假设隐变量具有缓慢变化的动态特性。由于工业过程明显的动态变化,慢特性可以被看作有效的先验知识加以利用。最后,利用提取的慢特征建立回归模型并用于产品质量的预测。实验结果表明,基于非线性慢特征的软测量模型要比传统的软测量模型预测精度高。     

基于DP-RFR的多模型软测量建模

实际工业过程往往是一个多工况、非线性的大规模复杂系统,使得单一模型软测量建模方法难以充分挖掘数据信息。针对这一问题提出了一种基于密度峰(Density Peak,DP)聚类和随机森林回归(Random Forest Regression,RFR)的多模型软测量建模方法,从而对主导变量进行估计。首先,利用DP聚类算法对训练数据进行划分;其次,采用RFR方法建立各子类的回归子模型;最后采用开关切换的方法进行多模型融合。将提出方法应用于TE过程和丁烷蒸馏过程的软测量建模中,分别对产物G含量和丙烷含量进行估计。仿真结果表明估计精度得到提高,证明该方法是有效的。     

基于SVR的燃煤机组NOX含量的软测量模型

作为火电厂燃煤脱硝工作的基础,选择性催化还原(SCR)脱硝反应器入口氮氧化物(NO_X)含量的测量至关重要。针对难以准确现场实时测量NO_X含量的问题,提出了基于回归型支持向量机(SVR)的软测量模型。首先对SCR反应器生成NO_X的过程进行机理分析,并结合相关性分析、主成分分析等数据处理方法选取辅助变量,然后基于回归型支持向量机算法建立模型,最后运用BP神经网络对模型进行检验,解决了SCR反应器入口NO_X的含量的难以准确预测问题。为SCR反应器入口NO_X含量的实时、准确测量打下基础。     

局部特征关系下的数据回归及软测量建模

针对复杂工业过程中存在的数据非线性的问题,对基于数据局部特征的回归模型构建和软测量建模方法进行研究。基于邻域保持嵌入(NPE)算法思想,利用数据间局部关系特征,建立多目标的回归优化函数,提出了基于局部的数据回归(LDR)算法。该方法基于数据的局部关系和邻域特征,在保留输入数据和输出数据局部特征的同时,获取数据间的最大相关关系。通过数据低维潜变量获取数据的回归关系,并建立软测量预测模型。将模型应用于工业案例中,预估产品的质量和难以在线测量的关键变量。脱丁烷塔的案例研究证明了所提出的方法在变量预测方面的有效性。与基于全局特征的软测量模型的对比分析结果表明,所提出的LDR在获取非线性数据相关性和增强数据预测精度方面具有显著的改善效果。     

基于混合准则的软测量建模辅助变量选择方法

软传感器在工业中被广泛应用于预测与产品质量密切相关的关键过程变量,这些变量很难在线测量。要建立一个高精度的软传感器,选择合适的辅助变量是至关重要的。针对这个问题,本文通过耦合训练集的BIC准则以及验证集的MSE准则得到一个混合整数非线性规划问题,并将该MINLP问题分成内外两层结构,外层采用遗传算法对二元整数变量进行寻优,内层在整数变量固定之后退化成了较易于求解的非线性规划问题。在此基础上经过进一步分析提出了基于混合准则的变量选择方法,然后将所得辅助变量子集代入BP神经网络进行软测量建模。最后,通过4组案例对所提出方法进行验证。结果表明,所提出方法建立的软测量模型具有较好的预测性能。     

Applying support vector regression to water quality modelling by remote sensing data

This article applies a nonlinear machine learning method, support vector regression (SVR), to construct empirical models retrieving water quality variables using remote sensing images. Based on in situ measurements and high-resolution multispectral SPOT-5 (Satellite Pour l'Observation de la Terre) data, a fittest nonlinear function between input and output was obtained from this method, and SVR model parameters were selected automatically using a genetic algorithm (GA). The relationship between water quality variables – permanganate index (COD_Mn), ammonia-nitrogen (NH₃–N) and chemical oxygen demand (COD) – and spectral components of SPOT-5 data for the Weihe River in China was constructed by the proposed method. Spatial distribution maps for the three water quality variables were also developed. The results show that SVR can implement any nonlinear mapping, and produce better predictions than the traditional statistical multiple regression method, especially when samples are limited. With further testing, SVR can also be extended to hyperspectral remote sensing applications in the management of land and water resources.     

基于改进GA参数优化的SVR股价预测模型

针对股票价格的动态性及非线性等特点, 提出了基于改进遗传算法(Genetic Algorithm, GA)优化参数的支持向量回归机(Support Vector Regression, SVR)股价预测模型. 首先将选取的股票价格样本进行小波去噪处理, 然后将经过改进GA优化参数的SVR模型对去噪后的数据进行预测及评价. 结果证明, 改进小波-GA-SVR模型具有良好的预测效果, 对股票价格的预测研究具有一定的意义.     

基于最小二乘支持向量回归的水质预测

水质系统是一个开放的、复杂的、非线性动力学系统,具有时变复杂性,针对水质预测方法的研究虽然已经取得了一些成果,但也存在预测精度与计算复杂度等难题。为此,本文提出一种基于最小二乘支持向量回归的水质预测算法。支持向量机是机器学习中一种常用的分类模型,通过核函数将非线性数据从低维映射到高维空间,在高维空间实现线性分类和回归,最小二乘支持向量回归（LS-SVR）利用所有的样本参与回归拟合,使得回归的损失函数不再只与小部分支持向量样本有关,而是由所有样本参与学习修正误差,提高预测精度;同时该算法将标准SVR求解问题由不等式的约束条件及凸二次规划问题转化成线性方程组来求解,提高了运算速度,解决了非线性复杂特性的水质预测问题。     

基于神经网络的丙酮产品质量分类挖掘

针对丙酮精制过程的特点,提出一种基于神经网络的丙酮产品质最分类挖掘方法。首先,讨论了数据挖掘中自变量筛选的方法,包括相关性分析、Fisher指数分析、主成分回归分析以及偏最小二乘回归分析等,综合各种疗法分析的结果,对丙酮精制过程中众多的工艺影响因素进行了重要性排序并据此筛选出重要的自变量;以选入的变量作为输入变量,构造基于神经网络的产品质量分类器。实验结果表明,训练后的神经网络分类器在丙酮产品质量分类挖掘中取得了良好的效果。     

基于自校正支持向量回归的锌产量在线预报模型及应用

提出了基于自校正支持向量回归的密闭鼓风炉锌产量在线预报模型，以便根据预报结果来调整参数，实现锌产量最大．在该模型中，支持向量回归的数学模型被转换成与支持向量分类一样的格式，然后采用简化的SMO方法训练回归系数向量a-a*和阈值b，并在训练过程中动态调整惩罚系数C．最后，给出锌产量的在线预报算法．仿真结果表明，该预报模型在只有较少的样本数的情况下，在有效误差范围内预报精度能达到90％，且具有很好的实时性．     

基于核方法的非线性时间序列预测建模

提出了一种基于核的非线性时间序列预测建模方法。对非线性时间序列的相空间进行重构以确定其嵌入维数,并提出一种基于核主成分分析的非线性时间序列相空间重构方法,针对时间序列的时序特征,采用一种加权的支持向量回归模型对时间序列预测建模。在不同基准数据集上的实验结果表明,与通常的基于普通支持向量回归的建模方法相比,该文所提出的预测建模方法具有较高的精度,说明所提方法对非线性时间序列的预测建模是有效的。     

基于PSO优选参数的SVR水质参数遥感反演模型

为进一步提高多光谱图像水质反演的精度,提出了一种基于PSO优选参数的SVR水质参数遥感反演模型.该模型利用高分辨率多光谱遥感SPOT-5数据和水质实地监测数据,采用交叉验证CV(cross validation)估计模型推广误差并使用PSO优选SVR模型参数,实现了模型参数的自动全局优选,在训练好的SVR模型基础之上对水质进行反演.以渭河陕西段为例进行实证研究,实验结果表明,本文提出的水质反演模型较常规的线性回归模型有更高的反演精度,为内陆河流环境遥感监测提供了一种新方法.     

Incorporating feature selection method into support vector regression for stock index forecasting

Stock index forecasting is one of the most difficult tasks that financial organizations, firms and private investors have to face. Support vector regression (SVR) has become a popular alternative in stock index forecasting tasks due to its generalization capability in obtaining a unique solution. However, the major limitation of SVR is that it cannot capture the relative importance of independent variables to the dependent variable when many potential independent variables are considered. This study incorporates feature selection method and SVR for building stock index forecasting model. The proposed model uses multivariate adaptive regression splines (MARS), an effective nonlinear and nonparametric regression methodology, to identify important forecasting variables. The obtained significant predictor variables are then served as the inputs for the SVR model. Experimental results reveal that the obtained important variables from MARS can improve the forecasting performance of the SVR models. Moreover, the MARS results provide useful information about the relationship between the selected predictor variables and stock index through the obtained basis functions, important predictor variables and the MARS prediction function. Hence, the proposed stock index forecasting model can generate good forecasting performance and exhibits the capability of identifying significant predictor variables, which provide valuable information for further investment decisions/strategies.     

Stochastic support vector regression with probabilistic constraints

Support Vector Regression (SVR) solves regression problems based on the concept of Support Vector Machine (SVM). In this paper, we introduce a novel model of SVR in which any training samples containing inputs and outputs are considered the random variables with known or unknown distribution functions. Constraints occurrence have a probability density function which helps to obtain maximum margin and achieve robustness. The optimal hyperplane regression can be obtained by solving a quadratic optimization problem. The proposed method is illustrated by several experiments including artificial data sets and real-world benchmark data sets.     

基于聚类算法的支持向量回归建模的新策略

针对支持向量机对时变的样本集采用单一模型建模困难的问题，提出了一种新的学习策略．首先，使用自组织映射(SOM)神经网络和k-means聚类算法对初始样本集合进行聚类．然后，针对每个聚类数据集合，通过最优加权组合不同核函数的支持向量回归模型建立最终的模型．实验表明，采用这种学习策略的建模精度要优于单一支持向量回归建模方法．