基于改进κ-最近邻回归算法的软测量建模

机器学习回归方法被广泛应用于复杂工业过程的软测量建模，κ-最近邻（κNN）算法是一种浒的学习算法，可用于函数回归问题，然而，传统κNN算法存在运行效率低，距离计算忽略牲权值的缺点，本文引入了二次型距离定义和样本集剪辑算法，改进了传统κNN回归算法，并将改进的算法用于工业过程软测量建模，仿真实验得到了一些有益的结论。     

基于特征向量提取的核回归建模方法研究

针对工业软测量中的非线性数据回归问题,提出一种基于特征向量提取的核回归建模方法.基于核函数非线性变换技术,建立非线性软测量模型-核回归模型.为了减少核回归模型中的优化参数,采用特征向量提取(FVS)算法选择核回归模型的特征向量,最后采用改进的粒子群优化算法估计模型参数.在工业数据上的应用结果说明了方法的有效性.     

基于加权支持向量机的移动建模方法及其在软测量中的应用

工业过程软测量技术的核心问题是建立软测量模型,然而,利用传统全局建模方法与多 模型建模方法进行复杂工业过程软测量建模时,在不同程度上存在一些问题.本文利用支持向量 机(SVMs)泛化能力强的特点,结合局部加权学习(LWL)算法思想,提出一种适于局部学习的加 权支持向量机(W_SVMs)学习算法和基于这种算法的移动建模方法.利用这种建模方法对Box- Jenkins煤气炉和重油催化裂化(FCCU)装置进行分析建模,并与其它不同建模方法进行比较,显 示了该方法的优点和有效性.     

基于改进的DeepESN软测量建模方法及应用

针对硫回收装置中硫化氢和二氧化硫浓度的实时监控预测问题,提出一种基于改进的深度回声状态网络(DeepESN)软测量建模方法,给出了其离线学习算法.改进的DeepESN网络能够通过多层回声状态网络的结构,可以对具有强非线性特性的化工过程进行有效的深度学习和预测.离线学习算法在求输出权值时加入了岭回归算法,有效地提高了网络学习的稳定性.将该方法在同等条件下与现有的软测量建模方法进行了比较,基于改进的DeepESN软测量建模方法具有更好的学习能力、更高的学习效率和预测精度.     

模糊支持向量机在青霉素发酵中的应用

支持向量机（SVM）是一种基于结构风险最小化原理（SRM）的学习算法,也是一种具有很好的泛化性能的回归方法.针对青霉素发酵过程中的菌体浓度进行软测量建模,提出了一种新的基于距离的模糊支持向量机,并用序列最小优化算法（SMO）求解优化问题.仿真实例说明能够对青霉素发酵过程中不可在线测量的变量进行软测量,达到了较高的测量精度.     

基于状态约束的滑动时间窗软测量模型

工业过程的模型通常具有非线性强、系统时变明显、工况变化大等特点。传统的滑动时间窗选择方法容易包含大量关联度低的数据,影响了数据模型的建模精度和建模效率。本文提出了一种带状态约束的滑动时间窗口选择算法,应用于工业连续过程软测量模型的训练数据选取。将该时间窗口选择算法与最小二乘支持向量回归算法结合,利用电站锅炉的历史运行数据,建立了燃煤电站锅炉尾部烟气含氧量的软测量模型。研究结果表明,相比于传统的滑动时间窗选择算法,利用该算法进行训练样本选取后,提高了所建立的最小二乘支持向量机模型的模型精度和运行效率。利用该方法建立的烟气含氧量软测量模型具有较高的精度,可以在氧化锆传感器发生故障时代替其工作,保证了氧量信号的稳定性和可靠性。     

基于仿射传播聚类的自适应数据空间划分及发酵过程高斯混合回归软测量模型建模（英文）

由于发酵过程存在多相和多模态特性,不满足高斯分布假设,使得传统软测量模型预测精度较低。基于高斯混合回归(GMR)的软测量模型能够很好的解决这个问题。然而,在确定混合高斯元数目上存在难度并且尚未得到解决。在本研究中,仿射传播聚类算法(AP)及其改进方法—自适应仿射传播聚类算法(ad AP)因其具有对数据空间进行自动划分的能力,被首次应用到基于高斯混合回归软测量建模数据预处理中。通过青霉素发酵过程仿真实验表明,仿射传播聚类方法和自适应仿射传播聚类方法都适用于高斯混合回归建模,但是后者对应软测量模型预测效果更好。     

基于状态约束的滑动时间窗软测量模型北大核心CSCD

工业过程的模型通常具有非线性强、系统时变明显、工况变化大等特点。传统的滑动时间窗选择方法容易包含大量关联度低的数据,影响了数据模型的建模精度和建模效率。本文提出了一种带状态约束的滑动时间窗口选择算法,应用于工业连续过程软测量模型的训练数据选取。将该时间窗口选择算法与最小二乘支持向量回归算法结合,利用电站锅炉的历史运行数据,建立了燃煤电站锅炉尾部烟气含氧量的软测量模型。研究结果表明,相比于传统的滑动时间窗选择算法,利用该算法进行训练样本选取后,提高了所建立的最小二乘支持向量机模型的模型精度和运行效率。利用该方法建立的烟气含氧量软测量模型具有较高的精度,可以在氧化锆传感器发生故障时代替其工作,保证了氧量信号的稳定性和可靠性。     

一种基于支持向量机的软测量建模方法

在生产过程中,在线分析仪表通常被用于对被测介质的组成或物性参数进行自动连续测量,但很多参数无法通过在线分析仪表直接测量获得。在工业现场,通常采用软测量技术来弥补在线分析仪表的不足。软测量技术也称软仪表技术,是基于推断控制理论的一门新兴工业技术。其利用易测过程变量与难以直接测量的待测过程变量之间的数学关系,通过各种计算和估计方法,实现对待测过程变量的测量。为了提高软测量模型的性能,提出一种基于支持向量机的软测量建模方法。该模型结构分为两层:一层用于分析工业数据在时间序列上的相互关系,解决时间序列的相关性问题;一层用于软测量建模和分析,解决非线性回归模型的鲁棒性。仿真结果表明,该软测量建模方法在进行在线预测时具有很好的性能,为软测量技术在工业现场的应用提供了一种方法。     

Kernel-kNN: 基于信息能度量的核k-最近邻算法

提出一种核k最近邻算法. 首先给出用于最近邻学习的信息能度量方法, 该方法克服了高维数据不便于用传统距离度量表示的困难, 提高了数据间类别相似性和距离的一致性. 在此基础上, 将传统的kNN扩展为非线性形式, 并采用半正定规划学习全局最优的度量矩阵. 算法主要特点是: 能较好地适用于高维数据, 并有效提升kNN 的分类性能. 多个数据集的实验和分析表明, 本文的Kernel-kNN算法与传统的kNN算法比较, 在低维数据上, 分类准确率相当; 在高维数据上, 分类性能有明显提高.     

An affinity-based new local distance function and similarity measure for kNN algorithm

In this paper, we propose a modified version of the k-nearest neighbor (kNN) algorithm. We first introduce a new affinity function for distance measure between a test point and a training point which is an approach based on local learning. A new similarity function using this affinity function is proposed next for the classification of the test patterns. The widely used convention of k, i.e., k = [√N] is employed, where N is the number of data used for training purpose. The proposed modified kNN algorithm is applied on fifteen numerical datasets from the UCI machine learning data repository. Both 5-fold and 10-fold cross-validations are used. The average classification accuracy, obtained from our method is found to exceed some well-known clustering algorithms.     

基于OpenCL的并行kNN算法设计与实现

kNN算法是机器学习和数据挖掘程序中经常使用的经典算法。随着数据量的增大,kNN算法的执行时间急剧上升。为了有效利用现代计算机的GPU等计算单元减少kNN算法的计算时间,提出了一种基于OpenCL的并行kNN算法,该算法对距离计算和排序两个瓶颈点进行并行化,在距离计算阶段使用细粒度并行化策略和优化的线程模型,排序阶段使用优化内存模型的双调排序。以UCI数据集letter为测试集,分别使用E8400和GTS450运行kNN算法进行测试,采用GPU加速的并行kNN算法的计算速度比CPU版提高了40.79倍。     

基于最小二乘支持向量机的航煤干点软测量应用研究

传统支持向量机是近几年发展起来的一种基于统计学习理论的学习机器,在非线性函数回归估计方面有许多应用。最小二乘支持向量机用等式约束代替传统支持向量机方法中的不等式约束,利用求解一组线性方程得出对象模型,避免了求解二次规划问题。本文采用最小二乘支持向量机解决了航空煤油干点的在线估计问题,结果表明,最小二乘支持向量机学习速度快、精度高,是一种软测量建模的有效方法。在相同样本条件下,比RBF网络具有较好的模型逼近性和泛化性能,比传统支持向量机可节省大量的计算时间。     

基于对象数量的宽度加权聚类kNN算法

传统k最近邻算法（k-Nearest Neighbor,kNN）作为一种非参数化分类技术在数据分析中具有广泛的应用,但该算法具有较多的冗余计算,致使处理数据时需要花费较多的计算时间。目前大量的研究都集中在数据的预处理阶段,通过为数据建立模型降低kNN查询的计算量。提出一种基于对象数量的宽度加权聚类kNN算法（NOWCkNN）,该算法中数据集首先以全局宽度进行聚类,每个生成的子集群根据其对象数量递归计算其宽度的权值,然后算法根据其权值的大小和调和系数调节宽度值,最后生成不同宽度大小的集群用于kNN查询。这不仅减少了算法的聚类时间,还能平衡产生集群的大小,减少迭代次数,使三角不等式修剪率达到最大。实验结果表明,NOWCkNN算法与现有工作相比在各个维度的数据集中有较好的性能,尤其是在高维度、数据量较大的数据集中有更高的修剪效率。     

基于聚类的环形kNN算法

传统k最近邻算法kNN在数据分类中具有广泛的应用,但该算法具有较多的冗余计算,致使处理高维数据时花费较多的计算时间。同时,基于地标点谱聚类的分类算法(LC-kNN和RC-kNN)中距离当前测试点的最近邻点存在部分缺失,导致其准确率降低。针对上述问题,提出一种基于聚类的环形k最近邻算法。提出的算法在聚类算法的基础上,首先将训练集中相似度较高的数据点聚成一个簇,然后以当前测试点为中心设置一个环形过滤器,最后通过kNN算法对过滤器中的点进行分类,其中聚类算法可以根据实际情况自由选择。算法性能已在UCI数据库中6组公开数据集上进行了实验测试,实验结果表明:AkNN_E与AkNN_H算法比kNN算法在计算量上平均减少51%,而在准确率上比LC-kNN和RC-kNN算法平均提高3%。此外,当数据在10 000维的情况下该算法仍然有效。     

面向非平衡类问题的k近邻分类算法

针对k近邻（kNN）方法不能很好地解决非平衡类问题,提出一种新的面向非平衡类问题的k近邻分类算法。与传统k近邻方法不同,在学习阶段,该算法首先使用划分算法（如K-Means）将多数类数据集划分为多个簇,然后将每个簇与少数类数据集合并成一个新的训练集用于训练一个k近邻模型,即该算法构建了一个包含多个k近邻模型的分类器库。在预测阶段,使用划分算法（如K-Means）从分类器库中选择一个模型用于预测样本类别。通过这种方法,提出的算法有效地保证了k近邻模型既能有效发现数据局部特征,又能充分考虑数据的非平衡性对分类器性能的影响。另外,该算法也有效地提升了k近邻的预测效率。为了进一步提高该算法的性能,将合成少数类过抽样技术（SMOTE）应用到该算法中。KEEL数据集上的实验结果表明,即使对采用随机划分策略划分的多数类数据集,所提算法也能有效地提高k近邻方法在评价指标recall、g-mean、f-measure和AUC上的泛化性能;另外,过抽样技术能进一步提高该算法在非平衡类问题上的性能,并明显优于其他高级非平衡类处理方法。     

一种基于向量夹角的k近邻多标记文本分类算法

在多标记学习中,一个示例可以有多个概念标记.学习系统的目标是通过对由多标记样本组成的训练集进行学习,以尽可能正确地预测未知样本所对应的概念标记集.k近邻算法已被应用到多标记学习中,该算法将测试示例转化为多维向量,根据其k个近邻样本的标记向量来确定该测试示例的标记向量.传统的k近邻算法是基于向量的空间距离来选取近邻,而在自然语言处理中,文本间的相似度常用文本向量的夹角来表示,所以本文将文本向量间的夹角关系作为选取k近邻的标准并结合k近邻算法提出了一种多标记文本学习算法.实验表明,该算法在文档分类的准确率上体现出较好的性能.     

基于改进kNN算法与暂稳态特征的非侵入式负荷监测方法

非侵入式负荷监测（Non-intrusive Load Monitoring, NILM）通过分析电力总回路的电气信息得到回路中各电器的运行数据,为用户的节能优化和电网的优化调度提供依据。现有NILM方法主要将研究重点放在提高负荷识别准确度上,模型复杂度高,难以在嵌入式设备上应用。针对上述问题,提出一种基于改进kNN算法与暂稳态特征的NILM方法。首先选择无需训练的kNN算法作为负荷识别模型,采用距离权重统计方法对kNN算法进行改进,并增加余弦相似度判断机制检验kNN算法负荷识别结果准确性;然后选择暂态特征和稳态特征作为负荷特征以提高负荷特征辨识度;最后利用实验采集数据进行验证,上述NILM方法具有良好的性能。     

基于互信息的多块k近邻故障监测及诊断

由于传统的k近邻故障监测不考虑过程的局部信息,只建立一个全局模型,因此提出一种基于互信息的多块k近邻故障监测方法。首先,考虑建模数据的非线性和非高斯等特性,基于变量间的互信息进行子块构建;然后,利用k近邻方法对每个子块进行建模与监测,子块中的k近邻模型反映了更多的过程局部特征;最后,将所有子块的监测结果通过贝叶斯推断方法进行融合,并采用基于马氏距离的故障诊断方法辨识故障源。通过对田纳西-伊斯曼过程和高炉炼铁过程中的应用仿真,监测结果表明所提方法的可行性和有效性。