局部惩罚加权核偏最小二乘算法及其应用

为改善软测量模型精度,提出了一种局部惩罚加权核偏最小二乘算法.该方法通过核映射将原始输入映射到高维特征空间实现对非线性问题的线性化处理,并通过偏最小二乘算法进行主成分提取,降低数据维数;对由主成分构成的新数据集,依据局部学习思想构建局部惩罚加权最小二采回归模型,降低模型对异常数据的敏感度、优化模型参数.鉴于多模型可以改...     

基于柯西分布加权的最小二乘支持向量机

针对Suykens等提出的加权最小二乘支持向量机(WLS-SVM)回归建模的不足和防止辨识模型的"过拟合",利用柯西分布函数的一些特性,提出了基于柯西分布加权的最小二乘支持向量机,根据预测误差的统计特性,以确定加权规则的参数,从而赋予训练样本不同的权值,由于考虑了生产过程中样本的实际特性,与已有的加权方法相比,新的加权最小二乘支持向量机更具有鲁棒性,仿真结果验证了该方法的可行性和有效性.     

基于自适应加权最小二乘支持向量机的芳烃产量软测量建模

芳烃收率是催化重整生产过程中的重要质量指标。针对其软测量建模中样本数据可能存在的测量误差对模型性能的影响,提出一种自适应加权最小二乘支持向量机(AWLSSVM)回归建模方法。该方法基于最小二乘支持向量机模型,根据样本拟合误差,并结合改进的指数分布加权规则,为每个建模样本分配不同的权值,以降低测量误差对建模精度的影响;同时提出一种全局优化算法—混沌粒子群模拟退火(CPSO-SA)算法对最小二乘支持向量机的模型参数进行优化选择,以提高模型的泛化能力。仿真实验表明,AWLS-SVM模型的预测精度及鲁棒性能优于LS-SVM和WLS-SVM。最后,应用AWLS-SVM方法建立催化重整生产过程芳烃收率的软测量模型,获得了较好的效果。     

基于径基函数-加权偏最小二乘回归的干点软测量

针对影响石油馏分产品干点因素众多且呈高度非线性的特征，提出了一种径基函数(Radial basis function，RBF)和加权偏最小二乘回归(Weighted partial least squares regression，WPLSR) 相结合的建模方法建立干点软测量模型. 该组合方法首先应用RBF 实现样本数据的非线性变换；然后根据非线性变换后样本在结构参数空间中的分布，分析它们对预测对象的预报能力，自适应地为各个样本分配权值，并进而从中提取和选用PLS 成分，实施加权PLSR，以获得预报性能良好的模型. 在实际应用于初顶石脑油干点软测量建模中，RBF-WPLSR 获得比PLSR、WPLSR 及RBF-PLSR 更高精度的模型.     

自适应加权全变分的低剂量CT统计迭代算法

针对低剂量计算机断层扫描（LDCT）重建图像时出现条形伪影和脉冲噪声的现象,提出一种自适应加权全变分的LDCT统计迭代重建算法。该算法克服了传统全变分（TV）算法在去除条形伪影的同时引入阶梯效应的缺点,把基于加权方差的加权因子与TV模型相结合提出自适应加权全变分模型,然后再把新模型应用到惩罚加权最小二乘（PWLS）重建算法中,这样就可以对图像的不同区域进行不同强度的去噪,从而取得噪声抑制和边缘保持的良好效果。采用Shepp-Logan模型和数字骨盆体模来验证算法的有效性,实验结果表明,所提算法的归一化均方距离和归一化平均绝对距离均比滤波反投影（FBP）、PWLS、惩罚加权最小二乘的中值先验（PWLS-MP）以及惩罚加权最小二乘的全变分（PWLS-TV）算法的值小,且可分别获得40.91 dB和42.25 dB的峰值信噪比。实验结果表明,该算法重建出的图像在有效去除条形伪影的同时对图像的边缘和细节起到很好的保护作用。     

基于Bayesian的海洋脂肪酶发酵过程软测量建模

针对海洋微生物低温碱性脂肪酶发酵过程中的关键生物参数(如菌体浓度、葡萄糖浓度等)难以在线检测,提出了一种基于贝叶斯证据框架下的加权最小二乘支持向量机(WLS-SVM)的建模方法.首先,对生物参数进行非线性建模分析,确定软测量模型的辅助变量.然后,应用训练样本集对最小二乘支持向量机进行训练,训练过程中运用贝叶斯证据框架下的三层推断确定模型的最优权向量、最优正则化参数、最优核参数.为了提高模型的鲁棒性,根据误差变量确定权重系数,建立了在发酵过程中可准确预测生物参数的WLS-SVM模型.试验仿真中与传统最小二乘支持向量机模型进行对比,结果表明,基于贝叶斯证据框架下的加权最小二乘支持向量机模型具有计算速度快、泛化能力强、预测精度高等特点.     

基于柯西分布加权的最小二乘支持向量机

针对Suykens等提出的加权最小二乘支持向量机(WLS-SVM)回归建模的不足和防止辨识模型的"过拟合",利用柯西分布函数的一些特性,提出了基于柯西分布加权的最小二乘支持向量机.根据预测误差的统计特性,以确定加权规则的参数,从而赋予训练样本不同的权值.由于考虑了生产过程中样本的实际特性,与已有的加权方法相比,新的加权最小二乘支持向量机更具有鲁棒性.仿真结果验证了该方法的可行性和有效性.

     

基于鲁棒加权模糊聚类的污水处理过程监测方法

针对非线性强、先验故障知识少、异常工况识别难的污水处理过程监测问题,提出一种基于鲁棒加权模糊c均值(Robust weighted fuzzy c-means, RoW-FCM)聚类与核偏最小二乘(Kernel partial least squares, KPLS)的过程监测方法.首先,针对污水处理过程的高维非线性耦合特性,采用核偏最小二乘对高维输入变量进行降维;其次,针对传统基于最近邻分配的模糊c均值算法对离群点敏感以及存在聚类不平衡簇的问题,提出充分考虑样本间相互关系的基于鲁棒加权模糊c均值聚类算法.通过引入可能性划分矩阵作为权值参数实现不同样本数据的区分加权,提高了离群点数据聚类的鲁棒性,同时引入聚类大小控制参数解决不平衡簇的问题.进一步将基于鲁棒加权模糊c均值算法对核偏最小二乘降维后的得分矩阵进行聚类,利用聚类得到的隶属度矩阵实现异常工况的检测;最后,建立隶属度矩阵与过程变量的回归模型,并利用得到的变量贡献矩阵描述变量对各个簇的解释程度,实现异常工况的识别.数值仿真以及污水处理过程数据实验表明该方法具有更好的鲁棒性能,在异常工况检测和识别上具有较好的效果.     

基于相似度加权的自适应HD算法

Hausdorff距离(Hausdorff distance, HD)是一种点集与点集之间的距离测度, 常用于目标物体的匹配、跟踪和识别等. 本文在分析经典HD及改进算法的基础上, 提出了一种基于相似度加权的自适应HD (Adaptive Hausdarff distance, AHD)算法. AHD算法利用不同点到点集的最小距离的个数作为匹配相似度的测量, 并舍弃对判断匹配几乎没有作用的较大的点到点集的最小距离值; 同时根据点到点集的最小距离自适应选择权值, 从而得到一种基于相似度测量加权系数; 通过利用部分点到点集的最小距离和基于相似度的加权平均, 既增强了算法的鲁棒性, 又尽可能地保证了算法的精度. 实验结果显示, AHD算法在匹配准确性、抵抗噪声和遮挡干扰等方面性能良好.     

混合核函数稀疏LS-SVM软测量建模与应用

针对最小二乘支持向量机存在的稀疏性欠缺和单核函数局限性问题,本文提出一种基于混合核函数稀疏最小二乘支持向量机的软测量建模方法.该方法使用多项式核函数和RBF核函数线性加权构成混合核函数,兼顾最小二乘支持向量机的全局拟合能力与局部拟合能力,以矢量基学习作为稀疏解算法,改善最小二乘支持向量机的稀疏性,在精简模型结构的同时,避免冗余信息中的噪声过多的拟合到模型参数中,进而采用粒子群算法优化模型部分参数.将此方法分别应用于Mackey- Glasss混沌模型的时间序列预测和乙烯精馏塔塔釜乙烯浓度预测,应用结果表明该方法较最小二乘支持向量机、稀疏最小二乘支持向量机以及混合核最小二乘支持向量机具有更好的泛化效果和预报精度,兆示出其良好的应用潜力.     

一个新的基于Vague集加权相似度量的双向近似推理方法

提出了一种新的Vague集的加权相似度量方法以解决文献[1]中关于vague集相似度量的某些缺陷，并且提出了Vague集间相似方向的概念，用它来描述两个相似Vague集中哪个所包含的信息更精确，并给出了一个判定方法。在此基础上给出了一种基于Vague集加权相似度量的双向近似推理方法，该方法更好地利用了vague集信息的精确性，从而提高了推理的精确性和适用性．这为智能系统中的近似推理提供了一个十分有用的工具．     

Weighted partition consensus via kernels

The combination of multiple clustering results (clustering ensemble) has emerged as an important procedure to improve the quality of clustering solutions. In this paper we propose a new cluster ensemble method based on kernel functions, which introduces the Partition Relevance Analysis step. This step has the goal of analyzing the set of partition in the cluster ensemble and extract valuable information that can improve the quality of the combination process. Besides, we propose a new similarity measure between partitions proving that it is a kernel function. A new consensus function is introduced using this similarity measure and based on the idea of finding the median partition. Related to this consensus function, some theoretical results that endorse the suitability of our methods are proven. Finally, we conduct a numerical experimentation to show the behavior of our method on several databases by making a comparison with simple clustering algorithms as well as to other cluster ensemble methods.     

基于Vague集加权相似度量的双向近似推理

本文提出了一种新的Vague集的加权相似度量方法，以解决文献中关于Vague集相似度量的某些缺陷以及权向量中各个分量难以确定的问题，并且提出了Vague集间相似方向的概念，用它来描述两个相拟Vague集中哪个所包含的信息更精确，并给出了一个判定方法。在此基础上的给出了一种基于Vague集加权相似度量的双向近似推理方法，该方法更好地利用了Vague集信息的精确性，从而提高了推理的精确性和适用性。这为智能系统中的近似推理提供了一个十分有用的工具。     

基于个体选择的动态权重神经网络集成方法研究

神经网络集成技术能有效地提高神经网络的预测精度和泛化能力,已成为机器学习和神经计算领域的一个研究热点。该文针对回归分析问题提出了一种结合应用遗传算法进行个体选择和动态确定结果合成权重的神经网络集成构造方法。在训练出个体神经网络之后,应用遗传算法对个体网络进行选择,然后根据被选择的各个体网络在输入空间上对训练样本的预测误差,应用广义回归网络来动态地确定各个体网络在特定输入空间上的合成权重。实验结果表明,与仅应用个体网络选择或动态确定权重的方法相比,该集成方法基本上能取得更好地预测精度和相近的稳定性。     

基于互信息加权集成迁移学习的入侵检测方法

入侵检测系统（IDS）已成为网络安全体系结构中的必要组成部分。在面对现代网络安全需求时,现有的入侵检测方法的可行性和持续性仍然存在提高空间,主要体现在更早地发现入侵威胁和提高入侵检测系统的检测精准度,为此提出一种基于互信息加权的集成迁移学习（ETL）入侵检测方法。首先,通过迁移策略对多组特征集进行建模;然后,使用互信息度量在迁移模型下特征集在不同域中的数据分布;最后,根据度量值对多个迁移模型进行集成加权,得到集成迁移模型。该方法通过学习新环境下的少量有标记样本和以往环境下的大量有标记样本的知识,可以建立效果优于传统非集成、非迁移的入侵检测模型。使用基准NSL-KDD数据集对该方法进行评估,实验结果表明,所提方法具有良好的收敛性能,并提高了入侵检测的精准率。     

基于广义回归网络的动态权重回归型神经网络集成方法研究*

神经网络集成技术能有效地提高神经网络的预测精度和泛化能力,已成为机器学习和神经计算领域的一个研究热点。针对回归分析问题提出了一种动态确定结果合成权重的神经网络集成构造方法,在训练出个体神经网络之后,根据各个体网络在输入空间上对训练样本的预测误差,应用广义回归网络来动态地确定各个体网络在特定输入空间上的权重。实验结果表明,与传统的简单平均和加权平均方法相比,本集成方法能取得更好的预测精度。     

基于PCA与权重贝叶斯的工作面煤与瓦斯突出预测

为实现对工作面煤与瓦斯突出快速、准确和动态的预测,提出一种基于主成分分析和权重贝叶斯的工作面煤与瓦斯突出预测方法,通过建立工作面煤与瓦斯突出预测的权重贝叶斯模型进行突出危险性等级预测。利用主成分分析确定预测模型中分类变量权重以提高预测准确性。在此基础上,设计基于相似度的训练样本数据更新方式实现对突出预测模型的有效重构。实验结果表明,与朴素贝叶斯模型和权重贝叶斯模型相比,基于主成分分析和权重贝叶斯工作面煤与瓦斯突出预测方法能快速获得高准确度的突出预测结果,为现场指导矿井工作面安全生产提供参考。     

权值优化集成卷积神经网络及其在三维模型识别中的应用

三维模型应用广泛,如何有效地管理和分类这些数据库中的三维模型一直是人们 关注的问题。然而,由于不同三维模型之间的相似性难以测量,因而很难获得一种稳健且广泛 适用的三维模型分类算法。为此,提出了一种权值优化集成卷积神经网络(WOTCNN)模型,并 将其应用到三维模型的分类识别中。首先,获取三维模型的深度投影视图来最大限度地保留三维 模型的空间信息。然后,采用调整的 VGG 网络对各角度的深度投影图像进行训练并提取预测概 率值。最后,通过加权集成算法获得完整三维模型的最终分类结果。对 ModelNet10 及 ModelNet40 数据库的实验表明：三维模型的平均分类准确率达到 92.84%和 86.51%。在预测性能方面,该网 络优于普通的单卷积神经网络;在三维模型识别方面,其分类准确率能够得到显著提升。     

A Multicriteria Weighted Vote‐Based Classifier Ensemble for Heart Disease Prediction

The availability of a large amount of medical data leads to the need of intelligent disease prediction and analysis tools to extract hidden information. A large number of data mining and statistical analysis tools are used for disease prediction. Single data‐mining techniques show acceptable level of accuracy for heart disease diagnosis. This article focuses on prediction and analysis of heart disease using weighted vote‐based classifier ensemble technique. The proposed ensemble model overcomes the limitations of conventional data‐mining techniques by employing the ensemble of five heterogeneous classifiers: naive Bayes, decision tree based on Gini index, decision tree based on information gain, instance‐based learner, and support vector machines. We have used five benchmark heart disease data sets taken from UCI repository. Each data set contains different set of feature space that ultimately leads to the prediction of heart disease. The effectiveness of proposed ensemble classifier is investigated by comparing the performance with different researchers' techniques. Tenfold cross‐validation is used to handle the class imbalance problem. Moreover, confusion matrices and analysis of variance statistics are used to show the prediction results of all classifiers. The experimental results verify that the proposed ensemble classifier can deal with all types of attributes and it has achieved the high diagnosis accuracy of 87.37%, sensitivity of 93.75%, specificity of 92.86%, and F‐measure of 82.17%. The F‐ratio higher than the F‐critical and p‐value less than 0.01 for a 95% confidence interval indicate that the results are statistically significant for all the data sets.     

Weighted Constraint Aggregation in Fuzzy Optimization

Many practical optimization problems are characterized by some flexibility in the problem constraints, where this flexibility can be exploited for additional trade-off between improving the objective function and satisfying the constraints. Fuzzy sets have proven to be a suitable representation for modeling this type of soft constraints. Conventionally, the fuzzy optimization problem in such a setting is defined as the simultaneous satisfaction of the constraints and the goals. No additional distinction is assumed to exist amongst the constraints and the goals. This paper proposes an extension of this model for satisfying the problem constraints and the goals, where preference for different constraints and goals can be specified by the decision-maker. The difference in the preference for the constraints is represented by a set of associated weight factors, which influence the nature of trade-off between improving the optimization objectives and satisfying various constraints. Simultaneous weighted satisfaction of various criteria is modeled by using the recently proposed weighted extensions of (Archimedean) fuzzy t-norms. The weighted satisfaction of the problem constraints and goals are demonstrated by using a simple fuzzy linear programming problem. The framework, however, is more general, and it can also be applied to fuzzy mathematical programming problems and multi-objective fuzzy optimization.