神经网络建模的变量聚类分析方法

针对神经网络建模需尽量减少输入变量及输入变量要充分解释输出变量的问题，研究了变量聚类分析方法，提出了变量选取原则并对这些原则进行了基于信息论的理论推导，开发了基于聚类分析的神经网络软件。实际应用表明，这种基于精确数学分析进行的神经网络变量的选取是行之有效的。     

基于粗糙集的多变量决策树构造方法

本文利用粗糙集理论中条件属性相对于决策属性的核，解决多变量检验中属性的选择问题．另外，定义了２个等价关系相对泛化的概念，并将它用于解决多变量检验的构造问题．通过一个例子，对本文提出的多变量决策树方法与著名的单变量决策树（ＩＤ３）方法进行了比较，结果表明前者比后者更简单．同时，对几种多变量决策树方法做了初步的对比分析．     

有效模-n S-不变量与不可达性判定

HolmFE提出用S-不变量判定Petri网不可达性的一个方法。Desel J指出，存在某些标识，用S-不变量无法判定其不可达性，但利用模-nS-不变量却可加以判定。然而，对于一个给定的标识，是否存在模-nS-不变量能判定该标识的不可达性。如果存在的话，又该如何求取这些模-nS-不变量．DeselJ并未就这两个问题给出答案。该文提出了有效模-nS-不变量的概念，将上述问题转化为有效模-nS-不变量的存在性问题，并借助矩阵的整数分解给出了寻找有效模-nS-不变量的方法，有效解决了利用模-nS-不变量进行不可达性判定的问题。     

从二维草绘到三维变量化设计

该文提出了一个从二维草绘开始的三维变量化几何模型的建立方法，详细介绍了变量约束，关系布尔运算的机理与方法，并进一步分析了针对已建立的几何模型进行变量化设计的途径及有关注意事项。     

有效模-n S-不变量与不可达性判定

Hohn F E提出用S-不变量判定Petri网不可达性的一个方法。Desel J指出，存在某些标识，用S-不变量无法判定其不可达性，但利用模-n S-不变量却可加以判定。然而，对于一个给定的标识，是否存在模-n S-不变量能判定该标识的不可达性。如果存在的话，又该如何求取这些模-n S-不变量，Desel J并未就这两个问题给出答案。该文提出了有效模-n S-不变量的概念，将上述问题转化为有效模-n S-不变量的存在性问题，并借助矩阵的整数分解给出了寻找有效模-n S-不变量的方法，有效解决了利用模-n S-不变量进行不可达性判定的问题。     

一种新型非线性偏最小二乘方法研究及应用--基于Chebyshev多项式改进的PLS方法

在实际生产过程中，过程变量之间往往存在大量相关关系，甚至非线性相关关系。过程变量间存在线性相关时，可采用偏最小二乘方法(Partial Least Squares，PLS)计算模型参数，但由于PLS方法采用线性关系来联系输入和输出因子，因而并不能有效地应用于非线性较强的过程。在这种情况下要对变量进行有效的压缩维数．需要采用非线性PLS方法。基于Chebyshev多项式改进的多元多项式PLS方法，是一种新的非线性PLS方法。该方法利用Chebyshev多项式的正交性质和递推性质，将过程输入变量正交化、线性化后，再应用PLS方法计算模型参数并还原，从而得到比较精确的模型。由于该方法综合考虑了输入变量的自相关和输入变量间的协相关关系。能够更有效地表达过程变量间的非线性关系，因此其对非线性过程的研究提供了新的思路。     

复杂工业过程控制系统中操作变量与量测变量的选择

本文讨论复杂工业过程控制系统中操作变量与量测变量的选择问题。文中通过引入变量选择矩阵，给出了问题的一般数学表达，提出了具有物理，几何意义的三种能控测度，以观测度，并在此基础上给出了变量选择的有效方法及一般步骤。     

部分变量迭代法求解几何循环约束

在对几何约束进行求解时，一般先要进行适当分解，然后再根据分解得到的求解次序进行依次求解。当同时进行求解的约束数量较多时，必须采用数值解法。如果这样的循环约束中变量的数量较多，则采用全部变量迭代的方法会导致计算不稳定，且计算时间较长。本文提出了部分变量进行迭代的方法，大大降低了迭代变量的个数，增加了计算的的稳定性，缩短了计算时间。     

Java语言中类成员变量的初始化

在Java中，被声明为static属笥的成员变量和成员方法被称为类变量和类方法，而没有被声明为static属性的成员变量和成员方法被称为实例变量和实例方法。实例变量和实例方法必须通过类的实例被访问，需要首先创建对象。而类变量和类方法属于一个类而被所有类的实例所共享，在没有创建任何类的实例的情况，也可以通过类名被访问。     

一种改进GMDH方法及其应用

1引言自60年代末GMDH方法被提出以来，不断有学者提出改进方法，并将它们应用到社会经济系统、环境生态系统、工业过程等结构复杂变量繁多的"黑箱"或"发箱"系统的测辨、控制等方面，取得了较好的辨识效果；在某种程度上克服了过程机理模糊给建模带来的困难。但已有的GMDH方法存在一些不足之处，如变量数多，计算量不仅大而且中间变量多，给中间变量的合理选择带来困难；用二元二次式作为部分表达式，多变量情况下产生的误差较大；最终表达式所含变量项多，未进行结构优化等。针对上述问题，本文提出一种新的改进方法：GMDH十模型结构优…     

基于组选择的近似无偏稀疏脑功能超网络模型构建与分类研究

针对LASSO方法构建脑功能超网络模型缺乏组效应解释能力和网络有偏性问题,提出了两种基于组变量选择的近似无偏稀疏脑功能超网络模型来改善超网络的构建,分别为组最小最大凹惩罚方法和组平滑剪裁的绝对值偏差方法,并将其分别应用于抑郁症的分类研究中。分类结果显示,两种方法的分类表现均优于传统超网络模型,且组最小最大凹惩罚方法的分类准确率最高,达到86.36%。结果表明若想构建有效的脑功能超网络模型,不仅需要考虑脑区间组效应的解释能力,还需考虑模型变量选择的有偏性问题。而且在考虑到超网络有偏性的基础上,选取较为宽松的惩罚方式来选取目标变量,则可更精确地表征人脑的复杂高阶多元交互信息。     

基于变量纯度的波长选择方法在近红外光谱分析中的应用

提出了一种基于光谱纯度值的变量选择方法。对光谱中各变量计算其纯度值后,按降序将相应变量排列,采用PLS交互检验按前向选择法选择最佳变量子集。用本方法对3组分混合物体系及烟草样品的近红外光谱进行变量选择,并与全谱变量建模的结果进行了比较。结果表明本实验给出的波长变量优选方法是一种比较有效和实用的变量筛选方法,通过变量筛选,可极大地减少光谱信息重叠,从而提高定量校正模型的预测精度和建模效率。     

Applying input variables selection technique on input weighted support vector machine modeling for BOF endpoint prediction

Basic oxygen furnace (BOF) steelmaking is a complex process and dynamic model is very important for endpoint control. It is usually difficult to build a precise BOF endpoint dynamic model because many input variables affect the endpoint carbon content and temperature. For this problem, two effective variables selection steps: mechanism analysis and mutual information calculation are proposed to choose appropriate input variables according to a variable selection algorithm. Then, the selected inputs are weighted on the basis of mutual information values. Finally, two input weighted support vector machine BOF endpoint dynamic models are constructed to predict endpoint carbon content and temperature. Results show that the variable selection for BOF endpoint prediction model is essential and effective. The complexity and precise of two endpoint prediction models are improved.     

Learning sparse gradients for variable selection and dimension reduction

Variable selection and dimension reduction are two commonly adopted approaches for high-dimensional data analysis, but have traditionally been treated separately. Here we propose an integrated approach, called sparse gradient learning (SGL), for variable selection and dimension reduction via learning the gradients of the prediction function directly from samples. By imposing a sparsity constraint on the gradients, variable selection is achieved by selecting variables corresponding to non-zero partial derivatives, and effective dimensions are extracted based on the eigenvectors of the derived sparse empirical gradient covariance matrix. An error analysis is given for the convergence of the estimated gradients to the true ones in both the Euclidean and the manifold setting. We also develop an efficient forward-backward splitting algorithm to solve the SGL problem, making the framework practically scalable for medium or large datasets. The utility of SGL for variable selection and feature extraction is explicitly given and illustrated on artificial data as well as real-world examples. The main advantages of our method include variable selection for both linear and nonlinear predictions, effective dimension reduction with sparse loadings, and an efficient algorithm for large p, small n problems.     

Cauchy mutation based on objective variable of Gaussian particle swarm optimization for parameters selection of SVM

On the basis of the slow convergence of particle swarm algorithm (PSO) during parameters selection of support vector machine (SVM), this paper proposes a hybrid mutation strategy that integrates Gaussian mutation operator and Cauchy mutation operator for PSO. The combinatorial mutation based on the fitness function value and the iterative variable is also applied to inertia weight. The results of application in parameter selection of support vector machine show the proposed PSO with hybrid mutation strategy based on Gaussian mutation and Cauchy mutation is feasible and effective, and the comparison between the method proposed in this paper and other ones is also given, which proves this method is better than sole Gaussian mutation and standard PSO.     

Mutual information-based method for selecting informative feature sets

Feature selection is one of the fundamental problems in pattern recognition and data mining. A popular and effective approach to feature selection is based on information theory, namely the mutual information of features and class variable. In this paper we compare eight different mutual information-based feature selection methods. Based on the analysis of the comparison results, we propose a new mutual information-based feature selection method. By taking into account both the class-dependent and class-independent correlation among features, the proposed method selects a less redundant and more informative set of features. The advantage of the proposed method over other methods is demonstrated by the results of experiments on UCI datasets (Asuncion and Newman, 2010 [1]) and object recognition.     

高维数据挖掘中特征选择的稳健方法

针对高维数据的特点,即数据中变量个数往往大于样本观测数目,并且数据往往具有异质性特点,基于众数回归分析和变量选择降维技术,提出了一种稳健有效的特征选择方法,利用局部二次逼近算法(LQA)和最大期望(EM)算法,给出估计算法和最优调节参数的选取方法。通过实验的模拟数据分析表明,所提出的特征提取选择方法整体优于基于最小二乘和中位数的正则化估计方法,特别当误差是非正态分布时,与已有方法相比具有较高的预测能力和稳健性。     

求解多车型校车路径问题的带参数选择机制的GRASP算法

考虑到校车路径安排过程中不同车型容量和成本的差异,建立了多车型校车路径问题(SBRP)模型,并提出了一种带参数选择机制的贪婪随机自适应(GRASP)算法进行求解。在初始解构造阶段,设计一组阈值参数控制受限候选列表(RCL)的大小,使用轮盘赌法选择阈值参数。完成初始解构造后,使用可变邻域搜索(VNS)进行邻域解改进,并记录所选择的参数和解的目标值。算法迭代过程中,先设置相同阈值参数的选择概率,每隔若干次迭代后,评估每个阈值参数的性能并修改其选择概率,使得算法能够得到更好的平均解。使用基准测试案例进行了测试,比较了基本GRASP算法与设计的GRASP算法的性能,并与现有求解多车型校车路径问题的算法进行对比,实验结果表明所设计的算法是有效的。     

Cauchy mutation for decision-making variable of Gaussian particle swarm optimization applied to parameters selection of SVM

Due to the slow convergence of Gaussian particle swarm algorithm (GPSO) during parameters selection of support vector machine (SVM), this paper proposes a novel PSO with hybrid mutation strategy. Since random number generated from Cauchy distribution has better convergence characteristic than ones from Gaussian distribution during mutation strategy. Cauchy mutation is applied to amend the decision-making variable of Gaussian PSO. The adaptive mutation based on the fitness function value and the iterative variable is also applied to inertia weight of PSO. The results of application in parameter selection of support vector machine show the proposed GPSO with Cauchy mutation strategy is feasible and effective, and the comparison between the method proposed in this paper and other ones is also given, which proves this method is better than Gaussian PSO.