带偏置的选择性神经网络集成构造方法

训练多个神经网络并将其结果进行合成,能显著地提高神经网络系统的泛化能力。本文提出了一种带偏置的选择性神经网络集成构造方法。对个体网络引入偏置项,增加可选网络的数量。选择部分网络集成,改善网络集成的性能。把个体网络的偏置项统一为集成偏置项,在训练出个体神经网络后,使用遗传算法选择部分网络集成,同时确定集成偏置项。理论分析和实验结果表明,该方法能够取得很好的网络集成效果。     

一种基于神经网络集成的决策树构造方法

神经网络集成方法具有比单个神经网络更强的泛化能力,却因为其黑箱性而难以理解;决策树算法因为分类结果显示为树型结构而具有良好的可理解性,泛化能力却比不上神经网络集成。该文将这两种算法相结合,提出一种决策树的构造算法：使用神经网络集成来预处理训练样本,使用C4．5算法处理预处理后的样本并生成决策树。该文在UCI数据上比较了神经网络集成方法、决策树C4．5算法和该文算法,实验表明：该算法具有神经网络集成方法的强泛化能力的优点,其泛化能力明显优于C4．5算法;该算法的最终结果昆示为决策树,显然具有良好的可理解性。     

基于特征提取的选择性神经网络集成方法

针对现有神经网络集成研究方法在输入属性、集成方式和集成形式上的不足,提出一种基于特征提取的选择性神经网络集成模型-NsNNEIPCABag.该模型通过Bagging算法产生若干训练子集;利用改进的主成分分析(IPCA)提取主成分作为输入来训练个体网络;采用IPCA从所有个体网络中选择出部分线性无关的个体网络;采用神经网络对选择出来的个体网络进行非线性集成.为检验该模型的有效性,将其用于时间序列预测,结果表明本文提出的方法的泛化能力优于流行的其它集成方法.     

一种改进的选择神经网络集成方法

提出一种改进的选择神经网络集成方法,首先构造一批单个神经网络个体,分别利用Bootstrap算法产生若干个训练集并行进行训练;然后采用聚类算法计算训练好的个体网络之间的差异度和个体网络在验证集的预测精度;最后根据个体精度和个体差异度选择合适的个体网络加入集成.实验结果验证,该集成方法能较好地提高集成的预测精度和泛化能力.     

一种主动学习神经网络集成方法

分析了神经网络集成泛化误差、个体神经网络泛化误差、个体神经网络差异度之间的关系,提出了一种个体神经网络主动学习方法.个体神经网络同时交互训练,既满足了个体神经网络的精度要求,又满足了个体神经网络的差异性要求.另外,给出了一种个体神经网络选择性集成方法,对个体神经网络加入偏置量,增加了个体神经网络的可选数量,降低了神经网络集成的泛化误差.理论分析和实验结果表明,使用这种个体神经网络训练方法、个体神经网络选择性集成方法能够构建有效的神经网络集成系统.     

一种多层次选择性集成学习算法

选择性集成学习是为解决同一个问题而训练多个基分类器,并依据某种规则选取部分基分类器的结果进行整合的学习算法。通过选择性集成可以获得比单个学习器和全部集成学习更好的学习效果,可以显著地提高学习系统的泛化性能。提出了一种多层次选择性集成学习算法Ada_ens。试验结果表明,Ada_ens具有更好的学习效果和泛化性能。     

一种基于聚类技术的选择性神经网络集成方法

神经网络集成是一种很流行的学习方法,通过组合每个神经网络的输出生成最后的预测.为 了提高集成方法的有效性,不仅要求集成中的个体神经网络具有很高的正确率,而且要求这 些网络在输入空间产生不相关的错误.然而,在现有的众多集成方法中,大都采用将训练的 所有神经网络直接进行组合以形成集成,实际上生成的这些神经网络可能具有一定的相关性 .为了进一步提高神经网络间的差异性,一种基于聚类技术的选择性神经网络集成方法CLU_E NN被提出.在获得个体神经网络后,并不直接对这些神经网络集成,而是先应用聚类算法对 这些神经网络模型聚类以获得差异较大的部分神经网络;然后由部分神经网络构成集成;最 后,通过实验研究了CLU_ENN集成方法,与传统的集成方法Bagging相比,该方法取得了更好 的效果.     

基于最优权值的选择性神经网络集成方法

本文提出一种基于最优权值的选择性神经网络集成构造方法,在训练出个体神经网络之后,使用遗传算法计算出这些网络在加权平均方法中对应的最优权值,然后选择权值大于一定阈值的部分网络使用简单平均方法组成神经网络集成.理论分析和实验结果表明,与传统方法相比,本文方法使用部分网络能够取得更好的效果.     

一种选择性GMDH网络集成算法

提出一种新的GMDH网络的选择性集成算法,通过对构造GMDH网络个体的训练样本进行惩罚性划分,产生具有差异性的GMDH网络集合,再利用遗传算法从中选择最优GMDH网络子集进行集成。实验结果与分析表明,与GMDH网络的整体集成和单个GMDH网络以及传统的BP神经网络集成相比,GMDH网络的选择性集成在性能上具有明显的优势。     

一种基于神经网络集成的规则学习算法

将神经网络集成与规则学习相结合，提出了一种基于神经网络集成的规则学习算法．该算法以神经网络集成作为规则学习的前端，利用其产生出规则学习所用的数据集，在此基础上进行规则学习．在UCl机器学习数据库上的实验结果表明，该算法可以产生泛化能力非常强的规则．     

基于选择性神经网络集成的地基云状识别算法

针对传统地基云图云状识别模型精度较低的问题,提出一种基于K均值算法的选择性神经网络集成的方法。该方法以BP神经网络集成模型为基础,采用K均值聚类算法选择部分有差异性的个体神经网络进行集成,建立了云状分类模型。通过对云图样本进行仿真实验,结果表明所提出的算法相对于单个BP神经网络及传统的BP_AdaBoost集成算法用于云图的分类,能有效地提高云图识别分类的精度。     

基于神经网络集成的多视角人脸识别

人脸在图像深度方向上发生偏转时,即使同一对象的人脸图像也会发生极大的变化。在此,将神经网络集成应用于多视角人脸识别,所用的人脸特征通过多视角特征脸分析获得。为每一视角的特征空间各训练一个神经网络,并利用另一个神经网络对其进行结合。利用训练好的神经网络集成进行识别时不仅不需进行偏转角度估计预处理,而且还可以在给出识别结果的同时给出角度估计信息。实验结果表明,该方法的识别精度高于根据精确的偏转角度估计信息挑选最佳单一神经网络所能达到的效果。     

用神经网络求解性能驱动的电路划分问题

文中考虑一种以连线代价最小目标的,以面积和时延为约束的,划分块与划分块之间有确定和拓扑关系的电路划分问题,提出了一个性能驱动电路划分的均场退火算法。算法通过换拉矩阵把问题映射为神经网络,并建立了包含优化目标项,面积约束项和时延约束项的能量函数,再用均场退火方程失代求解。     

用神经网络求解时间驱动的宏单元布局问题

文中提出了一个宏单元布局的均场退火网络求解方法,算法用一个三维二值换位矩阵将问题映射为神经网络,建立包含时延约束,重叠约束和优化目标的能量函数,再用均场退火方程迭代求解。每个单元只能放置在布局平面一个位置上的约束用神经元归一化的方法解决。     

基于Hopfield神经网络的作业车间生产调度方法

该文提出了基于Hopfield神经网络的作业车间生产调度的新方法.文中给出了作业车间生产调度问题(JSP)的约束条件及其换位矩阵表示,提出了新的包括所有约束条件的计算能量函数表达式,得到相应的作业车间调度问题的Hopfield神经网络结构与权值解析表达式,并提出相应的Hopfield神经网络作业车间调度方法.为了避免Hopfield神经网络容易收敛到局部极小,从而产生非法调度解的缺点,将模拟退火算法应用于Hopfield神经网络求解,使Hopfield神经网络收敛到计算能量函数的最小值0,从而保证神经网络输出是一个可行调度方案.该文改进了已有文献中提出的作业调度问题的Hopfield神经网络方法,与已有算法相比,能够保证神经网络稳态输出为可行的作业车间调度方案.     

一种通用的神经网络映射调度遗传算法

神经网络映射分配是神经网络虚拟实现的一个关键问题，最优的调度对神经网络计算机的性能具有重要意义，为了解决这个问题，文中提出了一种神经网络映射调度遗传算法。经过验证，该自满是通用而有效的。     

一种基于神经网络的生产调度方法

提出解决具有开、完工期限制的约束Job-shop生产调度问题的一种神经网络方法.该方法通过约束神经网络,描述各种加工约束条件,并对不满足约束的开工时间进行相应调节,得到可行调度方案;然后由梯度搜索算法优化可行调度方案,直至得到最终优化可行调度解.理论分析、仿真实验表明了方法的有效性.     

智能系统中获取模糊规则的神经网络方法

智能系统中一类重要的定性知识要用模糊集理论中的模糊语言进行描述。本文在研究模糊定性知识形式描述和自组织竞争神经网络特性的基础上，提出了一种从一组具有数值特性的训练样本集中获取隶属函数和模糊规则的神经网络模型和方法。通过对Ｉｒｉｓ数据集的应用实验表明了该方法能对这一类数据进行有效的描述。     

基于BP网络的公开密钥密码体制分析方法

在公开密钥密码体制传统分析方法的基础上,提出了用神经网络分析公开密钥密码体制的方法.利用二层BP网络,在所有单字符明文分组的空间中,进行了大量的实验,构造了RSA密码体制分析机,结果表明,该密码分析机可以达到较高的解码正确率.