一种前馈神经网络的整体进化方法

一、前言最近十多年来,人工神经网络,尤其是前馈神经网络和BP算法获得了极其广泛的应用。BP(Back Propagation Error)算法是由Werbos在1974年首先提出的,它有效地克服了多层网络无法解决非线性分类问题的缺陷,但在当时并没有引起重视。直到1986年,Rumelhart和McClelland等人对Werbos的算法进行了总结和分析,提出了PDP(并行分布处理)理论,并进一     

一种基于进化算法的BP神经网络优化方法及应用

针对BP网络的不足,分析了一般进化算法在神经网络结构优化过程中存在的问题,根据物种内优生优育原则和物种间相互竞争、相互学习的生物学原理,提出了一种新的基于进化算法的神经网络优化方法。该方法不但有效弥补了BP神经网络在网络结构、权值选择上的随机性缺陷,缩小了神经网络结构的解搜索空间,加快了BP网络的收敛速度,进而提高了搜索效率,而且还起到对网络的结构和权值进行同时进化的作用。实验结果表明该方法取得了良好的效果。     

一种基于进化算法的BP神经网络优化方法及应用

针对BP网络的不足,分析了一般进化算法在神经网络结构优化过程中存在的问题,根据物种内优生优育原则和物种间相互竞争、相互学习的生物学原理,提出了一种新的基于进化算法的神经网络优化方法。该方法不但有效弥补了BP神经网络在网络结构、权值选择上的随机性缺陷,缩小了神经网络结构的解搜索空间,加快了BP网络的收敛速度,进而提高了搜索效率,而且还起到对网络的结构和权值进行同时进化的作用。实验结果表明该方法取得了良好的效果。     

基于差分进化算法的模糊神经网络控制器

针对模糊神经网络控制器在应用误差反向传播算法训练时,易于陷入局部最优的问题,提出了一种将差分进化算法与BP算法相结合的学习法,首先利用差分进化算法的全局寻优能力,给BP算法一个好的寻优初始点;然后再以一定的概率进行BP算法的寻优.对一个带有滞后环节的二阶系统进仿真表明,控制性能优于基于BP的模糊神经网络控制器.     

一种进化RBF神经网络的模型及其训练算法

径向基函数神经网络（RBFNN）具有最优逼近和全局逼近的特性,在函数似合方法优于传统的BP网络,因此被广泛应用于非线性时间序列分析算法领域。本文针对时间序列中的非平稳数据,结合差分平稳化与分阶遗传的思想,提出一个新的进化RBF神经网络的模型及其训练算法。通过实例分析表明,该方法在处理非平稳时间序列方面具有一定的优越性。     

基于单亲生物无性繁殖的一种进化算法

基于单亲细胞的无性繁殖-分裂,提出了一类新的DNA分子自进化优化算法,算法模拟了单亲细胞在恒定环境下的一种进化演变过程,论证了在恒定环境中,单亲细胞DNA分子在生命进化的基本特征-分裂和变异的交互作用下,以1的概率演化到同一个体,即环境中的全局最优点,文中对算法进行了形式描述和理论探索,给出院 收敛性证明,通过
实例仿真和计算,得出了有益的结论。     

一种前馈神经网络的卡尔曼滤波学习方法

本文针对前馈神经网络误差反向传播算法收敛速度慢且常常收敛于局部极小值等缺陷，提出了一种基于推广卡尔曼滤波估计的快速学习新方法，与ＢＰ算法相比较，该方法不仅学习收敛速度快，数值稳定性好，所需学习次数和隐节点数少，而且所需调节参数少，便于工程应用，非线性系统建模与辨识的仿真计算结果表明，该方法是提高网络学习速度、改善学习性能的一种有效方法，可有效解决工业过程等非线性系统建模与辨识问题。     

前馈多层神经网络的一种高效加速算法

前馈多层神经网络是应用最广泛的一种人工神经网络，在各门学科领域中都具有很重要的实用价值，其学习能力和容错能力对不确定性模式识别问题的求解具有独到之处。前馈多层神经网络所使用的BP算法虽然简单且易于实现,但收敛速度缓慢。因此基于收敛速度及存储空间的考虑，文中着重探讨了一种较实用的BP网络优化算法－向量序列的ε－加速算法，并对相关的收敛性和稳定性作了理论上的分析和研究。实验结果表明这种方法有很好的效果。     

一种基于神经网络的数据挖掘算法

随着数据应用的深入,各类数据挖掘方法越来越重要.神经网络理论模拟人类的大脑神经处理信息的方式,通过信息样本对神经网络进行学习和训练,使其具有人脑的记忆和学习能力.研究基于此理论,给出了一种基于神经网络算法的服装销售预测实例.     

一种基于前馈式神经网络的数据挖掘方法

神经网络是目前公认的高精度分类器，尽管其具有结构复杂，网络训练时间长，分类过程难以理解等不足，但其较高的正确率是其他方法所不及的，本文介绍了一种基于前馈式神经网络的数据挖掘的分类方法，并给出了一个例子说明。     

基于递阶遗传算法的BP网络结构设计与权值训练

针对BP网络结构设计及权值训练算法多种改进方案的不足,基于递阶遗传算法,本文同时考虑神经网络结构设计和权值训练,提出一种新的适应度函数,实现了对BP网络结构和权值的同步优化。仿真结果证明了本文算法的有效性。     

Differential Evolution Training Algorithm for Feed-Forward Neural Networks

An evolutionary optimization method over continuous search spaces, differential evolution, has recently been successfully applied to real world and artificial optimization problems and proposed also for neural network training. However, differential evolution has not been comprehensively studied in the context of training neural network weights, i.e., how useful is differential evolution in finding the global optimum for expense of convergence speed. In this study, differential evolution has been analyzed as a candidate global optimization method for feed-forward neural networks. In comparison to gradient based methods, differential evolution seems not to provide any distinct advantage in terms of learning rate or solution quality. Differential evolution can rather be used in validation of reached optima and in the development of regularization terms and non-conventional transfer functions that do not necessarily provide gradient information. This revised version was published online in June 2006 with corrections to the Cover Date.     

基于遗传算法的前馈神经网络结构优化

为防止交叉后优秀基因段的丢失,在随机非一致线性交叉的基础上,设计了一种与个体适应度相关的线性交叉方案。构造了一种使交叉率与变异率随进化过程自适应调整的方法,有效抑制了遗传算法的早熟收敛。然后,针对函数逼近问题用改进后的遗传算法去优化前馈神经网络的结构,降低了神经网络训练陷入局部最优的可能性,提高了网络的泛化能力。     

基于粗糙集优化神经网络结构的启发式算法

为了解决神经网络设计中确定网络结构尤其是隐层单元数的问题,提出了一种基于粗糙集理论确定神经网络结构的启发式算法.通过粗糙集理论属性约简算法对训练样本数据进行处理,根据处理结果确定网络的输入、输出以及隐层单元数.在对A320飞机自动驾驶仪不能衔接的故障诊断实例中,所设计的网络在训练中能够快速收敛,相对于传统的试探法能更快速准确地确定网络结构,从而提高飞机故障诊断效率,缩短维修时间,证明了该方法的实际可行性.     

基于遗传算法与BP神经网络的PM2.5发生演化模型

PM2.5成为近年来大气问题研究的热点。本文以西安市（2013.01.01 2013.04.26）PM2.5的数据为基础,分析PM2.5的成因以及影响因素,运用遗传算法与BP神经网络构建西安市PM2.5的发生演化模型,通过实验验证该模型的有效性、通用性与可靠性。     

一种基于遗传优化的神经网络水印

提出一种新的遗传算法和神经网络彩色图像水印研究,在检测水印的过程中,利用遗传算法来优化BP神经网络的权值矩阵与初值,构建出内在的隐含关系,然后利用训练好的BP神经网络来融合提取水印.实验证明该算法保持不可觉察性,并且水印的鲁棒性比BP神经网络的更强.     

基于遗传算法的一种新的神经网络结构模式研究

神经网络与遗传算法的结合为解决大规模、复杂、并行的系统问题提供了广阔的前景，但其有着固有的缺陷和不足，本文在遗传算法的基础上，提出了一种新的神经网络结构构式，它能将遗传算法与神经网络更加有机地结合起来，改进其不足，增加神经网络的学习方式，提高学习效率和网络的稳定性。     

基于GA、BP神经网络和多元回归的集成算法研究

遗传算法、BP神经网络和多元回归是目前应用比较广泛的数据挖掘算法,它们各俱优点,同时也存在诸多无法避免的缺陷。该文在前三者的基础上,提出一种BP网络与多元回归模型融合的杂合BP网络,并采用遗传算法优化杂合BP网络的初始权值,有效地避免几种方法在单独使用时存在的缺陷。验证实验结果表明：新方法所建立的模型在收敛速度、精度和...     

基于遗传算法的神经网络性能优化

遗传算法是一种典型的进化算法。文中分析了遗传算法的特点和神经网络的特点,从而得出了把两种算法结合起来进行应用的思想。运用理论对比的方法,阐明了用遗传算法进行神经网络性能优化的原因,并得出结论,认为用遗传算法进行神经网络性能优化促使了神经网络更进一步的应用。阐述了遗传算法优化神经网络的两种主要方法,论述了遗传算法和神经网络的发展现状和将来的研究动向。     

基于粒子群遗传算法的BP神经网络摄像机标定

摄像机标定是从二维图像提取三维空间信息的关键步骤,标定的精度直接关系到三维重构结果的逼真程度。为了有效解决传统摄像机标定算法中的多参数、计算费时费力等问题,提高摄像机标定的精度和速度,将粒子群遗传算法（particle swarm optimization genetic algorithm,PSO-GA）应用于摄像机标定中。对参数进行粒子群算法优化后,再使用遗传算法中的选择、交叉和变异等操作进行参数优化,以实现粒子群算法与遗传算法的融合。结合后的算法全局搜索能力较强,收敛速度更快,优化能力与鲁棒性得以提高。同时,基于神经网络的摄像机标定方法所能覆盖的标定空间十分有限,提出了一种采用粒子群遗传算法优化BP神经网络的摄像机标定方法,以解决传统摄像机标定方法难以解决的问题。实验数据表明,基于粒子群遗传算法的BP神经网络标定是一种可行的方法,标定精度高,收敛速度快,泛化能力强。