混合粒子群优化算法优化前向神经网络结构和参数*

提出了综合利用粒子群优化算法（PSO）和离散粒子群优化算法（D-PSO）同时优化前向神经网络结构和参数的新方法。该算法使用离散粒子群优化算法优化神经网络连接结构,用多维空间中0或1取值的粒子来描述所有可能的神经网络连接,同时使用粒子群优化算法优化神经网络权值。将经过该算法训练的神经网络应用于故障诊断,能够有效消除冗余连接结构对网络诊断能力的影响。仿真试验的结果表明,相比遗传算法等其他算法,该算法能够有效改善神经网络结构和参数的优化效率,提高故障模式识别的准确率。     

一种改进的基于神经网络的WSN数据融合算法

为降低无线传感网络的能量消耗,提出了一种基于神经网络的数据融合改进算法(NBPNA),该算法将无线传感网络的分簇路由协议与BP神经网络结合起来,通过神经网络方法对簇内节点采集到的信息进行数据拟合,提取训练拟合好的权值与阈值,把其作为信息融合值传输;同时再通过将上一次拟合好的权值与阈值赋予下一次网络训练来减少神经网络的训练步数,减少网络训练所需的耗能;通过实验验证,该算法可有效减少网络通信量,降低节点能耗,延长网络寿命,同时还验证了本算法在环境监测等方面的可行性和有效性。     

基于随机退火的神经网络学习算法及其应用

提出了一种基于随机退火机制的竞争层神经网络学习算法,并将其应用于解决图像特征绑定问题。该算法将竞争层神经网络的串行迭代模式改为随机优化模式,通过采用退火技术避免网络收敛到能量函数的局部极小点。通过理论分析证明了该算法与竞争层神经网络动力学方程的等价性。通过对比实验验证了算法能够在加快网络收敛速度的同时提高特征绑定结果的 合理性。     

一种热工过程RBF神经网络模型辨识方法

针对模型辨识中模型阶次难以辨识的问题,提出了一种RBF神经网络剪枝算法。基于该算法,对RBF神经网络隐节点和输入节点进行剪枝,不仅可以精简网络的结构,而且可以减少网络的输入节点,从而确定模型的阶次。同时,为了避免误删输入节点,在对输入节点剪枝时,将过程的输入和输出分开剪枝。将该算法应用于热工过程辨识中,仿真结果表明,提出的基于RBF神经网络剪枝算法是有效的。     

基于模糊神经网络的网络业务分类研究

该文利用神经网络的自学习能力和模糊逻辑的动态性和及时性等特点,将模糊逻辑和神经网络有机地结合起来,构造出了四层模糊神经网络,并用训练神经网络的相应学习算法训练网络,将该模型用于网络业务源特征提取与分类的研究中,并与单纯的神经网络算法相比较。计算机仿真结果表明,模糊神经网络方法比神经网络算法更优越,该文的研究结果为解决网络业务源特征提取与分类奠定了基础。     

模糊粒子群神经网络算法及应用

针对流程工业神经网络建模时,BP算法的局部收敛问题,采用模糊粒子群算法改进神经网络学习问题。该算法将模糊粒子群引入神经网络学习算法,使得粒子群的权重自适应更新,同时模糊粒子群自适应调整神经网络权重参数,改进网络收敛性。将算法用于建立乙烯裂解炉出口温度(COT)、裂解产品收率软测量模型,取得了较好的应用效果。     

基于神经网络的无线传感器网络数据融合算法_cg10000147修改稿

为减少无线传感器网络的通信量,降低能量消耗,设计了一种基于神经网络的数据融合算法(BPNDA),该算法将BP神经网络和传感器网络分簇路由协议有机结合,将每个簇设计成一个神经网络模型,通过神经网络提取原始数据中的少量特征数据,然后将特征数据发送给汇聚节点,从而提高数据收集效率,延长网络生存时间。仿真实验证明,与LEACH算法相比,该算法可有效减少网络通信量,降低节点能耗。     

正交投影神经网络

本文在前馈网络的基础上，提出了一种新的网络模型。在该模型中，由于将线性优化技术引入其学习训练过程，从而提高了网络的学习速度。同时，该网络仍保持了神经网络中非线性映射的基本特点。由于这种网络的学习算法是基于正交投影算法，故我们称之为正交投影神经网络（ＯＰＮＮ）。最后，给出了两个利用ＯＰＮＮ网络分别进行异或分类和函数逼近的例子。     

基于粒子群优化与BP算法的协同神经网络学习方法

针对标准BP算法易陷入局部极值及收敛速度慢等问题,提出一种基于粒子群优化与BP算法的协同神经网络学习方法。该方法在网络的学习过程中,同时利用PSO优化算法与BP算法进行最优网络权值的协同搜索,从而充分利用粒子群算法的全局搜索性及BP算法的反向传播特点。将该算法应用于4个复杂函数的拟合仿真,并与标准BP算法以及传统的粒子群优化BP神经网络算法进行比较。实验结果表明所提的协同算法的性能优于传统的BP网络优化算法。     

基于粒子群与BP混合算法的神经网络学习方法

针对标准BP算法收敛速度慢及易陷入局部极值等问题,提出一种基于粒子群优化与BP混合算法的神经网络学习方法。该方法在网络的训练过程中,同时利用粒子群算法与BP算法进行最优网络权值的搜索,从而既充分利用了粒子群算法的全局搜索性又较好地保持了BP算法本身的反向传播特点。将该混合学习算法应用于复杂函数的拟合仿真,并与标准BP算法以及传统的粒子群优化BP神经网络学习算法进行比较。实验结果表明所提的混合学习算法具有较高的收敛精度,且收敛速度更快。     

基于蚁群优化算法的BP神经网络的RPROP混合算法仿真的研究

本文对蚁群优化算法的BP神经网络中的RPROP混合算法进行了研究,提出了利用蚁群优化算法,结合RPROP混合算法解决无线网络传感器中如何处理信息服务点中大量的冗余数据、网络运行速度等相关问题,通过建立系统构架及信息服务点,证明该算法能够延长BP神经网络的生命周期,加快BP神经网络的收缩速度,能够将网络中信息服务点的重复数据进行有效的合并处理,并及时过滤掉非正常信息服务点的数据,减少数据服务点的能量消耗,期训练过程中迭代次数改善明显,解决BP神经网络的学习、训练时间冗余等问题,同时具有较强的计算、寻优等能力,提高了网络分类正确率和运行的效率,是一种较为实用的算法,完全能够满足日益增长的无线互联网终端的运行需要。     

基于统计聚类RBF神经网络的孤立点检测研究

孤立点挖掘是数据挖掘的一个重要领域,而统计分析方法在孤立点检测中具有天然的优势。本文将统计聚类方法融入RBF神经网络,提出了一种基于统计聚类RBF神经网络的新的孤立点检测算法——SCRBF。该算法包括两部分,先用统计聚类方法对神经网络进行初始化,然后根据网络的训练情况进行隐单元的简化,提高了神经网络的泛化能力,同时也降低了过拟合现象的出现概率。与LSC算法的对比实验表明,该算法是有效的。     

基于遗传优化神经网络的网络入侵特征检测

为了提高网络入侵检测正确率,提出一种遗传优化神经网络的网络入侵特征选择和检测算法。该方法先将网络状态特征和RBF神经网络参数作为遗传算法的个体,把检测正确率作为适应度函数;然后利用遗传算法的选择、交叉和变异等操作对网络状态特征和RBF神经网络参数进行优化,最后利用KDD 1999数据集对算法性能进行测试。测试结果表明：遗传优化神经网络能够快速获得最优网络状态特征和分类器参数,同时提高了网络入侵检测正确率。     

基于PSO-BP的无线传感器网络数据融合算法研究

为提高无线传感器网络(WSN)数据融合效率,减少网络的通信量以及降低传感网的能量消耗,提出一种基于粒子群优化BP神经网络的无线传感器网络数据融合算法;该算法将粒子群算法优化BP神经网络的权值和阈值后,与传感器网络分簇路由协议有机结合,将无线传感器网络中簇头和节点等同于BP神经网络里的神经元,利用优化后的BP神经网络有效地提取WSN数据融合原始数据之中的少量特征数据,之后把提取的特征数据发送到汇聚节点,进而提升数据融合效率,延长网络生存周期;仿真实验证明,与LEACH算法、BP神经网络和GABP算法相比,该算法可有效减少网络通信量,降低节点总能耗的15%,延长网络生存时间。     

一种基于BP神经网络的数字识别新方法

针对标准BP神经网络收敛速度慢、易陷入局部极小点的缺点,提出了一种新的BP神经网络改进算法。该算法通过变步长法和牛顿法来改进BP算法,加快了网络的收敛速度,且收敛速度快于其他的改进算法。在此基础上将BP神经网络应用于数字识别中,为其网络建立识别模型。利用仿真实验观察BP网络的泛化能力以及识别准确性,比较BP算法及其改进方案,提出改进方案中分别需要注意的地方。     

基于核的双自组织特征映射网络在预测中的应用

提出了一种基于核的双自组织特征映射网络.该网络通过同时使用两个相关的映射网络扩展了原有的自组织神经网络,针对自组织特征映射网络容易受到高噪声的影响,将核学习的方法应用于自组织映射聚类中,以核函数代替了原始数据在特征空间中映射值的内积,传统的SOM算法使用的是欧氏距离,而KSOM通过使用不同的核函数为原始空间诱导出不同的欧式距离,这样就提高了算法的鲁棒性.将改进后的神经网络用于金融时间序列的预测,其实验结果表明,改进后的神经网络具有较强的鲁棒性.     

基于自组织神经网络的非平稳信号盲分离

针对具有二阶非平稳特性的源信号盲分离问题,提出一种基于自组织神经网络的在线盲源分离新算法.利用自组织神经网络构建一种多层盲分离网络模型,以网络输出层信号的相关性为代价函数,采用自然梯度原理对网络参数进行学习,最小化该代价函数从而实现信号分离.将多层自组织神经网络和自然梯度原理相结合,提高了分离算法的灵活性和性能.最后将该算法与其他算法进行了仿真对比,仿真结果表明该算法具有较好的收敛精度及稳定性.     

一种基于进化算法的BP神经网络优化方法及应用

针对BP网络的不足,分析了一般进化算法在神经网络结构优化过程中存在的问题,根据物种内优生优育原则和物种间相互竞争、相互学习的生物学原理,提出了一种新的基于进化算法的神经网络优化方法。该方法不但有效弥补了BP神经网络在网络结构、权值选择上的随机性缺陷,缩小了神经网络结构的解搜索空间,加快了BP网络的收敛速度,进而提高了搜索效率,而且还起到对网络的结构和权值进行同时进化的作用。实验结果表明该方法取得了良好的效果。     

神经网络泛化性能优化算法

基于提高神经网络泛化性能的目标提出了神经网络泛化损失率的概念,解析了与前一周期相比当前网络误差的变化趋势,在此基础上导出了基于泛化损失率的神经网络训练目标函数.利用新的目标函数和基于量子化粒子群算法的神经网络训练方法,得到了一种新的网络泛化性能优化算法.实验结果表明,将该算法与没有引入泛化损失率的算法相比,网络的收敛性能和泛化性能都有明显提高.     

一种基于神经网络复杂度的修剪算法

针对神经网络结构设计问题,提出一种基于神经网络复杂度的修剪算法.其实质是在训练过程中,利用网络连接权矩阵的协方差矩阵计算网络的信息熵,获得网络的复杂度;在保证网络信息处理能力的前提下,删除对网络复杂度影响最小的隐节点.该算法不要求训练网络到代价函数的极小点,适合在线修剪网络结构,并且避免了结构调整前的网络权值预处理.通过对典型函数逼近的实验结果表明,该算法在保证网络逼近精度的同时,可有效地简化网络结构.