新激活函数下前馈型神经网络及其在天气预报中的应用

本文为提高基于ＢＰ算法的人工神经元网络的学习速度，提出新组合激活函数并取得了显著效果的基础上，又应用于天气预报中，并与基于ＢＰ算法的神经网络（标准和带动量项）以及多自适应性单元的神经元网络进行仿真比较，在预报准确纺和学习速度方面获得了令人比较温度的结果，本模拟程序在Ｔｕｒｂｏ－Ｐａｓｃａｌ／６．０环境下编制，在ＩＢＭ ＰＣ３８６和４８６机器上调试通过并运行。     

前馈神经网络误差函数的结构形式

前馈神经网络采用有教师的学习方法．根据实际输出与希望输出之间差异的函数(即误差函数)修改网络权值和阈值，不断反复训练使误差函数达到最小．讨论了误差函数的结构形式问题，给出了误差函数在条件对数均值处取得极小值的充分必要条件．该条件实际上给出了误差函数的结构形式．进一步的分析表明，误差函数结构形式推广了已有的结果，同时，获得的结构形式具有一定的抗干扰能力．之后进一步讨论了误差函数在第1次α分位点处取得极小值的结构形式．这个结论具有更广泛的意义．结果为人工神经网络的进一步研究提供了良好的基础．     

含噪声前馈神经网络误差函数的理论分析

误差函数的选择是前馈神经网络训练的关键问题。首先讨论了在输入输出样本均含噪声及只有输出样本含有噪声的情况下网络权向量W的极限性质，从而指出，在噪声存在的情况下，常用的最小方差型误差函数不是一个好的选择，所得结果为更深入的研究指出了方向。     

前馈我层神经网络的一种优质高效学习算法

本文对ＢＰ算法的突出 问题－收敛性问题，进入了深入分析，提出了六条改进措施。在微机上 试表明，用于ＸＯＲ问题，迭代４０次，均方误差Ｅ＝６．１９Ｅ－５，迭代５０次，Ｅ＝１．５５Ｅ－３８；用于故障诊断，收敛效果也极佳。     

Lagrange优化前馈神经网络盲多用户检测算法

提出了一种前馈神经网络盲多用户检测算法.该算法利用恒模准则构造了一个代价函数,给出了该算法的约束条件.利用增广Lagrange函数方法对带约束的代价函数进行优化求解,获得前馈神经网络网络权值和参数的迭代公式,从而实现了盲多用户检测.利用计算机对增广Lagrange函数优化的前馈神经网络盲多用户检测算法进行仿真.仿真结果表明,新算法具有较好的误码率及收敛特性等性能.     

前馈多层神经网络的一种优质高效学习算法

本文对ＢＰ算法的突出问题——收敛性问题，进行了深入分析，提出了六条改进措施．在微机上试验表明，用于ＸＯＲ问题，迭代４０次，均方误差Ｅ＝６．１９Ｅ－５，迭代５０次，Ｅ＝１．５５Ｅ－３８；用于故障诊断，收敛效果也极佳     

惩罚函数优化的前馈神经网络盲多用户检测

提出一种前馈神经网络盲多用户检测算法,利用前馈神经网络替代原有检测器中的滤波器,通过惩罚函数对约束恒模代价函数进行求解,获得前馈神经网络权值和参数的迭代公式,实现了盲多用户检测。Matlab仿真结果表明,该算法改善了系统的误码率性能,加快了算法的收敛速度。     

基于输出误差与偏导数误差信息融合的神经网络训练

文章首先提出了表示前向神经网的泛化能力的一种度量,分析了提高网络泛化能力的主要途径,进而提出了基于网络输出误差与输出对输入偏导数误差信息融合的网络训练策略,给出了两者信息融合的有效方法和相应网络训练算法。具体应用结果表明所提出算法可显著提高网络的泛化能力。     

基于反传混沌粒子群训练的前馈神经网络研究

为了解决前馈神经网络训练收敛速度慢、易陷入局部极值及对初始权值依赖性强等缺点, 提出了一种基于反传的无限折叠迭代混沌粒子群优化(ICMICPSO)算法训练前馈神经网络(FNNs)参数。该方法在充分利用BP算法的误差反传信息和梯度信息的基础上, 引入了ICMIC混沌粒子群的概念, 将ICMIC粒子群(ICMICPS)作为全局搜索器, 梯度下降信息作为局部搜索器来调整网络的权值和阈值, 使得粒子能够在全局寻优的基础上对整个空间进行搜索。通过仿真实验与多种算法进行对比, 结果表明在训练和泛化能力上ICMICPSO-BPNN方法明显优于其他算法。     

DCN中基于前馈神经网络的动态多路径负载均衡方法

针对数据中心网络(DCN)中因大象流而引起的网络负载不均衡问题,提出一种基于前馈神经网络的动态多路径负载均衡方法。在拓扑感知和流量信息监控的基础上对大象流进行标记,将收集到的网络流量信息输入前馈神经网络以预估每段链路的负载,并结合优化蚁群算法为大象流寻找最优路径,使大象流根据链路的实时状态完成路径选择。仿真结果表明,该方法能够有效降低网络传输时延,提高链路利用率和网络吞吐量。     

利用影响因子遗传算法优化前馈神经网络

提出了一种带有影响因子的改进遗传算法并以此来优化前馈神经网络.染色体的每个基因都有一个影响因子,其不同取值体现了基因对整条染色体的不同影响程度.在遗传进化过程中,通过影响因子等遗传操作以达到对前馈神经网络的权值、阈值和结构优化的目的.仿真实验表明,该算法能够快速地确定神经网络的结构并且有效地提高了神经网络的收敛速度.     

基于二元蚁群算法的多层前馈神经网络

提出了一种基于二元蚁群算法的多层前馈神经网络,同时为了避免二元蚁群算法陷入局部最优引入了拥挤交通组织策略。将二元蚁群算法和神经网络混合,可兼有神经网络广泛映射能力和二元蚁群算法快速全局收敛能力,通过在函数逼近实验表明取得了较好的结果。     

零代价函数的前馈神经网络新算法

文章提出一种全新的三层前馈神经网络算法,它比BP算法优越得多.新算法不再采用误差反向传播原理,而是选择一层自由权,通过求解线性方程组求得另一层待求权.新算法选择很广一类的隐层神经元函数,可以直接求得全局最小点,不存在BP算法的局部极小、收敛速度慢等问题.新算法较BP算法快得多.     

蜜蜂群优化算法用于训练前馈神经网络

训练人工神经网络的目的是调整各层的权重系数以达到最优,因而训练过程的实质是一项优化任务。传统的训练算法存在着容易陷入局部最优、计算复杂等缺陷。介绍一种训练前馈神经网络的蜜蜂群优化算法,它是一种简单、鲁棒性强的群体智能随机优化算法。该算法把探查和开发过程有效地结合在一起,并采取了跳出局部最优的搜索策略。成功地把该算法应用于神经网络训练的基本问题:异或问题、N位奇偶校验和编码解码问题,并与传统的BP算法进行比较。仿真实验证明其性能较传统的GD算法和LM算法更为优越。     

前馈神经网络凸优化算法及其仿真应用

该文利用凸函数共轭性质中的Young不等式构造前馈神经网络优化目标函数。这个优化目标函数若固定权值,对隐层输出来说为凸函数;若固定隐层输出,对权值来说为凸函数。因此,此目标函数不存在局部最小。此目标函数的优化速度快,大大提高了前馈神经网络的学习效率。仿真试验表明,与传统算法如误差反向传播算法或BP算法和含势态因子(Momentum factor)的BP算法及现有的分层优化算法相比,新算法能加快收敛速度,并降低学习误差。利用这种快速算法对矿体进行仿真预测,取得了良好效果。     

基于前馈神经网络复合逆控制的研究

为了提高神经网络直接逆控制方法的跟踪精度和抗干扰能力,结合前馈神经网络直接逆控制与通用模型控制策略各自的优点,提出了一种基于前馈神经网络复合逆控制的方法。该方法将控制系统的参考轨迹改造成一条规范的二阶曲线,从而使得控制器参数物理意义明确,且易于整定。仿真实验验证了系统具有良好的鲁棒性和抗扰性能。     

调和的复合BP网络及学习算法

BP算法，本质上是以误差平方和为目标函数，用梯度法求其最小值的算法，除非误差平方和的函数是正定的，否则必然产生局部最小值点，现在的调节方法一种是找到恰当的初始值点，从而跳过局部最小值点，另一种方法是找到能迅速脱离局部最小值点的学习算法,而本文拟从改造BP网络开始，给出了一种更有效的BP网络结构，并提供相应的学习算法。     

前馈神经网络误差修正算法的改进和比较

前馈神经网络是神经计算中的一种重要的网络结构,在工程优化中得到了广泛的应用。其误差修正算法是决定网络性能的重要因素,对数据挖掘、神经网络集成、神经网络的硬件实现和分布式并行处理有着重要的意义。本文对几种误差修正算法进行了分析,并通过实例进行了比较,从中得出了有意义的结论。     

混合前馈型神经网络在入侵检测中的应用研究

提出一种基于混沌神经元的混合前馈型神经网络,用于检测复杂的网络入侵模式．这种神经网络具有混沌神经元的延时、收集、思维和分类的功能,避免了MLP神经网络仅能识别网络中当前的滥用入侵行为的弱点．对混合网络进行训练后,将该网络用于滥用入侵检测．使用DARPA数据集对该方法进行评估,结果表明该方法可有效地提高对具备延时特性的Probe和DOS入侵的检测性能．     

常见遗传多层前馈神经网络实数编码的不合理性分析和改进

对遗传多层前馈神经网络常见的实数编码中不适合于优化权值大小、不利于交叉算子发挥作用等问题。进行了理论分析,提出了“最小模式”等概念,并据此对编码方式做了改进,通过一个实例的仿真结果表明改进后的编码方式具有较好的寻优效果。