多层随机神经网络em算法

本文讨论了基于微分流形框架随机神经网络学习算法，称为ｅｍ学习算法；对于多层随机神经网络模型，我们从微分流形的角度分析它的对偶平坦流形结构，描述ｅｍ算法对于多层前馈随机神经网络模型学习算法实现和加速技术。     

单层神经网络的高效学习算法研究

本文描述的是目前单层神经网络中的几个高效学习算法，简称为ＧＸＸＸＳＦ，其中ＧＸＸＸＳＦ１和ＧＸＸＸＳＦ２是两个递归最小二乘学习算法，它指出用模拟输出训练单层神经网络。本文对训练单层神经网络又提出一种新的优化方法，它为高效学习算法的发展提供了依据，这种优化方法称为ＧＸＸＸＳＦ３．以ＧＸＸＸＳＦ３为基础，又推出用二进制输出作为训练单层神经网络的第二级学习算法，称为ＧＸＸＸＳＦ４     

多层前向神经网络的新型二阶学习算法

提出了多层前向神经网络的新型二阶递推学习算法。该算法不仅能使用网络各层误差而且使二阶导数信息因子反向传播。证明了新算法等价于Ｎｅｗｔｏｎ迭代法并且有二阶收敛速度。它实现了Ｎｅｗｔｏｎ搜索方向和Ｈｅｓｓｉａｎ阵逆的递推运算,其计算量几乎与普通递推最小二乘法相当。由算法性能分析证明新算法优于Ｋａｒａｙｉａｎｎｉｓ等人的二阶学习算法。     

多层反馈神经网络的FP学习和综合算法

本文给出多层反馈神经网络的ＦＰ学习和综合算法，并讨论此类网络的性质，指出将它应用于聚类分析能给出不粒度的聚类，且具有收敛速度快（是样本个数的线性函数）、算法计算量少（是样本个数和输入、输出维数的双线性函数）、网络元件个数少、权系数简单（只取３个值）、网络容易硬件实现等优点．作为聚类器的神经网络的学习和综合问题已得到较圆满地解决.     

多层神经网络BP算法的研究

影响多层神经网络ＢＰ算法学习效率的因素不少。但ＢＰ算法中误差函数不能有效地表征样本学习精度是其中主要的因素之一。本文对ＢＰ算法中的误差函数进行了修正。计算机模拟结果表明这种修正有助于提高学习精度和学习效率。     

多层神经网络BP算法的初步研究

目前,在数十种神经网络模型中以BP算法作为学习方式的多层神经网络是使用得最为广泛的一种。该网络是由Rumechere和Mccelland领导的研究小组在1985年实现的,已有效地解决了XOR、T-C匹配等感知器所不能解决的问题。现已广泛应用于语音识别、模式分类、过程监控等领域。尽管多层神经网络的BP算法较有效,但由于它用于高     

神经网络的规划学习算法

本文利用二次规划方法，讨论对神经网络训练样本的吸引半径的优化问题，并借用二交规划中的ＲＰＡ算法求该优化解，得到一种新的神经网络基于规划的学习算法，其次，将规划学习算法与现有的几种常见算法进行比较，指出该算法的特点。     

神经网络主动学习的进化算法

1 引言近年来,神经网络的研究取得了很大进展,特别是,为了克服传统的BP学习算法的缺陷,即学习速度慢和人为给定的拓扑结构对特定学习任务的不适应性,而发展的自适应神经网络的增长策略,它通过不断地增长隐节点或子网来满足给定学习任务的复杂性要求。这种神经网络的增长算法不仅克服了人为指定的拓扑结构的困难,而且由于其结构过程所固有的模块化训练特性,也缓解了传统的BP算法训练速度慢的突出问题。由于神经网络训练程度很难把握,许多算法往往过分强调训练结果而牺牲泛化结果,致使网络的过拟合问题严重。为了克服过拟合问题,研究者们采用了多网络合作模型,由于多个网络的平均效应,可以避免单个     

提高BP神经网络学习速度的算法研究

本文在深入分析ＢＰ人工神经网络学习算法的基础上，研究了采用增加动量项，成批训练及综合法来提高ＢＰ网络的学习速度，取得了显著效果。     

面向图像识别的多层脉冲神经网络学习算法综述

相较于第1代和第2代神经网络,第3代神经网络的脉冲神经网络是一种更加接近于生物神经网络的模型,因此更具有生物可解释性和低功耗性。基于脉冲神经元模型,脉冲神经网络可以通过脉冲信号的形式模拟生物信号在神经网络中的传播,通过脉冲神经元的膜电位变化来发放脉冲序列,脉冲序列通过时空联合表达不仅传递了空间信息还传递了时间信息。当前面向模式识别任务的脉冲神经网络模型性能还不及深度学习,其中一个重要原因在于脉冲神经网络的学习方法不成熟,深度学习中神经网络的人工神经元是基于实数形式的输出,这使得其可以使用全局性的反向传播算法对深度神经网络的参数进行训练,脉冲序列是二值性的离散输出,这直接导致对脉冲神经网络的训练存在一定困难,如何对脉冲神经网络进行高效训练是一个具有挑战的研究问题。本文首先总结了脉冲神经网络研究领域中的相关学习算法,然后对其中主要的方法:直接监督学习、无监督学习的算法以及ANN2SNN的转换算法进行分析介绍,并对其中代表性的工作进行对比分析,最后基于对当前主流方法的总结,对未来更高效、更仿生的脉冲神经网络参数学习方法进行展望。     

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足,提出一种多层前向神经网络的快速学习算法,它不仅符合生物神经网络的基本特征,而且算法简单,学习收敛速度快,具有线性、非线性逼近精度高等特性.以二杆机械手逆运动学建模作为应用实例,仿真结果表明该方法是有效的,其算法与收敛速度更优于BP网络.     

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足，提出一种多层前向神经网络的快速学习算法，它不仅符合生物神经网络的基本特征，而且算法简单，学习收敛速度快，具有线性，非线性逼近精度高等特性，以二杆机构手逆运动学建模作为应用实例，仿真结果表明该方法是有效的，其算法与收敛速度更优于BP网络。     

自反馈神经网络的椭球学习算法

本文讨论自反馈神经网络的学习问题，指出联想记忆的神经网络的学习可以化为某种规划（优化）的问题来解，于是可借用规划数学中发展得成熟的优化技术来解自反馈神经网络的学习问题，文中给出一种称为椭球算法的学习方法，其计算复杂性是多项式型。     

基于神经网络的强化学习算法研究

BP神经网络在非线性控制系统中被广泛运用，但作为有导师监督的学习算法，要求批量提供输入输出对神经网络训练，而在一些并不知道最优策略的系统中，这样的输入输出对事先并无法得到，另一方面，强化学习从实际系统学习经验来调整策略，并且是一个逼近最优策略的过程，学习过程并不需要导师的监督。提出了将强化学习与BP神经网络结合的学习算法-RBP模型。该模型的基本思想是通过强化学习控制策略，经过一定周期的学习后再用学到的知识训练神经网络，以使网络逐步收敛到最优状态。最后通过实验验证了该方法的有效性及收敛性。     

模糊神经网络快速学习算法的研究

在分析模糊模型及相应模糊神经网络的基础上，提出一种快速学习算法－－择近学习算法，它公需对每个训练数据学习一次，就可得了较好的结果，因此，其效率非常高。在算法中还引进了置信度的概念，以提高学习结果的可靠性，择近学习算法特别适用于捕获表达各种变量之间的结果信息。仿真结果证实了算法的有效性。     

有理式多层前馈神经网络

提出了有理式多层前馈神经网络的数学模型，给出了有理式多层神经网络的学习算法，就计算复杂度而言，有理式神经网络的学习算法与传统的多层神经网络反传播算法是同阶的，函数逼近应用实例结果表明，将有理式多层神经网络用于解决传统问题是有效的。     

前馈神经网络WAFS学习算法

1.引言前馈神经网络是目前应用最广的一种神经网络,其学习算法是由Rumelhart等人于1986年提出的反向传播(Back Propagation,BP)算法,故这种神经网络也常被称为BP神经网络。人们对前馈神经网络学习算法的研究,以前主要着重对各层之间联接权值优化的研究,如BP算法以     

一种新的神经网络学习算法

通过对人类学习机理和机制的研究,以及对现有ＢＰ神经网络学习算法及其改进的深入分析,本文提出了一种新的学习算法。该学习算法使神经网络学习由纯数学推导向智能化（启发式）学习发展,获取解决问题的最佳结构中神经元数及神经元间的联接数随问题的变化而动态变化,克服了目前神经网络学习算法普遍存在的学习时间长、局部极小小等问题。     

离散时间细胞神经网络的学习算法

细胞神经网络的应用主要取决于其模板的设计。文章针对离散时间细胞神经网络的应用，通过利用一个随「机并行算法来优化一个目标函数，进而完成了ＤＴＣＮＮ模板的设计，为ＤＴＣＮＮ的设计提供了理论根据。在连通片检测应用中的模拟表明了算地的有效性和正确性。     

单层神经网络的快速学习算法研究

该文提出一种适用于单层神经网络(SNN)训练的新颖的广义误差函数,给出了SNN新的快速学习算法(FLA).进一步提出了一种广义系统辨识模型,对FLA的收敛性进行了理论分析.实验表明:文中给出的新FLA比Karayiannis的LFA具有更快的收敛速度.