求解线性约束的二次规划神经网络学习新算法

提出了一种基于0.618法求解具有线性约束的二次规划问题的神经网络学习新算法。与已有的求解线性约束的二次规划问题的神经网络学习算法相比,该算法的适用范围更广,计算精度更高。其目的是为具有线性约束的二次规划问题的求解提供一种新方法。仿真实验验证了新算法的有效性。     

基于内部回归神经网络的强化学习

在强化学习和动态规划算法的基础上，提出一种不需要预测模型的改进的强化学习算法：该学习算法在模型未知和没有先验经验的条件下，能通过自身神经网络的在线学习，有效控制不稳定的非线性系统：该学习算法的网络结构采用内部回归神经网络，这样可以增强网络本身处理动态信息的能力，使其更适合复杂系统的稳定控制。应用到一级倒立摆物理实体的控制．实验结果表明了该学习算法在性能上优于其他同类强化学习算法．     

多层前向神经网络的快速学习算法及其应用

针对目前多层前向神经网络学习算法存在的不足，提出一种多层前向神经网络的快速学习算法，它不仅符合生物神经网络的基本特征，而且算法简单，学习收敛速度快，具有线性，非线性逼近精度高等特性，以二杆机构手逆运动学建模作为应用实例，仿真结果表明该方法是有效的，其算法与收敛速度更优于BP网络。     

基于神经网络和遗传算法的移动机器人路径规划*

提出一种基于神经网络和遗传算法的路径规划算法.采用神经网络模型对机器人的环境信息进行描述,利用神经网络的输出建立遗传算法的适应度函数;然后使用遗传算法优化路径.在该算法中将需规划路径的二维编码简化成一维编码.仿真结果表明提出的路径规划方法是正确和有效的.     

一种改进的粒子群优化RBF网络学习算法

提出了一种新的用粒子群优化RBF网络学习的算法，即分组训练合成优化。该算法利用粒子之间的合作与竞争以实现对多维复杂空间的高维搜索能力，找出神经网络权值的最优解，以达到优化神经网络学习的目的。通过与用最小二乘法优化的神经网络进行了比较，结果表明算法所优化的神经网络收敛效果明显、收敛速度快。     

自反馈神经网络的椭球学习算法

本文讨论自反馈神经网络的学习问题，指出联想记忆的神经网络的学习可以化为某种规划（优化）的问题来解，于是可借用规划数学中发展得成熟的优化技术来解自反馈神经网络的学习问题，文中给出一种称为椭球算法的学习方法，其计算复杂性是多项式型。     

大规模前馈神经网络的一种有效学习算法及其应用

前馈神经网络在复杂系统建模中局限于小型或中等规模的系统，主要原因是：对于大规模问题，现有的神经网络学习算法或者收敛太慢，或者难以收敛．针对这一问题，本文提出一种基于改进的拟牛顿方法的神经网络学习算法该算法内存需要量小，收敛速度快，适合高维神经网络的训练．本文利用该算法训练神经网络建立32输入工业产品质量模型，结果表明了该算法的有效性．     

基于DFP校正拟牛顿法的傅里叶神经网络

针对傅里叶神经网络采用最速下降法导致局部极小、学习速度慢以及泛化能力差的问题,提出一种基于DFP校正拟牛顿法的新学习算法。该算法计算复杂度低,能保证网络具有良好的泛化能力和全局最优性。通过2个数值算例检验该算法,同时和BP神经网络以及另外2种傅里叶神经网络作比较。结果表明,该算法计算复杂度约为最速下降法的5%,为最小二乘学习算法的80%,具有较好的泛化 能力。     

前馈神经网络权值学习的复合形法

本文介绍一种新的前馈神经网络的随机学习方法，着重讨论该算法的实现，并讨论了将它和ＢＰ算法相结合，从而得到一种非常实用的神经网络学习算法。     

基于混合递阶遗传算法的径向基神经网络学习算法及其应用

在研究径向基神经网络学习算法的基础上, 提出了一种新型的径向基神经网络学习算法———混合递阶遗传算法. 该算法将递阶遗传算法和最小二乘法的优点结合在一起, 能够同时确定径向基神经网络的结构和参数, 并具有较高的学习效率. 采用基于混合递阶遗传算法的径向基神经网络对混沌时间序列学习和预测, 取得了较好的效果.     

Programming based learning algorithms of neural networks withself-feedback connections

Discusses the learning problem of neural networks with self-feedback connections and shows that when the neural network is used as associative memory, the learning problem can be transformed into some sort of programming (optimization) problem. Thus, the rather mature optimization technique in programming mathematics can be used for solving the learning problem of neural networks with self-feedback connections. Two learning algorithms based on programming technique are presented. Their complexity is just polynomial. Then, the optimization of the radius of attraction of the training samples is discussed using quadratic programming techniques and the corresponding algorithm is given. Finally, the comparison is made between the given learning algorithm and some other known algorithms     

Neural Network Based Algorithm for Dynamic System Optimization

A class of artificial neural networks with a two‐layer feedback topology to solve nonlinear discrete dynamic optimization problems is developed. Generalized recurrent neuron models are introduced. A direct method to assign the weights of neural networks is presented. The method is based on Bellmann's Optimality Principle and on the interchange of information which occurs during the synaptic chemical processing among neurons. A comparative analysis of the computational requirements is made. The analysis shows advantages of this approach as compared to the standard dynamic programming algorithm. The technique has been applied to several important optimization problems, such as shortest path and control optimal problems.     

神经网络中克服局部最小的BP—EP混合算法

人工神经网络在很多领域有着成功的应用,神经网络有许多学习算法,BP算法是前向多层神经网络的典型算法,但BP算法有时会陷入局部最小解,进化规划（EP）是一种随机优化技术,它可以发现全局成解,当网络学习过程陷入局部最小时,利用EP确定BP算法中的学习速率,使学习过程逸出局部最小,结合具体例子给出了算法实现的具体操作步骤和实验结果。     

一种新的神经网络学习算法

通过对人类学习机理和机制的研究,以及对现有ＢＰ神经网络学习算法及其改进的深入分析,本文提出了一种新的学习算法。该学习算法使神经网络学习由纯数学推导向智能化（启发式）学习发展,获取解决问题的最佳结构中神经元数及神经元间的联接数随问题的变化而动态变化,克服了目前神经网络学习算法普遍存在的学习时间长、局部极小小等问题。     

基于粒子群优化的BP网络学习算法

本文提出一种新颖的基于粒子群优化的BP网络学习算法，该算法是一种全局随机优化算法。用Iris分类问题，将所提出的算法与BP算法作了对比实验。实验结果表明：所提出的算法性能优于BP算法，而且具有良好的收敛性。     

粒子群优化的BP网络学习算法研究及应用

提出一种新的基于粒子群优化的BP网络学习算法,该算法是一种全局随机优化算法,将该算法与传统BP—PSO算法对比实验表明:提出的算法性能优于BP算法,而且具有良好的收敛性,并成功应用于水泥水化过程仿真。     

A constructive algorithm to synthesize arbitrarily connected feedforward neural networks

In this work we present a constructive algorithm capable of producing arbitrarily connected feedforward neural network architectures for classification problems. Architecture and synaptic weights of the neural network should be defined by the learning procedure. The main purpose is to obtain a parsimonious neural network, in the form of a hybrid and dedicate linear/nonlinear classification model, which can guide to high levels of performance in terms of generalization. Though not being a global optimization algorithm, nor a population-based metaheuristics, the constructive approach has mechanisms to avoid premature convergence, by mixing growing and pruning processes, and also by implementing a relaxation strategy for the learning error. The synaptic weights of the neural networks produced by the constructive mechanism are adjusted by a quasi-Newton method, and the decision to grow or prune the current network is based on a mutual information criterion. A set of benchmark experiments, including artificial and real datasets, indicates that the new proposal presents a favorable performance when compared with alternative approaches in the literature, such as traditional MLP, mixture of heterogeneous experts, cascade correlation networks and an evolutionary programming system, in terms of both classification accuracy and parsimony of the obtained classifier.     

基于U－D分解推广卡尔曼滤波的神经网络学习算法

本文针对前馈神经网络ＢＰ算法所存在的收敛速度慢区常遇局部极小值等缺陷，提出一种基于Ｕ－Ｄ分解的渐消记忆推广卡尔曼滤波学习新算法．与ＢＰ和ＥＫＦ学习算法相比，新算法不仅大大加快了学习收敛速度、数值稳定性好，而且需较少的学习次数和隐节点数即可达到更好的学习效果，对初始权值，初始方差阵等参数的选取不敏感，便于工程应用．非线性系统建模与辨识的仿真计算表明，该算法是提高网络学习速度、改善学习效果的一种非常有效的方法．     

遗传算法在人工神经网络中的应用综述

本文介绍正被逐渐广泛应用的新型的、随机性的全局优化方法－遗传算法,系统地讨论了遗传算法在人工神经网络中的主要应用,实验结果显示了遗传算法快速学习网络权重的能力,并且能够摆脱局部极小点的困扰。