神经网络结构的动态构筑方法

如何决定人工神经网络的适当规模,以往都是通过试探法实现,不但费时,而且无规律可循.文中基于神经网络的基本学习算法,构筑动态网络结构,使之更符合抽取的新的输入、输出特性.讨论了构筑动态神经网络的一种途径.学习是从最简单的网络(无隐含单元)开始,新的单元一步一步补充,直到网络给出一个满意的模拟值.     

一种新的对角回归神经网络快速学习算法

提出一种新的动态对角回归神经网络学习算法－局部动态误差反传算法（LDBP），该算法定义了一种新的局部均方差函数，并为回归单元建立一种新的学习结构。如果估计出各层的期望输出值，多层回归网络便可分解成一组自适应单元（Adaline），而每个单元可通过二次优化方法进行训练。采用可在有限步人找出全局最优解的共轭梯度法（CG）进行寻优。由于学习过程采用超线性搜索，大大减少了循环步数和计算时间。     

构筑动态神经网络结构的一种途径

如何决定人工神经网络的适当规模，以往都是通过试探法来实现，不但费时，而且无规律可循。本文基于神经网络的基本学习算法，构筑动态网络结构，使之更符合抽取的新的输入、输出特性。     

利用动态竞争学习方法进行知识表示

竞争学习技术是神经网络用于样本分类中应用十分普通的一种方法。动态竞争学习是一种无导师学习技术，它包括产生网络的方法以及网络中新单元的产生规则，它们都是在学习中动态产生的。该模型可用于复杂数据结构的存储。     

基于复合正交神经网络的自适应逆控制系统

目前，在自适应逆控制系统中常采用BP神经网络，而BP网络存在算法复杂、易陷入局部极小解等不足。而正交神经网络能克服BP网络的不足，但由于正交神经网络学习算法存在某些局限性，提出了一种复合正交神经网络，该正交网络结构与三层前向正交网络相同，不同的是正交网络的隐单元处理函数采用带参数的Sigmoid函数的复合正交函数，该神经网络算法简单，学习收敛速度快，并能对网络的函数参数进行优化，为非线性系统的动态建模提供了一种方法。仿真实验表明，网络在用于过程的自适应逆控制中具有很高的控制精度和自适应学习能力。该动态神经网络比其它神经网络具有更强的建模能力与学习适应性，有线性、非线性逼近精度高等优异特性，非常适合于实时控制系统。     

基于RBF神经网络的非线性系统的预测

对于非线性系统的预测辨识，提出用动态节点生成构造性RBF神经网络作为预测模型，且RBF神经网络的学习算法采用一种新的全监督式学习算法，即神经网络隐层引入新节点时，通过使新节点的输出尽可能逼近残差序列的方向来获取网络参数，从而减少学习误差，使网络输出能够较好的跟踪系统输出。仿真表明该学习算法的有效性。     

基于状态延迟动态递归神经网络的机器人动态自适应跟踪辨识

对一种在Elman动态递归网络基础上发展而来的复合输入动态递归网络(CIDRNN)作 了改进,提出一种新的动态递归神经网络结构,称为状态延迟动态递归神经网络(State Delay Input Dynamical Recurrent Neural Network).具有这种新的拓扑结构和学习规则的动态递归网 络,不仅明确了各权值矩阵的意义,而且使权值的训练过程更为简洁,意义更为明确.仿真实验 表明,这种结构的网络由于增加了网络输入输出的前一步信息,提高了收敛速度,增强了实时 控制的可能性.然后将该网络用于机器人未知非线性动力学的辨识中,使用辨识实际输出与机理 模型输出之间的偏差,来识别机理模型或简化模型所丢失的信息,既利用了机器人现有的建模 方法,又可以减小网络运算量,提高辨识速度.仿真结果表明了这种改进的有效性.     

一种基于模糊聚类的文本挖掘新方法*

提出了一种新的动态模糊自组织神经网络模型(TGFCM),并将其用于文本聚类中。针对传统模糊自组织神经网络需要预先确定聚类数的问题,TGFCM采用了可自动确定聚类数的动态自组织神经网络(TGSOM)的结构,在TGSOM网络结构中提出新的学习率计算式,并以模糊聚类中心作为TGFCM网络中对应的神经元的权值,从而提高了聚类的精度,并可提高收敛速度。     

具有动态补偿能力的神经网络模型及其在动态系统建模中的应用

本文在多层前馈神经网络模型基础上，引入误差动态反馈环节，从而形成一种新的具有动态补偿能力的神经网络模型。新模型的训练利用反向传播原理实现。采用该模型对非线性动态系统进行建模时，能显著提高建模精度，特别是在网络模型工作时，对新出现的输出误差具有动态补偿能力，文中给出了新网络模型的结构和学习算法，最后是仿真实例。     

基于神经网络的机器人运动模型辨识及其实验研究

针对机器人楚模中不确定因素的影响，采用神经网络辨识机器人输入输出间的非线性关系，建立机器人的运动学模型，为了提高神经网络的辨识速度，基于Elman动态递归网络，通过增加网络输入输出的部分信息，提出一种新的动态神经网络结构——状态廷迟输入动态递归神经网络(SDIDRNN)，提高了网络的学习速度和稳态精度。以PowerCube^TM模块化机器人为研究对象，把根据机器人返回的关节位置信息和利用OPTOTRAK3020三维运动测量系统测得的机器人末端位置信患作为SDIDRNN的学习样本，对包含各种影响因素的机器人运动模型进行辨识，得到了满意的结果，说明了该神经网络的优越性。     

基于网络复杂性的BP算法

BP算法(误差反向传播算法)是前馈神经网络中最常用的算法之一.在对前馈神经网络和传统的BP算法研究的基础上,发现了传统算法中存在的问题.通过引入网络复杂性的量,提出了一种新的改进算法,命名为基于网络复杂性的BP算法.该算法能够删除掉冗余的连接甚至节点,通过对网络学习步长的动态调整,避免了算法收敛速度过慢和反复震荡的问题.最后通过实验说明该算法在一定程度上比传统BP算法有一些优越性.     

基于Elman神经网络的非线性动态系统辨识

研究了应用动态递归神经网络实现动态系统辨识的原理和方法,在没有被辨识对象的先验知识情况下,通过改进的Elman网络实现了非线性动态系统的辨识。仿真结果表明,与前馈网络相比,Elman网络具有学习速度快、泛化能力强的特点,可用较小的网络结构实现高阶系统的辨识,适用于具有本质非线性动态系统的辨识。     

Static, Dynamic, and Hybrid Neural Networks in Forecasting Inflation

The back-propagation neural network (BPN) model has been the most popular form of artificial neural network model used for forecasting, particularly in economics and finance. It is a static (feed-forward) model which has a learning process in both hidden and output layers. In this paper we compare the performance of the BPN model with that of two other neural network models, viz., the radial basis function network (RBFN) model and the recurrent neural network (RNN) model, in the context of forecasting inflation. The RBFN model is a hybrid model with a learning process that is much faster than the BPN model and that is able to generate almost the same results as the BPN model. The RNN model is a dynamic model which allows feedback from other layers to the input layer, enabling it to capture the dynamic behavior of the series. The results of the ANN models are also compared with those of the econometric time series models.     

采用双折线步方法的傅里叶神经网络

目前神经网络已经成为解决非线性系统辨识问题的一类有效的方法,但是常用的多层感知器存在网络稳定性差、收敛速度慢的问题.在多层感知器和傅里叶级数基础上提出的傅里叶神经网络具有较好的泛化性、模式识别能力,但其学习算法主要采用最速下降法,易产生陷入局部极小,学习速度慢等问题.提出一种采用双折线步方法的傅里叶神经网络,避免了局部极小问题,且具有二阶收敛速度.通过相应的数值算例验证新算法的性能,并应用于非线性系统的识别问题中,其结果和几类经典的神经网络算法做了相应的对比和分析.     

K-聚类的模糊神经网络对DO的控制研究

运用一种基于K-聚类算法的模糊径向基函数（RBF）神经网络对污水处理中的溶解氧质量浓度进行控制,该方法结合了模糊控制的推理能力强与神经网络学习能力强的特点,将模糊控制、RBF神经网络以及K-聚类学习算法相结合以在线调整隶属函数,优化控制规则。通过对阶跃输入仿真分析,其结果表明基于RBF的模糊神经网络控制器具有良好的动态性能、较强的鲁棒性和抗干扰能力,使其快速、准确地达到期望水平。     

一种基于CMAC的自学习控制器

现有的基于CMAC的自学习控制器能够有效地减小跟踪误差,但是在跟踪连续变 化信号如正弦波时,由于累积误差的影响会产生过学习现象,进而导致系统的不稳定.为此, 提出一种新的基于CMAC的自学习控制器,它以系统的动态误差作为CMAC的激励信号, 从而避免了累积误差的影响.仿真结果表明,该控制器不仅是有效的,而且具有很强的鲁棒 性.此外,它可以使用较高的学习速率,实时性强.     

基本样条循环神经网络及其非线性建模

提出一种新的基于基本样条逼近的循环神经网络,该网络易于训练且收敛速度快。此外为克服定长学习步长训练速度慢的问题,提出一种用于该网络训练的自适应权值更新算法,给出了学习步长的最优估计。该最优学习步长的选择可用于基本样条循环神经网络的训练以及对非线性系统的建模。     

基于Spiking神经网络的蛋白质二级结构学习预测模型

从氨基酸序列来预测蛋白质二级结构,是我们理解蛋白质结构和功能的重要一步.本文探讨了基于Spiking神经网络的蛋白质二级结构学习预测模型,利用单个神经网络进行学习取得的效果不明显,而利用级联神经网络,通过结构到结构的学习,能很好地提高学习准确率.     

基于神经网络结构学习的知识求精方法

知识求精是知识获取中必不可少的步骤．已有的用于知识求精的ＫＢＡＮＮ（ｋｎｏｗ ｌｅｄｇｅ ｂａｓｅｄ ａｒｔｉｆｉｃｉａｌｎｅｕｒａｌｎｅｔｗ ｏｒｋ）方法,主要局限性是训练时不能改变网络的拓扑结构．文中提出了一种基于神经网络结构学习的知识求精方法,首先将一组规则集转化为初始神经网络,然后用训练样本和结构学习算法训练初始神经网络,并提取求精的规则知识．网络拓扑结构的改变是通过训练时采用基于动态增加隐含节点和网络删除的结构学习算法实现的．大量实例表明该方法是有效的