利用EM算法估计隐含观测量的回馈神经网络学习新方法

研究回馈神经网络(RNN)参数估计的新方法.利用隐含观测量,将复杂RNN的训练分解为线性输出层和多个单隐元的参数估计.基于每个隐元激励函数的多点线性近似,RNN可利用统计混合专家网络模型(ME)描述,从而将RNN的参数估计转化为包含隐含观测量的线性系统的最大似然估计问题,最后利用期望最大化(EM)算法获得RNN的隐含观测量及其参数估计.     

关于前馈多层神经网络多维函数逼近能力的一个定理

本文首次证明了前馈神经网络多维函数逼近能力的一个重要定理，当隐层神经数目足够多时，其多维函数逼近能力与维数无关，也就是说我们只需研究其一维函数逼近能力，所得的结论完全适合于多维情形，该定量大大简化了前馈多层神经网络函数逼近问题的分析难度，本文还给出了该定理的一个应用。     

前馈神经网络隐层结点设计的一个学习算法

考虑三层前馈神经网络隐结点学习问题．在分析同类与不同类训练样本在隐层输出上体现的差异的基础上，提出了一种在权值学习过程中动态地用除网络隐结点数的学习算法．数值结果表明本文算法是可行的．     

一种前馈神经网络的快速学习算法

本文提出一种前馈神经网络的快速学习算法。与传统的BP方法相比,本算法有两个改进之处,一是同时将网络的非线性输出误差与线性输出误差作为待优化的目标函数,二是改进了学习过程中误差的反向传播因子。仿真结果表明,使用本文的算法训练前馈神经网络,计算复杂度略高于BP算法,但学习速度却有显著的提高。     

一种基于U-D分解卡尔曼滤波多层感知器学习算法

在研究多层感知器结构后，提出一种利用U－D分解卡尔曼滤波训练多层网的新算法．仿真结果表明：与BP算法比较，此算法有着学习速度快、数值稳定性好、对学习参数不敏感、能避免局部极小点等特点。     

关于前馈多层神经网络多维函数逼近能力的一个定理

本文首次证明了前馈神经网络多维函数逼近能力的一个重要定理:当隐层神经元数目足够多时,其多维函数逼近能力与维数无关.也就是说我们只需研究其一维函数逼近能力,所得的结论完全适合于多维情形,该定理大大简化了前馈多层神经网络函数逼近问题的分析难度。本文还给出了该定理的一个应用。     

多机器人定位中基于熵的分布式观测量选择方法

本文提出了多机器人定位中基于熵的分布式观测量选择新方法.在多机器人基于相对观测量的合作定位中,当队列中某个机器人在某时刻获得多个相对观测量时,我们可以融合所有这些观测来更新整个队列的位置及协方差矩阵.但随着机器人个数及观测量的增加,定位计算量将迅速增长,影响了定位的实时性和有效性.为了减轻计算负担、保持定位的实时性,首先对这些观测量进行选择,找出那些具有大的信息量的观测,利用这些观测量来更有效的更新整个队列的位置及协方差矩阵.在保证一定定位精度的前提下,减少了整个队列定位的计算量,提高了定位的实时性和可靠性.我们研究比较了在选择不同数量的观测量的条件下,定位精度和定位时间的变化.仿真实验结果表明,基于熵的分布式观测量选择方法可有效地提高定位的效率,尤其是在机器人个数比较多的情况下,更能显示它的优势.     

基于模糊分类器及多层前馈神经网络混合结构的说话人辨认

提出了基于模糊超椭球聚类算法的说话人辨认新方法。该算法首先将某一类的训练数据分成若干子类, 对每一子类在其中心周围定义具有超椭球区域的模糊规则。实验表明,该系统可以较快的聚类速度取得与HMM 相当的识别效果。进一步的研究表明,基于模糊超椭球聚类算法的说话人辨认系统与传统的基于HMM的识别方法存在一个共同的缺点,即抗噪性能较差。为此,通过引入多层前馈神经网络(MLFNN)与模糊超椭球分类器构成混合模型,使系统的识别性能和抗噪能力显著提高。     

采用进化计算的BP神经网络学习算法研究

针对ＢＰ神经网络中存在的局部极小问题,本文提出了采用进化计算方法改进ＢＰ学习算法收敛速度的新方法,理论分析和数字仿真表明算法有很好的效果。     

动量VLBP神经网络在缺陷接地电路中的应用

采用一种改进的人工神经网络反向传播算法(BP算法),将动量方法和可变学习速度的BP算法(VLBP算法)结合,并且在每个样本点更新权值和偏置值,这种算法称为动量VLBP算法。用C语言实现该算法,并将其运用到对一种新型组合式非周期性缺陷接地结构(CNPDGS)低通滤波器的神经网络建模之中。以CNPDGS的结构尺寸和频率为输入样本,传输系数参数为输出样本,建模成功后,在样本范围内输入结构尺寸和频率能够很快得出准确的传输系数。结果表明应用动量VLBP算法的神经网络相对于FDTD分析方法可以节省大量的时间,并且与基本的BP算法相比,可以加速算法收敛、减少训练时间。