多层前馈神经网络的隐单元与样本记忆的关系

给出了三层前馈神经网络模型中最佳平方逼近输出量与输出误差的数学表示,并讨论了网络实际输出,期望输出和输出误差之间的关系以及隐层单元在这种关系中的作用,同时对样本记忆所需要的隐层单元数目的上限等问题进行了相关的分析与讨论。     

三层前馈神经网络的异联想算法

在简要描述三层前馈神经网络模型中最佳平方逼近输出向量与输出误差的数学表示的基础上,讨论了三层前馈神经网络的泛化性能,推导出与学习模式有偏差的微扰模式应满足的条件和异联想实现条件,并设计了实现多层前馈神经网络异联想功能的算法。     

前馈神经网络模式分类器的推广能力

研究了前馈神经网络模式分类器的推广能力．从几何和概率两个方面分析了前馈网络用于模式识别的分类机理，在前人证明的基于误差最小的有导师（１和０）前馈网络输出端输出为模式样本后验概率估计结论的基础上，给出了径向基函数网络推广的核函数定理；对于两层感知器网络，提出使用加性噪声的样本来增加网络的推广能力．最后使用实测的五种飞机目标一维距离（纵向）象实验数据进行了模拟实验．     

故障诊断神经网络隐层结点数的优化方法

针对故障诊断神经网络隐层结点数过少或过多而造成的网络学习过程可能不收敛、网络泛化能力弱和网络容错性下降等问题,根据隐层结点对输出层输出影响的显著性差异,提出了一种在权值学习过程中动态的删除隐层冗余结点的优化学习方法．该方法在故障诊断神经网络实际应用中提高了收敛速度和诊断精度     

一种局域连接前向人工神经网络结构的研究

双隐层标准前馈网络只要其隐层节点数足够多就能解决任何形式的分类问题。应用标准网络识别多模式类分类问题时存在以下缺陷；１．对不同模式类均使用相同数目的隐层元；２．增加新模式类后，网络要重新学习．３．网络识别的机理研究困难。笔者提出了一种局域连接前馈神经网络的结构，其隐层神经元与输出神经元裥的局域连接，学习算法与ＢＰ算法。     

迟滞Elman网络模型的风速序列预测

为提高风速序列预测的准确性,在双承接层Elman网络的基础上提出了迟滞Elman预测网络.网络具有输入层、隐层、隐层承接层、输出层以及输出承接层5层结构,并在隐层承接层和输出承接层的单元中增加了迟滞激励响应函数,从而将迟滞特性引入到Elman网络中,以提高网络处理连续信息的能力.选择梯度下降方法作为网络的学习算法,训练网络的权值及迟滞参数,利用该预测网络实现了风速序列的多步预测分析.仿真实验结果表明:迟滞特性的引入能够减小预测结果的随机波动性,有利于提高预测结果的可靠性,与现有预测方法相比,迟滞Elman网络的平均预测误差能够减小8%以上,整体预测性能以及波动较强的局部预测性能都能得到显著提高.     

故障诊断神经网络隐层结点数的优化方法

针对故障诊断神经网络隐层结点数过少或过多而造成的网络学习过程可能不收敛,网络泛化能力弱和网络容错性下降等问题,根据隐层结点对输出层输出影响显著性差异,提出了一种在权值学习过程中动态的删陷层冗余结点的优化学习方法。该方法在故障诊断网络实际应用中提高了收敛速度和诊断精度。     

用三层网络逼近任何连续函数

在神经网络基础理论中，有一个这样的问题：怎样用三层网络实现对任意连续函数的映射，本文利用Ｋｏｈｏｎｅｎ提出的Ｓｅｌｆ－ＯｒｇａｎｉｚｉｎｇＦｅａｔｕｒｅＭａｐ竞争型网络以及区域的２Ｍ－分割概念，解决了用具有有限个隐层单元的三层网络以任意精度逼近一个连续函数的问题，具体的网络结构和学习算法已给出．     

多层前馈神经网络的能力和结构设计方法综述

多层前馈神经网络的能力及结构设计，特别是其隐层单元数目的优化选定问题，受到人们的广泛重视，关于该问题，已有许多章对之进行讨论，并获得了某些设计方法和理论结果。本参考众多献，首先分析总结了关于多层前馈神经网络能力现有的理论结果，对其中最有指导意义的一些论点进行了重点叙述，并将已被采用的一些多层前馈网络的结构设计方法归纳为三种类型，即直接定型法，修剪法和生长法，最后，给出了我们的结论。     

BP算法在位移传感器测量精度方面的应用

在较高精度位移测量中,需要对位移传感器的输出进行温度补偿。采用BP(Back Propagation)网络的多传感器数据融合方法,把位移传感器和温度传感器的输出作为网络的输入向量送入融合中心,通过BP网络训练,然后将标定样本送入训练好的神经网络,得到比较准确的位移输出。为克服传统BP网络算法收敛慢、容易收敛到局部最小点的缺陷,采用BP多层前馈神经网络改进算法对传感器特性进行补偿,用MATLAB仿真所得到的结果与原有的实验数据相比较,在相同的温度波动情况下,位移传感器的输出误差比原来的减小了3倍,而且大幅度地节省了时间。     

基于自组织随机权神经网络的BOD软测量

针对污水处理复杂系统中关键水质参数生化需氧量( biochemical oxygen demand,BOD)难以准确实时预测的问题,在分析污水处理过程相关影响因素的基础上,提出一种基于敏感度分析法的自组织随机权神经网络( self-organizing neural network with random weights,SONNRW)软测量方法。该方法首先通过机理分析选取原始辅助变量,经过数据预处理,之后采用主元分析法对辅助变量进行精选,作为SONNRW的输入变量进行污水处理关键水质参数BOD的预测。 SONNRW算法利用隐含层节点输出及其权值向量计算该隐含层节点对于残差的敏感度,根据敏感度大小对网络隐含层节点进行排序,删除敏感度较低的隐含层节点即冗余点。仿真结果表明：该软测量方法对水质参数BOD的预测精度高、实时性好、模型结构稳定,能够用于污水水质的在线预测。     

BP神经网络结点数选取的改进方法及其应用

提出一种改进的隐含层神经元个数的选取方法．该方法基于隐含层神经元输出之间的相关关系,估计隐含层结点数,把隐含层结点的改进算法用于物种选取的实例中,通过MATLAB编程实现,并与回归分析做出的结果进行比较．结果表明,该方法对建立BP神经网络结构有一定的借鉴作用．     

基于时空神经网络增强数字示波器功能的研究

运用时空神经网络时域和空域模式识别方法给数字示波器增加AM调制信号测量功能。选择Elman神经网络结构,采用反向传播网络训练函数traingdx和learnbcf函数的算法,实现了AM调制信号检波的功能。同时,增加输出反馈回隐层的连接和延迟,采用附加动量因子的梯度下降权值/阀值学习算法改进神经网络。改进的网络学习速度快,逼近精度高,输出既没有振荡,也不产生纹波;并且网络适应性好,测量的鲁棒性高,要求采集信号周期少;方法新颖,运算量小,计算误差小,添加到数字示波器函数中,实现了示波器测量AM调制信号的功能。     

隐层改进的BP网络在织物染色配色中的应用

为提高BP网络及其改进网络的收敛和泛化能力,依据计算机配色理论,深入研究了BP神经网络的优缺点,在此基础上提出了一种基于隐层输出反馈改进的BP网络训练算法应用于织物染色配色的算法,并按照此算法进行了织物染色的计算机配色实验。实验验证了人工神经网络算法在织物染色配色中应用的可能性和可靠性,为神经网络模型在织物染色配色中选择和构造合适的高性能网络结构提供了参考。     

一种Chirplet神经网络自动目标识别算法

针对飞机目标的自动识别问题,提出一种联合特征提取与分类的Chirplet神经网络方法,实现一维高分辨率距离像的识别。Chirplet神经网络将Chirplet原子变换用于多层前馈神经网络结构的输入层,替换传统的激励函数对距离像序列进行特征提取;网络的分类部分由隐层和输出层组成。在训练过程中调整神经网络权值的同时,完成对Chirplet原子时频参数的自动调整,协调优化特征参数和分类器参数,使Chirplet神经网络同时实现特征提取和目标分类。对4类飞机目标的仿真测试结果表明,相比时频变换和Gabor原子网络等方法,具有四特征参数的Chirplet神经网络方法具有较高的识别率和抗噪性能。     

BP神经网络在柳江径流预测中的应用

径流水位预测是进行洪水监测的重要手段,对于包含详尽信息的广西柳江日径流水位时间序列,采用基于BP神经网络模型进行预报可取得较好效果.如LMBPDH模型采用双隐含层BP网络能加强预测模型输入输出的非线性映射能力,采用Levenberg Marquardt （LM）算法对网络进行训练则能缩短BP网络的收敛时间,改善网络的收敛性能,同时采用实验法确定模型的其他参数使模型获取最佳预报性能.在对柳江近10年日平均水位的预测中,将LMBPDH模型与单隐含层BP神经网络、LM算法以及带适应学习率和动量因子的梯度递减法算法等组合构成的BP神经网络模型,以及遗传算法进化的神经网络模型比较,LMBPDH模型预报稳定性、预报准确率最佳.     

索力振动法测量神经网络赋泛研究

索的受力状态关系着索体系桥梁的安全,索力值是衡量索力学状态的重要指标.目前,索的边界条件难以判别是影响索力识别结果准确性的重要因素.为此,利用ANSYS对拉索振动进行数值模拟,并借助已有索力计算公式对建模方式的可靠性进行验证,并生成模拟数据;然后,以索长、线密度、抗弯刚度、1阶频率、2阶频率、3阶频率为输入参数,以索力...     

基于稀疏神经网络的说话人分割

提出一种基于稀疏神经网络的说话人分割方法,利用稀疏的单隐层神经网络提取语音的超矢量特征中说话人因子特征,然后通过K均值聚类得到每帧语音的标号来分割不同说话人,在稀疏网络的训练过程中引入了dropout技术以克服过拟合问题.在TIMIT语音数据库构成的多说话人语音数据上的实验结果表明:通过增加稀疏网络中隐层节点的个数可以提高说话人分割的效果,与贝叶斯信息准则(Bayesian information criterion,BIC)方法和稀疏自编码网络方法相比,所提基于稀疏神经网络的说话人分割方法的性能有明显提高.     

融合深度神经网络与统计学习的 印地语词性标注方法研究

针对统计模型受限于标注语料规模且不能捕获标注序列的上下文信息问题,提出一种融合深度学习和统计学习的印地语词性标注模型。该模型具有3层逻辑结构,首先在词表示层采用深度神经网络框架训练出印地语单词的形态特征,并利用word2vec方法对语料训练生成具有语义信息的低维度稠密实数词向量,然后在序列表示层将形态特征和词向量作为深度神经网络模型的输入并进行训练,得到输入序列的信息特征,最后在CRF推理层利用深度神经网络模型的输出状态和当前的转移概率矩阵作为CRF模型的参数,最终得到最优的标签序列。对提出的方法与其他方法进行了对比实验,结果表明融合深度学习和统计模型的方法较其他几种统计模型的性能有显著的提升。     

神经网络反演方法在地震储层上的应用

基于神经网络对地球物理资料进行反演,其原理是把希望输出与实际输出之差偏差归结为连接权的"过错",通过把输入层单元的误差,逐层向输入层逆向回转,分摊给各层单元,从而获得各层单元的参考误差,以调整相应的连接权;并讨论了神经网络反演和基于模型反演在少井的情况下对反演效果的影响,以及神经网络反演中的各参数对分辨率的影响,对神经网络反演的应用及推广提供了相关参考.