多层神经网络BP算法的研究

影响多层神经网络ＢＰ算法学习效率的因素不少。但ＢＰ算法中误差函数不能有效地表征样本学习精度是其中主要的因素之一。本文对ＢＰ算法中的误差函数进行了修正。计算机模拟结果表明这种修正有助于提高学习精度和学习效率。     

多层神经网络BP算法的初步研究

目前,在数十种神经网络模型中以BP算法作为学习方式的多层神经网络是使用得最为广泛的一种。该网络是由Rumechere和Mccelland领导的研究小组在1985年实现的,已有效地解决了XOR、T-C匹配等感知器所不能解决的问题。现已广泛应用于语音识别、模式分类、过程监控等领域。尽管多层神经网络的BP算法较有效,但由于它用于高     

基于多层激励函数量子神经网络的字符识别算法

针对不同样本之间存在交叉数据的模式识别问题,将多层激励函数的量子神经网络引入模式识别之中,提出一种基于量子神经网络的模式识别算法。量子神经网络是将神经元与模糊理论相结合的模糊神经系统,由于自身固有的模糊性,它能将决策的不确定性数据合理地分配到各模式中,从而减少模式识别的不确定度,提高模式识别的准确性。本文以英文字母为例,应用量子神经网络模型进行字符识别,通过比较发现量子神经网络除了可以克服BP网络的诸多缺点外,对具有不确定性、两类模式之间存在交叉数据的模式识别问题,有极好的分类效果。仿真结果证明该方法的正确性和有效性。     

小波混沌神经网络的研究与应用

混沌神经网络已被证明是解决组合优化问题的有效工具,但单一化的退火因子无法同时满足准确性和速度性两方面要求,因此改变传统的混沌方式以提高搜索速度和精度就变得尤为重要.文中将Sigmoid函数转化为小波函数可以有效地解决该问题,通过将Sigmoid函数转化为Mexican hat小波函数,以及引入Shannon小波和Sigmoid函数加和组成的非单调激励函数这两种方式,提高了搜索效率和准确度,并用这两种新的模型对两种优化问题进行仿真.仿真结果表明小波混沌神经网络无论在全局最优解的搜索效率还是精确度上都明显优于传统的混沌神经网络.可知将小波函数引入混沌神经网络是极具研究潜力的.     

有理式多层前馈神经网络

提出了有理式多层前馈神经网络的数学模型,给出了有理式多层神经网络的学习算法,就计算复杂度而言,有理式神经网络的学习算法与传统的多层神经网络反传播算法是同阶的,函数逼近应用实例结果表明,将有理式多层神经网络用于解决传统问题是有效的。     

BP神经网络的联合优化算法

针对BP神经网络存在收敛速度慢、易陷入局部极小等缺陷,提出了一种自适应调节学习率和动态调整S型激励函数相结合的改进BP算法。该算法将学习率与误差函数相关联,再对每个隐单元和输出单元的激励函数的斜率进行自动调整。通过实例仿真,将改进算法与标准BP算法、加动量项法和自适应学习率法进行比较,来验证所提出方法的有效性。实验结果表明,联合优化的BP算法能有效加快网络的收敛过程,并具有较强的泛化能力。     

多层前馈神经网络改进算法及其应用

从前馈神经网络原理分析出发,提出一种速率适应因子方法用于对多层前馈神经网络中BP算法的改进,并将改进的算法用于XOR问题的学习及多重XOR分类器问题的学习。仿真结果表明,改进后BP的算法可显著加速网络的学习速度,并且学习过程具有良好的收敛性及较强的鲁棒性。     

BP神经网络研究

简述BP算法原理,并通过训练一个布尔函数的实例,对BP神经网络算法进行分析与研究,从中可以看出不同的神经网络可以解决同一个实际问题,但是它们的效率及精确度是不同的,需要根据具体应用采用合适的网络形式。     

基于Tanh多层函数的量子神经网络算法及其应用的研究

该文提出一种新的改进激励函数的量子神经网络模型。首先为了提高学习速率,在网络权值训练过程中引入了动量项。然后为了有效实现相邻类之间具有覆盖和不确定边界的分类问题,新网络采用区分度更大的双曲正切函数的叠加作为其隐层激励函数。最后将该算法用于字符识别,将双曲正切激励函数的量子神经网络应用于数字、字母和汉字样本的多次实验,并且与原多层激励函数量子神经网络和BP网络的实验效果进行比较,发现改进后量子神经网络不仅具有较高的识别率,而且在样本训练次数上相对原多层激励函数量子神经网络有明显减少。仿真结果证明该方法的优越性。     

一种激励函数可调的快速BP算法

本文通过分析激励函数在传统BP算法中的作用,在激励函数中引入了可调参数,在力求保持传统BP算法简洁性的基础上,使其参数动态可调,有效的加快了网络学习的收敛速度。     

人工神经网络及其在化学领域中的应用

简化了人工神经网络的定义及分类,着重介绍了ＡＮＮ中一种较经典的网络模型－ＢＰ网络模型的网络结构和学习原理,总结了ＡＮＮ在化学领域中的应用,包括谱图分析,药物分子等。同时讨论了在使用ＡＮＮ方法时应注意的几个问题,如隐层节点数目的确定等。     

前向多层神经网络的步长搜索调整研究

该文在深入分析BP神经网络的步长调整算法的基础上,提出了函数变步长搜索法。实践证明,这种算法既能保证在网络训练中,随着迭代次数的增加,误差改变速度减慢的态势,又能在每次迭代中,求出近似最优步长,从而有效提高网络的学习速度,收敛到全局最小点的概率也更大。     

基于BP模型的商业银行贷款风险预测

国有商业银行不良贷款严重束缚了商业银行的发展.防范金融风险,降低不良贷款,增强商业银行的风险识别能力,其关键是风险预测.商业银行贷款本身是一个复杂的非线性系统,用一般的线性理论难以客观反映其规律,为此,采用人工神经网络方法进行研究.在简述概念的基础上,通过反向传播网络(BP模型)对贷款企业的经营能力进行预测,从而对商业银行的贷款决策提供理论支持,使商业银行贷款风险能被控制在可控范围内.并对代表性的A股份有限公司进行预测,所得结果表明:建立的预测模型具有良好的风险预测能力.     

改进BP3参数对网络识别能力影响的研究

分别从BP网络的学习步长,学习速率自适应调整算法的参数,动量法和自适应学习速率结合起来算法的参数3方面讨论了改进BP参数对网络识别能力的影响;在确定BP网络的隐含层节点个数的过程中提出了BP神经网络自适应学习算法,使得隐层节点的选取动态实现。仿真实验表明,该改进是可行的。     

BP神经网络在证券分析预测中应用

介绍了人工神经网络的基本概念和组成后,讨论了它与传统分析预测方法的区别和优势。对证券分析和预测提出了一种基于BP算法的人工神经网络模型,结合计算实例和结果的误差分析,给出了改进的方向。     

基于人工神经网络的板形模式识别方法

根据带钢板形控制的要求,运用人工神经网络理论,提出了一种新的板形识别方法,代替了传统的多项式最小二乘拟合法,该法具有很强的容错性和抗干扰能力,编制了板形模式识别软件,识别效果很好。     

神经网络的C编程及矿井安全预测仿真

通过对人工神经网络BP模型基本原理和学习算法的分析,建立以模拟人的大脑神经处理信息的方式,进行信息并行处理和非线性转换的预测模型,使用C语言编制了BP网络学习的算法程序,在矿井瓦斯涌出量仿真实例中,用训练成功的网络分别对训练样本进行计算,预测仿真矿井的瓦斯涌出量,为矿井安全生产提供科学依据。     

VLSI implementation of transcendental function hyperbolic tangent for deep neural network accelerators

Extensive use of neural network applications prompted researchers to customize a design to speed up their computation based on ASIC implementation. The choice of activation function (AF) in a neural network is an essential requirement. Accurate design architecture of an AF in a digital network faces various challenges as these AF require more hardware resources because of its non-linear nature. This paper proposed an efficient approximation scheme for hyperbolic tangent (tanh) function which purely based on combinational design architecture. The approximation is based on mathematical analysis by considering maximum allowable error in a neural network. The results prove that the proposed combinational design of an AF is efficient in terms of area, power and delay with negligible accuracy loss on MNIST and CIFAR-10 benchmark datasets. Post synthesis results show that the proposed design area is reduced by 66% and delay is reduced by nearly 16% compared to state-of-the-art.     

适用于内容分发网络的动态负载均衡策略

本文阐述了内容分发网络和网络负载均衡技术的基本原理、算法,分析了现有负载均衡算法及BP神经网络的优缺点,在此基础上,将神经网络理论应用于网络负载均衡于,提出了基于改进BP算法并适用于内容分发网络的负载均衡算法和实现方法。