神经网络BP算法的研究,实现及改进

给出了目前较流行的一种神经网络学习算法－－神经网络ＢＰ算法的数学证明及计算机实现，并在此基础上提出了几种改进算法。计算机模拟结果表明，改进算法提高了学习速度与精度，应用于工程图形元素识别效果良好。     

几种变学习率的快速BP算法比较研究

首先将作者见到的各种变学习率的快速ＢＰ算法分成了３类，然后针对两类不同的问题对它们进行了大量的对比研究；根据实验结果指出，对种种皮变学习率为基础的快速ＢＰ算法，应视具体应用问题慎重选择，不能仅凭对一个问题的实验即说明这一定比基本ＢＰ算法更为优越。     

几种改进BP算法的性能比较

对ＡＢＰＭ、Ｌ－Ｍ、ＨＢＰ三种改进的ＢＰ算法的原理进行了研究,通过仿真计算,人统计角度对它们在分类问题、逼近问题随两方面的收敛速度、收敛精度等特性进行了分析比较,并对三种算法中影响网络收敛在因素进行了探讨,为使用者选择适合自己的高性能算法提供了参考。     

一种改进的BP网络快速算法

BP神经网络已广泛应用于许多领域,但标准BP算法收敛速度很慢.为了提高标准BP算法的收敛速度,提出一种基于LM数值优化算法,以双极性S型压缩函数为转移函数的改进BP算法.分析了双极性S型函数及LM算法与BP神经网络具体结合实现的方法,并给出了算法步骤.通过实例证明,改进后算法的收敛速度比其它BP算法快.     

基于模拟退火算法和BP算法的神经网络在灌区地下水中的应用

为使BP网络在训练过程中能够在不降低网络训练速度的前提下,避免陷入局部极小点,采用模拟退火算法和BP算法相结合的混合算法来训练前馈人工神经网络,即先用模拟退火算法进行全局训练,再用BP算法进行精确训练,保证在不降低网络学习速度的情况下找到全局极小点,将模型应用于灌区地下水位预报中取得较满意的结果.     

RA码译码简化算法的研究

RA码BP译码算法，可以实现线性时间译码，然而具有较高的复杂度。为了便于硬件实现，首先提出将最小和算法应用于RA码，然后对最小和算法进行了改进，提出了归一化算法和偏移算法，使循环译码算法在复杂度和性能之间取得了较好的折衷。仿真结果表明：归一化算法和偏移算法复杂度低，性能接近BP算法。     

基于遗忘系数的LDPC译码算法研究

长LDPC码的Tanner图中通常没有环路,此时LLR BP译码算法是性能最优的软判决译码算法。而短LDPC码的Tanner图中通常存在环路,因此变量节点之间的信息就不再相互独立,这时LLRBP译码算法的译码性能就会下降。针对短LDPC码的特点,提出一种改进型LLR BP译码算法,利用遗忘系数来计算该算法中的参数。仿真结果表明,与LLR BP译码算法、Normalized BP译码算法以及Offset BP译码算法相比,改进型LLR BP译码算法能够在降低算法复杂度的同时提高环路存在情况下的LDPC译码性能。     

反向传播（BP）算法及其在VB5中的实现

先介绍了反向传播（ＢＰ）算法的基本概念,然后给出了ＢＰ算法在Ｖｉｓｕａｌ Ｂａｓｉｃ５．０可视化编程语言中实现的具体方法。     

基于改进BP网络的图像压缩

针对BP网络的图像压缩技术,提出了一种改进的BP网络局部学习自适应Silva-Almeida(SA)算法,该算法将训练过程分为加速、平稳收敛两个阶段的基础上,同时局部自适应调整学习速率和动量因数两个参数。经曲线拟合试验,其训练精度有较大提高,震荡现象得到进一步改善,训练速度加快。在图像压缩的仿真试验中,相对于目前常用的弹性BP算法(RPROP算法),该算法训练速度加快,重建图像质量有很大提高,利用该算法进行图象压缩可以获得更高的压缩比。     

基于模糊逻辑的学习率自调整BP神经网络

研究了一种基于模糊逻辑的学习率自调整BP算法.首先分析了传统BP算法,然后对基于模糊逻辑的学习率自调整的方法进行了研究,最后通过求解非线性函数逼近和异或问题对传统BP算法和改进BP算法进行对比.仿真结果表明,改进BP算法有效地改进了传统的BP算法.     

基于自适应遗传算法的神经网络字符识别

为了增强传统自适应遗传算法在进化初期的鲁棒性及避免早熟收敛,给出了一种改进算法,并利用这一算法来调整BP模型的网络权值与阈值,最后将新算法应用于字符的识别．仿真结果表明,新算法比BP算法具有更强的识别能力．     

一种改进的GA+BP模糊逻辑系统混合学习算法

分析了遗传算法(GeneticAlgorithm)和BP算法在模糊逻辑系统参数寻优问题上的优缺点,提出一种基于改进的GA+BP模糊逻辑系统混合学习算法。该算法克服了由于学习率选取不当对整个遗传进化过程造成的不利影响,改进了遗传算子具体操作步骤,并对当前最优个体采用最优保留策略。充分利用了杂交、变异选择算子在全变量空间以较大概率搜索全局解的特点,以及在解点附近BP算子快速、精确地收敛的特点。仿真实验表明,改进算法与原算法相比,在满足同样精度的条件下,具有较快的收敛速度。     

一种前向神经网络训练算法的改进

针对前向神经网络（FNN）现有BP学习算法的缺点──收敛速度缓慢、容易陷入局部极小,提出一种快速、全局优化、简单通用的前向神经网络训练算法。这种方法将改进BP算法中的动量项由常量改换为一类关于常量的非线性函数。利用非线性特性,优化过程中能遍历局部极小,同时又具有突跳特性。结合升温策略,该算法在优化精度和网络训练速度两方面均有较大改善。通过对典型算例──异或问题的仿真,验证了算法的有效性和可行性。     

前馈式神经网络的最小二乘学习算法

通过对 Sigmoid 函数求逆,把非线性极值问题转化为线性方程组来处理,巧妙地避开了梯度,从而可以克服 BP 算法的一些缺点,提高了算法的收敛速度.同时采用最小二乘法来求解方程组,进一步提高了收敛速度.算法的计算过程为每次处理一个节点的所有前一层连接权,轮换处理,直到收敛到最小点.     

基于遗传算法的BP网络优化研究

提出了一种改进的自适应遗传算法(IAGA)，它利用网络结构的特点，采用前向自适应技术，实现对神经网络的有效训练．仿真实验表明，该算法优于BP算法和标准遗传算法(BGA)，网络训练质量和效率都有很大提高．     

基于蚁群优化算法的模糊神经网络控制器及仿真研究

提出了一种基于蚁群优化算法的模糊神经网络控制系统,并介绍了模糊神经网络控制器的结构及其参数的蚁群优化算法.仿真结果表明了该方法的可行性和有效性.     

贝叶斯改进BP神经网络在织物染色配色中的应用

针对BP算法及其改进算法泛化能力不强的问题,探讨了用贝叶斯正规化算法与LM算法的结合来提高BP神经网络的泛化能力。结果表明,在相同网络规模或误差条件下,贝叶斯正规化算法泛化能力明显优于基本BP算法及其它改进的BP算法,且收敛速度较快。因此文中把贝叶斯正规化算法与LM算法结合应用到了织物染色的计算机配色中,其预测的配方和实验的数据比较接近,证明了该方法的可行性。