神经网络动量—自适应学习率BP算法与BP算法的性能比较及其应用

动量－自适应学习率BP算法是对标准BP算法的改进,本文对这两种算法进行了分析,并利用计算机程序对其性能进行了比较测试,利用VISUAL C＋＋和MATLAB开发了仿真测试程序。     

BP算法的改进及其在Matlab上的实现

针对BP算法这种当前前馈神经网络训练中应用最多的算法,在介绍BP神经网络的基础上,对标准的BP网络训练算法存在的收敛速度慢、易陷入局部极值的严重缺点,提出了几种学习算法上的改进;进而介绍了改进蹬算法在Matlab神经网络工具箱中的函数实现。最后应用实例利用Matlab神经网络工具箱对标准BP算法及改进的算法进行语言编程、仿真。仿真结果显示,改进后的算法在极值、收敛速度上得到了很大的改善。     

BP神经网络快速学习算法及其应用

一种带偏差单元的内部回归神经网络模型为基础,利用Matlab编制了IRN网络的仿真程序,给出了对函数逼近和模式识别方面的仿真算例,其学习收敛速度大大优于BP算法。     

BP算法的模拟程序

本文根据ＢＰ算法的基本理论，以二值异或问题为例给出了ＢＰ算法的流程图，同时编写了该问题的运行程序。该程序只稍做改动就可适应各种需要。     

用BP神经网络及其改进算法改善传感器特性

BP算法即多层网络误差反传算法，是近几年在传感器输出信号补偿技术领域中一种较新的方法，广泛应用于传感器信息处理、自动控制、通信等领域。但这种方法也有其固有的缺点，西安交通大学的张永怀博士及刘君华教授对此方法进行了深入的研究，提出了附加动量法、自适应参数变化法为主要内容的BP神经网络改进算法，以对这种方法进行改善。 传感器是测量系统的核心部件，其输出特性直接影响整个系统的性能，提高传感器的精度具有十分重要的意义。传感器的输出受许多环境因素的影响，目前人们多采用软件补偿法来对传感器信号进行处理。传统的…     

遗忘神经网络模型及其BP算法

为解决跨时间数据训练神经网络时的数据选择问题，提出在神经网络的训练模型中引入遗忘系数，从而建立了一种改进的前馈神经网络模型——遗忘神经网络模型。介绍了该模型的基本原理，并给出了其BP算法。     

人工神经网络BP算法通用程序

前言 尽管人工神经网络BP算法仍然存在着某些问题,但它还是一个非常有效的算法,得到了广泛的应用。本文介绍一个通用的BP算法程序。 1.BP算法 对于全连接的BP网络,假设网络共有N层,其中,输入节点为n个,输出节点为m个,网络有N—2个隐层,第i层的神经元数为N_i,则有N_1=n,NN=m;规定第i层第q个神经元的输出为y(i,q),阈值为θ(i,q),其中第1层的输出为输入的样本;从第i层的第s个神经元到第i+1层第q个神经元的连接权为W(i,s,q)。各层神经元的输出满足:     

关于BP算法的初步研究

本文提出了两种改进ＢＰ学习算法的方法：常系数法和变系数法，加快了网络的收敛速度，增强了ＢＰ算法的可用性与实用性。     

BP算法的改进及用模拟电路实现的神经网络分类器

基于用模拟电路实现神经网络分类器的目的，对多层静态前馈神经网络的ＢＰ算法做了改进，采用线性限幅函数代替Ｓｉｇｍｏｉｄ函数作为神经元的激活函数，给出了改进的ＢＰ算法。对该算法性能的实验研究表明：这种改进算法不但方便了用线性模拟集成运算放大电路实现神经网络，而且具有学习速度快，映射能力强等优点。根据本文算法设计的神经网络分类器，无论是计算机仿真，还是模拟电路实现，都得到了比较高的识别率。     

多层神经网络BP算法的研究

影响多层神经网络ＢＰ算法学习效率的因素不少。但ＢＰ算法中误差函数不能有效地表征样本学习精度是其中主要的因素之一。本文对ＢＰ算法中的误差函数进行了修正。计算机模拟结果表明这种修正有助于提高学习精度和学习效率。     

一类反馈过程神经元网络模型及其学校算法

提出了一种基于权函数基展开的反馈过程神经元网络模型．该模型为三层结构,由输入层、过程神经元隐层和过程神经元输出层组成．输入层完成系统时变过程信号的输入及隐层过程神经元输出信号向系统的反馈;过程神经元隐层用于完成输入信号的空间加权聚合和激励运算,同时将输出信号传输到输出层并加权反馈到输入层;输出层完成隐层输出信号的空间加权聚集和对时间的聚合运算以及系统输出．文中给出了学习算法,并以旋转机械故障自动诊断问题为例验证了模型和算法的有效性．     

多聚合过程神经元网络及其学习算法研究

针对系统输入为多元过程函数以及多维过程信号的信息处理问题,提出了多聚合过程神经元和多聚合过程神经元网络模型.多聚合过程神经元的输入和连接权均可以是多元过程函数,其聚合运算包括对多个输入函数的空间加权聚集和对多维过程效应的累积,可同时反映多个多元过程输入信号在多维空间上的共同作用影响以及过程效应的累积结果.多聚合过程神经元网络是由多聚合过程神经元和其它类型的神经元按照一定的结构关系组成的网络模型,按照输出是否为多元过程函数建立了前馈多聚合过程神经元网络的一般模型和输入输出均为过程函数的多聚合过程神经元网络模型,具有对多元过程信号输入输出关系的直接映射和建模能力.文中给出了一种基于多元函数基展开的梯度下降与数值计算相结合的学习算法,仿真实验结果表明了模型和算法对多元过程信号分类和多维动态过程模拟问题的适应性.     

多层前馈神经网络改进算法及其应用

从前馈神经网络原理分析出发，提出一种速率适应因子方法用于对多层前馈神经网络中BP算法的改进，并将改进的算法用于XOR问题的学习及多重XOR分类器问题的学习。仿真结果表明，改进后BP的算法可显著加速网络的学习速度，并且学习过程具有良好的收敛性及较强的鲁棒性。     

BP改进算法及其在乙二醇精制软测量中的应用

提出了一种综合改进的BP神经网络算法，该算法在训练时对不同的连接权和阈值采用不同的学习速率，由此建立了乙二醇精制塔塔釜乙二醇浓度的神经网络软测量模型。结果表明该算法能有效提高乙二醇浓度BP神经网络软测量模型的收敛精度。     

一种改进的BP神经网络算法与应用

针对传统BP算法存在的收敛速度过慢、易陷入局部极小、缺乏统一的理论指导网络结构设计的缺点,分析了一般的改进算法在神经网络优化过程中存在的问题,从蚁群算法和BP算法融合的角度上,并引入了放大因子,提出一种综合改进的BP算法。该算法引入放大因子改善BP算法易陷入局部极小的情况,结合蚁群算法用于指导网络结构设计,并极大地改善了收敛速度过慢的问题。最后,将改进的BP算法与传统BP算法进行应用于煤矿瓦斯预测。通过对实验结果的分析,从时间和正确率上都表明改进的BP算法要优于传统的BP算法。     

基于模型辨识的BP神经网络在光伏系统MPPT中的应用

光伏电池作为光伏发电系统的重要组成部分,研究其模型的准确性并对其最大功率点进行预测与跟踪,对于光伏发电效率的提高具有重大意义;首先根据光伏电池的内部结构和伏安特性建立其数学模型,并对所建立的模型进行参数辨识,进而得到模型输出与测量信息偏差最小的参数值,验证模型的准确和有效性;根据模型所反映的规律,将温度和光照强度作为输入变量,最大功率点对应的电压作为输出变量,构建了用于MPPT的神经网络模型;神经网络经训练后对最大功率点电压进行预测与跟踪,结果表明构建的神经网络具有良好的适应性。     

解交流非线性电阻电路的HA算法及其实现

通过若干典型的非线性元件,介绍了求解交流非线性电阻－线性电容电路的算法,即谐波分析法。同时,给出了交流非线性电阻－线性电容串联电路一般过渡过程的求解算法。非线性电阻特性参数的实时可测性问题也一并讨论。     

A Generalized Algorithm of Training a Formal Neuron

Activation functions of neurons are represented in the form of power series. An algorithm that controls the slope of an activation function is proposed. The results of numerical experiments are given.