RBF神经网络的结构动态优化设计

针对径向基函数(Radial basis function, RBF)神经网络的结构设计问题, 提出一种结构动态优化设计方法. 利用敏感度法(Sensitivity analysis, SA)分析隐含层神经元的输出加权值对神经网络输出的影响, 以此判断增加或删除RBF神经网络隐含层中的神经元, 解决了RBF神经网络结构过大或过小的问题, 并给出了神经网络结构动态变化过程中收敛性证明; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对非线性函数的逼近与污水处理过程中关键参数的建模结果, 证明了该动态RBF具有良好的自适应能力和逼近能力, 尤其是在泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation networks, MRAN)与增长和修剪RBF 神经网络(Generalized growing and pruning radial basis function, GGAP-RBF) 有较大提高.     

基于模型输出敏感度分析法的动态RBF神经网络设计

针对一般RBF神经网络在学习过程中网络结构不能改变的问题,提出一种动态RBF神经网络结构设计方法．算法的实质是利用敏感度分析法（SA）对神经网络模型的输出进行分析,通过判断隐含层神经元的输出对整个网络输出的影响,删除RBF隐含层中冗余的神经元,实现对神经网络的动态修剪．非线性函数逼近结果及动态系统建模结果表明,该动态RBF神经网络具有较好的性能;与最小RBF（MRBF）神经网络相比,采用所提算法能得到更小的检测误差和更短的训练时间,最终网络结构紧凑．     

基于快速密度聚类的RBF神经网络设计

针对径向基函数（radial basis function,RBF）神经网络隐含层结构难以确定的问题,提出一种基于快速密度聚类的网络结构设计算法。该算法将快速密度聚类算法良好的聚类特性用于RBF神经网络结构设计中,通过寻找密度最大的点并将其作为隐含层神经元,进而确定隐含层神经元个数和初始参数;同时,引入高斯函数的特性,保证了每个隐含层神经元的活性;最后,用一种改进的二阶算法对神经网络进行训练,提高了神经网络的收敛速度和泛化能力。利用典型非线性函数逼近和非线性动态系统辨识实验进行仿真验证,结果表明,基于快速密度聚类设计的RBF神经网络具有紧凑的网络结构、快速的学习能力和良好的泛化能力。     

基于相对贡献指标的自组织RBF神经网络的设计

针对RBF（radial basis function）神经网络的结构和参数设计问题,本文提出了一种基于相对贡献指标的自组织RBF神经网络的设计方法。首先,提出一种基于相对贡献指标（relative contribution,RC）的网络结构设计方法,利用隐含层输出对网络输出的相对贡献来判断是否增加或删减RBF网络相应的隐含层节点,并且对神经网络结构调整过程的收敛性进行证明。其次,采用改进的LM（Levenberg-Marquardt algorithm）算法对调整后的网络参数进行更新,使网络具有较少的训练时间和较快的收敛速度。最后,对提出的设计方法进行非线性函数仿真和污水处理出水参数氨氮建模,仿真结果表明,RBF神经网络能够根据研究对象自适应地动态调整RBF结构和参数,具有较好的逼近能力和更高的预测精度。     

基于神经元特性的径向基函数神经网络自组织设计方法

针对径向基神经函数(RBF)网络隐层结构难以确定的问题, 本文介绍了一种基于神经元特性的RBF神经网 络自组织设计方法, 该方法将神经元的激活活性、显著性、相关性相结合设计RBF(ASC–RBF)神经网络. 首先利用 神经元的激活活性, 实现隐含层神经元的自适应增加, 结合神经元的显著性以及神经元之间的相关性, 实现神经元 的自适应替换和合并, 完成网络自组织设计并提高网络的紧凑性, 然后利用二阶梯度算法对网络参数进行修正学 习, 保证了RBF网络的精度; 另外, 针对网络结构自组织机制给出了稳定性分析; 最后通过两个基准非线性系统建模 仿真实验以及实际污水处理过程水质参数预测实验验证, 证明该算法的有效性. 对比实验结果表明, ASC–RBF神经 网络与现有的自组织网络相比, 在保证泛化性能的同时, 该网络的训练速度更快, 而且有更紧凑的网络结构.     

基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

新型广义径向基函数神经网络结构研究

提出了一种新型的广义径向基函数(RBF)神经网络,并研究了该网络的学习方法.不同于传统三层结构的RBF网络,广义RBF网络增加了基函数输出加权层,并在输出层采用超曲面去逼近任意的非线性曲面.实例仿真结果表明,与传统的RBF网络相比,该网络具有良好的逼近性能,收敛速度快,可逼近任意多变量非线性函数.     

模糊对向传播神经网络及其应用

通过把对向传播(CP)神经网络的竞争层神经元的输出函数定义为模糊隶属度函 数,提出了模糊对向传播(FCP)神经网络.该网络是CP网络的推广,它不仅能有效克服CP 存在的问题,而且具有全局函数逼近能力.在结构上,FCP网络同径向基函数(RBF)网络是等 价的.实际上,它是一种RBF网络,而且还是一种模糊基函数网络.FCP在时间序列预测中的 应用表明,FCP不仅在学习精度上,而且在泛化能力方面较之CP和RBF均有较大的改善.     

基于在线减法聚类的RBF神经网络结构设计

以设计最小径向基函数（RBF）神经网络结构为着眼点,提出一种在线RBF网络结构设计算法.该算法将在线减法聚类能实时跟踪工况的特性与RBF网络参数学习过程相结合,使得网络既能在线适应实时对象的变化又能维持紧凑的结构,有效地解决了RBF神经网络结构自组织问题.该算法只调整欧氏距离距实时工况最近的核函数,大大提高了网络的学习速度.通过对典型非线性函数逼近和混沌时间序列预测的仿真,表明所提出的算法具有良好的动态特性响应能力和逼近能力.     

基于改进遗传算法的RBF神经网络结构优化研究

针对RBF神经网络隐含层节点数过多导致网络结构复杂的问题,提出了一种基于改进遗传算法(IGA)的RBF神经网络优化算法。利用IGA优化基于正交最小二乘法的RBF神经网络结构,通过对隐含层输出矩阵的列向量进行全局寻优,从而设计出结构更优的基于IGA的RBF神经网络(IGA-RBF)。将IGA-RBF神经网络的学习算法应用于电子元器件贮存环境温湿度预测模型,与基于正交最小二乘法的RBF神经网络进行比较的结果表明:IGA-RBF神经网络设计出来的网络训练步数减少了44步,隐含层节点数减少了34个,且预测模型得到的温湿度误差较小,拟合精度大于0.95,具有更高的预测精度。     

Research on an online self-organizing radial basis function neural network

A new growing and pruning algorithm is proposed for radial basis function (RBF) neural network structure design in this paper, which is named as self-organizing RBF (SORBF). The structure of the RBF neural network is introduced in this paper first, and then the growing and pruning algorithm is used to design the structure of the RBF neural network automatically. The growing and pruning approach is based on the radius of the receptive field of the RBF nodes. Meanwhile, the parameters adjusting algorithms are proposed for the whole RBF neural network. The performance of the proposed method is evaluated through functions approximation and dynamic system identification. Then, the method is used to capture the biochemical oxygen demand (BOD) concentration in a wastewater treatment system. Experimental results show that the proposed method is efficient for network structure optimization, and it achieves better performance than some of the existing algorithms.     

一种改进的RBF神经网络参数优化方法

提出了一种改进的RBF神经网络参数优化算法。通过资源分配网络算法确定隐含层节点个数,引入剪枝策略删除对网络贡献不大的节点,用改进的粒子群算法对RBF网络的中心、宽度、权值进行优化,使RBF网络不仅可以得到合适的结构,同时也可以得到合适的控制参数。将此算法用于连续搅拌釜反应器模型的预测,结果表明,此算法优化后的RBF网络结构小,并且具有较高的泛化能力。     

基于距离和密度聚类的RBF网络结构设计

为确定径向基函数RBF(radial basis function)神经网络隐含层结构,并针对基于距离或密度聚类的RBF神经网络的限制,提出一种基于距离和密度聚类(GDD)算法的RBF神经网络.GDD算法通过计算每个样本的密度,各样本间的距离及相似条件(密度标准、距离标准),相似条件是根据样本分布而改变的,进行样本空间...     

Indirect adaptive self-organizing RBF neural controller design with a dynamical training approach

This study proposes an indirect adaptive self-organizing RBF neural control (IASRNC) system which is composed of a feedback controller, a neural identifier and a smooth compensator. The neural identifier which contains a self-organizing RBF (SORBF) network with structure and parameter learning is designed to online estimate a system dynamics using the gradient descent method. The SORBF network can add new hidden neurons and prune insignificant hidden neurons online. The smooth compensator is designed to dispel the effect of minimum approximation error introduced by the neural identifier in the Lyapunov stability theorem. In general, how to determine the learning rate of parameter adaptation laws usually requires some trial-and-error tuning procedures. This paper proposes a dynamical learning rate approach based on a discrete-type Lyapunov function to speed up the convergence of tracking error. Finally, the proposed IASRNC system is applied to control two chaotic systems. Simulation results verify that the proposed IASRNC scheme can achieve a favorable tracking performance.     

Model predictive control of dissolved oxygen concentration based on a self-organizing RBF neural network

The dissolved oxygen (DO) concentration in activated sludge wastewater treatment processes (WWTPs) is difficult to control because of the complex nonlinear behavior involved. In this paper, a self-organizing radial basis function (RBF) neural network model predictive control (SORBF-MPC) method is proposed for controlling the DO concentration in a WWTP. The proposed SORBF can vary its structure dynamically to maintain prediction accuracy. The hidden nodes in the RBF neural network can be added or removed on-line based on node activity and mutual information (MI) to achieve the appropriate network complexity and the necessary dynamism. Moreover, the convergence of the SORBF is analyzed in both the dynamic process phase and the phase following the modification of the structure. Finally, the SORBF-MPC is applied to the Benchmark Simulation Model 1 (BSM1) WWTP to maintain the DO concentration. The results show that SORBF-MPC effectively provides process control. The performance comparison also indicates that the proposed model's predictive control strategy yields the most accurate for DO concentration, better effluent qualities, and lower average aeration energy (AE) consumption.