基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

基于信息强度的RBF神经网络结构设计研究

在系统研究前馈神经网络的基础上,针对径向基函数(Radial basis function, RBF) 网络的结构设计问题,提出一种弹性RBF神经网络结构优化设计方法. 利用隐含层神经元的输出信息(Output-information, OI)以及隐含层神经元与输出层神经元间的交互信息(Multi-information, MI)分析网络的连接强度, 以此判断增加或删除RBF神经网络隐含层神经元, 同时调整神经网络的拓扑结构,有效地解决了RBF神经网络结构设计问题; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对典型非线性函数的逼近与污水处理过程关键水质参数建模, 结果证明了该弹性RBF具有良好的动态特征响应能力和逼近能力, 尤其是在训练速度、泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation net works, MRAN)、增长修剪RBF 神经网络(Generalized growing and pruning RBF, GGAP-RBF)和自组织RBF神经网络(Self-organizing RBF, SORBF)有较大的提高.     

基于距离和密度聚类的RBF网络结构设计

为确定径向基函数RBF(radial basis function)神经网络隐含层结构,并针对基于距离或密度聚类的RBF神经网络的限制,提出一种基于距离和密度聚类(GDD)算法的RBF神经网络.GDD算法通过计算每个样本的密度,各样本间的距离及相似条件(密度标准、距离标准),相似条件是根据样本分布而改变的,进行样本空间...     

RBF神经网络的结构动态优化设计

针对径向基函数(Radial basis function, RBF)神经网络的结构设计问题, 提出一种结构动态优化设计方法. 利用敏感度法(Sensitivity analysis, SA)分析隐含层神经元的输出加权值对神经网络输出的影响, 以此判断增加或删除RBF神经网络隐含层中的神经元, 解决了RBF神经网络结构过大或过小的问题, 并给出了神经网络结构动态变化过程中收敛性证明; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对非线性函数的逼近与污水处理过程中关键参数的建模结果, 证明了该动态RBF具有良好的自适应能力和逼近能力, 尤其是在泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation networks, MRAN)与增长和修剪RBF 神经网络(Generalized growing and pruning radial basis function, GGAP-RBF) 有较大提高.     

改进递归最小二乘RBF神经网络溶解氧预测

为提高溶解氧预测的准确性,将基于改进型递归最小二乘算法优化的径向基函数（ RBF）神经网络方法应用于溶解氧预测。利用K均值聚类算法进行隐层单元中心选择;利用改进型递归最小二乘算法优化RBF神经网络隐含层到输出层的权值。仿真结果表明：该方法对溶解氧的预测具有较好的非线性拟合能力,预测精度优于RBF神经网络和递归最小二乘算法优化的RBF神经网络。     

改进型RBF神经网络的多标签算法研究

针对已有的RBF神经网络多标签算法未充分考虑多个样本标签之间的关联性,从而导致泛化性能受到一定影响的问题,研究分析了一种改进型RBF神经网络的多标签算法.该算法首先优化隐含层RBF神经网络基函数中心求取算法——k-均值聚类.采用AP聚类自动寻找k值以获得隐含层节点数目,并构造Huff man树来选取初始聚类中心以防k-均值聚类结果陷入局部最优.然后构造体现标签类之间信息的标签计数向量C,并将其与由优化k-均值聚类得到的聚类中心进行线性叠乘,进而改进RBF神经网络基函数中心,建立RBF神经网络.在公共多标签数据集emotion上的实验表明了该算法能够有效地进行多标签分类.     

基于聚类的RBF-LBF串联神经网络学习算法

为提高网络的泛化能力,研究了单层RBF神经网络和LBF网络组成的RBF-LBF串联神经网络,并提出了一种基于模式聚类的RBF-LBF串联神经网络的学习算法。该算法分别对单层RBF网络和LBF网络的输入进行模式聚类,以确定网络的初始结构,然后通过调整错分样本的类别,使之部分重叠或合并核函数。经双螺旋线问题仿真实验证明,该算法确具有很好的泛化能力且只需较短的训练时间。     

基于神经元特性的径向基函数神经网络自组织设计方法

针对径向基神经函数(RBF)网络隐层结构难以确定的问题, 本文介绍了一种基于神经元特性的RBF神经网 络自组织设计方法, 该方法将神经元的激活活性、显著性、相关性相结合设计RBF(ASC–RBF)神经网络. 首先利用 神经元的激活活性, 实现隐含层神经元的自适应增加, 结合神经元的显著性以及神经元之间的相关性, 实现神经元 的自适应替换和合并, 完成网络自组织设计并提高网络的紧凑性, 然后利用二阶梯度算法对网络参数进行修正学 习, 保证了RBF网络的精度; 另外, 针对网络结构自组织机制给出了稳定性分析; 最后通过两个基准非线性系统建模 仿真实验以及实际污水处理过程水质参数预测实验验证, 证明该算法的有效性. 对比实验结果表明, ASC–RBF神经 网络与现有的自组织网络相比, 在保证泛化性能的同时, 该网络的训练速度更快, 而且有更紧凑的网络结构.     

基于时变RBF网络的非线性时变系统建模

在常规RBF神经网络中采用时变权值,将其应用于非线性时变系统的建模。采用减聚类算法确定网络隐含层神经元数与基函数中心参数,以迭代学习最小二乘算法修正神经网络时变权值,给出时变RBF网络的学习算法。分析表明,迭代学习最小二乘权值修正算法保证了网络时变权值的有界性,迭代误差收敛于零。仿真结果验证了该方法在非线性时变系统建模方面的有效性。     

K-聚类的模糊神经网络对DO的控制研究

运用一种基于K-聚类算法的模糊径向基函数（RBF）神经网络对污水处理中的溶解氧质量浓度进行控制,该方法结合了模糊控制的推理能力强与神经网络学习能力强的特点,将模糊控制、RBF神经网络以及K-聚类学习算法相结合以在线调整隶属函数,优化控制规则。通过对阶跃输入仿真分析,其结果表明基于RBF的模糊神经网络控制器具有良好的动态性能、较强的鲁棒性和抗干扰能力,使其快速、准确地达到期望水平。     

基于相对贡献指标的自组织RBF神经网络的设计

针对RBF（radial basis function）神经网络的结构和参数设计问题,本文提出了一种基于相对贡献指标的自组织RBF神经网络的设计方法。首先,提出一种基于相对贡献指标（relative contribution,RC）的网络结构设计方法,利用隐含层输出对网络输出的相对贡献来判断是否增加或删减RBF网络相应的隐含层节点,并且对神经网络结构调整过程的收敛性进行证明。其次,采用改进的LM（Levenberg-Marquardt algorithm）算法对调整后的网络参数进行更新,使网络具有较少的训练时间和较快的收敛速度。最后,对提出的设计方法进行非线性函数仿真和污水处理出水参数氨氮建模,仿真结果表明,RBF神经网络能够根据研究对象自适应地动态调整RBF结构和参数,具有较好的逼近能力和更高的预测精度。     

基于径向基神经网络和正则化极限学习机的多标签学习模型*

相比径向基(RBF)神经网络,极限学习机(ELM)训练速度更快,泛化能力更强.同时,近邻传播聚类算法(AP)可以自动确定聚类个数.因此,文中提出融合AP聚类、多标签RBF(ML-RBF)和正则化ELM(RELM)的多标签学习模型(ML-AP-RBF-RELM).首先,在该模型中输入层使用ML-RBF进行映射,且通过AP聚类算法自动确定每一类标签的聚类个数,计算隐层节点个数.然后,利用每类标签的聚类个数通过K均值聚类确定隐层节点RBF函数的中心.最后,通过RELM快速求解隐层到输出层的连接权值.实验表明,ML-AP-RBF-RELM效果较好.     

基于改进RBF网络的多变量序列建模和预测

针对复杂系统多变量序列预测研究中数据样本过多、信息冗余等问题,从学习样本选择和聚类中心优化两方面对径向基函数(RBF)网络进行改进.基于复杂系统多变量时间序列,首先采用一个线性相关函数和一个非线性相关函数分别计算多变量状态间的线性相关性和非线性相关性,确定一个包含系统有效信息的小数据集;然后基于小数据集,采用K均值聚类方法确定RBF网络的隐层聚类中心,并引入局部搜索过程,优化聚类中心结果;输入其它训练样本,确定网络权值.仿真结果表明,与常规RBF网络学习方法比较,在隐层节点数目相同情况下,改进的方法有效地确定了网络的聚类中心,达到更好的预测精度.     

一种应用ARPSO优化RBF神经网络的方法

针对径向基函数神经网络参数难以设置以及因此而导致的网络隐层结构不明朗的问题,提出了一种应用控制种群多样性的微粒群（ ARPSO）优化径向基函数神经网络（ RBF）的方法。通过引入“吸引”和“扩散”因子对基本微粒群算法进行改进,并将改进的微粒群算法用于RBF聚类半径的优化,进而能够合理地确定RBF的隐层结构。将用ARPSO优化的RBF神经网络应用于非线性函数逼近,经实验仿真验证,与基本微粒群（ PSO）算法、收缩因子微粒群（ CFA PSO）算法优化的RBF神经网络相比较,在收敛速度和识别精度上有了显著的提高。     

一种基于代数算法的RBF神经网络优化方法

提出了一种新的RBF神经网络的训练方法,采用动态K-均值方法对RBF 神经网络的隐层中心值和宽度进行了优化,用代数算法训练隐层和输出层之间的权值。在对非线性函数进行逼近的仿真中,验证了该算法的有效性。     

Improving the generalization performance of RBF neural networks using a linear regression technique

In this paper we present a method for improving the generalization performance of a radial basis function (RBF) neural network. The method uses a statistical linear regression technique which is based on the orthogonal least squares (OLS) algorithm. We first discuss a modified way to determine the center and width of the hidden layer neurons. Then, substituting a QR algorithm for the traditional Gram–Schmidt algorithm, we find the connected weight of the hidden layer neurons. Cross-validation is utilized to determine the stop training criterion. The generalization performance of the network is further improved using a bootstrap technique. Finally, the solution method is used to solve a simulation and a real problem. The results demonstrate the improved generalization performance of our algorithm over the existing methods.