基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

基于LM算法的在线自适应RBF网结构优化算法

针对LM算法不能在线训练RBF网络以及RBF网络结构设计算法中存在的问题,提出一种基于LM算法的在线自适应RBF网络结构优化算法.该算法引入滑动窗口和在线优化网络结构的思想,滑动窗口的引入既使得LM算法能够在线训练RBF网络,又使得网络对学习参数的变化具有更好的鲁棒性,并且易于收敛.在线优化网络结构使得网络在学习过程中能够根据训练样本的训练误差和隐节点的相关信息,在线自适应调整网络结构,跟踪非线性时变系统的变化,使网络维持最为紧凑的结构,以保证网络的泛化性能.最后通过仿真实验验证了所提出算法的性能.     

RBF神经网络的结构动态优化设计

针对径向基函数(Radial basis function, RBF)神经网络的结构设计问题, 提出一种结构动态优化设计方法. 利用敏感度法(Sensitivity analysis, SA)分析隐含层神经元的输出加权值对神经网络输出的影响, 以此判断增加或删除RBF神经网络隐含层中的神经元, 解决了RBF神经网络结构过大或过小的问题, 并给出了神经网络结构动态变化过程中收敛性证明; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对非线性函数的逼近与污水处理过程中关键参数的建模结果, 证明了该动态RBF具有良好的自适应能力和逼近能力, 尤其是在泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation networks, MRAN)与增长和修剪RBF 神经网络(Generalized growing and pruning radial basis function, GGAP-RBF) 有较大提高.     

基于自适应归一化 RBF 网络的Q-V 值函数协同逼近模型

径向基函数网络逼近模型可以有效地解决连续状态空间强化学习问题。然而,强化学习的在线特性决定了 RBF 网络逼近模型会面临“灾难性扰动”,即新样本作用于学习模型后非常容易对先前学习到的输入输出映射关系产生破坏。针对 RBF 网络逼近模型的“灾难性扰动”问题,文中提出了一种基于自适应归一化 RBF（ANRBF）网络的 Q-V 值函数协同逼近模型及对应的协同逼近算法———QV（λ）。该算法对由 RBFs 提取得到的特征向量进行归一化处理,并在线自适应地调整 ANRBF 网络隐藏层节点的个数、中心及宽度,可以有效地提高逼近模型的抗干扰性和灵活性。协同逼近模型中利用 Q 和V 值函数协同塑造 TD 误差,在一定程度上利用了环境模型的先验知识,因此可以有效地提高算法的收敛速度和初始性能。从理论上分析了 QV（λ）算法的收敛性,并对比其他的函数逼近算法,通过实验验证了 QV（λ）算法具有较优的性能。     

用蛙跳算法优化RBF神经网络参数的研究

针对径向基函数（Radial Basis Functions,RBF）神经网络结构参数确定问题,提出了一种基于蛙跳算法优化RBF神经网络参数的新方法。将RBF神经网络参数组成一个多维向量,作为蛙跳算法中的参数进行优化。以适应度函数为标准,在可行解空间中搜索最优解,并对蛙跳算法进行了改进。非线性函数逼近实验结果表明,该优化算法相对标准遗传优化算法、粒子群优化算法有较小的均方误差,具有更好的逼近能力。     

变结构径向基函数网络及其在混沌序列在线预测中的应用

为了利用径向基函数(RBF)神经网络对混沌序列进行精确和快速的在线预测,提出一种在线构造变结构RBF神经网络的序贯学习算法。该算法建立实时更新的滑动数据窗口,通过学习窗口内的数据对隐节点进行增加和删除,动态确定RBF神经网络隐节点的数目及中心位置,并对隐层至输出层的连接权值进行在线调整。该算法具有调节参数少、学习速度快以及所得网络结构精简等特点。将该网络用于Mackey-Glass混沌时间序列的在线预测实验,结果验证该算法对该混沌序列具有良好的在线动态辨识和预测性能。     

基于信息强度的RBF神经网络结构设计研究

在系统研究前馈神经网络的基础上,针对径向基函数(Radial basis function, RBF) 网络的结构设计问题,提出一种弹性RBF神经网络结构优化设计方法. 利用隐含层神经元的输出信息(Output-information, OI)以及隐含层神经元与输出层神经元间的交互信息(Multi-information, MI)分析网络的连接强度, 以此判断增加或删除RBF神经网络隐含层神经元, 同时调整神经网络的拓扑结构,有效地解决了RBF神经网络结构设计问题; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对典型非线性函数的逼近与污水处理过程关键水质参数建模, 结果证明了该弹性RBF具有良好的动态特征响应能力和逼近能力, 尤其是在训练速度、泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation net works, MRAN)、增长修剪RBF 神经网络(Generalized growing and pruning RBF, GGAP-RBF)和自组织RBF神经网络(Self-organizing RBF, SORBF)有较大的提高.     

基于遗传优化的RBF-BP网络的实时故障检测

针对单一神经网络对复杂模型难以实时做出准确预测和BP神经网络自身的缺陷,结合RBF神经网络可以逼近任意函数的特性,提出了基于遗传优化的混合神经网络模型(RBF-BP)。由RBF网络和BP网络并联作为一个神经网络(简称为RBF-BP)的隐层,利用该网络对被控对象进行逼近训练、实时故障检测,该算法同时具有RBF网络和BP网络的优点,适用于复杂非线性系统的故障检测。     

基于模糊RBF神经网络的函数逼近

提出了一种模糊RBF网络,将模糊逻辑的知识表达以及推理能力和RBF网络的快速学习和泛化能力结合起来,网络结构参数可按实际问题调整,仿真表明网络具有较快的学习速度和较高的函数逼近精度。     

基于快速密度聚类的RBF神经网络设计

针对径向基函数（radial basis function,RBF）神经网络隐含层结构难以确定的问题,提出一种基于快速密度聚类的网络结构设计算法。该算法将快速密度聚类算法良好的聚类特性用于RBF神经网络结构设计中,通过寻找密度最大的点并将其作为隐含层神经元,进而确定隐含层神经元个数和初始参数;同时,引入高斯函数的特性,保证了每个隐含层神经元的活性;最后,用一种改进的二阶算法对神经网络进行训练,提高了神经网络的收敛速度和泛化能力。利用典型非线性函数逼近和非线性动态系统辨识实验进行仿真验证,结果表明,基于快速密度聚类设计的RBF神经网络具有紧凑的网络结构、快速的学习能力和良好的泛化能力。     

基于距离和密度聚类的RBF网络结构设计

为确定径向基函数RBF(radial basis function)神经网络隐含层结构,并针对基于距离或密度聚类的RBF神经网络的限制,提出一种基于距离和密度聚类(GDD)算法的RBF神经网络.GDD算法通过计算每个样本的密度,各样本间的距离及相似条件(密度标准、距离标准),相似条件是根据样本分布而改变的,进行样本空间...     

Improvement of RBF neural networks using Fuzzy-OSD algorithm in an online radar pulse classification system

In this paper a new methodology for training radial basis function (RBF) neural networks is introduced and examined. This novel approach, called Fuzzy-OSD, could be used in applications, which need real-time capabilities for retraining neural networks. The proposed method uses fuzzy clustering in order to improve the functionality of the Optimum Steepest Descent (OSD) learning algorithm. This improvement is due to initialization of RBF units more precisely using fuzzy C-Means clustering algorithm that results in producing better and the same network response in different retraining attempts. In addition, adjusting RBF units in the network with great accuracy will result in better performance in fewer train iterations, which is essential when fast retraining of the network is needed, especially in the real-time systems. We employed this new method in an online radar pulse classification system, which needs quick retraining of the network once new unseen emitters detected. Having compared result of applying the new algorithm and Three-Phase OSD method to benchmark problems from Proben1 database and also using them in our system, we achieved improvement in the results as presented in this paper.     

Implementation of the RBF neural chip with the back-propagation algorithm for on-line learning

This article presents the hardware implementation of the floating-point processor (FPP) to develop the radial basis function (RBF) neural network for the general purpose of pattern recognition and nonlinear control. The floating-point processor is designed on a field programmable gate array (FPGA) chip to execute nonlinear functions required in the parallel calculation of the back-propagation algorithm. Internal weights of the RBF network are updated by the online learning back-propagation algorithm. The on-line learning process of the RBF chip is compared numerically with the results of the RBF neural network learning process written in the MATLAB program. The performance of the designed RBF neural chip is tested for the real-time pattern classification of the XOR logic. Performances are evaluated by comparing results from the MATLAB through extensive experimental studies.     

基于动态径向基神经网络的人脸识别算法研究

提出了一个通用而且有效的方法来设计RBF神经网络分类器用于人脸识别。为了避免过拟合和减少计算量,用主元分析法和Fisher线性判别技术来降低维数,以提取人脸特征;利用一个混合的学习算法来训练RBF神经网络,使梯度下降法的搜索空间大大减少;采用一种基于训练样本类别信息的新的聚类算法,所有同类的数据可被聚集在一起,尽量减少不同类数据混杂在一起,同时选取结构尽可能紧凑的RBF神经网络分类器。在ORL数据库上进行了仿真,实验结果表明,该算法具有高效性和有效性。     

Adaptive noise cancellation using enhanced dynamic fuzzy neural networks

In this paper, a novel adaptive noise cancellation algorithm using enhanced dynamic fuzzy neural networks (EDFNNs) is described. In the proposed algorithm, termed EDFNN learning algorithm, the number of radial basis function (RBF) neurons (fuzzy rules) and input-output space clustering is adaptively determined. Furthermore, the structure of the system and the parameters of the corresponding RBF units are trained online automatically and relatively rapid adaptation is attained. By virtue of the self-organizing mapping (SOM) and the recursive least square error (RLSE) estimator techniques, the proposed algorithm is suitable for real-time applications. Results of simulation studies using different noise sources and noise passage dynamics show that superior performance can be achieved.     

动态自适应模块化神经网络结构设计

针对全连接前馈神经网络不能有效应对时变系统的问题, 提出一种动态自适应模块化神经网络结构. 该网络采用减法聚类算法在线辨识工况数据的空间分布, 利用RBF 神经元实现对数据样本空间的划分, 并结合模糊策略将不同子样本空间的数据动态分配给不同的子网络, 最后对各子网络的输出进行集成. 该模块化网络中子网络数量和子网络规模都能根据所学时变任务动态自适应调整. 通过对不同时变系统的预测表明了该网络能够有效跟踪时变系统.     

基于RBF神经网络的抗噪语音识别

针对目前在噪音环境下语音识别系统性能较差的问题,利用RBF神经网络具有最佳逼近性能、训练速度快等特性,分别采用聚类和全监督训练算法,实现了基于RBF神经网络的抗噪语音识别系统。聚类算法的隐含层训练采用K－均值聚类算法,输出层的学习采用线性最小二乘法;全监督算法中所有参数的调整基于梯度下降法,它是一种有监督学习算法,能够选出性能优良的参数。实验表明,在不同的信噪比下,全监督算法较之聚类算法有更高的识别率。