基于信息强度的RBF神经网络结构设计研究

在系统研究前馈神经网络的基础上,针对径向基函数(Radial basis function, RBF) 网络的结构设计问题,提出一种弹性RBF神经网络结构优化设计方法. 利用隐含层神经元的输出信息(Output-information, OI)以及隐含层神经元与输出层神经元间的交互信息(Multi-information, MI)分析网络的连接强度, 以此判断增加或删除RBF神经网络隐含层神经元, 同时调整神经网络的拓扑结构,有效地解决了RBF神经网络结构设计问题; 利用梯度下降的参数修正算法保证了最终RBF网络的精度, 实现了神经网络的结构和参数自校正. 通过对典型非线性函数的逼近与污水处理过程关键水质参数建模, 结果证明了该弹性RBF具有良好的动态特征响应能力和逼近能力, 尤其是在训练速度、泛化能力、最终网络结构等方面较之最小资源神经网络(Minimal resource allocation net works, MRAN)、增长修剪RBF 神经网络(Generalized growing and pruning RBF, GGAP-RBF)和自组织RBF神经网络(Self-organizing RBF, SORBF)有较大的提高.     

基于快速密度聚类的RBF神经网络设计

针对径向基函数（radial basis function,RBF）神经网络隐含层结构难以确定的问题,提出一种基于快速密度聚类的网络结构设计算法。该算法将快速密度聚类算法良好的聚类特性用于RBF神经网络结构设计中,通过寻找密度最大的点并将其作为隐含层神经元,进而确定隐含层神经元个数和初始参数;同时,引入高斯函数的特性,保证了每个隐含层神经元的活性;最后,用一种改进的二阶算法对神经网络进行训练,提高了神经网络的收敛速度和泛化能力。利用典型非线性函数逼近和非线性动态系统辨识实验进行仿真验证,结果表明,基于快速密度聚类设计的RBF神经网络具有紧凑的网络结构、快速的学习能力和良好的泛化能力。     

基于模型输出敏感度分析法的动态RBF神经网络设计

针对一般RBF神经网络在学习过程中网络结构不能改变的问题,提出一种动态RBF神经网络结构设计方法．算法的实质是利用敏感度分析法（SA）对神经网络模型的输出进行分析,通过判断隐含层神经元的输出对整个网络输出的影响,删除RBF隐含层中冗余的神经元,实现对神经网络的动态修剪．非线性函数逼近结果及动态系统建模结果表明,该动态RBF神经网络具有较好的性能;与最小RBF（MRBF）神经网络相比,采用所提算法能得到更小的检测误差和更短的训练时间,最终网络结构紧凑．     

基于相对贡献指标的自组织RBF神经网络的设计

针对RBF（radial basis function）神经网络的结构和参数设计问题,本文提出了一种基于相对贡献指标的自组织RBF神经网络的设计方法。首先,提出一种基于相对贡献指标（relative contribution,RC）的网络结构设计方法,利用隐含层输出对网络输出的相对贡献来判断是否增加或删减RBF网络相应的隐含层节点,并且对神经网络结构调整过程的收敛性进行证明。其次,采用改进的LM（Levenberg-Marquardt algorithm）算法对调整后的网络参数进行更新,使网络具有较少的训练时间和较快的收敛速度。最后,对提出的设计方法进行非线性函数仿真和污水处理出水参数氨氮建模,仿真结果表明,RBF神经网络能够根据研究对象自适应地动态调整RBF结构和参数,具有较好的逼近能力和更高的预测精度。     

动态结构优化神经网络及其在溶解氧控制中的应用

提出一种神绎网络结构动态优化设计方法,其实质是通过判断隐含层神经元在学习过程中对输出的影响,利用竞争机制在信息处理过程中增加或删减隐含层神经元,实现神经网络结构的动态优化调整.将结构动态优化设计神经网络应用于污水处理过程中溶解氧的控制,实验结果表明该控制器较之固定结构神经网络控制器在超调、调节时间、自适应能力方面都更优.     

基于互信息的分步式输入变量选择多元序列预测研究

针对多元序列分析中存在的输入变量选择问题,提出一种基于k-!近邻互信息估计的分步式变量选择算法. 该算法通过两步过程分别实现相关变量的选择与弱相关变量的剔除. 同时将分步变量选择算法应用于径向基函数(Radial basis function, RBF) 神经网络结构的优化中.在K均值聚类的基础上,通过分析隐含层神经元的输出权值与神经网络输出的相关性, 对隐含层节点进行选择,改进网络的结构与性能. Friedman数据的仿真实验验证了分步变量选择算法的有效性; Gas furnace多元时间序列以及Boston housing数据的仿真结果表明, 优化后的RBF网络能够在保证模型精度的基础上有效控制网络规模.     

基于神经元特性的径向基函数神经网络自组织设计方法

针对径向基神经函数(RBF)网络隐层结构难以确定的问题, 本文介绍了一种基于神经元特性的RBF神经网 络自组织设计方法, 该方法将神经元的激活活性、显著性、相关性相结合设计RBF(ASC–RBF)神经网络. 首先利用 神经元的激活活性, 实现隐含层神经元的自适应增加, 结合神经元的显著性以及神经元之间的相关性, 实现神经元 的自适应替换和合并, 完成网络自组织设计并提高网络的紧凑性, 然后利用二阶梯度算法对网络参数进行修正学 习, 保证了RBF网络的精度; 另外, 针对网络结构自组织机制给出了稳定性分析; 最后通过两个基准非线性系统建模 仿真实验以及实际污水处理过程水质参数预测实验验证, 证明该算法的有效性. 对比实验结果表明, ASC–RBF神经 网络与现有的自组织网络相比, 在保证泛化性能的同时, 该网络的训练速度更快, 而且有更紧凑的网络结构.     

基于距离和密度聚类的RBF网络结构设计

为确定径向基函数RBF(radial basis function)神经网络隐含层结构,并针对基于距离或密度聚类的RBF神经网络的限制,提出一种基于距离和密度聚类(GDD)算法的RBF神经网络.GDD算法通过计算每个样本的密度,各样本间的距离及相似条件(密度标准、距离标准),相似条件是根据样本分布而改变的,进行样本空间...     

基于改进遗传算法的RBF神经网络结构优化研究

针对RBF神经网络隐含层节点数过多导致网络结构复杂的问题,提出了一种基于改进遗传算法(IGA)的RBF神经网络优化算法。利用IGA优化基于正交最小二乘法的RBF神经网络结构,通过对隐含层输出矩阵的列向量进行全局寻优,从而设计出结构更优的基于IGA的RBF神经网络(IGA-RBF)。将IGA-RBF神经网络的学习算法应用于电子元器件贮存环境温湿度预测模型,与基于正交最小二乘法的RBF神经网络进行比较的结果表明:IGA-RBF神经网络设计出来的网络训练步数减少了44步,隐含层节点数减少了34个,且预测模型得到的温湿度误差较小,拟合精度大于0.95,具有更高的预测精度。     

基于主元分析的径向基神经网络预测模型研究

结合主元分析(PCA)和径向基函数(RBF)神经网络,建立了地下水动态模拟与软测量预测模型。通过主元分析法提取主要成分,实现数据预处理;将选取的主要成分作为RBF神经网络的输入;采用k均值聚类算法确定RBF网络隐含层参数,并用递进最小二乘法确定输出层权值。仿真结果表明,该模型优化了网络结构,提高了预测精度。     

基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

基于组合算法的RBF神经网络列车轮对缺陷识别

提出了一种基于动态聚类和遗传算法相结合的组合RBF网络训练方法;采用动态聚类法对样本数据进行聚类,使RBF神经网络的隐含层节点中心数在训练过程中自动确定,使用经验公式作为标准,选取最优聚类数,采用遗传算法对隐层中心和宽度以及隐层到输出层的权值进行优化,在全局范围内寻找网络的最优模型;最后对轮对缺陷进行纹理特征提取,并组成训练样本和测试样本,输入到网络进行训练与测试;实验结果表明,与传统方法比较,该组合方法具有较高的识别率。     

一种结构自适应径向基函数神经网络

提出了一种新的结构自适应的径向基函数(RBF)神经网络模型。在该网络中,自组织映射(SOM)神经网络作为聚类网络,采用无监督学习算法对输入样本进行自组织分类,并将分类中心及其对应的权值向量传递给RBF神经网络,作为径向基函数的中心和相应的权值向量;RBF神经网络作为基础网络,采用高斯函数实现输入层到隐层的非线性映射,输出层则采用有监督学习算法训练网络的权值,从而实现输入层到输出层的非线性映射。通过对字母数据集进行仿真,表明该网络具有较好的性能。     

一种井下配电网故障测距方法

针对采用随机选取法、K-均值聚类法确定RBF神经网络隐含层节点中心和宽度只能得到局部最优解、基本粒子群优化算法易发生早熟收敛且对于某些函数优化精度差的问题,提出了将惯性权重模型和收敛因子模型相结合的改进的粒子群优化算法;针对煤矿井下配电网发生单相接地故障后定位困难、传统的故障测距方法存在可靠性差、测距精度低的问题,提出了采用改进的粒子群优化算法优化RBF神经网络进行井下配电网单相接地故障测距的方法。仿真结果表明,经改进的粒子群优化算法优化的RBF神经网络的测距精度高于RBF神经网络,能够实现故障点的准确、可靠定位。     

Robust fusion algorithm based on RBF neural network with TS fuzzy model and its application to infrared flame detection problem

A robust fusion algorithm based on Radial Basis Function (RBF) neural network with Takagi–Sugeno (TS) fuzzy model is proposed in view of the data loss, data distortion or signal saturation which is usually occurred in the process of infrared flame detecting with multiple sensors. To initialize the model, the traditional K-means clustering algorithm is used to obtain the number of the fuzzy rules and the center of the membership function. Compared with the traditional RBF neural network with TS fuzzy model, the output of the node in the proposed model is constructed taking into account the membership degree of the feature components in each item of the output polynomial of the hidden layer nodes in consequent fuzzy network. A new weighted activation degree (WAD) is defined to calculate the firing strength (i.e., fuzzy rule applicability) of the fuzzy node instead of the commonly used Mahalanobis distance. The feature representation coefficients used in the above WAD fully consider the variant representation degree of different features in different fuzzy clusters, thus the developed method can deal with the abnormal outputs of the fuzzy rules caused by the variation of the feature components of the raw data obtained from the complex industrial environments. The robustness of the proposed approach is validated with experimental data obtained from a developed triple-channel infrared flame detector and the experiment results show that the convergence rate, accuracy and generalization ability of the proposed method are improved compared with the traditional RBF neural network with TS fuzzy model in Qiao et al. (2014) and the GA-BP (Genetic Algorithm-Back Propagation) model in Wang et al. (2016). In particular, the required number of the hidden layer nodes in the proposed approach is the least among the aforementioned methods.     

改进的动态最近邻聚类算法在传感器校正中的应用

针对动态最近邻聚类算法因中心点选取不当以及隐含层节点较少时,通近效果不理想的问题,提出运用改进的动态最近邻聚类算法构造RBF神经网络( IDARBF神经网络),对传感器输出特性进行校正,有效地克服了原算法存在的问题;实验表明,IDARBF神经网络具有更好的非线性校正能力,运用改进的动态最近邻聚类算法处理后,传感器性能大幅度改善,精度更高,暗伤检侧合格率为100,检测效率128个/min.