基于聚类算法的RBF神经网络设计综述

简要分析了径向基函数（RBF）神经网络。在此基础上,介绍了K-均值聚类算法的神经网络、C-均值聚类算法的神经网络和PAM聚类算法的神经网络三种聚类算法的RBF神经网络。展望了基于聚类的RBF神经网络设计的发展趋势。     

基于快速密度聚类的RBF神经网络设计

针对径向基函数（radial basis function,RBF）神经网络隐含层结构难以确定的问题,提出一种基于快速密度聚类的网络结构设计算法。该算法将快速密度聚类算法良好的聚类特性用于RBF神经网络结构设计中,通过寻找密度最大的点并将其作为隐含层神经元,进而确定隐含层神经元个数和初始参数;同时,引入高斯函数的特性,保证了每个隐含层神经元的活性;最后,用一种改进的二阶算法对神经网络进行训练,提高了神经网络的收敛速度和泛化能力。利用典型非线性函数逼近和非线性动态系统辨识实验进行仿真验证,结果表明,基于快速密度聚类设计的RBF神经网络具有紧凑的网络结构、快速的学习能力和良好的泛化能力。     

基于FPGA及RBF神经网络的电磁无损检测技术

电磁无损检测技术是无损检测领域的一个研究重点,针对电磁无损检测技术中的超声波处理,提出了一种基于FPFA的参数优化的RBF神经网络;首先,通过FPGA编程实现对电磁超声波信号的采集,设计了放大电路将原始的电磁超声波进行放大处理已满足RBF神经网络的需求;提出一种采用K-means聚类算法来计算RBF中径向基函数的中心和宽度的参数优化RBF算法,K-means聚类算法的初始聚类中心难以确定会导致RBF算法的参数无法优化,提出KL散度,采用数据密度分析法来计算K-means算法的聚类中心;试验表明,改进后的K-means算法的聚类误差的数量级为10~(-12),传统K-means算法的聚类误差为10~(-13),改进后的K-means算法的聚类结果更准;参数优化后的RBF神经神级网络对具有1.02 mm缺陷长度的发动机涡轮叶片的缺陷长度预测结果为0.9~1.1 mm,传统的RBF神经网络的预测结果为0.7~1.2 mm,参数优化后的RBF神经网络的预测结果更准确。     

RBF神经网络在转炉提钒预报中的应用

该文用RBF神经网络建立了转炉提钒冷却剂预报模型。RBF网络的中心的选取采用了可以在线学习的最近邻聚类算法。为了进一步优化网络中心，提出了基于密度排名的最近邻聚类算法。该算法聚类前先将样本按其在样本空间的密度进行了排序，聚类过程始于样本空间最密集处。实践证明，该算法应用于提钒冷却剂预报模型的建立是合理的，可行的。     

一种基于改进k-means的RBF神经网络学习方法

针对传统RBF神经网络学习算法构造的网络分类精度不高,传统的k-means算法对初始聚类中心的敏感,聚类结果随不同的初始输入而波动。为了解决以上问题,提出一种基于改进k-means的RBF神经网络学习算法。先用减聚类算法优化k-means算法,消除聚类的敏感性,再用优化后的k-means算法构造RBF神经网络。仿真结果表明了该学习算法的实用性和有效性。     

一种改进的K均值文本聚类算法

提出了一种改进的K均值文本聚类算法.该算法的改进基于以下两点:1)基于簇密度与文本间距离选取初始簇中心,引入置信半径来得到簇密度,即选取距离最远且簇密度最大的点为初始簇中心;2)基于权重的海明距离来计算文本相似度,同时采用轮廓系数来衡量不同算法的聚类质量.实验结果表明:该算法相比原始的K均值文本聚类算法和文献[1]中算法具有更好的聚类质量.     

一种改进的RBF神经网络学习算法

提出一种基于减聚类、K-means算法及改进的粒子群优化(PSO)算法的径向基函数(RBF)神经网络混合学习算法. 该算法首先使用减聚类确定隐层节点数和K-means初始聚类中心; 然后通过K-means算法求取RBF网络所有参数, 作为PSO的初始粒子群; 为了提高PSO算法的收敛性和稳定性, 对基本PSO算法进行了优化改进, 最后使用改进的PSO算法训练RBF神经网络中的所有参数. 对IRIS数据集分类识别的仿真结果表明, 改进的混合算法具有更高的分类准确率和更好的稳定性.     

基于网格的多密度聚类算法

提出了一种多密度网格聚类算法GDD。该算法主要采用密度阈值递减的多阶段聚类技术提取不同密度的聚类,使用边界点处理技术提高聚类精度,同时对聚类结果进行了人工干预。GDD算法只要求对数据集进行一遍扫描。实验表明,该算法可扩展性好,能处理任意形状和大小的聚类,能够很好的识别出孤立点或噪声,在处理多密度聚类方面有很好的精度。     

基于密度调整和流形距离的近邻传播算法

针对近邻传播聚类算法在构造相似度矩阵时因对多重尺度和任意形状数据敏感而聚类效果不理想的缺陷,提出一种基于密度调整和流形距离的近邻传播算法。该算法将“领域密度”和“流形理论”的思想引入近邻传播算法,利用基于密度调整和流形的距离更好地刻画了样本空间的真实分布状况,解决了相似度矩阵不能充分表示数据之间内在关系的问题,在一定程度上提高了近邻传播聚类算法的聚类效果。通过在人工数据集和标准数据集上进行实验对比,验证了算法的有效性和优越性。     

基于AP聚类RBF神经网络的改进算法及试验

针对AP聚类RBF神经网络在车辆动态称重应用中精度偏低问题,提出按一定步长,迭代增加偏向参数,以RBF神经网络测试误差为评价指标最终确定偏向参数的改进算法,使RBF神经网络获得合适的隐含层节点数;提出对测试样本进行归类插值分析,利用与测试样本至类代表点间距离最接近的两个训练样本实际连接权值,使RBF神经网络连接权值随测试样本改变的自适应功能.在车速10 km/h~50 km/h,温度16 ℃~29 ℃条件下,对5种不同载重车辆进行工程实测试验,构建车辆动态称重RBF神经网络模型,进行500次循环测试.试验表明,基于AP聚类RBF神经网络的改进算法使称重误差均值控制在0.06%以内,最大实时性均值为0.0223,能有效满足实际工程应用要求.     

基于ART 的RBF 网络结构设计

针对径向基函数(RBF)网络隐层结构难以确定的问题,基于自适应共振理论(ART)网络良好的在线分类特性,提出一种RBF网络结构设计算法。该算法将ART网络的聚类特性用于RBF网络结构设计中,通过对输入向量与已存模式的相似度比较将输入向量进行分类,确定隐含层节点个数和初始参数,使网络具有精简的结构。对典型非线性函数逼近的仿真结果表明,所提出的结构具有快速的学习能力和良好的逼近能力。     

改进递归最小二乘RBF神经网络溶解氧预测

为提高溶解氧预测的准确性,将基于改进型递归最小二乘算法优化的径向基函数（ RBF）神经网络方法应用于溶解氧预测。利用K均值聚类算法进行隐层单元中心选择;利用改进型递归最小二乘算法优化RBF神经网络隐含层到输出层的权值。仿真结果表明：该方法对溶解氧的预测具有较好的非线性拟合能力,预测精度优于RBF神经网络和递归最小二乘算法优化的RBF神经网络。     

改进型RBF神经网络的多标签算法研究

针对已有的RBF神经网络多标签算法未充分考虑多个样本标签之间的关联性,从而导致泛化性能受到一定影响的问题,研究分析了一种改进型RBF神经网络的多标签算法.该算法首先优化隐含层RBF神经网络基函数中心求取算法——k-均值聚类.采用AP聚类自动寻找k值以获得隐含层节点数目,并构造Huff man树来选取初始聚类中心以防k-均值聚类结果陷入局部最优.然后构造体现标签类之间信息的标签计数向量C,并将其与由优化k-均值聚类得到的聚类中心进行线性叠乘,进而改进RBF神经网络基函数中心,建立RBF神经网络.在公共多标签数据集emotion上的实验表明了该算法能够有效地进行多标签分类.     

一种应用ARPSO优化RBF神经网络的方法

针对径向基函数神经网络参数难以设置以及因此而导致的网络隐层结构不明朗的问题,提出了一种应用控制种群多样性的微粒群（ ARPSO）优化径向基函数神经网络（ RBF）的方法。通过引入“吸引”和“扩散”因子对基本微粒群算法进行改进,并将改进的微粒群算法用于RBF聚类半径的优化,进而能够合理地确定RBF的隐层结构。将用ARPSO优化的RBF神经网络应用于非线性函数逼近,经实验仿真验证,与基本微粒群（ PSO）算法、收缩因子微粒群（ CFA PSO）算法优化的RBF神经网络相比较,在收敛速度和识别精度上有了显著的提高。     

基于径向基神经网络和正则化极限学习机的多标签学习模型*

相比径向基(RBF)神经网络,极限学习机(ELM)训练速度更快,泛化能力更强.同时,近邻传播聚类算法(AP)可以自动确定聚类个数.因此,文中提出融合AP聚类、多标签RBF(ML-RBF)和正则化ELM(RELM)的多标签学习模型(ML-AP-RBF-RELM).首先,在该模型中输入层使用ML-RBF进行映射,且通过AP聚类算法自动确定每一类标签的聚类个数,计算隐层节点个数.然后,利用每类标签的聚类个数通过K均值聚类确定隐层节点RBF函数的中心.最后,通过RELM快速求解隐层到输出层的连接权值.实验表明,ML-AP-RBF-RELM效果较好.     

基于能量分布的RBF神经网络OLS算法

径向基函数(RBF)神经网络因其结构简单而被广泛地用于非线性函数近似和数据分类。RBF神经网络的隐层神经元的作用可解释成从非线性可分空间向线性可分空间映射的函数。本文提出一种基于能量分布的RBF神经网络OLS算法。实验结果表明我们的方法比标准的OLS其性能更好。     

基于改进遗传算法的RBF神经网络结构优化研究

针对RBF神经网络隐含层节点数过多导致网络结构复杂的问题,提出了一种基于改进遗传算法(IGA)的RBF神经网络优化算法。利用IGA优化基于正交最小二乘法的RBF神经网络结构,通过对隐含层输出矩阵的列向量进行全局寻优,从而设计出结构更优的基于IGA的RBF神经网络(IGA-RBF)。将IGA-RBF神经网络的学习算法应用于电子元器件贮存环境温湿度预测模型,与基于正交最小二乘法的RBF神经网络进行比较的结果表明:IGA-RBF神经网络设计出来的网络训练步数减少了44步,隐含层节点数减少了34个,且预测模型得到的温湿度误差较小,拟合精度大于0.95,具有更高的预测精度。     

Centroid based Multilayer Perceptron Networks

In this study we investigate a hybrid neural network architecture for modelling purposes. The proposed network is based on the multilayer perceptron (MLP) network. However, in addition to the usual hidden layers the first hidden layer is selected to be a centroid layer. Each unit in this new layer incorporates a centroid that is located somewhere in the input space. The output of these units is the Euclidean distance between the centroid and the input. The centroid layer clearly resembles the hidden layer of the radial basis function (RBF) networks. Therefore the centroid based multilayer perceptron (CMLP) networks can be regarded as a hybrid of MLP and RBF networks. The presented benchmark experiments show that the proposed hybrid architecture is able to combine the good properties of MLP and RBF networks resulting fast and efficient learning, and compact network structure.     

Uncertain data stream algorithm based on clustering RBF neural network

In this paper, the existing algorithms for modeling uncertain data streams based on radial basis function neural networks have problems of low accuracy, weak stability and slow speed. A new clustering method for uncertain data streams is proposed. Radial basis function neural network of the algorithm. The algorithm firstly models the uncertain data stream, then combines the fuzzy theory and the neural network principle to obtain the radial basis function neural network, and then obtains the radial basis function neural network through the clustering algorithm of the regular tetrahedral uncertain vector. The central weight and width weights ultimately result in hidden layer output and output layer output results. The experimental results show that the proposed algorithm is an effective algorithm for modeling uncertain data streams using clustering radial basis function neural networks. It has higher precision, stability and speed than similar algorithms.