基于聚类算法的RBF神经网络设计综述

简要分析了径向基函数（RBF）神经网络。在此基础上,介绍了K-均值聚类算法的神经网络、C-均值聚类算法的神经网络和PAM聚类算法的神经网络三种聚类算法的RBF神经网络。展望了基于聚类的RBF神经网络设计的发展趋势。     

进化编程优化RBF神经网络的结构和参数

本文利用进化编程（ＦＰ）来同时进化径向基函数神经网络（ＲＢＦＮＮ）的结构和参数。与其它进化神经网络方法有以下四个方面的不同：（１）ＥＰ是基于拉马克的进化学说,强调父代与子代之间的行为联接;（２）进化算子中仅有突变,而没有交叉,以消除互换问题;（３）突变操作中,删除总是先于添加进行,以获得最简的网络结构;（４）利用测试样本集构造适应度函数,以提高网络的泛化能力。用进化ＲＢＦＮＮ来预测Ｍａｃｋｅｙ－Ｇ     

基于改进RBF神经网络的车辆类型识别

首先利用蚁群聚类与模糊C-均值聚类相结合的方法优化径向基函数中心与宽度,然后根据样本数据的聚类结果设计RBF神经网络,最后在车辆图像预处理和特征提取的基础上将该神经网络应用于车辆类型识别.仿真结果表明改进的RBF神经网络提高了车辆识别的正确率,同时减少计算的迭代次数.     

基于标签聚类的多标签分类算法

多标签分类的实质就是为给定实例预测一个与其关联的标签集合。典型方法可以分为两类:问题转换型和算法适应型。本文主要研究基于标签幂集的问题转换型算法。由于已有的标签幂集算法很难发现甚至可能忽略隐藏在训练集中的重要标签集合,因此,本文提出了一种基于标签聚类的标签幂集方法,通过改进平衡k-means聚类来发现训练集中潜在的重要标签集合,并用于形成新的训练集进行多标签分类。经实验验证,该算法在多个评价指标上较原有的标签幂集方法具有更好的分类性能。     

基于熵聚类的RBF神经网络学习算法

RBF神经网络中心向量的确定是整个网络学习的关键,最常用确定中心向量的方法是K均值聚类算法,对聚类中心的初值选择非常敏感,选择的不好,容易减低网络的训练性能.为克服以上问题,提出了一种熵聚类的方法来自动确定RBF神经网络隐结点的中心个数及其初始值,实现K均值聚类算法的初始化,再用改进的K均值聚类算法调整RBF神经网络的中心和训练宽度.并将上述算法用于函数逼近问题.实验结果表明:改进的算法与常规的K均值聚类算法相比,提高了训练速度和逼近精度.     

基于神经网络探究标签依赖关系的多标签分类

多标签学习广泛应用于文本分类、图像标注、视频语义注释、基因功能分析等问题.最近,多标签学习受到大量的关注,成为机器学习领域中的研究热点.然而,已有的算法并不能充分地探究标签之间的依赖关系和解决标签缺失问题,为此提出一种基于神经网络探究标签依赖关系的算法NN_AD_Omega,它能够有效地处理这2个挑战.NN_AD_Omega算法在神经网络顶层加入Ω矩阵刻画标签之间的依赖关系,标签之间的依赖关系可通过充分挖掘数据内在特点得到.当实例部分标签缺失时,学到的标签之间依赖关系能够有效提高预测效果.为了高效地求解模型,采用最小批梯度下降方法(Mini-batch-GD),其中学习率的自适应计算采用AdaGrad技术.在4个标准多标签数据集上的实验结果表明,提出的算法能够探究标签之间的依赖关系和处理标签缺失问题,且其性能优于当前基于神经网络的多标签学习算法.     

RBF神经网络的函数逼近能力及其算法

BP网络是广为应用的一种前馈网络,但是由于其自身缺陷,其它网络越来越受到关注.目前RBF网络是前馈网络研究中的一个热点,有关其逼近理论以及算法的研究出现在许多文献之中.本文综述了RBF网络理论,对其结构、函数逼近性质、学习算法做了较为详细的介绍,并指出了RBF网络各种学习算法的优点和存在的问题.     

增强学习标签相关性的多标签特征选择方法

针对现有多标签特征选择方法存在的两个问题：第一,忽略了学习标签相关性过程中噪声信息的影响;第二,忽略探索每个簇的综合标签信息,提出一种增强学习标签相关性的多标签特征选择方法。首先,对样本进行聚类,并将每个簇中心视为一个综合样本语义信息的代表性实例,同时计算其对应的标签向量,而这些标签向量体现了每个簇包含不同标签的重要程度;其次,通过原始样本和每个簇中心的标签级自表示,既捕获了原始标签空间中的标签相关性,又探索了每一个簇内的标签相关性;最后,对自表示系数矩阵进行稀疏处理,以减少噪声的影响,并将原始样本和每个簇代表性实例分别从特征空间映射到重构标签空间进行特征选择。在9个多标签数据集上的实验结果表明,所提的算法与其他方法相比具有更好的性能。     

基于GEP优化的RBF神经网络算法

RBF神经网络作为一种采用局部调节来执行函数映射的人工神经网络,在逼近能力、分类能力和学习速度等方面都有良好的表现,但由于RBF网络的隐节点的个数和隐节点的中心难以确定,从而影响了整个网络的精度,极大地制约了该网络的广泛应用.为此本文提出基于GEP优化的RBF神经网络算法,对其中心向量及连接权值进行优化.实验表明,本文所提算法比RBF算法的预测误差平均减少了48.96% .     

基于K-均值聚类的RBF神经网络血糖浓度预测

针对糖尿病患者血糖数据的复杂性与不稳定性,提出一种基于K-均值聚类算法的径向基函数（Radical Basis Function, RBF）神经网络的短期血糖预测方法。首先将动态血糖监测(Continous Glucose Monitoring System, CGMS)采集的糖尿病患者血糖浓度时间序列进行平滑滤波和归一化处理,提高血糖数据序列的光滑度,弱化原始血糖数据序列的随机性。然后对处理后的血糖浓度时间序列构造RBF网络,采用K-均值聚类进行优化,并用最小二乘法进行RBF网络的权值调整进而获得未来血糖浓度的预测值,从而保证预测的精度。     

一种改进的RBF神经网络学习算法

提出一种基于减聚类、K-means算法及改进的粒子群优化(PSO)算法的径向基函数(RBF)神经网络混合学习算法. 该算法首先使用减聚类确定隐层节点数和K-means初始聚类中心; 然后通过K-means算法求取RBF网络所有参数, 作为PSO的初始粒子群; 为了提高PSO算法的收敛性和稳定性, 对基本PSO算法进行了优化改进, 最后使用改进的PSO算法训练RBF神经网络中的所有参数. 对IRIS数据集分类识别的仿真结果表明, 改进的混合算法具有更高的分类准确率和更好的稳定性.     

基于AP聚类RBF神经网络的改进算法及试验

针对AP聚类RBF神经网络在车辆动态称重应用中精度偏低问题,提出按一定步长,迭代增加偏向参数,以RBF神经网络测试误差为评价指标最终确定偏向参数的改进算法,使RBF神经网络获得合适的隐含层节点数;提出对测试样本进行归类插值分析,利用与测试样本至类代表点间距离最接近的两个训练样本实际连接权值,使RBF神经网络连接权值随测试样本改变的自适应功能.在车速10 km/h~50 km/h,温度16 ℃~29 ℃条件下,对5种不同载重车辆进行工程实测试验,构建车辆动态称重RBF神经网络模型,进行500次循环测试.试验表明,基于AP聚类RBF神经网络的改进算法使称重误差均值控制在0.06%以内,最大实时性均值为0.0223,能有效满足实际工程应用要求.     

应用径向基函数网络进行足球机器人视觉系统的标定

在足球机器人视觉系统中,由于摄像机是普通的非量测摄像机,所以实际空间点的三维几何位置与其在图像中对应点之间是一种复杂的非线性映射关系,必须进行摄像机标定。由于基于精确模型的各种标定方法比较繁琐,而径向基函数网络可以实现从输入到输出的任意的非线性映射,论文将径向基函数网络应用于足球机器人视觉系统的标定,仿真实验结果表明该算法是确实可行的。     

Adapting RBF Neural Networks to Multi-Instance Learning

In multi-instance learning, the training examples are bags composed of instances without labels, and the task is to predict the labels of unseen bags through analyzing the training bags with known labels. A bag is positive if it contains at least one positive instance, while it is negative if it contains no positive instance. In this paper, a neural network based multi-instance learning algorithm named RBF-MIP is presented, which is derived from the popular radial basis function (RBF) methods. Briefly, the first layer of an RBF-MIP neural network is composed of clusters of bags formed by merging training bags agglomeratively, where Hausdorff metric is utilized to measure distances between bags and between clusters. Weights of second layer of the RBF-MIP neural network are optimized by minimizing a sum-of-squares error function and worked out through singular value decomposition (SVD). Experiments on real-world multi-instance benchmark data, artificial multi-instance benchmark data and natural scene image database retrieval are carried out. The experimental results show that RBF-MIP is among the several best learning algorithms on multi-instance problems.     

径向基函数网络预测混合气体浓度

基于气体传感器阵列的混合气体分析方法及研究现状,对径向基函数神经网络对混合气体浓度预测进行了研究.用气体传感器阵列对由四种不同气体组成的混合气体进行测量并以这些测量数据为样本对径向基函数网络进行训练,训练后可使径向基函数网络对各气体成分的浓度预测误差不大于6%.     

基于RBF神经网络的回归树学习算法

介绍了一种新的非参数回归RBF神经网络学习算法,该算法将RBF神经网络与回归树结合起来使用。回归树的基本思想是通过递归分割将输入空间划分为两部分,对函数进行逼近。由于每一次划分都与轴平行,因此可以用输入分向量满足的不等式来描述每一次划分,从而输入空间就变成了一个用超矩形构成的回归树(二叉树)。回归树的结点可以很容易地转换为径向基函数,通过对回归树结点的访问,可以选择出使网络达到最优的基函数集,形成最终的网络。该算法可以应用到函数逼近、图像处理等各方面。     

基于径向基神经网络用于中医舌诊诊断的研究

研究基于聚类分析的径向基神经网络用于中医舌诊诊断,构建一个中医舌诊智能诊断的神经网络模型。先对输入样本集进行数据归一化处理,采用K—means聚类算法对样本集进行聚类分析,得到聚类中心的位置和数量,再构建RBF神经网络进行学习、训练。以肝病病证诊断进行仿真。实验结果表明：该中医舌诊智能诊断模型具有诊断能力强、收敛速度快、泛化能力强等特点。因此,基于聚类分析的径向基神经网络用于中医舌诊诊断的研究是可行的、有效的。     

M<Emphasis Type="SmallCaps">l-rbf</Emphasis>: RBF Neural Networks for Multi-Label Learning

Multi-label learning deals with the problem where each instance is associated with multiple labels simultaneously. The task of this learning paradigm is to predict the label set for each unseen instance, through analyzing training instances with known label sets. In this paper, a neural network based multi-label learning algorithm named Ml-rbf is proposed, which is derived from the traditional radial basis function (RBF) methods. Briefly, the first layer of an Ml-rbf neural network is formed by conducting clustering analysis on instances of each possible class, where the centroid of each clustered groups is regarded as the prototype vector of a basis function. After that, second layer weights of the Ml-rbf neural network are learned by minimizing a sum-of-squares error function. Specifically, information encoded in the prototype vectors corresponding to all classes are fully exploited to optimize the weights corresponding to each specific class. Experiments on three real-world multi-label data sets show that Ml-rbf achieves highly competitive performance to other well-established multi-label learning algorithms.     

改进的RBF神经网络在磨矿指标预测中的应用

针对选矿生产过程中磨矿生产率和磨矿浓度、介质填充率和料球比3个指标之间的关系,分析了磨矿生产率对磨矿过程产品质量和工作效率的影响,提出了磨矿过程预测模型,采用了模糊聚类与改进的遗传算法相结合训练RBF神经网络的新方法。仿真结果表明,该模型可以快速准确地预报生产状况,对于企业进行实时生产控制具有较高的实用价值。     

基于深度学习的多标签生成研究进展

大数据时代,数据呈现维度高、数据量大和增长快等特点。如何有效利用其中蕴含的有价值信息,以实现数据的智能化处理,已成为当前理论和应用的研究热点。针对现实普遍存在的多义性对象,数据多标签被提出并被广泛应用于数据智能化组织。近年来,深度学习在数据特征提取方面呈现出高速、高精度等优异性,使基于深度学习的多标签生成得到广泛关注。文中分五大类别总结了最新研究成果,并进一步从数据、关系类型、应用场景、适应性及实验性能方面对其进行对比和分析,最后探讨了多标签生成面临的挑战和未来的研究方向。