一种基于自适应遗传算法的神经网络学习算法

结合遗传算法与梯度下降法优点,提出了一种训练神经网络权值的混合优化算法,同时能够优化网络的结构.首先利用全局搜索能力可靠的遗传算法,采用递阶编码方案和自适应变异概率,同时优化网络的权值和结构,在进化结束时,能够寻到全局最优点附近的点.在遗传算法搜索结果的基础上,利用局部寻优能力较强的梯度下降法,从此点出发,进行局部搜索,最终达到网络的训练目标.与单一的遗传算法或者梯度下降法比较而言,混合优化算法的收敛速度明显提高.     

一种基于自适应遗传算法的神经网络学习算法

结合遗传算法与梯度下降法优点,提出了一种训练神经网络权值的混合优化算法,同时能够优化网络的结构。首先利用全局搜索能力可靠的遗传算法,采用递阶编码方案和自适应变异概率,同时优化网络的权值和结构,在进化结束时,能够寻到全局最优点附近的点。在遗传算法搜索结果的基础上,利用局部寻优能力较强的梯度下降法,从此点出发,进行局部搜索,最终达到网络的训练目标。与单一的遗传算法或者梯度下降法比较而言,混合优化算法的收敛速度明显提高。     

基于RBF神经网络混合遗传算法的多用户检测

提出了一种混合递阶遗传算法来同时训练RBF神经网络的结构和参数,引入了改进的染色体编码方案,用基于奇异值分解的最小二乘法计算网络输出层权值,提高了遗传搜索的效率,精简了网络结构.并用变学习速率梯度下降法优化遗传训练出的最优网络,应用到多用户检测中.仿真结果表明,新混合学习算法训练出的网络结构优于其它算法训练的网络结构,并且性能良好.     

一种优化的RBF神经网络在调制识别中的应用

提出了一种基于径向基函数 (RBF) 神经网络的通信信号调制识别方法, 该方法采用模糊 C-均值 (FCM) 聚类算法对数据进行聚类, 并获取基函数的参数, 采用梯度下降法训练网络权值. 利用最优停止法对网络进行了优化, 避免了过学习现象, 提高了 RBF 网络的训练速度和泛化能力, 以实际信号数据对该网络进行性能检验, 实验结果表明了该 RBF 网络具有较高的识别精度.     

混沌时间序列的混合粒子群优化预测

提出一种混合粒子群优化算法,即在改进粒子群优化算法全局搜索模型参数的基础上,利用梯度下降法进一步确定径向基神经网络模型参数,以提高网络的收敛精度和网络性能.采用基于RBFNN的混合粒子群优化算法进行离散Henon和连续Mackey-Glass混沌时间序列预测仿真,结果表明该算法能快速精确地预测混沌时间序列,是研究复杂非线性动力系统辨识和控制的一种有效方法.     

基于ESN和改进RBFNN的城市燃气负荷预测

城市燃气负荷预测是城市燃气管网系统运行调度中的重要内容.针对燃气负荷数据的周期性和非线性特点,以及单一模型存在的局限性,本文提出一种ESN和改进RBF神经网络的组合预测模型.首先用核Fisher线性判别对原始数据进行降维,其次用ESN模型进行初步预测,然后将ESN的预测结果作为RBF神经网络的输入来构建组合模型,并将差分进化算法和梯度下降算法结合,对RBF神经网络的结构和参数同时进行训练和优化,以增强算法的局部搜索能力,加快收敛速度.实验结果表明,本文模型比原组合模型的预测精度更高.     

一种混合方法在试井参数优化中的应用

试井参数优化就是对利用测得的油气井底压力或流量随时间变化的资料所反演出的油藏参数进行优化处理。现代试井中遇到的复杂方程和定解条件使得试井参数优化问题高度非线性,存在多局部极值。所提出的基于L-M和差分进化的混合方法是利用差分进化算法在一定进化代数后出现的种群聚类特性,将种群识别为不同的聚类区域,然后以每个聚类的中心为起始点,再利用基于梯度具有局部搜索能力强的L-M算法快速找到该聚类区域的最小极值。混合方法兼顾了差分进化全局搜索能力强和L-M局部搜索能力强收敛速度快的优点。将该混合方法应用于试井参数优化中,并通过两种不同油藏模型的实例结果表明该混合方法比单一的算法优化速度更快,收敛精度更高。此外该混合方法实用性广,能有效地解决存在多局部极值的试井参数优化复杂问题。     

混沌时间序列的自适应变异差分进化ANFIS预测

提出了一种基于自适应变异差分进化（AMDE）算法的ANFIS模型对混沌时间序列进行预测的方法,该方法采用自适应变异差分进化算法和最小二乘法相结合的混合学习算法对ANFIS网络结构参数进行优化设计,利用差分进化算法的全局寻优能力对ANFIS网络前件参数进行优化,而网络的结论参数采用最小二乘法优化,混合学习算法提高了网络参数辨识的收敛速度和系统的全局收敛性,仿真实验结果表明了该方法的有效性。     

模糊神经网络的混沌优化算法设计

提出了一种基于混沌变量的多层模糊神经网络优化算法设计.离线优化部分采用混沌算法,将混沌变量引入到模糊神经网络结构和参数的优化搜索中,使整个网络处于动态混沌状态,根据性能指标在动态模糊神经网络中寻找较优的网络结构和参数.在线优化部分采用梯度下降法,把混沌搜索后得到的参数全局次优值作为梯度下降搜索的初始值,进一步调整模糊神经网络的参数,实现混沌粗搜索和梯度下降细搜索相结合的优化目的,能较快地找到全局最优解.最后对二阶延迟系统进行仿真,结果表明混沌优化方法控制精度高、超调小、响应快和鲁棒性强.     

改进的单形进化算法及在神经网络上的应用研究

单形进化算法(Surface-Simplex Swarm Evolution Algorithm,简称SSSE)是一种新型群体智能优化算法,该算法通过建立粒子的单形邻域搜索算子和多角色态搜索机制,具有很好地收敛效果.为了对该算法的性能进行进一步分析与讨论,同时,为了强调全局搜索的应用场景并提高算法的勘探搜索能力,提出一种改进的单形进化算法(ISSSE),ISSSE对原算法的多态平衡搜索机制进行了两点改进;然后用8个标准测试函数进行性能测试,并同不同的算法比较;最后将ISSSE算法应用于径向基神经网络(RBF)的参数优化中.实验结果表明,改进的单形进化算法(ISSSE)在其性能上具有更好的勘探搜索能力,提高了算法的求解精度和收敛速度,并且能够很好应用于RBF的参数寻优,提高了RBF的分类正确率.     

基于禁忌搜索的模糊神经网络结构优化

本文提出了一种基于禁忌搜索的模糊神经网络自动优化学习方法（fuzzy neural network based on tabusearch，FNNTS）。该方法利用禁忌搜索算法搜索最优的模糊神经网络结构，并结合最小二乘法和梯度下降法对网络参数进行学习，大大减少了对专家知识的依赖。非线性函数逼近的实验结果表明，所提出的方法能获得更精练的网络结构和更小的误差，从而验证了本文方法的有效性和可行性。     

粗糙集意义下的一种RBF 神经网络设计方法

提出一种集成粗糙集理论的RBF网络设计方法.由布尔逻辑推理方法进行属性离散化,得到初始决策模式集,通过差异度对初始决策模式的相似度进行衡量并实现聚类,以聚类决策模式构造RBF网络.为加快训练速度,分别对隐层参数和输出权值采用BP算法和线性最小二乘滤波法进行训练.实验结果表明,该方法设计的RBF网络结构简洁,泛化性能良好,混合学习算法的收敛速度优于单纯的BP算法.     

Efficacy of utilizing a hybrid algorithmic method in enhancing the functionality of multi-instance multi-label radial basis function neural networks

The facts show that multi-instance multi-label (MIML) learning plays a pivotal role in Artificial Intelligence studies. Evidently, the MIML learning introduces a framework in which data is described by a bag of instances associated with a set of labels. In this framework, the modeling of the connection is the challenging problem for MIML. The RBF neural network can explain the complex relations between the instances and labels in the MIMLRBF. The parameters estimation of the RBF network is a difficult task. In this paper, the computational convergence and the modeling accuracy of the RBF network has been improved. The present study aimed to investigate the impact of a novel hybrid algorithm consisting of Gases Brownian Motion optimization (GBMO) algorithm and the gradient based fast converging parameter estimation method on multi-instance multi-label learning. In the current study, a hybrid algorithm was developed to estimate the RBF neural network parameters (the weights, widths and centers of the hidden units) simultaneously. The algorithm uses the robustness of the GBMO to search the parameter space and the efficiency of the gradient. For this purpose, two real-world MIML tasks and a Corel dataset were utilized within a two-step experimental design. In the first step, the GBMO algorithm was used to determine the widths and centers of the network nodes. In the second step, for each molecule with fixed inputs and number of hidden nodes, the parameters were optimized by a structured nonlinear parameter optimization method (SNPOM). The findings demonstrated the superior performance of the hybrid algorithmic method. Additionally, the results for training and testing the dataset revealed that the hybrid method enhances RBF network learning more efficiently in comparison with other conventional RBF approaches. The results obtain better modeling accuracy than some other algorithms.     

运用PSO算法的自递归RBF网络建模与应用

普通三层RBF网络已经是一种较好的神经网络，为了进一步提高RBF网络的性能，在普通三层RBF网络的基础上，构建出一种运用PSO算法的自递归RBF网络。学习算法采用以梯度学习算法配合PSO算法对参数进行调整。与采用动量-梯度学习算法，且为结构为三层的RBF网络相比，提的运用PSO算法的自递归RBF网络可以在神经元较少的情况下，具有更好的泛化能力、鲁棒性和准确性。最后通过仿真实验，对算法的有效性进行了验证。     

基于混合优化算法的压力传感器温度补偿

针对压阻式压力传感器存在温度漂移,其测量精度受温度影响很大的问题,使用最小二乘拟合方法与RBF神经网络共同建立压力传感器温度补偿模型.针对低温和高温区域使用RBF神经网络进行补偿,对中间线性区域使用最小二乘拟合方法进行补偿.同时为了提高RBF神经网络拟合效果,使用进化算法和下降梯度算法优化RBF神经网络参数.实验结果表明,本文使用方法与单纯使用RBF神经网络或最小二乘拟合方法进行温度补偿,具有更高的训练效率和温度补偿效果,能够提高压力传感器在各种环境下的测量精度和工作可靠性.     

用进化RBF神经网络控制Lorenz混沌

对镇定一嵌入在Lorenz混沌吸引子内的不稳定平衡点上的混沌轨道提出了一种利用进化RBF网控制混沌系统的新方法,采用了基于两层编码改进进化规划（IEP）的RBF网学习算法,要以同时确定网络的拓扑结构和参数,仿真结果表明本文控制Lorenz混沌响应速度快,控制精度高。     

基于动态径向基神经网络的人脸识别算法研究

提出了一个通用而且有效的方法来设计RBF神经网络分类器用于人脸识别。为了避免过拟合和减少计算量,用主元分析法和Fisher线性判别技术来降低维数,以提取人脸特征;利用一个混合的学习算法来训练RBF神经网络,使梯度下降法的搜索空间大大减少;采用一种基于训练样本类别信息的新的聚类算法,所有同类的数据可被聚集在一起,尽量减少不同类数据混杂在一起,同时选取结构尽可能紧凑的RBF神经网络分类器。在ORL数据库上进行了仿真,实验结果表明,该算法具有高效性和有效性。     

聚类与动态RBF网络的模式识别应用研究

通过PCA方法来提取人脸特征,这些特征进一步映射到Fisher最优子空间,在这个子空间,类间分布同类内分布的比率最大。然后,提出一种新颖的有监督的聚类方法,利用有限的训练数据信息来选择RBF的结构和初始参数。最后,提出了一种混合的学习算法来训练RBF神经网络,使得在梯度下降寻优算法中大大降低了搜索空间的维数。在ORL数据库上进行的仿真结果表明,这个方法无论是在分类的错误率上还是在学习的效率上都能表现出极好的性能。     

Face recognition with radial basis function (RBF) neural networks

A general and efficient design approach using a radial basis function (RBF) neural classifier to cope with small training sets of high dimension, which is a problem frequently encountered in face recognition, is presented. In order to avoid overfitting and reduce the computational burden, face features are first extracted by the principal component analysis (PCA) method. Then, the resulting features are further processed by the Fisher's linear discriminant (FLD) technique to acquire lower-dimensional discriminant patterns. A novel paradigm is proposed whereby data information is encapsulated in determining the structure and initial parameters of the RBF neural classifier before learning takes place. A hybrid learning algorithm is used to train the RBF neural networks so that the dimension of the search space is drastically reduced in the gradient paradigm. Simulation results conducted on the ORL database show that the system achieves excellent performance both in terms of error rates of classification and learning efficiency.     

航天器输入受限的鲁棒自适应姿态跟踪控制

针对径向基神经网络结构和参数的动态优化问题,提出一种基于敏感度分析和粒子群优化的RBF神经网络(SAPSO-RBF)优化算法.算法通过初始化各粒子信息数,基于粒子敏感度分析,对算法学习阶段粒子信息进行增加和删减,确定第一次收敛时网络结构大小;算法达到收敛后,对最优粒子进行敏感度分析,删除冗余信息,使算法重新发散;根据算法发散和收敛次数提出一种惯性权重更新方法,使算法在解空间内进行多次发散和收敛,增强算法搜索能力的同时减小网络结构,并给出SAPSO算法的收敛性证明.仿真实验结果表明,SAPSO-RBF算法具有良好的自组织能力,相较于其他自组织RBF神经网络优化算法,在网络结构紧凑度和精度等方面有较大提升.