基于神经网络的混合优化算法研究

为了在资源有限的嵌入式系统中提高智能特性,需要研究开发具有较好逼近和泛化能力的、以及代码简单的神经网络.本文采用具有很强全局寻优能力的遗传算法以及局部寻优能力较强的梯度下降法,结合两者的优点形成了一种神经网络混合优化算法.对遗传算法操作算子做了改进,能同时优化神经网络的结构和权值及阈值.仿真实验结果表明,该混合优化算法能够有效地对神经网络的结构和权值及阈值优化,优化后的神经网络有较好的逼近能力和泛化能力.     

基于遗传BP神经网络的数据挖掘技术

数据挖掘技术是从大量数据中挖掘知识的有效的工具。BP神经网络和遗传算法是运用在数据挖掘中的两种新兴算法,神经网络的结构复杂、网络训练时间长、收敛速度慢,但其具有较高的正确率,把BP神经网络与遗传算法相结合,可以提高收敛速度,并在有限步内达到较高的精度要求,因此本文提出了一种遗传算法和BP神经网络相互结合的新算法,并把算法运用在数据挖掘技术中。     

BP神经网络算法的改进及收敛性分析

研究BP神经网络的数学理论,详细分析几种流行的BP神经网络学习算法的优缺点.针对一般BP算法收敛速度慢,易陷入局部极小值的缺陷,受Fletcher-Reeves线性搜索方法的指引,提出基于改进共轭梯度法的BP算法.从理论方面对算法进行深入的分析,介绍算法的详细思路和具体过程.并将算法训练后的BP神经网络运用到函数逼近中去.仿真结果表明,这种改进方案确实能够改善算法在训练过程中的收敛特性,而且提高收敛速度,取得令人满意的逼近效果.     

基于梯度下降算法的神经网络模型研究

神经网络的研究与应用已经取得了巨大的成功,但是在网络的收敛性和稳定性方面还有很多问题。本文对神经网络的核心算法BP算法进行了改进,使用梯度下降算法对神经网络的原始输入变量进行预处理,选择输入变量的主成分作为网络输入,使变量维度和相关性同时减小,从而实现神经网络的结构简化、高收敛性和高稳定性。     

基于主成分的遗传神经网络股票指数预测研究

数据预测在金融投资领域占有重要地位,预测中输入变量的选取影响着预测的速度和精度,传统方法选取输入变量主观性较强,预测效果欠佳。将遗传算法与BP网络结合,利用GA的全局搜索优化BP网络的结构参数,有效克服BP算法的局部收敛等问题。使用主成分分析法选取输入变量,并将GA—BP混合建模应用于沪市综合指数预测中。实验结果表明,该方法改善了预测精度,达到了较好的预测效果。     

BP神经网络学习方法浅谈

随着人工智能及机器学习的飞速发展,数据在网络传播中的应用日益增多,BP神经网络及数据分类也成为大家研究的一个热点领域。BP神经网络的学习采用了梯度下降法（也称之为最速下降法）,作为比较古老的方法之一,这种方法在求解无约束优化问题上沿用了很长一段时间,尽管现在使用的较少,大它的很多算法都为后来的很多优秀算法提供了基础。L-M方法（Levenberg—Marquardt）LM方法是通过在Hessian矩阵上加一个正定矩阵来进行分析评估的方法,是最优化算法中的一种。     

一种基于自适应遗传算法的神经网络学习算法

结合遗传算法与梯度下降法优点,提出了一种训练神经网络权值的混合优化算法,同时能够优化网络的结构.首先利用全局搜索能力可靠的遗传算法,采用递阶编码方案和自适应变异概率,同时优化网络的权值和结构,在进化结束时,能够寻到全局最优点附近的点.在遗传算法搜索结果的基础上,利用局部寻优能力较强的梯度下降法,从此点出发,进行局部搜索,最终达到网络的训练目标.与单一的遗传算法或者梯度下降法比较而言,混合优化算法的收敛速度明显提高.     

基于改进BP神经网络的尿液中红白细胞识别算法

对显微图像中的尿液有形成分包括红白细胞等进行分析,可以帮助医生对有肾脏和泌尿系统疾病的患者进行评估。针对无染色、无标记的尿液图像中红白细胞存在对比度低、边缘模糊等问题,提出一种基于改进BP神经网络的识别方法。首先,将遗传算法引入BP神经网络对网络权值和阈值进行优化,解决训练过程中网络容易陷入局部极值等问题,提高BP神经网络的识别精度;其次,使用动量梯度下降法消除网络在梯度下降中产生的摆动,加快网络的收敛,提高BP神经网络的学习速度。与基础BP神经网络相比,改进方法对红白细胞的识别准确度分别提高了6.9%和9.5%,且识别时间分别缩短了19.3 s和42.1 s;与CNN识别算法相比,改进算法对白细胞的识别准确度提高了1.7%;与SVM识别算法相比,改进算法对红白细胞的识别准确度分别提高了12.9%和12.7%。验证实验和对照实验的结果表明,改进方法能以较高的准确率和较快的速度实现红白细胞的识别。     

一种基于自适应遗传算法的神经网络学习算法

结合遗传算法与梯度下降法优点,提出了一种训练神经网络权值的混合优化算法,同时能够优化网络的结构。首先利用全局搜索能力可靠的遗传算法,采用递阶编码方案和自适应变异概率,同时优化网络的权值和结构,在进化结束时,能够寻到全局最优点附近的点。在遗传算法搜索结果的基础上,利用局部寻优能力较强的梯度下降法,从此点出发,进行局部搜索,最终达到网络的训练目标。与单一的遗传算法或者梯度下降法比较而言,混合优化算法的收敛速度明显提高。     

Q学习对制糖结晶遗传神经网络收敛性的改进

采用多层用馈遗传神经网络模型对甘蔗制糖结晶速度进行学习和预测,并针对该模型存在的计算量大,收敛慢的问题,采用具有强化作用的Q学习确定遗传算法的变异概率,以提高学习的收敛速度,仿真结果表明了该方法的有效性。     

基于遗传算法和梯度下降的RBF神经网络组合训练方法

在使用基于梯度下降的径向基函数（RBF）神经网络学习方法时，由于网络目标函数误差曲面极其复杂，因而产生了网络收敛速度慢，且容易陷入局部极小，网络初始值的设置对网络训练结果影响很大等问题。基于遗传算法的训练方法能够摆脱陷入局部最优的困扰，但遗传算法的局部搜索能力不够，从而影响网络的训练效果。为了解决上述问题，在研究两种算法特点的基础上，提出一种组合训练方法，用提出的训练方法对UCI中的部分数据集进行了仿真实验，并将实验结果与传统方法下的结果进行了比较，实验结果表明新方法是有效的。     

基于遗传算法的人工神经网络

为克服和改进传统的BP算法的不足,发挥神经网络和遗传算法各自的优势,提出了一种基于遗传算法的神经网络二次训练方法,将遗传算法应用于神经网络的权值训练中,并用神经网络二次训练得到最终结果,降低了计算时间,是一种比较有效的方法。     

基于遗传算法的BP神经网络技术的应用

针对BP网络的不足,提出了基于遗传算法的神经网络技术。将两者有机的融合在一起,充分利用了GA算法的全局搜索能力和BP算法的局部搜索能力,加快了收敛速度,提高了收敛精度,将其应用于高速公路动态称重系统的神经网络控制器的训练中,取得了较好的效果。     

遗传算法与BP神经网络相结合的说话人识别系统

基于BP神经网络的说话人识别系统是目前说话人识别中的一种主要模型,但BP神经网络通常难以确定隐含层单元的数目,且收敛速度慢。针对此缺点,提出了一种基于遗传算法（GA）的说话人识别BP神经网络优化方案,该方案利用混合编码的GA对神经网络的连接权和结构进行了优化,可以有效地剔除整个网络冗余节点和冗余连接权,方案利用了BP神经网络的并行性和GA的全局搜索能力,显著地改善了网络的处理能力。实验表明：基于混合编码GA的BP神经网络具有快速学习网络权重的能力,识别率高,是说话人识别的一种有效可行的新方案。     

基于CS和神经网络的传感器网络模式识别研究

当前,传感器网络快速地发展,其节点不断增多,需要传输和储存的数据量也就不断增大,同时现有传感器节点尺寸与复杂度限制了传感器网络的数据存储、数据的计算速度及频宽.针对此类问题,将压缩感知技术应用于传感器网络,对传感器网络中传输的数据进行压缩,降低传输数据量,然后在接收端重构数据,将该数据样本作为BP网络的输入进行识别.实...     

一个基于神经网络和遗传算法的游戏自主角色的设计

具有学习能力和动态适应环境变化的自主角色已经成为商业游戏的一个卖点,采用传统的人工智能方法往往无法实现复杂的自主角色的行为,基于此,采用非确定性的神经网络和遗传算法来实现自主角色已经成为当前游戏人工智能的一个热点。分析了游戏自主角色的特点, 建立了NPC的自主认知模型,同时采用神经网络和遗传算法相结合的游戏自主角色的设计思路,利用遗传算法优化神经网络的方法设计了一个自主角色的框架,建立了一个游戏角色的自学习模型,通过仿真实验表明采用神经网络和遗传算法相结合的非确定性算法形成的游戏角色的自学习系统要比传统的NPC角色更加自主和智能化。     

基于改进遗传算法的多示例神经网络优化

多示例神经网络是一类用于求解多示例学习问题的神经网络,但由于其中有不可微函数,使用反向传播训练方法时需要采用近似方法,因此多示例神经网络的预测准确性不高。〖BP）〗为了提高预测准确性,构造了一类优化多示例神经网络参数的改进遗传算法, 借助基于反向传播训练的局部搜索算子、排挤操作和适应性操作概率计算方式来提高收敛速度和防止早熟收敛。通过公认的数据集上实验结果的分析和对比,证实了这个改进的遗传算法能够明显地提高多示例神经网络的预测准确性,同时还具有比其他算法更快的收敛速度。     

基于遗传算法的人工神经网络的应用综述

本文介绍了一种新型的、随机性的全局优化方法－遗传算法,系统地讨论了基于遗传算法的人工神经网络的主要应用,并给出了大量实验数据,实验结果表明遗传算法具有快速学习网络权重的能力,并且能够摆脱局部极点的困扰。     

基于卷积计算的多层脉冲神经网络的监督学习

针对脉冲神经元基于精确定时的多脉冲编码信息的特点,提出了一种基于卷积计算的多层脉冲神经网络监督学习的新算法。该算法应用核函数的卷积计算将离散的脉冲序列转换为连续函数,在多层前馈脉冲神经网络结构中,使用梯度下降的方法得到基于核函数卷积表示的学习规则,并用来调整神经元连接的突触权值。在实验部分,首先验证了该算法学习脉冲序列的效果,然后应用该算法对Iris数据集进行分类。结果显示,该算法能够实现脉冲序列复杂时空模式的学习,对非线性模式分类问题具有较高的分类正确率。     

改进遗传算法优化BP神经网络的语音情感识别

语音情感识别技术在人类生活中正扮演着越来越重要的作用。为了更为有效识别语音信号中的情感类型,提出一种改进遗传算法优化BP神经网络的识别算法（IAGA-BP）。该算法一方面改进了自适应遗传算法中的选择算子,另一方面更改了自适应遗传算法中的交叉和变异概率公式。通过对自适应遗传算法的改进,提升了遗传算法的寻优性能,并以此对BP神经网络初始的权阈值进行优化。在与BP、GA-BP和AGA-BP网络比较中,实验结果表明,IAGA-BP网络能够有效提高语音情感识别率,并加快了网路收敛速度。