一种改进的BP神经网络手写体数字识别方法

本文介绍了利用BP神经网络来识别手写体数字的原理,分析了传统BP算法收敛速度较慢的原因,提出了一种提高网络收敛速度的改进算法。实验数据表明,该改进算法比传统的算法在网络收敛速度上提高了九倍左右。     

基于遗传BP算法的手写体识别

神经网络具有模拟人类的大脑活动、良好的自学习、自适应、联想记忆、并行处理和非线形转换的能力.本文阐述了BP神经网络基本原理以及BP网络手写体识别模型,研究分析了BP神经网络手写体识别模型的缺陷并提出了优化策略.在此基础上,提出一种基于改进结构的BP神经网络来实现手写体数字识别方案,除了改进BP网的结构外,还对网络学习算法进行了改进,采用了BP和GA相结合的算法,提高了网络的学习训练速度和识别效果.     

基于改进BP神经网络的尿液中红白细胞识别算法

对显微图像中的尿液有形成分包括红白细胞等进行分析,可以帮助医生对有肾脏和泌尿系统疾病的患者进行评估。针对无染色、无标记的尿液图像中红白细胞存在对比度低、边缘模糊等问题,提出一种基于改进BP神经网络的识别方法。首先,将遗传算法引入BP神经网络对网络权值和阈值进行优化,解决训练过程中网络容易陷入局部极值等问题,提高BP神经网络的识别精度;其次,使用动量梯度下降法消除网络在梯度下降中产生的摆动,加快网络的收敛,提高BP神经网络的学习速度。与基础BP神经网络相比,改进方法对红白细胞的识别准确度分别提高了6.9%和9.5%,且识别时间分别缩短了19.3 s和42.1 s;与CNN识别算法相比,改进算法对白细胞的识别准确度提高了1.7%;与SVM识别算法相比,改进算法对红白细胞的识别准确度分别提高了12.9%和12.7%。验证实验和对照实验的结果表明,改进方法能以较高的准确率和较快的速度实现红白细胞的识别。     

改进遗传算法优化BP神经网络的语音情感识别

语音情感识别技术在人类生活中正扮演着越来越重要的作用。为了更为有效识别语音信号中的情感类型,提出一种改进遗传算法优化BP神经网络的识别算法（IAGA-BP）。该算法一方面改进了自适应遗传算法中的选择算子,另一方面更改了自适应遗传算法中的交叉和变异概率公式。通过对自适应遗传算法的改进,提升了遗传算法的寻优性能,并以此对BP神经网络初始的权阈值进行优化。在与BP、GA-BP和AGA-BP网络比较中,实验结果表明,IAGA-BP网络能够有效提高语音情感识别率,并加快了网路收敛速度。     

改进的人工蜂群算法在神经网络中的应用

人工蜂群算法是模拟蜜蜂采蜜行为而提出的一种新的启发式仿生算法,属于典型的群体智能算法。提出了一种改进的人工蜂群算法,并利用改进后的人工蜂群算法来优化传统BP算法（神经网络算法中的误差方向传播算法）中网络参数的权值。实验结果证明该优化算法提高了BP神经网络收敛解的精度,加快了BP神经网络收敛速度。     

BP算法的改进及其在Matlab上的实现

针对BP算法这种当前前馈神经网络训练中应用最多的算法,在介绍BP神经网络的基础上,对标准的BP网络训练算法存在的收敛速度慢、易陷入局部极值的严重缺点,提出了几种学习算法上的改进;进而介绍了改进蹬算法在Matlab神经网络工具箱中的函数实现。最后应用实例利用Matlab神经网络工具箱对标准BP算法及改进的算法进行语言编程、仿真。仿真结果显示,改进后的算法在极值、收敛速度上得到了很大的改善。     

一种基于神经网络的入侵检测技术

应用神经网络技术不仅能识别已知的网络人侵行为,而且也能识别许多未知的网络入侵的变种.BP神经网络是一种成功的神经网络技术,然而,标准BP算法学习速率固定,不能根据实际情况动态改变学习速率.为了自适应当前网络学习的状况,提高网络的收敛速度,提出了一种基于综合增加动量项与自适应调节学习速率相结合的改进BP算法,可以满足入侵检测分类识别的需求.选用Kddcup 1999 Data网络连接数据集进行特征提取和预处理之后,送人神经网络进行训练和测试,得到较高的检测率和较低的误报率.实验表明,基于改进的BP神经网络的入侵检测方法是有效的.     

一种改进QPSO优化BP网络的入侵检测算法

为了较好克服量子粒子群算法存在早熟收敛的缺点,在分析算法参数和流程的基础上,提出了一种带变异操作的改进量子粒子群优化算法。针对传统BP算法易于陷入局部极小的不足,将改进的算法应用到BP神经网络的学习过程中,修正BP网络的权值和阈值,提高其收敛性能。并将优化的BP神经网络模型应用于入侵检测中,用标准入侵检测数据对基于不同算法的BP网络进行仿真实验比较。实验结果表明,改进后的BP算法迭代次数少,收敛速度有所提高,在一定程度上提高了入侵检测率。     

一种改进QPSO优化BP网络的入侵检测算法

为了较好克服量子粒子群算法存在早熟收敛的缺点,在分析算法参数和流程的基础上,提出了一种带变异操作的改进量子粒子群优化算法。针对传统BP算法易于陷入局部极小的不足,将改进的算法应用到BP神经网络的学习过程中,修正BP网络的权值和阈值,提高其收敛性能。并将优化的BP神经网络模型应用于入侵检测中,用标准入侵检测数据对基于不同算法的BP网络进行仿真实验比较。实验结果表明,改进后的BP算法迭代次数少,收敛速度有所提高,在一定程度上提高了入侵检测率。     

基于免疫RBF神经网络的语音情感识别

本文针对语音情感识别中BP神经网络收敛速度慢和正确率低的问题,提出了一种训练径向基函数(RBF)网络的混合算法。在语音情感特征提取的基础上,采用免疫RBF神经网络进行情感识别,同时还训练了一个BP网络进行对比实验,得到了比较理想的识别结果。     

基于多新息理论的PID神经网络改进算法

为了提高非线性动态系统辨识精度,提出一种基于多新息理论的PID神经网络改进算法。对具有时间延迟非线性动态系统,由于采用多新息,充分利用了系统的当前数据和历史数据,较传统的BP算法,本文所提算法在辨识精度和收敛速度方面具有更好的效果。仿真结果表明该算法的有效性。     

PCA-改进RPROP方法的BP算法在音乐信号分类中的应用

针对标准的BP神经网络仅从预测误差负梯度方向修正权值和阈值,学习过程收敛缓慢,并且容易陷入局部最小值,导致泛化能力不足的问题,提出了一种基于学习经验变学习速率改进的RPROP方法作为BP神经网络权值和阈值更新方法,并与主成分分析法(Principal Component Analysis,PCA)相结合,形成了PCA-改进神经网络算法。同时,采用Matlab软件对四类音乐信号进行分类实验。实验结果表明,改进算法比标准算法的稳定识别率提高2.6%,当稳定识别率达到90%时,用时节省75%,表明该算法可以加快网络的收敛过程,提高泛化能力。     

一种鲁棒BP算法及其在非线性动态系统辨识中的应用

利用多层前馈神经网络的非线性建模特性，基于动态ＢＰ网络的串并联和并联模型，提出了一种高鲁棒性ＢＰ算法，与传统的ＢＰ算法相比，鲁棒ＢＰ算法有５个优点：（１）适合于非线性动态系统辨识，（２）辨识精度高；（３）不必内插所有训练样本；（４）具有高鲁棒性，能抵制过失误差和量测误差；（５）收敛速度得到了改进，因为错误差样本的影响得到了适度的抑制，把该算法用于非线性动态系统辨识，仿真结果表明此方法是有效的。     

基于结构简化的BP网络的多类形状识别

BP算法是目前应用极为广泛的神经网络算法,但它也存在一些不足。文中提出了一种使BP网络结构简化的改进的BP算法,它使得网络的速度得到了提高,减少了迭代次数。最后将传统的BP算法和改进的BP算法进行了比较,仿真结果表明改进的算法在学习次数和收敛速度上比传统的算法有很大的改善。     

基于遗传小波神经网络的白酒识别电子鼻

为研究不同品质白酒快速识别的电子鼻技术,利用自制的电子鼻采集四种白酒样品的气味数据,建立了BP神经网络分类模型。针对BP算法普遍存在的收敛速度慢、易陷入局部极小且网络参数需要人工设定的缺陷,提出一种将遗传算法的自适应全局优化搜索能力、小波分析的非线性逼近能力和BP算法自学习能力结合在一起的遗传小波神经网络白酒识别模型。仿真结果表明,与BP神经网络和小波神经网络相比,GA-WNN分类模型的收敛速度和分类准确率都得到了较大提高,可应用于白酒识别电子鼻。     

Forecasting foreign exchange rates with an improved back-propagation learning algorithm with adaptive smoothing momentum terms

The slow convergence of back-propagation neural network (BPNN) has become a challenge in data-mining and knowledge discovery applications due to the drawbacks of the gradient descent (GD) optimization method, which is widely adopted in BPNN learning. To solve this problem, some standard optimization techniques such as conjugate-gradient and Newton method have been proposed to improve the convergence rate of BP learning algorithm. This paper presents a heuristic method that adds an adaptive smoothing momentum term to original BP learning algorithm to speedup the convergence. In this improved BP learning algorithm, adaptive smoothing technique is used to adjust the momentums of weight updating formula automatically in terms of “3 σ limits theory.” Using the adaptive smoothing momentum terms, the improved BP learning algorithm can make the network training and convergence process faster, and the network’s generalization performance stronger than the standard BP learning algorithm can do. In order to verify the effectiveness of the proposed BP learning algorithm, three typical foreign exchange rates, British pound (GBP), Euro (EUR), and Japanese yen (JPY), are chosen as the forecasting targets for illustration purpose. Experimental results from homogeneous algorithm comparisons reveal that the proposed BP learning algorithm outperforms the other comparable BP algorithms in performance and convergence rate. Furthermore, empirical results from heterogeneous model comparisons also show the effectiveness of the proposed BP learning algorithm.     

基于权值变化的BP神经网络自适应学习率改进研究

针对传统神经网络的学习率由人为经验性设定,存在学习率设置过大或过小,容易导致无法收敛或收敛速度慢的问题,本文提出基于权值变化的自适应学习率改进方法,改善传统神经网络学习率受人为经验因素影响的弊端,提高误差精度,并结合正态分布模型与梯度上升法,提高收敛速度.本文以BP神经网络为例,对比固定学习率的神经网络,应用经典XOR问题仿真验证,结果表明本文的改进神经网络具有更快的收敛速度和更小的误差.     

基于BP神经网络的医学图像分割新方法

对于医学图像而言,其分割结果的准确性对医生诊断病情并给出正确的治疗方案至关重要。应用传统的BP神经网络对医学图像进行分割,存在对初始权重值敏感、学习速率固定、收敛速度慢和易陷入局部极小值等问题。因此,提出了一种基于改进的粒子群优化算法的BP 神经网络的医学图像分割方法。首先,应用粒子群优化算法与BP神经网络的映射关系,通过粒子群强大的搜索功能找到最佳适应函数,使对应的BP神经网络的均方误差达到最小值,克服了BP 神经网络产生多个局部最小值的可能;其次,确定粒子的最佳位置后,在BP神经网络学习中获得最合理的权值和偏置值,以提高网络的收敛速度;最后,BP神经网络经反复训练后,获得最佳输出值,并计算阈值,通过阈值来分割图像区域。实验结果表明,利用改进的算法能够得到更清晰的图像分割效果,提高了图像的分割精度,对临床的诊断也具有重要参考意义。     

以高维输入神经网络作为生产线产品质量模型

探索用高维输入的神经网络对复杂工业生产过程的建模方法。针对网络输入变量维数较高的特点,提出一种ＢＰ网络各权重独立训练的分散训练方法。该方法用附加大惯性项来协调各个权重的优化训练,运用非线性优化方法调节步长。与用普通的ＢＰ训练方法相比,用该方法训练高维输入的ＢＰ网络具有较快的收敛速度和较高的模型精度,较好地解决了实际生产过程的产品质量模型问题。     

基于改进型BP神经网络在列车异物检测中的研究

提出了B P神经网络学习算法上存在收敛速度慢,容易陷入局部极小的问题,现通过惯性校正方法及重新构造响应函数法来克服这两个问题,对B P网络学习算法进行了改进。利用小波多尺度边缘检测对列车异物图像进行分割和特征提取,并将列车异物特征向量作为训练样本对改进后的B P网络进行反复训练,直到获得最佳的映射结果,提高识别的精确度,提高了列车异物自动识别的速度,为实际的异物检测应用奠定了重要的参考价值理论与实验基础。