BP网络过拟合现象满足的不确定关系新的改进式

类比信息传递过程中的一般测不准关系式 ,引进表征问题复杂性的函数复相关系数R和代表网络结构特性的隐节点数h ,揭示了BP网络过拟合现象出现时的网络学习能力与推广能力之间满足的不确定关系式 ;通过模拟了 12种不同类型复杂程度函数的过拟合数值试验 ,确定出关系式中的过拟合参数 p的取值范围已缩小为 1×10 -5～ 5× 10 -4;给出应用BP网络对给定样本集的训练过程中 ,判断出现过拟合现象的方法     

BP网络学习能力与泛化能力之间的定量关系式

分析BP网络过拟合时网络学习能力与泛化能力之间的内在联系,引入描述问题复杂性程度的复相关系数,建立了BP网络过拟合时,反映网络学习能力的训练样本集的训练相对误差与表征泛化能力的网络对检验样本集的测试相对误差之间满足的定量关系式.通过模拟若干不同类型函数的BP网络数值建模试验,确定了关系式中过拟合参数q的取值范围为0.007~0.07,指出BP网络应用于给定样本集的训练过程中,具有较佳泛化能力的停止训练方法.     

用前馈神经网络进行带噪声信号的去噪声建模

本文提出了一种用前馈神经网络对带噪声样本的去噪声建模的实验方法,能获得合适的网络模型,并具有较好的去噪声能力。实验对比ＢＰ网络和ＲＢＦ网络去噪声能力上的差别,结果表明,ＲＢＦ网络去噪声能力优于ＢＰ网络。这一结论已被用于为半导体生产工艺控制参数优化的去噪声建模中。     

具有容差的模拟电路故障定位的神经网络实现

结合Ｋ故障诊断和ＢＰ网络的分类功能,提出了一种神经网络实现模拟故障定位的方法,该方法将ＢＰ网络训练成具有推广能力的广义故障字典。     

径向基网络在编码器误差补偿中的应用

利用神经网络进行光电轴角编码器的误差补偿,是一种新的编码器误差修正技术。在利用径向基函数网络(RBF)建立非线性模型对编码器的长周期误差进行修正时,实验数据中的随机噪声会造成过拟合现象的产生,影响模型的补偿效果。针对RBF网络的过拟合现象,分别采用滑动平均法与异常点剔除法对实验数据进行预处理以减小随机噪声的影响。实验表明,使用径向基神经网络进行误差补差可以将编码器的系统精度提高至3倍以上,在此基础上对建模数据进行预处理,可以进一步优化网络性能,使得编码器的系统精度在原有基础上得到进一步的改善,验证了方法的有效性。     

一种考虑场景的基于RTP的MPEG-2视频源业务模型

针对实时多媒体在ＩＰ网络上的传输，提出了一种基于实时传输协议的ＭＰＥＧ ＶＢＲ视频源的建模，此模型考虑了场景的变化和同一场景内码流的波动。用几何分布来描述场景的变化，用ＡＲ（２）模型来反映同一场景内码流的波动。对互帧采用合成模型建模，对Ｐ，Ｂ帧采用伽玛函数建模。通过对它们的排队性能的分析，证明了这种合成模型能够很好地反映实际视频流的特征。     

提高前馈神经网络泛化能力的新算法

利用神经网络撮以合噪数据的特征时，如何提高泛化能力是亟需解决的重要问题。通常的解决方法是通过结构优化和正则化来控网络的复杂性。本文从熵函数的概念出发，提出一项新的加性征罚因子消除过训练现象，从而有效的提高网络的泛化能力。     

矢量量化降低BP网规模的方法

在用ＢＰ网进行语音和说话人识别过程中，ＢＰ网的输入节点数一般在几百个左右，使得网络的规模过大，训练速度过慢，为此本文在对语音特征进行了有效编码的基础上，充分考虑到ＢＰ网输入的自适应性多维码字间距离与一维码号间距离的不一致性，对量化码间中距离的不一致性，对量码字的码号进行有效的码号变换，用变换后的码号数据经归一化后作为ＢＰ网的输入，从而大大压缩了网络的规模。所进行的语音识别实验及与其它语音识别方法的     

基于串联BP神经网络多函数拟合的研究设计

在研究神经网络对非线性函数拟合的过程中发现一个网络同时只能对一个函数进行拟合,为解决这一问题,通过研究BP算法神经网络提出了串联BP网络来实现多个非线性函数的拟合。通过Matlab自定义网络结构实现串联BP网络,在Matlab下利用此串联网络同时对两个非线性函数进行了拟合,训练样本加入噪声信号,在经过342次训练后拟合误差达到了0.000978。实验测试结果显示本网络能够很好地对两个待拟合函数进行拟合,为同时进行多函数的拟合提供了新的方法。     

法布里—珀罗干涉图样与折射率对应关系的研究

本文首次导出了法布里－珀罗干涉图样参数与腔内介质折射率之间的函数关系式;给出了应用该函数关系式实现折射率相干测量的技术和可达到的测量精度;解决了折射率静态自动测量和实时、动态跟踪测量的理论建模问题。     

Uncertain Relation Suited to Overfitting of BP Neural Network

Researches have been done on the overfitting of BP neural network[1~7]. The uncertain relation between learning and generation suited to overfitting of BP neural network modeling is given in Ref.[8]. By numerical test, the range of overfitting parameter in uncertain relation is determined as 10?6~10?3. Further, it is pointed out that parameter selection relates to the complexity of certain problems (approximate functions), which, can be described by multicorrelative coefficients. But for mul…     

启发式改进BPNN在模式分类领域内的对比研究

采用附加动量BP算法、自适应最速下降BP算法、自适应动量BP算法、弹性BP算法4种启发式改进方法分别对标准BP算法进行改进,并构建了相应的BP神经网络分类模型,将构建的4种分类模型应用于二维向量模式的分类,并进行了泛化能力测试,将4种BP网络分类模型的分类结果进行对比。仿真结果表明,对于中小规模的网络而言,弹性BP算法改进的BP网络的分类结果最为精确,收敛速度最快,分类性能最优;附加动量BP算法改进的BP网络的分类结果误差最大,收敛速度最慢,分类性能最差;自适应学习速率BP算法改进的BP网络的分类结果的误差值、收敛速度及分类性能介于上述两种算法之间。     

云过程神经网络模型及算法研究

该文针对输入输出具有不确定性特征并与时间或过程有关的复杂非线性系统建模和求解问题,利用过程神经网络对时变信号的动态处理能力,结合云模型对定性定量概念的转化能力,构建了一种具有不确定性信息处理能力的云过程神经网络模型,并采用猫群优化算法同时对网络结构和参数进行并行优化设计,提高了网络逼近及泛化能力,实现了神经网络在时间域和不确定信息处理领域上的有效扩展。仿真实验结果验证了模型和算法的可行性和有效性。     

基于BP网络的地物影像光谱识别及效果检验

提出了一种基于改进后的BP人工神经网络的地物影像的多波段光谱识别新方法。该方法遵循网络的隐节点数与训练样本数相匹配的网络结构设计的最简原则构建BP网络;采用了随机增加每类样本数,添加样本集中的噪声干扰。从而使噪声起到平滑作用。既防止过度训练,提高了网络的泛化能力。又加快了收敛速度。对11类地物多波段光谱影像实例。通过相继二次构建BP网络模型进行训练,用两次训练好的网络对全部11类地物区分效果明显,达到能完全区分不同地物分类识别的目的。     

基于Matlab的BP神经网络结构与函数逼近能力的关系分析

人工神经网络是一种非线性动态数学模型,广泛应用于非线性系统建模、系统辨识、函数逼近等方面。介绍BP网络的结构和学习过程,并介绍利用Matlab人工神经网络工具箱设计BP网络的步骤,在此基础上设计了BP网络以验证其函数逼近能力,仿真结果说明了BP网络具有很强的函数逼近能力。并分析BP网络结构和函数逼近能力的关系,得出网络的结构直接影响网络对函数的逼近能力和效果。     

基于群卷积神经网络的恶意域名检验方法

针对恶意域名检测中存在的随机性大、现实样本少的缺陷,导致深度学习模型训练易出现过拟合的问题,提出了一种基于群卷积神经网络的恶意域名检测方法。首先将域名转换为嵌入词向量表示,然后通过随机维度组合生成随机数据集并构建卷积神经网络组,鉴于Inception结构优势将其加入到网络中,最后针对数据集易出现的类间样本失衡问题,引入了类间平衡系数以抑制模型训练过拟合,提高模型泛化能力。实验结果表明,在采集的域名检测数据集上,所构建的模型能够有效实现恶意域名检测;经过参数优化,相比于浅层模型组合分类器与典型深度神经网络模型LSTM-CNN,群卷积神经网络对所构建的域名检测集检测准确率分别提升了4%、1%,达到98.9%。     

小波神经网络预测在住宅市场中应用

利用小波神经网络在非线性建模中的收敛迅速等优越性,提出了利用小波神经网络预测住宅市场需求的方法.通过实例分析说明,他比传统的BP神经网络的收敛速度快、预测精度高,具有较强的函数学习能力和推广能力及广阔的应用前景.     

基于遗传算法的神经网络集成在人耳识别中的应用

BP神经网络算法存在收敛速度慢和网络泛化能力差的缺点,影响分类识别率。为了提高网络的分类识别能力和泛化能力,在此介绍一种基于遗传算法的神经网络集成方法,即训练出多个个体BP神经网络,利用遗传算法选择差异度较大的个体BP网络进行神经网络集成,再利用该神经网络集成进行分类识别。实验结果表明,神经网络集成可以提高识别率。