优化船舶主机燃油喷射系统故障诊断的GA-Elman神经网络

RBF神经网络进行船舶主机燃油喷射系统故障和诊断的过程中存在着精度不高、误诊率高的缺点.针对这种情况,引入以Elman神经网络为基本识别模型,使用改进遗传算法(GA)对网络的权值和阈值进行优化;使用船舶主机燃油喷射系统故障样本对优化后的算法进行训练并对待识别故障样本进行仿真.对比普通Elman神经网络模型、GA-RBF神经网络模型、GA-Elman神经网络模型的诊断结果.仿真结果显示,改进的GA-Elman神经网络不易陷入局部最小值,误差小,在故障诊断方面优于Elman神经网络和GA-RBF神经网络.     

量子门Elman神经网络及其梯度扩展的量子反向传播学习算法

针对Elman神经网络的学习速度和泛化性能, 提出一种具有量子门结构的新型Elman神经网络模型及其梯度扩展反向传播(Back-propagation)学习算法, 新模型由量子比特神经元和经典神经元构成. 新网络结构采用量子映射层以确保来自上下文单元的局部反馈与隐藏层输入之间的模式一致; 通过量子比特神经元输出与相关量子门参数的修正互补关系以提高网络更新动力. 新学习算法采用搜索然后收敛的策略自适应地调整学习率参数以提高网络学习速度; 通过将上下文单元的权值扩展到隐藏层的权值矩阵, 使其在与隐藏层权值同步更新过程中获取时间序列的额外信息, 从而提高网络上下文单元输出与隐藏层输入之间的匹配程度. 以峰值检波为例的数值实验结果显示, 在量子反向传播学习过程中, 量子门Elman神经网络具有较快的学习速度和良好的泛化性能.     

基于Elman网络的时延预测及其改进

分析了网络传输时延的组成和特点,提出了利用Elman神经网络预测网络传输时延,运用Matlab软件对其预测进行仿真,结果证明Elman神经网络能很好地预测网络时延,为了进一步提高神经网络的逼近能力和动态特性,提出了一种改进的基于输入层、隐藏层、输出层神经元的动态递归神经网络。实验证明,改进的Elman神经网络比原来的网络具有更好的动态性能。     

改进GA-BP神经网络的无线信道预测方法

无线信道建模与仿真中,实现一种高效率、高准确性的无线信道预测方法是具有非常重要意义的。针对该需求,提出一种基于多种群遗传算法（Multi-population genetic algorithm, MPGA）-反向传播（Back propagation, BP）神经网络的无线信道预测方法。该方法通过改进遗传算法,优化BP神经网络中神经元的权值和阈值,以此改善BP神经网络预测精度差的问题,从而极大提高了BP神经网络的预测性能。将射线跟踪算法的理论值和BP神经网络结合,实现更高效的无线信道预测方法。通过对比遗传算法（Genetic algorithm, GA）-BP神经网络模型和MPGA-BP神经网络模型的预测误差,发现MPGA-BP神经网络模型的预测结果优于GA-BP神经网络模型,证明了所提出无线信道预测方法具有良好的精确度,可以更高效地进行无线信道预测。     

基于布谷鸟搜索优化BP神经网络的网络安全态势评估方法

针对现有基于神经网络的网络安全态势评估方法效率低等问题,提出基于布谷鸟搜索（CS）优化反向传播（BP）神经网络（CSBPNN）的网络安全态势评估方法。首先,根据态势输入指标数和输出态势值确定BP神经网络（BPNN）的输入输出节点数,根据经验公式和试凑法计算出隐含层节点数;然后,随机初始化各层的连接权值和阈值,使用浮点数编码方式将权值与阈值编码成布谷鸟;最后,使用CS算法对权值和阈值进行优化,得到用于态势评估的CSBPNN模型并对其进行训练,将网络安全态势数据输入到CSBPNN模型中,获取网络的安全态势值。实验结果表明,与BPNN和遗传算法优化BP神经网络方法相比,基于CSBPNN的网络安全态势评估方法的迭代代数分别减少943和47且预测精度提高8.06个百分点和3.89个百分点,所提方法具有较快的收敛速度和较高的预测精度。     

PSO粒子群算法在神经网络泛化能力中研究

利用PSO粒子群算法对神经网络的权值和阈值,隐藏层中神经元的传递函数系数进行优化。针对网络训练效果好,而泛化能力很差的情况,将训练样本均方差和权值的平方和结合作为PSO算法的目标函数。实验表明,该方法比惯性权值PSO-BP算法和基本梯度下降法好,不但稳定性好,而且预测精度高,泛化能力得到明显加强。     

基于Elman神经网络的齿轮箱故障诊断

针对基于传统BP神经网络的齿轮箱故障诊断方法存在的收敛速度慢、精度不高等问题,提出了一种基于Elman神经网络的齿轮箱故障诊断模型。该模型以齿轮箱特征向量为输入、故障类型为输出,通过改进遗传算法对Elman神经网络的权值和阈值进行优化,将优化后的Elman神经网络用于齿轮箱故障诊断。仿真结果表明,该故障诊断模型加快了网络训练速度,提高了齿轮箱故障诊断的准确度和精度。     

基于PSO-Elman模型的火电厂烟气含氧量预测

针对火电厂烟气含氧量测量精度较低、测量成本较大等问题,提出基于PSO-Elman网络模型的烟气含氧量预测方法。选择合理的相关辅助变量,引入Elman神经网络建立辅助变量与烟气含氧量的关系模型;利用PSO对Elman中所有的权值、阈值进行寻优,将其最优权值和阈值作为初值赋给Elman;经过训练,建立基于PSO-Elman模型的预测模型,完成火电厂烟气含氧量的软测量。通过仿真,与Elman网络和LSSVM模型的预测结果作对比,所提模型具有较高的预测精度和良好的泛化能力。     

改进鲸鱼算法构建混合模型的建筑能耗预测

建筑能耗数据具有非平稳和非线性特征,单一预测模型很难对其进行精准预测,提出一种用于建筑能耗短期预测的新型混合模型。利用互补集合经验模态分解方法(CEEMD)将波动性较大的能耗数据分解为一组本征模态函数和一个残差序列;基于反向学习、差分进化算法并引入控制参数对鲸鱼优化算法(WOA)进行改进,有效解决算法早熟收敛与陷入局部最优等问题,提出改进算法UWOA(upgraded whale optimization algorithm);利用UWOA优化Elman神经网络的权值与阈值,优化后的Elman神经网络对本征模态函数和残差序列进行预测并集成,得到能耗预测值。应用CEEMD-UWOA-Elman混合模型对上海某大型公共建筑能耗进行短期预测,结果显示混合模型获得很好的预测效果。     

自适应差分进化算法优化BP神经网络的时间序列预测

针对BP神经网络学习算法随机初始化连接权值和阈值易使模型陷入局部极小点的缺点,设计了一种自适应差分进化算法优化BP神经网络的混合算法。该混合算法中,差分进化算法采用自适应变异和交叉因子优化BP神经网络的初始权值和阈值,再用预寻优得到的初始权值和阈值训练BP神经网络得到最优的权值和阈值。首先对改进的自适应差分进化算法运用测试函数进行性能测试,然后用一个经典时间序列问题对提出的混合算法进行了检验,并与一般的神经网络、ARIMA预测模型及其它混合预测模型进行了对比,实验结果表明,本文提出的混合算法有效并且明显提高了预测精度。     

Research on using genetic algorithms to optimize Elman neural networks

There is a function of dynamic mapping when processing non-linear complex data with Elman neural networks. Because Elman neural network inherits the feature of back-propagation neural network to some extent, it has many defects; for example, it is easy to fall into local minimum, the fixed learning rate, the uncertain number of hidden layer neuron and so on. It affects the processing accuracy. So we optimize the weights, thresholds and numbers of hidden layer neurons of Elman networks by genetic algorithm. It improves training speed and generalization ability of Elman neural networks to get the optimal algorithm model. It has been proved by instance analysis that new algorithm was superior to the traditional model in terms of convergence rate, predicted value error, number of trainings conducted successfully, etc. It indicates the effect of the new algorithm and deserves further popularization.     

混沌粒子群优化神经网络的井下人员无线定位方法研究

针对井下人员定位系统定位精度较低,不能满足智慧煤矿的需求,提出一种基于混沌粒子群算法优化Elman神经网络的井下人员无线定位方法。该定位方法首先在井下巷道无线网络环境中,利用无线终端采集一定数量的样本点指纹数据库。其次初始化Elman神经网络,利用混沌粒子群优化算法对神经网络权值和自连接反馈增益因子寻优。再次用指纹数据库对优化过的Elman神经网络进行训练和测试,建立神经网络定位算法模型。最后通过无线终端采集定位点的指纹数据,由神经网络定位算法模型进行实时定位。经试验表明,该井下人员无线定位方法平均定位误差为1.35 m;而混沌粒子群算法优化Elman神经网络定位算法,其算法全局搜索能力更强,更适合井下时变环境中应用。     

基于Chaos-MEA-Elman的电离层临界频率f0F2预测

针对飞机高频通信中通信频率选择不当导致信号衰落等问题,提出一种基于混沌理论和思维进化算法优化的Elman神经网络相结合的临界频率f0F2预测方法。分析和验证f0F2时间序列的混沌特性;采用混沌理论重构技术重建f0F2时间序列的相空间,并根据相空间结构确定Elman神经网络各层节点个数;利用思维进化算法优化Elman神经网络的初始权值和阈值。数值和实验分析表明,Chaos-MEA-Elman算法比Elman神经网络对电离层临界频率f0F2的预测精确度更高,为预测飞机最佳通信频率提供新的方法。     

基于权值与结构确定法的单极Sigmoid神经网络分类器

构造了以单极Sigmoid函数作为隐层神经元激励函数的神经网络分类器,网络中输入层到隐层的权值和隐层神经元的阈值均为随机生成。同时,结合利用伪逆思想一步计算出隐层和输出层神经元之间连接权值的权值直接确定(WDD)法,进一步提出了具有边增边删和二次删除策略的网络结构自确定法,用来确定神经网络最优权值和结构。数值实验结果表明,该算法能够快速有效地确定单极Sigmoid激励函数神经网络分类器的最优网络结构; 分类器的分类性能良好。     

基于蚁群算法优化回声状态网络的研究

针对输出权值采用最小二乘法的回声状态网络(ESN),在随机选取输入权值和隐层神经元阈值时,存在收敛速度慢、预测精度不稳定等问题,提出了基于蚁群算法优化回声状态网络(ACO-ESN)的算法。该算法将优化回声状态网络的初始输入权值、隐层神经元阈值问题转化为蚁群算法中蚂蚁寻找最佳路径的问题,输出权值采用最小二乘法计算,通过蚁群算法的更新、变异、遗传等操作训练回声状态网络,选择出使回声状态网络预测误差最小的输入权值和阈值,从而提高其预测性能。将ACO-ESN与ELM、I-ELM、OS-ELM、B-ELM等神经网络的仿真结果进行对比,结果验证经过蚁群算法优化的回声状态网络加快了其收敛速度,改善了其预测性能,并增强了隐层神经元的敏感度。     

The isolation layered optimization algorithm of MIMO polygonal fuzzy neural network

The single-input single-output or multi-input single-output polygonal fuzzy neural network can accomplish some information disposing based on a finite number of points of polygonal fuzzy number. Although it does not depend on a precise mathematical model, it involves logical reasoning, numerical calculation and nonlinear functional approximation. The multi-input multi-output (MIMO) polygonal fuzzy neural network model is proposed for the first time in this article. The two different algorithms are designed in the input layer and hidden layer, respectively, and some parameters of the connection weights in the isolation layered manner can be optimized. Particularly, the neurons in the hidden layer are optimized one by one. Results showed that the isolation layered optimization algorithm of MIMO polygonal fuzzy neural network could improve the computational efficiency and convergent rate.

     

综合优化神经网络算法

以多项式函数作为神经元的激活函数,结合矩阵伪逆的思想预先确定网络权值,并利用区间折半搜寻法自动优化隐层神经元数。通过对Hermit函数的仿真,充分显示了综合优化神经网络算法对函数具有较好的逼近。     

Nonlinear system identification using optimized dynamic neural network

In this paper, both off-line architecture optimization and on-line adaptation have been developed for a dynamic neural network (DNN) in nonlinear system identification. In the off-line architecture optimization, a new effective encoding scheme—Direct Matrix Mapping Encoding (DMME) method is proposed to represent the structure of neural network by establishing connection matrices. A series of GA operations are applied to the connection matrices to find the optimal number of neurons on each hidden layer and interconnection between two neighboring layers of DNN. The hybrid training is adopted to evolve the architecture, and to tune the weights and input delays of DNN by combining GA with the modified adaptation laws. The modified adaptation laws are subsequently used to tune the input time delays, weights and linear parameters in the optimized DNN-based model in on-line nonlinear system identification. The effectiveness of the architecture optimization and adaptation is extensively tested by means of two nonlinear system identification examples.