基于熵方误差的QuasiNewton前馈神经网络

为了提高前馈神经网络学习算法的收敛速度 ,尝试定义熵方误差函数 ,在理论上证明了熵方误差函数的有效性 ,并将其应用于拟牛顿 (QuasiNewton)前馈神经网络。最后与使用其他误差函数的网络算法进行对比实验 ,结果表明引入熵方误差函数的前馈神经网络具有良好的收敛性与稳定性。     

一种快速有效的神经网络新算法

基于输出层函数为线性函数的层前馈神经网络,结合自适应步长和动量解耦的伪牛顿算法及迭代最小二乘法导出了一种混合算法。伪真证明该混合算法自适应能力强,计算量小,收敛速度快,是一种有效的工程实用算法。     

基于H∞方法的鲁棒迭代学习控制设计

针对不确定的线性系统,研究鲁棒梯度型迭代学习控制的设计问题.通过分析系统不确定性对反馈闭环控制和前馈学习控制的影响,给出了保证迭代学习控制在有限时间段上鲁棒收敛的充分条件.依据此条件,将迭代学习控制的设计问题转化为H∞设计问题,提出了一种兼具反馈与前馈作用的鲁棒迭代学习控制律.迭代学习控制的设计过程分为两步进行:先基于H∞方法设计反馈控制器,再采用固定步长的梯度法设计前馈控制器.仿真结果表明了该设计方法的可行性.     

神经网络技术在主蒸汽温度控制系统前馈中的应用

为了解决电厂主蒸汽温度系统的大迟延问题，提出了一种带神经网络前馈控制器的主蒸汽温度串级控制系统.通过对电厂主蒸汽温度的大迟延特性导致的控制难题的详细分析，提出合理设计的前馈控制作用能弥补反馈控制作用的不足,可以有效地解决大迟延系统的控制问题.文中根据电厂熟练运行操作员的实际操作经验和数据，在常规串级PID控制系统的基础上，增加设计了基于神经网络技术的前馈控制器.仿真结果表明，在机组发生负荷扰动时，主蒸汽温度的最大动态偏差降低了13.8％，调节时间缩短了17％，其调节品质明显改善.     

基于改进Fisher准则的深度卷积神经网络识别算法

为了有效利用深度学习技术自动提取特征的能力,并解决当训练样本量减少或者迭代次数降低时识别性能急速下降的问题,提出了基于Fisher准则的深度学习算法.该方法在前馈传播时,采用卷积神经网络自动提取图像的结构信息等特征,同时利用卷积网络共享权值和池化、下采样等方法减少了权值个数,降低了模型复杂度;在反向传播权值调整时,采用了基于Fisher的约束准则.在权值的迭代调整时既考虑误差的最小化,又同时让样本保持类内距离小,类间距离大,从而使权值能更加快速地逼近有利于分类的最优值,当样本量不足或训练迭代次数不多时可有效地提高系统的识别率.大量的实验结果证明:该基于Fisher准则的混合深度学习算法在标签样本不足或者较少训练次数的情况下依然能达到较好的识别效果.     

摄动加权残量法分析薄板几何非线性问题

本文提出了一种摄动加权残量法或称 PWRM。这对我们去解决薄板几何非线性问题提供了一种有效的方法。PWRM 可以克服摄动法用于其他边界形状薄板几何非线性问题所遇到的困难,也可以避免加权残量法须求解非线性代数方程组的缺点,明显地减少了计算工作量。     

基于神经网络的任意延迟M带小波设计

为了获得频率选择性更好的M带小波,提出了一种任意延时的M带余弦调制小波的优化设计方法.基于完全重构滤波器理论,通过修改系统延时参数,可以设计不同的M带双正交或正交小波.对化简为二次型的目标函数和约束条件进行参数设计时,采用增广拉格朗日乘子法将问题等价为无约束的最优化问题,提出了基于离散时间霍普菲尔德神经网络的优化设计结构.神经网络采用最速下降法做迭代运算,降低了算法的复杂度.与现有算法的实验结果相比,所提出的方法实现简单,效率高,而且优化性能更好.     

一种神经网络自适应控制算法

提出了一种基于对象正向模型的神经网络自适应控制算法,它将神经网络与优化方法相结合,对控制量进行优化迭代求解。仿真表明,应用该算法后,系统响应速度快,超调量小,无稳态误差,控制效果好。     

基于非线性HBI网络的转炉冶炼终点预测模型

针对前馈神经网络模型的BP算法自身存在的易陷入局部极小和收敛速度慢等缺陷,耦合同伦理论与BI神经网络模型,建立了基于同伦BI神经网络的转炉终点预测模型分别对转炉终点钢水的碳含量及温度进行预测,并在相同构造下同单纯BI网络模型相比较.结果表明：在网络结构相同的条件下,耦合同伦算法后预测模型的精度得到显著提高,各模型命中率的平均提高量分别为8.6%,20.2%,预测误差绝对值的最大值分别下降了48.4%,44.76%;在计算效率方面,完成相同的计算迭代次数,同伦模型所需时间平均减少14%.     

基于最速下降法改进的人工蜂群算法

针对基本人工蜂群算法求解优化问题时存在收敛精度低、搜索盲目性大的缺点,提出一种基于最速下降法改进的人工蜂群算法.算法利用最速下降法简单、计算量小的特点,对基本人工蜂群算法中经过limit次更新后没有得到改善的蜜源进行更新,它结合了基本人工蜂群算法较强的全局搜索能力和最速下降法快速精确的局部搜索能力,能够有效避免基本人工蜂群算法中的某些盲目的无意义迭代.经过9个标准测试问题的仿真试验表明,所得的人工蜂群算法具有比基本人工蜂群算法更快的收敛速度和更高的求解精度.     

基于遗传算法的结构损伤识别

从遗传算法和神经网络相结合的角度研究了结构损伤识别问题。首先从理论上阐述了遗传算法在研究非线性识别问题中的必要性和有效性 ,然后利用遗传算法与神经网络结合的方法解决结构损伤模型的识别问题 ,说明了遗传算法和神经网络结合后兼有神经网络广泛的映射能力和遗传算法快速的全局收敛性能     

Hopfield神经网络算法求解路网最优路径

为了解决经典算法在求解大规模路网最优路径时运算时间长的问题,研究了Hopfield神经网络的特点,建立了一般路网的数学模型,根据Hopfield神经网络的特点设计了适合车辆诱导的路网Hopfield神经网络最优路径算法.采用动态邻接矩阵对该算法进行了优化,减少了运算时间.把该Hopfield神经网络算法应用于所研发的车辆诱导系统的最优路径求解中,并进行了实际路网测试,结果表明应用该算法能够正确求解路网的最优路径,且比经典算法的运算效率高.     

基于梅尔频谱分离和LSCNet的声学场景分类方法

针对现有频谱分离方法进行声学场景分类研究时其分类准确率不高的问题,提出了一种基于梅尔频谱分离和长距离自校正卷积神经网络(long-distance self-calibration convolutional neural network, LSCNet)的声学场景分类方法。首先,介绍了频谱的谐波打击源分离原理,提出了一种梅尔频谱分离算法,将梅尔频谱分离出谐波分量、打击源分量和残差分量;然后,结合自校正神经网络和残差增强机制,提出了一种长距离自校正卷积神经网络;该模型采用频域自校正算法以及长距离增强机制来保留特征图原始信息,通过残差增强机制和通道注意力增强机制加强了深层特征与浅层特征间的关联度,且结合多尺度特征融合模块,以进一步提取模型训练中输出层的有效信息,从而提高模型的分类准确率;最后,基于Urbansound8K和ESC-50数据集开展了声学场景分类实验。实验结果表明:梅尔频谱的残差分量能够针对性地减少背景噪音的影响,从而具有更好的分类性能,且LSCNet实现了对特征图中频域信息的关注,其最佳分类准确率分别达到90.1%和88%,验证了该方法的有效性。     

改进的输出误差法用于不稳定飞机参数辨识

为解决输出误差法在不稳定飞机参数辨识过程中的数值发散问题以及初值依赖问题,设计了一种结合神经网络、粒子群优化算法以及Levenberg-Marquardt算法的系统辨识方法。首先,为解决输出误差法的数值发散问题,以神经网络拟合待辨识系统的动力学特性。不同时刻的飞行试验数据用于训练神经网络,训练好的网络可以直接对下一时刻的运动状态进行预测,从而避免对不稳定运动方程的求解。其次,基于粒子群优化算法搜索Levenberg-Marquardt算法中的最佳阻尼因子,并以改进的LM算法替代输出误差法中的高斯-牛顿算法。接下来,改进的LM算法与训练好的神经网络结合得到了一种新的参数辨识算法。最后,基于不稳定飞机的闭环仿真飞行试验数据对提出的算法进行了验证。研究结果表明:与传统的最小二乘法和人工稳定的输出误差法的估计结果相比,所采用的算法具有更高的估计精度;同时,所提出的算法中可以随机选取待辨识参数的初值,克服了输出误差法对参数初值的依赖。本文的研究成果可以直接用于其他不稳定非线性动力学系统辨识领域,经过修改后还可以用于其他非线性优化领域。     

单参数动态搜索算法的泛化与容错能力

使用样本训练神经网络的重要问题之一是网络如何能很好地产生训练集外的模式和当样本中含有误差时算法得到的网络是否对该误差敏感,即算法的泛化能力和容错能力是至关重要的。分析了前馈式神经网络的单参数动态搜索算法（SPDS算法）与BP算法在这两方面的区别,指出SPDS算法相对较好。算例也证明了这一结论。     

遗传优化神经网络的一种改进算法

提出一种搜索算子．结合自适应交叉和变异算子,构成了遗传优化神经网络的一种改进算法。将这种算法用于一个算例的计算。与遗传优化BP算法相比较,发现遗传优化BP算法出现了网络瘫痪问题,改进算法则取得了较好的运算结果。     

基于PSO的RBF神经网络在热工系统辨识中的应用

在神经网络辨识大迟延对象时,模型类中迟延时间多是根据经验估测的,而不同的值对神经网络辨识的精度和效率就会不同。针对上述问题,将基于正交最小二乘(OLS)算法的径向基(RBF)神经网络和粒子群优化(PSO)算法相结合对热工系统的复杂对象进行辨识仿真。通过对电厂一次风量数据和平均床温数据的仿真实验结果表明,在RBF神经网络对大迟延对象进行辨识时,通过PSO算法进一步确定其最佳迟延时间,从而得到更精确的模型并提高辨识效率,可以取得良好的效果。     

基于改进BP神经网络的手写邮政编码识别

为解决手写邮政编码识别困难的问题,引入改进的粗网格特征提取方法,对神经网络的网络输入进行简化,并且采用基于LM算法的BP神经网络来进行网络学习。LM算法是一种改进的高斯-牛顿算法,此算法通过简化的网络输入,进一步提高了网络学习的精度、稳定度和学习速度。仿真结果验证了此算法在手写邮政编码识别中的有效性。     

Rough Set Based Fuzzy Neural Network for Pattern Classification

A rough set based fuzzy neural network algorithm is proposed to solve the problem of pattern recognition. The least square algorithm (LSA) is used in the learning process of fuzzy neural network to obtain the performance of global convergence. In addition, the numbers of rules and the initial weights and structure of fuzzy neural networks are difficult to determine. Here rough sets are introduced to decide the numbers of rules and original weights. Finally, experiment results show the algorithm may get better effect than the BP algorithm.     

RBF神经网络的混合学习算法

针对RBF神经网络的最近邻聚类学习算法存在的学习精度不理想和固定网络结构的梯度下降训练学习算法存在的中心不易确定、训练时间长等问题,提出一种基于最近邻聚类中心选取和梯度下降训练的RBF神经网络混合学习算法,解决了RBF网络径向基函数的中心取值问题,提高了网络的学习精度和训练速度.将该算法应用于非线性系统的在线辨识与二维函数的逼近,仿真实验结果证明了该方法的有效性.