序列泛函网络模型及其学习算法与应用

通过对泛函网络的分析,提出了一种序列泛函网络模型及学习算法,而网络的泛函参数利用梯度下降法来进行学习.在此基础上,给出了9种典型泛函方程对应的序列泛函网络求解模型以及一种基于序列泛函网络学习算法的求解泛函方程方法.通过算例进行仿真实验,结果表明,该方法十分有效,具有收敛速度快、计算精度高、泛化性能好等特点,解决了传统的数值方法难以求解泛函方程这个问题.该方法可用于一般泛函方程求解问题.     

层次泛函网络整体学习算法

文中设计了一类单输人单输出泛函网络与双输人单输出泛函网络作为构造层次泛函网络基本模型,提出了一种层次泛函网络模型,给出了层次泛函网络构造方法和整体学习算法,而层次泛函网络的参数利用解方程组来进行逐层学习．以非线性代数方程组为例,指出人们熟知的一些数学解题方法可以用层次泛函网络来表达,探讨了基于层次泛函网络求解非线性代数方程组学习算法实现的一些技术问题．相对传统方法,层次泛函网络更适合于具有层次结构的应用领域．计算机仿真结果表明,这种层次学习方法具有较快的收敛速度和良好的逼近性能．     

基于小波非线性自回归网络的水文预测模型

不同时间尺度上的水文序列预测在水资源调配和防洪减灾决策中起着重要的作用.提出了一种基于小波分解和非线性自回归神经网络相结合的水文时间序列预测模型(WNARN).运用Daubechies 5(db5)离散小波将水文序列数据分解为低频和高频子序列,作为非线性自回归神经网络模型(NARN)的输入变量,贝叶斯正则化优化算法用来...     

一种基于泛函网络的多项式Euclidean算法

提出一种基于泛函网络的多项式Euclidean计算新模型,给出一种基于泛函网络的多项式Euclidean新算法。网络的泛函参数利用解线性方程组方法来完成。相对于传统方法,该方法不但能够快速地获得所求多项式问题的精确解,而且可获得所求多项式问题的近似解。计算机仿真结果表明,该算法十分有效、可行,可以看作是对传统的Euclidean算法的一种推广。该算法将在计算机数学、代数密码学等方面有着广泛的应用。     

非线性系统的回归网络辨识

针对未知非线性系统的辨识问题,本文提出了一种新型的回归网络模型,证明了该网络模型在一定条件下能够逼近非线性系统的输入输出关系,提出了训练网络前向连接和反向连接权值的动态反向传播算法,伪真结果验证该方法的有效性。     

基于非线性回归的目标航迹预测算法

基于非线性回归对目标航迹进行准确预测是实现目标跟踪的基础。针对传统的卡尔曼滤波在目标行为发生较快变化时航迹预测精度降低的问题,本文提出了一种改进的卡尔曼滤波算法对目标航迹进行预测。该方法结合了目标的实际运动情况,根据预测值和真实值的实时偏差调整滤波过程,将系统方差矩阵转换为可变量,从而可以解决当目标行为明显变化时传统方法预测精度低的问题。实验结果表明,在目标行为状态发生变化的情况下,提出的算法均可以实现对目标航迹的速度、方向和转向角的精准预测。     

层次泛函网络学习算法及其在时间序列分析中的应用

设计了一类单输入单输出泛函网络与双输入单输出泛函网络作为构造层次泛函网络基本模型。提出了一种层次泛函网络模型,给出了层次泛函网络构造方法和学习算法,而层次泛函网络的参数利用解方程组来进行逐层学习。以时间序列中典型的Hénon映射为例,通过比较分析看出,层次泛函网络更适合于时间序列分析。计算机仿真结果表明,这种层次学习方法,对时间序列具有收敛速度快和逼近精度高等特点。     

求解泛函方程的泛函网络方法

给出一种求解泛函方程的泛函网络方法,设计了一种泛函网络模型用于逼近一类泛函方程的实根问题,并给出了相应地学习算法.该算法通过求解线性方程组可得到网络参数.相对于传统方法,该方法不但能够快速求出泛函方程的精确解,而且可获得所求泛函方程的近似解.计算机仿真结果表明,该算法可行有效.     

用泛函网络求任意高阶多项式的近似根

本文提出了一种新的基于泛函网络的多项式求根模型及学习算法，而泛函网络的参数利用解线性不等式组，可得到所求任意高阶多项式近似根的一般参数表达式。文章还讨论了基于泛函网络的多项式求根学习算法实现的一些技术问题，相对传统方法，能够有效地获得任意多项式对应根的参数表达式。     

基于Elman网络的非线性系统神经元自适应预测控制

提出在非线性系统的E1man网络辨识模型的基础上，用单神经元设计预测控制器的方案。Elman网络在BP网络的基础上，加入反馈信号，利用内部状态反馈来描述系统的非线性动力学行为，提高了学习速度，适合于动态系统的实时辨识。神经元结构简单，且有很强的自学习和自适应能力，它根据系统的期望输出与一步超前预测输出之间的偏差，并通过某种特定的学习算法在线调整控制器的参数，使控制器能够适应对象参数的变化，从而实现对一类非线性系统的有效控制。仿真实验证明了该方案的有效性。     

基于LightGBM算法的能见度预测模型

为了提高能见度预报的准确率,尤其是低能见度预报的准确率,提出一种基于集成学习随机森林和LightGBM的能见度预测模型。首先,以数值模式系统的气象预报数据为基础,结合地面气象观测数据、PM_2.5浓度观测数据,利用随机森林算法构建特征向量;其次,针对不同时间跨度的缺失数据,设计了3种缺失值处理方法对缺失值进行替代,生成用于训练和测试的连续性较好的数据样本集;最后,建立基于LightGBM的能见度预测模型,并用网络搜索法对其进行参数优化。把所提模型与支持向量机（SVM）、多元线性回归（MLR）、人工神经网络（ANN）在性能上进行对比。实验结果表明,对于不同的等级的能见度,应用LightGBM的能见度预测模型获得预兆得分（TS）均较高,而对于<2 km的低能见度,该模型对各观测站点的能见度预测值与各观测站点的能见度实况值的平均相关系数为0.75,平均均方误差为6.49。可见基于LightGBM的预测模型能有效提高能见度预测精度。     

基于模糊认知网络的改进非线性Hebbian算法

针对难以用机理模型准确描述的非线性系统,研究基于模糊认知网络(fuzzy cognitive networks,FCN)的非线性系统建模和参数辨识问题.首先,建立非线性系统的具有数值推理和模糊信息表达的模糊认知网络模型,利用包含节点、权值和反馈的有向图表示系统.其次,由于模型的精确性取决于权值参数,提出了一种带终端约束的非线性Hebbian学习算法(nonlinear Hebbian learning,NHL).该算法在权值的学习过程中引入了FCN模型中节点的系统实际值,在原更新机制的基础上,增加了包含反馈值与预测值差值的修正项,然后归一化得到最终权值迭代公式.该算法具有收敛速度快、学习结果精准等优点,解决了传统非线性Hebbian算法对初始值依赖性强的缺点.最后将所提出的方法运用到水箱控制系统,仿真结果说明了基于FCN的非线性Hebbian学习算法的有效性.     

稀疏回归和流形学习的无监督特征选择算法

针对无标签高维数据的大量出现,对机器学习中无监督特征选择进行了研究。提出了一种结合自表示相似矩阵和流形学习的无监督特征选择算法。首先,通过数据的自表示性质,构建相似矩阵,结合低维流形能够表示高维数据结构这一流形学习思想,建立一种考虑流形学习的无监督特征选择优化模型。其次,为了保证选择更有用及更稀疏的特征,采用◢l◣▼2,1▽范数对优化模型进行约束,使特征之间相互竞争,消除冗余。进而,通过变量交替迭代对优化模型进行求解,并证明了算法的收敛性。最后,通过与其他几个无监督特征算法在四个数据集上的对比实验,表明所给算法的有效性。     

基于蚁群优化算法的瓦斯预测模型研究

针对瓦斯煤尘爆炸和煤与瓦斯突出给煤炭矿山企业带来的危害极大的问题,将蚁群优化算法和BP神经网络技术结合应用到瓦斯涌出量预测,建立比较准确的预测模型。重点研究了BP网络模型的选择与优化训练,通过蚁群算法优化解决了BP神经网络易陷入局部收敛的问题。仿真与实际数据验证表明：改进的神经网络算法对瓦斯涌出量预测能达到良好的效果。     

基于遗传算法和强化学习的贝叶斯网络结构学习算法

遗传算法是基于自然界中生物遗传规律的适应性原则对问题解空间进行搜寻和最优化的方法。贝叶斯网络是对不确定性知识进行建模、推理的主要方法,Bayesian网中的学习问题(参数学习与结构学习)是个NP-hard问题。强化学习是利用新顺序数据来更新学习结果的在线学习方法。介绍了利用强化学习指导遗传算法,实现对贝叶斯网结构进行有效学习。     

自适应泛函网络循环结构与代数算法

利用Banach压缩映射原理,结合层次系统的思想,提出一种自适应泛函网络循环结构和代数算法,该循环结构是由多层基本泛函网络构成,每层用代数算法训练结构的泛函参数,从而实现对整体网络结构的逼近学习。通过算例分析表明,该算法具有计算精度高、收敛速度快等特点。     

基于多重回归分析的DV-HOP定位算法研究*

针对无线传感器网络中已有DV-HOP定位算法节点定位精度不高的问题,提出了一种RSDV-HOP（RSSI and statistics DV-HOP）算法。该算法运用统计学中的多重回归分析方法,通过对锚节点信息建立的回归模型,运用到全网中实现对未知节点的定位。仿真结果表明,RSDV-HOP算法在定位精度上相比DV-HOP算法有明显的提高。     

仿生型脉冲神经网络学习算法和网络模型

为解决脉冲神经网络训练困难的问题,基于仿生学思路,提出脉冲神经网络的权值学习算法和结构学习算法,设计一种含有卷积结构的脉冲神经网络模型,搭建适合脉冲神经网络的软件仿真平台。实验结果表明,权值学习算法训练的网络对MNIST数据集识别准确率能够达到84.12%,具备良好的快速收敛能力和低功耗特点;结构学习算法能够自动生成网络结构,具有高度生物相似性。     

Simulation and prediction of hydrological processes based on firefly algorithm with deep learning and support vector for regression

ABSTRACT

Hydrological processes are hard to accurately simulate and predict because of various natural and human influences. In order to improve the simulation and prediction accuracy of the hydrological process, the firefly algorithm with deep learning (DLFA) was used in this study to optimise the parameters of support vector for regression (SVR) automatically, and a prediction model was established based on DLFA and SVR. The hydrological process of Huangfuchuan in Fugu County, Shanxi Province was taken as the research object to verify the performance of the prediction model, and the results were compared with those by the other six prediction models. The experimental results showed that the proposed prediction model achieved improved prediction performance compared with the other six models.     

稀疏自编码和Softmax回归的快速高效特征学习

针对特征学习效果与时间平衡问题,提出了一种快速高效的特征学习方法.将稀疏自编码和Softmax回归组合成一个新的特征提取模型,在提取原始图像潜在信息的基础上,利用多分类器返回值可以反映输入信息的相似程度的特点,快速高效的学习利于分类的特征向量.鉴于标签信息已知,该算法在图像分类效果上明显优于几种典型的特征学习方法.为了使所提算法具有更好的泛化能力,回归模型的损失函数中加入了L2范数防止过拟合,同时,采用随机梯度下降的方法得到模型的最优参数.在4个标准数据集上的测试结果表明该算法是有效可行的.