多元多项式函数的三层前向神经网络逼近方法

该文首先用构造性方法证明:对任意r阶多元多项式,存在确定权值和确定隐元个数的三层前向神经网络.它能以任意精度逼近该多项式.其中权值由所给多元多项式的系数和激活函数确定,而隐元个数由r与输入变量维数确定.作者给出算法和算例,说明基于文中所构造的神经网络可非常高效地逼近多元多项式函数.具体化到一元多项式的情形,文中结果比曹飞龙等所提出的网络和算法更为简单、高效;所获结果对前向神经网络逼近多元多项式函数类的网络构造以及逼近等具有重要的理论与应用意义,为神经网络逼近任意函数的网络构造的理论与方法提供了一条途径.     

构造前向神经网络逼近多项式函数

首先用构造性的方法证明:对于任意的n阶多元多项式函数,可以构造一个三层前向神经网络以任意精度逼近该多项式,所构造网络的隐层节点个数仅与多项式的维数d和阶数n有关.然后,我们给出实现这一逼近的具体算法.最后,给出两个算例进一步验证所得的理论结果.本文结果对神经网络逼近多元多项式函数的具体网络构造以及实现这一逼近的方法等问题具有指导意义.     

多项式函数的神经网络逼近: 网络的构造与逼近算法

该文作者先用构造性方法证明：对于给定的r阶多项式函数，可以具体地构造出一个三层前向神经网络，以任意精度逼近该多项式，所构造的网络的隐层节点个数仅与多项式的阶数r和网络的输入个数s有关，并能准确地用r表达；然后，给出一个实现这一逼近的具体算法；最后，给出两个数值算例进一步验证所得的理论结果．该文所获得的结果对前向神经网络逼近多项式函数类的网络具体构造以及实现逼近的方法等问题具有较为重要的指导意义．     

基于多项式基函数的泛函网络构造方法与逼近理论

用构造性方法证明:对于给定的r阶多项式函数,可以具体地构造出一个三层泛函网络,以任意精度逼近该多项式,所构造的网络的中问神经元个数仅与多项式基函数的阶数r有关,并能用r表达.该文所得结果对于基于多项式基函数的泛函网络逼近任意函数类的网络具体构造和逼近具有理论指导意义.     

多项式函数的泛函网络构造与逼近算法

关于多项式函数算法优化问题,人工神经网络是解决函数逼近问题的一个重要方法.但由于传统的学习型神经网络存在缺陷,如对初始权重非常敏感,极易收敛于局部极小;收敛缓慢甚至不能收敛;过拟合与过训练;网络隐含节点数不确定等.针对上述问题,提出了一种多项式函数的三层泛函网络与逼近算法,并给出了中间隐层计算单元个数是如何确定.提出的算法能以任意精度逼近多项式函数,同时具有较快收敛速度和良好性能,克服了人工神经网络的不足.最后,给出了两个数值算例进一步验证算法的正确性.     

基于最佳一致光滑逼近的孪生支持向量机研究

孪生支持向量机本质为两个二次规划问题,对于其目标函数中约束变量取正号不可微特性,提出一种基于最佳一致逼近的多项式光滑函数构建方法。分别以Bernstain多项式和Chebyshev多项式进行正号函数最佳一致有效光滑逼近。重点突出Chebyshev多项式的最佳一致逼近过程,使用Remez算法构造最佳一致Chebyshev多项式,讨论各阶Chebyshev多项式逼近状况。最后综合最佳一致逼近多项式和样本适应度构建目标优化函数,采用快速Newton-Armijo算法求解目标优化函数,基于UCI数据验证了方法的优越性。     

正则模糊神经网络是模糊值函数的泛逼近器

通过分析多元模糊值Bernstein多项式的近似特性，证明了4层前向正则模糊神经网络（FNN）的逼近性能，该类网络构成了模糊值函数的一类泛逼近器，即在欧氏空间的任何紧集上，任意连续模糊值函数能被这类FNN逼近到任意精度，最后通过实例给出了实现这种近似的具体步骤。     

基于BP神经网络的隐式曲线构造方法

隐式曲线与曲面是当前计算机图形学研究的热点之一。通过把BP神经网络与隐式曲线构造原理相结合，提出了一种构造隐式曲线的新方法，即首先由约束点构造神经网络的输入与输出，把描述物体边界曲线的隐式函数转化为显式函数；然后用BP神经网络对此显式函数进行逼近；最后由仿真曲面得到物体边界的拟合曲线。该新方法不同于传统的对显式函数的逼近方法，因为传统方法无法描述封闭的曲线；也不同于基于优化的拟合隐式曲线方法，因为它无须考虑函数的形式或多项式的次数。实验表明，该新方法有很强的物体边界描述能力和缺损修复能力，因而在物体边界重建、缺损图像复原等领域有一定的应用前景。     

前向代数神经网络的函数逼近理论及学习算法

文中对ＭＰ神经元模型进行了推广,定义了多项代数神经元、多项式代数神经网络,将多项式代数融入代数神经网络,分析了前向多项式代数神经网络函数逼近能力及理论依据,设计出了一类双输入单输出的前向４层多层式代数神经网络模型,由该模型构成的网络能够逼近于给定的二元多项式到预定的精度。给出了在Ｐ－ａｄｉｃ意义下的多项式代数神经网络函数逼近整体学习算法,在学习的过程中,不存在局部极小,通过实例表明,该算法有效,最     

B样条神经网络的构造理论

文中首先讨论了Ｂ样条基函数的特性,在此基础上采用构造性的方法从理论上了Ｂ样条神经网络能够以任意精度逼近任意定义在致密区间上的连续实函数,最后给出了构造性算法,使用此算法,能在满足误差要求的条件下,构造出几乎最小的Ｂ样条基函数。     

A direct NN‐approximation control for uncertain nonaffine systems with unknown control direction

In this paper, we present an adaptive neural network (NN) controller for uncertain nonaffine systems with unknown control direction. Most of the previous NN‐based controllers included a damping term in the adaptive law of NN weights to ensure the closed‐loop stability. The estimated error of the NN weights as well as the tracking error were therefore increased, relying not only on the size of the NN approximation error but also on the ideal NN weights. Compared with those, the proposed controller evades using the damping term through combining a novel adaptive algorithm and a switching mechanism to update the weights. The NN thus can directly approach a target controller with satisfactory accuracy even if the control direction is unknown. Stability analysis shows that the tracking error and the estimated error of NN weights both converge to small neighbors of 0 which solely depend on the NN approximation error. At last, simulations on a Duffing‐Holmes chaotic model show the effectiveness of the proposed controller in comparison to another NN‐based method.     

一类神经网络逼近全实轴上函数:稠密性、复杂性与构造性算法

在已有的神经网络逼近研究中,目标函数通常定义在有限区间(或紧集)上.而实际问题中,目标函数往往是定义在全实轴(或无界集)上.文中针对此问题,研究了全实轴上的连续函数的插值神经网络逼近问题.首先,利用构造性方法证明了神经网络逼近的稠密性定理,即可逼近性.其次,以函数的连续模为度最尺度,估计了插值神经网络逼近目标函数的速度.最后,利用数值算例进行仿真实验.文中的工作扩展了神经网络逼近的研究内容,给出了全实轴上连续函数的神经网络逼近的构造性算法,并揭示了网络逼近速度与网络拓扑结构之间的关系.     

一种新颖的神经网络稳健估计方法

当神经网络应用于实际工程问题时,网络的训练数据集成或多或少都有噪声或异常值掺入其中,为了使网络具有更好的稳健性,文中根据稳健统计学原理,针对前馈神经网络（ＦＮＮ）提出了一种稳健估计（ＲＥ）函数作为新的网络目标函数。     

Neural networks to determine task oriented dexterity indices for an underwater vehicle-manipulator system

A method for the fast approximation of dexterity indices for given underwater vehicle-manipulator systems (UVMS) configurations is presented. Common underwater tasks are associated with two well-known dexterity indices and two types of neural networks are designed and trained to approximate each one of them. The method avoids the lengthy calculation of the Jacobian, its determinant and the computationally expensive procedure of singular value decomposition required to compute the dexterity indices. It provides directly and in a considerably reduced computational time the selected dexterity index value for the given configuration of the system. The full kinematic model of the UVMS is considered and the NN training dataset is formulated by the conventional calculation of the selected dexterity indices. A comparison between the computational cost of the analytical calculation of the indices and their approximation by the two NN is presented for the validation of the proposed approach. This paper contributes mainly on broadening the applications of NN to a problem of high complexity and of high importance for UVMS high performance intervention.     

A fast adaptive model reduction method based on Takenaka-Malmquist systems

An adaptive model reduction method is proposed for linear time-invariant systems based on the continuous-time rational orthogonal basis (Takenaka-Malmquist basis). The method is to find an adaptive approximation in the energy sense by selecting optimal points for the rational orthogonal basis. The stability of the reduced models holds, and the steady-state values of step responses are kept to be equal. Furthermore, the method automatically ensures the reduced system to be in the Hardy space H₂. The existence of the best approximation in the Hardy space H₂ by n Blaschke forms is proved in the proposed approach. The effectivity of this method is illustrated through three well-known examples.     

一类系统参数辨识的按段多重一般正交多项式方法

本文介绍了按段多重一般正交多项式系及其基本性质,并把它们应用于参数可分离系统的参数辨识.由于采用了按段低阶正交多项式多重逼近技术,该方法具有计算量少、结果精度高、可递推计算及不需要被辨识参数的初始估计等优点.本文提出了两个算法,并成功地应用于发酵过程细菌生长动力学模型的参数辨识.     

基于支持向量机函数逼近的性能研究

通过仿真分析比较支持向量机与前馈神经网络在非线性函数逼近的结果,得出在小样本下,SVM的样本依赖程度、抗噪声能力和泛化性能都优于前馈神经网络。     

Lower Bounds on the Approximation Ratios of Leading Heuristics for the Single-Machine Total Tardiness Problem

The weakly NP-hard single-machine total tardiness scheduling problem has been extensively studied in the last decades. Various heuristics have been proposed to efficiently solve in practice a problem for which a fully polynomial time approximation scheme exists (though with complexity O(n ⁷/)). In this note, we show that all known constructive heuristics for the problem, namely AU, MDD, PSK, WI, COVERT, NBR, present arbitrarily bad approximation ratios. The same behavior is shown by the decomposition heuristics DEC/EDD, DEC/MDD, DEC/PSK, and DEC/WI.     

基于小波变换的线性定常分布参数系统最优逼近控制

借助于正交函数逼近方法研究了线性定常分布参数系统的最优控制问题,将Haar小波正交基应用于分布参数系统的最优控制,获得了性能较好的最优控制逼近算法.仿真实例说明了算法的有效性.     

近似空间的笛卡尔积粗集模型及其可分解性

为处理人工智能中不精确和不确定的数据和知识,Pawlak提出了粗集理论。之后粗集理论得到拓广,人们提出了许多新的粗集模型。拓展的方法主要有两种,一种是减弱对等价关系的依赖,另一种是把讨论问题的论域从一个拓展到两个。Y. Y. Yao提出了一种基于两个论域的粗集模型。现研究基于两个近似空间的笛卡尔积粗集模型,给出了积近似空间的概念,刻画了可分解集合的上(下)近似、近似精度和粗糙度。最后研究了笛卡尔积粗集模型的可分解问题,给出了一个近似空间积可分解的充分必要条件。