基于随机梯度的变动量因子自适应白化算法

针对自适应白化技术中算法的收敛速度问题, 通过融入具有变动量因子特性的动量项,提出了一种快速的自适应白化算法. 该算法利用动量项来加速系统的收敛速度,并基于随机梯度方法对动量因子进行自适应更新,有效提升了白化系统的整体性能. 仿真实验表明本文算法在平稳和非平稳环境下具有良好的性能.     

改进BP算法在热流传感器温度补偿中的应用

针对帕尔贴( Peltier)热流传感器存在温度漂移问题,提出了一种基于改进BP神经网络的温度补偿模型.采用BP算法的多层前馈网络建立起热流传感器输出电压、实验温度与输入热流间的映射关系,又通过增加动量因子和自适应调节学习率来提高网络的收敛速度与增强网络平稳性.研究结果表明:动量因子-自适应学习率算法温度补偿模型效果明显.     

基于改进BP-LMS自适应滤波器算法的仿真研究

传统的LMS自适应滤波器收敛速度较慢,存在步长、收敛速度和失调的矛盾.针对此问题,提出了一种基于神经网络控制的自适应滤波器变步长算法,其中神经网络结构选择改进后BP神经网络模型,在反向传播过程中加入动量因子和自适应学习方法.使用自适应滤波器输入信号、输出信号、误差和步长因子建立网络关系(BP-LMS),确定学习步骤进行...     

一种改进的自适应混合神经网络盲分离算法

传统的前馈神经网络盲源分离算法由于步长固定存在许多缺点,而基于Sigmoid函数的自适应步长算法虽然能够克服固定步长算法的缺陷,但其稳态性能较差。针对这个问题,提出一种改进的自适应步长算法,该算法可灵活地控制步长因子函数的形状,在近零点处变化较Sigmoid函数更加缓慢,性能更加优越;同时针对前馈神经网络的不足,在前馈神经网络结构中引入递归结构,利用改进的自适应步长算法控制学习速率。仿真分析表明该算法具有更快的分离速度和更加优越的分离效果。     

基于健康度的自适应过滤粒子群算法

针对标准粒子群算法存在收敛速度慢和难以跳出局部最优等问题,提出了基于健康度的自适应过滤粒子群算法。首先,通过对粒子健康度的动态检测,区分粒子状态,处理并标记异常粒子,自适应过滤懒惰粒子位置,避免算法陷入局部最优;其次,利用引导因子更新全局最差粒子值,过滤异常粒子数,避免无效搜索,加快算法收敛速度。通过对11个标准函数进行仿真实验,并与标准粒子群和其他改进算法进行对比,结果表明,基于健康度的自适应过滤粒子群算法寻优精度高,收敛速度快。     

求解函数优化问题的改进布谷鸟搜索算法

为了提高布谷鸟搜索算法求解函数优化问题的求精能力和收敛速度,提出了一种基于自适应机制的改进算法.自适应机制用于控制缩放因子和发现概率,以提高种群的多样性,避免早熟,从而使更多的个体参与演化,达到提高求精能力和收敛速度的效果.仿真实验结果表明,与标准的布谷鸟搜索算法相比,基于自适应机制缩放因子的改进算法(rCS)和基于自适应机制发现概率的改进算法(paCS)在求精能力和收敛速度上都有明显的提高;同时具有自适应缩放因子和自适应发现概率的改进算法(iCS)比rCS和paCS具有更优的求精能力和收敛速度.     

改进的音频混合分割方法

针对基于距离和贝叶斯信息准则的混合分割算法在候选分割点确认时存在过于激进、容易造成分割点丢失的问题,提出一种保守的分割点确认方法,使被否定的候选分割点有多次机会被检验;针对固定的惩罚因子无法兼顾准确率和查全率的问题,提出了基于可检测度的惩罚因子自适应算法,并在一个启发式规则的基础上对基于可检测度的惩罚因子自适应进行扩充,实现了基于可检测度和启发式规则的惩罚因子自适应方法.实验结果表明,文中算法明显优于已有算法,且在性能上得到了很大提升.     

基于改进覆盖算法和灰色关联度的案例检索

传统的案例检索算法较少考虑多影响因子对属性权值的作用及属性间关联性。为此,结合改进覆盖算法和灰色关联度优化案例检索,提出基于多影响因子的案例属性权值自适应算法和改进灰色关联度的案例相似度算法,解决案例中属性权值确定和相似度计算问题。实验结果表明,与多种案例检索算法相比,该算法能够克服传统案例检索的缺陷,有效提高案例检索的质量和效率。     

基于串音误差与分离度的变步长EASI盲源分离算法

当源信号各分量差异较大或全局矩阵为非行元素优势矩阵时,基于串音误差的变步长等变自适应分离(EASI)算法难以正确评价分离效果,导致步长选取错误。针对该问题,提出一种改进的变步长EASI算法。通过计算基于串音误差的步长平方根适当增大步长,同时定义信号分离度对步长做进一步调整,减小因串音误差分离结果评价不准确而导致步长错误变小的影响。仿真结果表明,该算法具有较好的步长调节能力,相对传统EASI算法和基于串音误差、基于串音误差步长平方根、基于分离度的变步长EASI算法分离效果更佳。     

自适应策略下Heavy-Ball型动量法的最优个体收敛速率

同时使用自适应步长和动量两种优化技巧的AMSGrad在收敛性分析方面存在比自适应步长算法增加一个对数因子的问题.为了解决该问题,文中在非光滑凸情形下,巧妙选取动量和步长参数,证明自适应策略下Heavy-Ball型动量法具有最优的个体收敛速率,说明自适应策略下Heavy-Ball型动量法兼具动量的加速特性和自适应步长对超...     

Adaptive improved natural gradient algorithm for blind source separation

We propose an adaptive improved natural gradient algorithm for blind separation of independent sources. First, inspired by the well-known backpropagation algorithm, we incorporate a momentum term into the natural gradient learning process to accelerate the convergence rate and improve the stability. Then an estimation function for the adaptation of the separation model is obtained to adaptively control a step-size parameter and a momentum factor. The proposed natural gradient algorithm with variable step-size parameter and variable momentum factor is therefore particularly well suited to blind source separation in a time-varying environment, such as an abruptly changing mixing matrix or signal power. The expected improvement in the convergence speed, stability, and tracking ability of the proposed algorithm is demonstrated by extensive simulation results in both time-invariant and time-varying environments. The ability of the proposed algorithm to separate extremely weak or badly scaled sources is also verified. In addition, simulation results show that the proposed algorithm is suitable for separating mixtures of many sources (e.g., the number of sources is 10) in the complete case.     

信息融合技术在变压器油气识别故障诊断中的研究

变压器故障分为放电性故障和过热性故障两大类别,它们均会在变压器油中有所反映。本文通过对变压器油中主要气体的分析,判断变压器的故障类型。具体方法是:利用改进算法的BP网络和信息融合技术,以变压器油中五种主要特征气体作为神经网络的输入,以六种变压器状态作为相应的输出,通过加入动量因子,可以提高学习率系数,充分发挥改进算法的BP网络具有自适应学习能力的优势。仿真测试结果表明,本方法能够在较大范围内准确有效地进行变压器的故障诊断。     

自适应动量项BP神经网络盲均衡算法

为了消除数字信号在传输过程中产生的码间串扰,使得接收端能够正确解调,对信道畸变进行有效补偿,在基于动量项BP神经网络盲均衡算法的基础上,提出一种能够自适应调节BP神经网络动量项的盲均衡算法.该算法根据盲均衡过程中误差函数的变化情况,自适应调节BP神经网络的动量项,充分发挥动量项在避免网络训练陷于较浅的局部极小点的优势.仿真实验结果表明,该算法在稳定性及收敛性能上均优于固定动量BP神经网络盲均衡算法.     

基于改进型小波神经网络的往复泵故障诊断

为了对往复泵的故障进行正确诊断,提出了基于改进型小波神经网络的往复泵故障诊断方法。以往复泵单个泵缸内的压力信号作为系统特征信号通过小波包分解来提取故障特征向量,同时将此特征向量作为改进型神经网络的输入,利用改进型神经网络对故障做进一步的精确实时诊断。文中对小波神经网络采用的优化算法是：动量因子和学习率自适应调整相结合的梯度下降法,该方法可以提高学习速度并增加算法的可靠性。通过对往复泵液力端多故障诊断实例的检验表明,该系统故障诊断正确率达到了93％以上。     

基于变步长的混合图像自适应盲分离算法

根据混合信号的分离程度,提出了一种新的图像信号分离算法,通过建立分离矩阵控制步长因子变化,利用自适应不完整自然梯度法实现图像的有效分离.新算法既很好地解决了固定步长算法收敛速度和稳态误差之间的矛盾,也解决了其他变步长算法须选择较小初始步长才能实现分离的问题.仿真结果表明新算法收敛速度快,稳态误差小,综合分离性能明显优于...     

基于AdaBelief的Heavy-Ball动量方法

同时使用动量和自适应步长技巧的自适应矩估计(Adaptive Moment Estimation,Adam)型算法广泛应用于深度学习中.针对此方法不能同时在理论和实验上达到最优这一问题,文中结合AdaBelief灵活调整步长提高实验性能的技巧,以及仅采用指数移动平均(Exponential Moving Average,EMA)策略调整步长的Heavy-Ball动量方法加速收敛的优点,提出基于AdaBelief的Heavy-Ball动量方法.借鉴AdaBelief和Heavy-Ball动量方法收敛性分析的技巧,巧妙选取时变步长、动量系数,并利用添加动量项和自适应矩阵的方法,证明文中方法对于非光滑一般凸优化问题具有最优的个体收敛速率.最后,在凸优化问题和深度神经网络上的实验验证理论分析的正确性,并且证实文中方法可在理论上达到最优收敛性的同时提高性能.     

Forecasting foreign exchange rates with an improved back-propagation learning algorithm with adaptive smoothing momentum terms

The slow convergence of back-propagation neural network (BPNN) has become a challenge in data-mining and knowledge discovery applications due to the drawbacks of the gradient descent (GD) optimization method, which is widely adopted in BPNN learning. To solve this problem, some standard optimization techniques such as conjugate-gradient and Newton method have been proposed to improve the convergence rate of BP learning algorithm. This paper presents a heuristic method that adds an adaptive smoothing momentum term to original BP learning algorithm to speedup the convergence. In this improved BP learning algorithm, adaptive smoothing technique is used to adjust the momentums of weight updating formula automatically in terms of “3 σ limits theory.” Using the adaptive smoothing momentum terms, the improved BP learning algorithm can make the network training and convergence process faster, and the network’s generalization performance stronger than the standard BP learning algorithm can do. In order to verify the effectiveness of the proposed BP learning algorithm, three typical foreign exchange rates, British pound (GBP), Euro (EUR), and Japanese yen (JPY), are chosen as the forecasting targets for illustration purpose. Experimental results from homogeneous algorithm comparisons reveal that the proposed BP learning algorithm outperforms the other comparable BP algorithms in performance and convergence rate. Furthermore, empirical results from heterogeneous model comparisons also show the effectiveness of the proposed BP learning algorithm.     

一种改进的 NAS -RIF 水下图像盲复原算法

提出一种基于空域自适应加权因子的 NAS -RIF 图像盲复原算法,算法通过在原 NAS-RIF 算法代价函数中引入空域自适应加权因子,以改善图像复原的逼真和平滑。实验结果表明,改进后的算法信噪比改善增益可以提高2．39dB,复原后图像细节和清晰度有了一定程度的改善。     

保健酒中可见异物的神经网络复合分类方法

保健酒中可见异物个体微小、形状复杂多变,不利于自动分拣。为此,提出一种基于异物几何特征和不变矩特征的神经网络复合分类方法。通过单层感知器进行一级分类以检测毛发类异物,利用BP网络对非毛发类异物进行二级分类。为提高BP网络训练速度,设计动量因子和学习速率可自适应调整的改进学习算法。实验结果表明,该分类方法识别准确度高,识别速度快。