基于数据均衡化与改进鲸鱼算法优化核极限学习机的变压器故障诊断方法

针对不平衡数据对变压器故障诊断模型辨识精度的影响，提出一种基于自适应综合过采样(ADAptive SYNthetic, ADASYN)与改进鲸鱼算法优化核极限学习机的变压器故障诊断模型。首先，利用ADASYN算法优化变压器故障数据均衡化处理，解决变压器故障数据集类间不平衡给模型带来的偏倚问题。其次，通过多策略组合改进了鲸鱼优化算法(improved whale optimization algorithm, IWOA)的搜索速度、收敛能力和局部极值的逃逸能力。最后，改进鲸鱼算法对核极限学习机(kernel based extreme learning machine, KELM)正则化系数和核函数参数寻优，构建改进鲸鱼算法优化核极限学习机(IWOA-KELM)故障诊断模型。将模型应用于变压器故障诊断领域，用该模型与粒子群算法核极限学习机模型(PSO-KELM)、灰狼算法优化核极限学习机模型(GWO-KELM)和鲸鱼算法核极限学习机模型(WOA-KELM)的诊断精度对比，分别提升14.17%、 12.5%和8.34%,这证明了所提故障诊断模型具有更高的精度和泛化能力。     

基于离群点检测和误差修正的空气质量指数预测

空气质量指数(Air Quality Index, AQI)预测可以为人们日常生产活动以及空气污染治理工作提供指导.针对空气质量指数预测模型受离群点影响较大的问题,利用孤立森林算法对空气质量数据集进行离群点分析,采用离群鲁棒极限学习机模型(ORELM)对空气质量指数进行预测,并构建误差修正模块对模型预测误差进行修正.最后,以北京市空气质量数据作为研究对象,分别利用ORELM模型以及极限学习机(ELM)模型进行预测,并对ORELM模型预测结果进行误差修正.实验结果表明:离群鲁棒极限学习机对离群点数据集泛化性能更强,误差修正模块能有效提高模型的预测精度.     

极限学习机类不平衡数据学习算法研究

尽管极限学习机因具有快速、简单、易实现及普适的逼近能力等特点被广泛应用于分类、回归及特征学习问题,但是,极限学习机同其他标准分类方法一样将最大化各类总分类性能作为算法的优化目标,因此,在实际应用中遇到数据样本分布不平衡时,算法对大类样本具有性能偏向性。针对极限学习机类不平衡学习问题的研究起步晚,算法少的问题,在介绍了极限学习机类不平衡数据学习研究现状,极限学习机类不平衡数据学习的典型算法-加权极限学习机及其改进算法的基础上,提出一种不需要对原始不平衡样本进行处理的Adaboost提升的加权极限学习机,通过在15个UCI不平衡数据集进行分析实验,实验结果表明提出的算法具有更好的分类性能。     

弹性网络核极限学习机的多标记学习算法

将正则化极限学习机或者核极限学习机理论应用到多标记分类中,一定程度上提高了算法的稳定性。但目前这些算法关于损失函数添加的正则项都基于L2正则,导致模型缺乏稀疏性表达。同时,弹性网络正则化既保证模型鲁棒性且兼具模型稀疏化学习,但结合弹性网络的极限学习机如何解决多标记问题鲜有研究。基于此,本文提出一种对核极限学习机添加弹性网络正则化的多标记学习算法。首先,对多标记数据特征空间使用径向基核函数映射;随后,对核极限学习机损失函数施加弹性网络正则项;最后,采用坐标下降法迭代求解输出权值以得到最终预测标记。通过对比试验和统计分析表明,提出的算法具有更好的性能表现。     

基于优化核极限学习机的中期电力负荷预测

针对电力负荷预测,提出了一种优化的核极限学习机(O-KELM)的方法.核极限学习机(KELM)方法仅以核函数表示未知的隐含层非线性特征映射,无需选择隐含层的节点数目,通过正则化最小二乘算法计算网络的输出权值.将优化算法应用于KELM方法中,给出基于遗传算法、微分演化、模拟退火的3种优化KELM方法,优化选择核函数的参数以及正则化系数,以进一步提高KELM方法的学习性能.为验证方法的有效性,将O-KELM方法应用于某地区的中期峰值电力负荷预测研究中,在同等条件下与优化极限学习机(O-ELM)方法、SVM等方法进行比较.实验结果表明,O-KELM方法具有很好的预测性能,其中GA-KELM方法的建模精度最高.     

一种基于鲁棒估计的极限学习机方法

极限学习机(ELM)是一种单隐层前馈神经网络(single-hidden layer feedforward neural networks,SLFNs),它相较于传统神经网络算法来说结构简单,具有较快的学习速度和良好的泛化性能等优点。ELM的输出权值是由最小二乘法(least square,LE)计算得出,然而经典的LS估计的抗差能力较差,容易夸大离群点和噪声的影响,从而造成训练出的参数模型不准确甚至得到完全错误的结果。为了解决此问题,提出一种基于M估计的采用加权最小二乘方法来取代最小二乘法计算输出权值的鲁棒极限学习机算法(RBELM),通过对多个数据集进行回归和分类分析实验,结果表明,该方法能够有效降低异常值的影响,具有良好的抗差能力。     

农业类大数据分类预测算法研究

论文在分析的极限学习机和遗传算法的基础上,提出通过遗传算法选择最优染色体,获得优化的极限学习机输入权值和阈值,提高网络稳定性,降低数据分类误差的方法.算法测试结果表明,基于遗传算法的极限学习机对于特征点较多的农业类数据的分类性能有较大提高.     

基于飞参数据的飞机操纵系统故障评估方法

针对某型飞机的操纵系统故障评估问题,提出了一种基于飞参数据建立的差分进化极限学习机(DE-ELM)算法。该算法融合了差分进化(DE)和极限学习机(ELM)两种算法,通过对飞参数据进行训练,构建了飞机操纵系统的黑箱模型。由于极限学习机(ELM)的输入权值以及隐含层阈值是随机产生的,所以ELM的随机性较大,稳定性不高,故利用寻优能力较强的DE对ELM输入权值和隐含层阈值进行寻优,从而实现ELM的结构优化,提升ELM的稳定性和鲁棒性。仿真结果表明,DE-ELM算法的决定系数达到了97.6%,其均方误差相比于BP神经网络降低了约79%,相比于单纯的ELM降低了64%。所以说该法可以有效提高精确度,同时具有更加良好的泛化性能。     

基于自适应动量优化算法的正则化极限学习机

针对极限学习机(extreme learning machine,ELM)隐节点不确定性导致的系统不稳定,以及对大型数据计算负担过重的问题,提出了基于自适应动量优化算法(adaptive and momentum method,AdaMom)的正则化极限学习机.算法主要思想是构造连续可微的目标函数,在梯度下降过程中计算自适应学习率,求自适应学习率与梯度乘积的指数加权平均值,通过迭代得到损失函数最小值对应的隐层输出权重矩阵.实验结果表明,在相同基准数据集的训练中,AdaMom-ELM算法具有非常良好的泛化性能和鲁棒性,提高了计算效率.     

面对类别不平衡的增量在线序列极限学习机

针对在线序列极限学习机对于类别不平衡数据的学习效率低、分类准确率差的问题,提出了面对类别不平衡的增量在线序列极限学习机(IOS-ELM)。该算法根据类别不平衡比例调整平衡因子,利用分块矩阵的广义逆矩阵对隐含层节点数进行寻优,提高了模型对类别不平衡数据的在线处理能力,最后通过14个二类和多类不平衡数据集对该算法有效性和可行性进行验证。实验结果表明:该算法与同类其他算法相比具有更好的泛化性和准确率,适用于类别不平衡场景下的在线学习。     

单隐层神经网络输入权值的新算法

针对传统极端学习机输入权值与隐层阈值随机设定的问题,提出了输出值反向分配算法。算法在传统极端学习机的基础上,通过优化方法得到最优输出值分配系数,并利用最小二乘法确定网络输入参数。将该算法应用到常用数据集进行实验,并与其他极端学习机改进算法进行比较,显示该算法有良好的学习以及泛化能力,能够得到简单的网络结构,证明了算法的有效性。     

基于天牛群优化与改进正则化极限学习机的网络入侵检测EI北大核心CSCD

正则化极限学习机(Regularized extreme learning machine,RELM)因其极易于实现、训练速度快等优点在诸多领域均取得了成功应用.对此,本文将RELM引入到入侵检测中,设计了天牛群优化算法(Beetle swarm optimization,BSO),并针对RELM由于随机初始化参数带来的潜在缺陷,提出基于天牛群优化与改进正则化极限学习机(BSO-IRELM)的网络入侵检测算法.使用LU分解求解RELM的输出权值矩阵,进一步缩短了RELM的训练时间,同时利用BSO对RELM的权值和阈值进行联合优化.为避免BSO算法陷入局部最优,引入Tent映射反向学习、莱维飞行的群体学习与动态变异策略提升优化性能.实验结果表明,在机器学习UCI数据集上,相比于RELM、IRELM、GA-IRELM、PSO-IRELM等算法,BSO-IRELM的数据分类性能提升明显.最后,将BSO-IRELM应用于网络入侵检测数据集NSL-KDD,并与BP(Back propagation)、LR(Logistics regression)、RBF(Radial basis function)、AB(AdaBoost)、SVM(Support vector machine)、RELM、IRELM等算法进行了对比,结果证明BSO-IRELM算法在准确率、精确率、真正率和假正率等指标上均具有明显优势.     

基于角度优化的鲁棒极端学习机算法

极端学习机因其学习速度快、泛化性能强等优点,在当今模式识别领域中已经成为了主流的研究方向;但是,由于该算法稳定性差,往往易受数据集中噪声的干扰,在实际应用中导致得到的分类效果不是很显著;因此,为了提高极端学习机分类的准确性,针对数据集样本中带有噪声和离群点问题,提出了一种基于角度优化的鲁棒极端学习机算法;该方法利用鲁棒激活函数角度优化的原则,首先降低了离群点对分类算法的影响,从而保持数据样本的全局结构信息,达到更好的去噪效果;其次,有效的避免隐层节点输出矩阵求解不准的问题,进一步增强极端学习机的泛化性能;通过应用在普遍图像数据库上的实验结果表明,这种提出的算法与其他算法相比具有更强的鲁棒性和较高的识别率。     

进化贝叶斯优化的核极限学习机分类器

为解决传统核极限学习机算法参数优化困难的问题,提高分类准确度,提出一种改进贝叶斯优化的核极限学习机算法.用樽海鞘群设计贝叶斯优化框架中获取函数的下置信界策略,提高算法的局部搜索能力和寻优能力;用这种改进的贝叶斯优化算法对核极限学习机的参数进行寻优,用最优参数构造核极限学习机分类器.在UCI真实数据集上进行仿真实验,实验...     

面向类别不平衡数据的主动在线加权极限学习机算法

针对在样本类别分布不平衡场景下,现有的主动学习算法普遍失效及训练时间过长等问题,提出采用建模速度更快的极限学习机,即ELM(Extreme Learning Machine)作为主动学习的基分类器,并以加权ELM算法用于主动学习过程的平衡控制,进而在理论上推导了其在线学习的过程,大幅降低了主动学习的时间开销,并将最终的混合算法命名为AOW-ELM算法。通过12个基准的二类不平衡数据集验证了该算法的有效性与可行性。     

一种加权学习矢量量化算法

针对传统学习矢量量化算法没有考虑属性的重要度差异的问题,提出一种加权学习矢量量化算法．该算法为每一维属性引入一个权重系数,用其表征相应属性在分类过程中的重要程度,并与权向量一同更新．利用输入样本和获胜神经元之间的修正距离的均值,控制权重系数更新的阈值及步长．距离均值确保了更新过程的稳定性,且无需进行权重系数的归一化操作．UCI机器学习数据库中6组数据的实验结果表明,该算法能够有效给出数据的本质属性,尤其是局部型权重系数．与传统学习矢量量化算法及其改进算法相比,识别率高、性能稳定、计算复杂度低．     

基于蚁群优化的极限学习机选择性集成学习算法

针对现有极限学习机集成学习算法分类精度低、泛化能力差等缺点,提出了一种基于蚁群优化思想的极限学习机选择性集成学习算法。该算法首先通过随机分配隐层输入权重和偏置的方法生成大量差异的极限学习机分类器,然后利用一个二叉蚁群优化搜索算法迭代地搜寻最优分类器组合,最终使用该组合分类测试样本。通过12个标准数据集对该算法进行了测试,该算法在9个数据集上获得了最优结果,在另3个数据集上获得了次优结果。采用该算法可显著提高分类精度与泛化性能。     

PCA和PSO-ELM在高炉铁水硅含量中的预测仿真

炉温的实时预测技术对高炉运转具有重要意义。在高炉炼铁过程中,通常以铁水硅含量来表征高炉热状态。针对硅含量预测效率和精度不足的问题,提出主成分分析和粒子群改进的极限学习机相结合的方法对高炉铁水硅含量进行预测。由于影响铁水硅含量的因素众多,且各因素之间相互影响,通过主成分分析对影响硅含量的输入变量进行降维处理。利用粒子群算法来优化极限学习机的权值和阈值,并以均方根误差作为适应度函数建立预测模型。将提取出的主成分作为模型输入,铁水硅含量作为模型输出。最后比较了极限学习机算法和粒子群改进的极限学习机,实验结果表明改进后的预测模型提高了硅含量预测的准确度,上述方法可为高炉的生产操作提供参考。     

基于最大相关熵准则的鲁棒半监督学习算法

分析了噪声对半监督学习Gaussian-Laplacian正则化(Gaussian-Laplacian regularized,简称GLR)框架的影响,针对最小二乘准则对噪声敏感的特点,结合信息论的最大相关熵准则(maximum correntropy criterion,简称MCC),提出了一种基于最大相关熵准则的鲁棒半监督学习算法(简称GLR-MCC),并证明了算法的收敛性.半二次优化技术被用来求解相关熵目标函数.在每次迭代中,复杂的信息论优化问题被简化为标准的半监督学习问题.典型机器学习数据集上的仿真实验结果表明,在标签噪声和遮挡噪声的情况下,该算法能够有效地提高半监督学习算法性能.