样本线性化与数据去重的极限学习机

对于多标签分类中存在非线性的数据样本和重复的样本数据问题,本文提出了一种基于在线顺序极限学习机(On?line Sequential Extreme Learning Machine,OS-ELM)的改进算法—样本线性化和数据预处理极限学习机(PDC-ELM).PDC-ELM算法对线性不可分的数据样本先利用核函数进行处理,使数据样本具有线性可分的特征,对于处理后的数据样本,利用在线顺序极限学习机(OS-ELM)在计算之前对分类数据进行预处理,即从训练和测试数据集中查找不一样的特征标签并保存类标签中,实验中新生成的标签组将不具有重复的特征标签,大大减少了训练的对比次数.实验表明,相比于其他没有样本线性化和数据预处理的极限学习机模型,计算的准确度得到很大的提升,计算时间也有所降低.     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间。针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度。首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解。在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机。     

二元裂解算子交替方向乘子法的核极限学习机

凸优化形式的核极限学习机(KELM)具有较高的分类准确率,但用迭代法训练凸优化核极限学习机要较传统核极限学习机的解线性方程法花费更长时间.针对此问题,该文提出一种2元裂解算子交替方向乘子法(BSADMM-KELM)来提高凸优化核极限学习机的训练速度.首先引入2元裂解算子,将求核极限学习机最优解的过程分裂为两个中间算子的优化过程,再通过中间算子的迭代计算而得到原问题的最优解.在22个UCI数据集上所提算法的训练时间较有效集法平均快29倍,较内点法平均快4倍,分类精度亦优于传统的核极限学习机;在大规模数据集上该文算法的训练时间优于传统核极限学习机.     

基于双错测度的极限学习机选择性集成方法

极限学习机(ELM)具有学习速度快、易实现和泛化能力强等优点,但单个ELM的分类性能不稳定。集成学习可以有效地提高单个ELM的分类性能,但随着数据规模和基ELM数目的增加,计算复杂度会大幅度增加,消耗大量的计算资源。针对上述问题,该文提出一种基于双错测度的极限学习机选择性集成方法(DFSEE),同时从理论和实验的角度进行了详细分析。首先,运用bootstrap 方法重复抽取训练集,获得多个训练子集,在ELM上进行独立训练,得到多个具有较大差异性的基ELM,构成基ELM池;其次,计算出每个基ELM的双错测度,将基ELM按照双错测度的大小进行升序排序;最后,采用多数投票算法,根据顺序将基ELM逐个累加集成,直至集成精度最优,即获得基ELM最优子集成,并分析了其理论基础。在10个UCI数据集上的实验结果表明,较其他方法使用了更小规模的基ELM,获得了更高的集成精度,同时表明了其有效性和显著性。     

组合降采样极限学习机

设计了一种针对不平衡数据集的学习机,即组合降采样极限学习机(EUS ELMs)。当训练数据集不平衡时,普通分类器对少数样本的分类敏感性较低,而给予多数样本过度关注。针对这种问题,将组合降采样结构与极限学习机(ELM)结合起来,形成一种新的组合学习机。该学习机继承了组合降采样结构对样本选择的依赖性小的优点,和极限学习机分类效率高、耗时短的优势,而且可以通过不同的参数设置控制对少数样本的关注度,根据使用者需求获得不同分类效果。     

基于改进极限学习机的数据智能化分析算法设计

针对医疗财务数据的风险,文中提出了一种基于灰狼优化算法改进极限学习机的数据分析方法,实现了对数据风险的精准预测。该算法基于极限学习对数据进行深度挖掘和分析,并在此基础上进行改进,通过灰狼优化算法对极限学习机的权重参数进行优化。通过在真实数据集上与极限学习机进行实验对比,本算法的决定系数R2为0.96,优于极限学习机的0.81,验证了所提算法的有效性。同时,为了进一步验证该文算法的优越性,在实验仿真过程中还与多种机器学习算法进行对比,结果表明文中算法的预测效果更为优越,相比于其中表现最佳的SVM也有了0.06的提升。     

基于岭回归正则极限学习机的OFDM系统信道估计

针对正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)系统中信道估计准确度低和算法复杂度高的问题,提出一种基于岭回归正则极限学习机(Regularization Extreme Learning Machine,RELM)的信道估计方法。利用改进的极限学习机网络对信道进行自回归建模,将极限学习机损失函数正则化,通过岭回归方法,可以得到最优的神经网络参数,同时利用先验信道信息完成信道估计。与传统信道估计算法相比,所提信道估计方法仅需较低计算复杂度,即可达到得更低的MSE,从而提供更好的系统误码率性能。     

在线极限学习机及其在图像识别中的应用

针对海量图像数据的识别问题,本文提出了在线极限学习机(online optimized ELM,OP-ELM)。OP-ELM以单隐层前馈神经网络(single hidden layer feed forward networks,SLFNs)为基础,固定了隐含节点数以及节点参数,在在线增量学习过程中综合考虑历史数据和新数据,产生全局唯一的最优解,降低了计算资源的需求,继承了极限学习机(Extreme Learning Machine,ELM)学习速度快泛化性能好的优点。因此非常适合于海量图像数据的在线学习问题。在公开图像数据集Caltech4和Scene13上的实验表明,本文提出的方法取得了与前沿离线识别方法性能相当的识别效果,与基于SVM的在线学习方法LA-SVM相比,在参数规模、参数调节以及学习算法效率方面具有明显优势。     

K插值单纯形法核极限学习机的研究

针对核极限学习机高斯核函数参数选优难,影响学习机训练收敛速度和分类精度的问题,该文提出一种K插值单纯形法的核极限学习机算法。把核极限学习机的训练看作一个无约束优化问题,在训练迭代过程中,用Nelder-Mead单纯形法搜索高斯核函数的最优核参数,提高所提算法的分类精度。引入K插值为Nelder-Mead单纯形法提供合适的初值,减少单纯形法的迭代次数,提高了新算法的训练收敛效率。通过在UCI数据集上的仿真实验并与其它算法比较,新算法具有更快的收敛速度和更高的分类精度。     

基于最小包含球的大数据集快速谱聚类算法

 GRC (Graph-based Relaxed Clustering)是一种具有便捷性和自适应性的谱聚类算法,但对于大数据集,繁重的时间开销限制了其实用性.针对此不足,该文通过对GRC聚类指示向量进行约束并融合中心约束型最小包含球(Center-Constrained Minimal Enclosing Ball,CCMEB)理论提出了大数据集快速谱聚类算法CCMEB-CGRC.该算法继承GRC的便捷性和自适应性的同时又具有渐近线性时间复杂度的优点,从而较好地解决了大数据集快速有效谱聚类的问题.仿真实验的结果验证了该算法的有效性和快速性.     

基于特征提取相似日的ELM短期负荷预测研究

为解决短期电力负荷预测中预测精度差、计算时间长等问题,提出一种基于自组织特征映射网络进行特征提取相似日的极限学习机短期电力负荷预测方法。通过自组织特征映射网络找出与预测日同类型的历史数据作为训练样本;并采用预测能力强、计算时间短的ELM网络进行预测。以某市电力负荷数据进行仿真,并将上述方法与传统神经网络进行对比。仿真算例表明,基于特征提取相似日的ELM方法具有较高的预测精度,泛化性能好,且运算时间短。     

基于持续学习和联合特征提取的特定辐射源识别

针对特定辐射源识别(SEI)识别准确率较低和单次样本学习花销较大的问题,该文提出一种基于增量式学习的SEI方法,设计多个连续增量深度极限学习机(CIDELM)。从截获信号中分别提取变分模态分解(VMD)后的Hilbert谱投影和高阶谱,降维后作为射频指纹(RFF)用于分类;在极限学习机(ELM)中采用稀疏自编码结构对多个隐含层进行无监督训练,并利用参数搜索策略确定最佳隐含层数和隐节点个数,实现对多批次标记样本的连续在线匹配。实验结果表明,该方法对不同调制方式、载波频率和收发距离均能表现出良好兼容性,能够实现对于多个辐射源个体的有效识别。     

用于表示级特征融合与分类的相关熵融合极限学习机

在极限学习机(ELM)网络结构和训练模式的基础上,该文提出了相关熵融合极限学习机(CF-ELM)。针对多数分类方法中表示级特征融合不充分的问题,该文将核映射与系数加权相结合,提出了能够有效融合表示级特征的融合极限学习机(F-ELM)。在此基础上,用相关熵损失函数替代均方误差(MSE)损失函数,推导出用于训练F-ELM各层权重矩阵的相关熵循环更新公式,以增强其分类能力与鲁棒性。为了检验方法的可行性,该文分别在数据库Caltech 101, MSRC和15 Scene上进行实验。实验结果证明,该文所提CF-ELM能够在原有基础上进一步融合表示级特征,从而提高分类正确率。     

基于混合卷积自编码极限学习机的RGB-D物体识别

有效学习丰富的表征信息在RGB-D目标识别任务中至关重要,是实现高泛化性能的关键。针对卷积神经网络训练时间长的问题,提出了一种混合卷积自编码极限学习机（HCAE-ELM）结构,包括卷积神经网络（CNN）和自编码极限学习机（AE-ELM）,该结构合并了CNN的有效性和AE-ELM快速性的优点。它使用卷积层和池化层分别从RGB和深度图来有效提取低阶特征,然后在共享层合并两种模型特征,输入到自编码极限学习机中以得到高层次的特征,最终的特征使用极限学习机（ELM）进行分类,以获得更好的快速泛化能力。文中在标准的RGB-D数据集上进行了评估测试,其实验结果表明,相比较深度学习和其他的ELM方法,文中的混合卷积自编码极限学习机模型取得了良好的测试准确率,并且有效地缩减了训练时间。     

一种基于Dropout约束深度极限学习机的雷达目标分类算法

雷达目标分类在军事和民用领域发挥着重要作用。极限学习机(Extreme Learning Machine, ELM)因其学习速度快、泛化能力强而被广泛应用于分类任务中。然而,由于其浅层结构,ELM无法有效地捕获数据深层抽象信息。虽然许多研究者已经提出了深度极限学习机,它可以用于自动学习目标高级特征表示,但是当训练样本有限时,模型容易陷入过拟合。为解决此问题,该文提出一种基于Dropout约束的深度极限学习机雷达目标分类算法,在雷达测量数据上的实验结果表明所提算法在分类准确率上达到93.37%,相较栈式自动编码器算法和传统深度极限学习机算法分别提高了5.25%和8.16%,验证了算法有效性。      

基于组合模型的短时交通流量预测算法

交通流量预测是实现智能交通技术的核心问题,及时准确地预测道路交通流量是实现动态交通管理的前提,短时交通流量的预测是交通流量预测的重要组成部分。该文针对十字路口的短时交通流量预测问题设计了基于交通流量序列分割和极限学习机(Extreme Learning Machine, ELM)组合模型的交通流量预测算法(Traffic Flow Prediction Based on Combined Model, TFPBCM)。该算法首先采用K-means对交通流量数据在时间上进行序列分割,然后采用ELM对各个序列进行建模和预测。仿真实验证明,与单一的BP(Back Propagation)神经网络和ELM相比,该组合模型算法建模时间为BP的1/10, ELM建模时间的4倍,均方误差为BP的1/50, ELM的1/20,该组合模型算法决定系数R2更接近于1,模型可信度更高。     

混合大数据算法分析营销大数据客户用电行为

针对现有技术分析客户用电行为速度慢、效率低下的问题,提出了新型的大数据算法。该方案采用混合大数据算法实现营销大数据客户用电行为的多种分析,在Apriori算法模型的技术上融入改进型K-means均值聚类算法,通过采用极限学习机(Extreme Learning Machine,ELM)原理,实现营销大数据客户用电行为的快速分类,提高了分类能力。通过数据关联挖掘,准确地发现用户用电行为与影响因素之间潜在关系,提高了用电分析的能力。试验表明,该研究方案准确率高达93%。     

无人机辅助的基于前馈神经网络的节点定位算法

针对无线传感网络(WSNs)的节点定位问题,提出无人机辅助的基于前馈神经网络的节点定位(UAV-NN)算法。UAV-NN算法利用无人机(UAV)作为锚节点,并由UAV周期地发射beacon信号,利用极端学习机(LEM)训练单隐藏前向反馈的神经网络(SLFN),未知节点接收来自UAV发射的beacon信号,并记录其接收信号强度指示(RSSI),已训练的SLFN再依据RSSI值估计节点位置。仿真结果表明,相比于传统的基于RSSI定位算法,提出的UAV-NN算法无需部署地面锚节点;相比其他传统的机器学习算法,UAV-NN算法通过引用ELM,减少了定位误差。