基于核极限学习机自编码器的转盘轴承寿命状态识别

针对低速重载转盘轴承运行工况恶劣、故障特征微弱的特点,提出基于飞蛾扑火算法优化多层核极限学习机自编码器（MFO-MLKELM-AE）的转盘轴承寿命状态识别方法. 该方法从振动信号的时域和时频域中提取出多个能够表征转盘轴承运行状态的特征向量,并将其组成高维特征集. 采用堆叠多层核极限学习机自编码器（MLKELM-AE）,从高维特征集中提取最能反映转盘轴承的寿命状态信息,输入核极限学习机（KELM）模型进行寿命状态识别. 在MLKELM-AE学习训练中,采用新的飞蛾扑火算法（MFO）优化惩罚系数和核参数,提高MLKELM-AE的特征识别能力. 转盘轴承加速寿命实验表明,MLKELM-AE比多层极限学习机自编码器（MLELM-AE）、单层极限学习机（ELM）、KELM的识别精度高,多传感器、多领域特征能够全面反映转盘轴承的寿命状态.     

多层去噪极限学习机

为提高极限学习机-自编码器(ELM-AE)所提取特征的有效性和鲁棒性,提升多层极限学习机(ML-ELM)性能,抑制噪声的影响,本文将极限学习机(ELM)与去噪自编码器(DAE)相结合,在ELM-AE中引入退化过程,提出了极限学习机-去噪自编码器(ELMDAE);并通过堆叠ELM-DAE,构建了多层去噪极限学习机算法(ML-D-ELM)。ML-DELM首先通过堆叠的ELM-DAE逐层提取具有高有效性、鲁棒性的抽象特征,而后运用ELM进行分类,完成由抽象特征到类别标签的映射。在多个常用数据集上的实验结果表明:与ELM、SAE-ELM、ML-ELM算法相比,无论是否存在噪声,ML-D-ELM的分类准确率都有明显上升。对于MNIST数据集,ML-D-ELM分类准确率可以达到98.81%。     

堆叠图嵌入极限学习机算法

极限学习机(Extreme learning machine,ELM)因其训练参数少、学习速度快、泛化能力强等特点,已被广泛应用于训练单隐藏层前馈神经网络。本文首先结合图嵌入框架提出一种新的极限学习机自编码器(GEELM-AE),在ELM空间中挖掘数据的局部近邻结构信息和全局结构信息。在GEELM-AE中,采用局部Fisher判别分析构建了图嵌入框架下的本征图和惩罚图。进而,通过堆叠多个GEELM-AE提出了深度框架下的堆叠图嵌入极限学习机(SGE-ELM)算法。在多个标准数据集上的实验结果表明,与已有算法比较,本文算法获得了更高的精度并具有较快的训练速度。这验证了提出的图嵌入极限学习机自编码器能够对原始数据进行有效的特征表示,堆叠的多层图嵌入极限学习机能够获得数据的有效的高层次抽象表征。     

基于混合核极限学习机的多标签学习研究

为了获得更优算法,将加入混合核的极限学习机算法应用于多标签学习中。首先在极限学习机算法中通过混合核函数将特征映射到高维空间,然后对原标签空间建立混合核极限学习机模型求得输出权值,最后通过模型计算预测未知样本的标签情况。     

基于核极限学习机的火灾预警算法研究

火灾信息处理算法的有效性影响着火灾预警系统的准确性和可靠性,所以智能火灾预警算法研究成为了火灾预警技术的一个研究热点.针对以往火灾信息处理算法的不足,提出了一种基于核极限学习机(KELM)的火灾预警算法.该算法利用核极限学习机对多种传感器采集到的数据进行融合分析,实现火情识别.利用MATLAB对核极限学习机的火灾预警算法进行仿真,通过与BP神经网络火灾预警算法和支持向量机火灾预警算法的仿真结果进行对比,证明了该火灾预警算法较之以往算法的优越性.     

基于Spark的OS-ELM并行化算法

针对Spark平台的弹性分布式数据集并行计算框架机制,提出一种在线连续极限学习机并行处理的改进算法。利用分离在线连续极限学习机矩阵之间的依赖关系,将大规模数据中的高度复杂的矩阵分布到Spark集群中并行化计算,并行计算多个增量数据块的隐藏层输出矩阵,实现OS-ELM对矩阵的加速求解。实验结果表明,该算法在保持精度的同时可有效缩短学习时间,改善了大数据的扩展能力。     

基于核极限学习机的模拟电路故障诊断研究

核函数极限学习机有效地避免了极限学习机(ELM)模型固有的随机性和支持向量机(SVM)模型求解的复杂性,而且具有更快的学习速度和更好的泛化性能。因此,提出了基于核极限学习机的模拟电路故障诊断新方法,描述了电路故障特征的选取过程,建立了以核极限学习机为基础的模拟电路故障诊断模型。实验结果表明,该方法故障诊断准确率大于99%,性能优于支持向量机和极限学习机。     

基于极限学习机的图像超分辨率算法

为了进一步提高基于学习的超分辨率图像重建质量,考虑到极限学习机(ELM)具有学习速度快和良好数据预测与分析能力,提出了1种基于极限学习机的图像超分辨率重建方法.在图像稀疏思想下,将高分辨率图像中的高频细节信息作为原子构建冗余字典.具体是提取训练图像的高频信息,采用改进的K-SVD算法对高低分辨率图像进行字典学习,构建对应的特征字典作为极限学习机的输入训练网络参数,建立超分辨率重建模型.最后仿真实验结果表明,所提算法能取得比对比算法更好的实验数据.     

基于自适应卷积核的改进CNN数值型数据分类算法

针对卷积神经网络(Convolutional neural network,CNN)模型在对工业数值型数据分类方面存在特征使用不充分、模型分类性能不佳等问题,提出了一种基于自适应卷积核的改进CNN(Improved CNN based on adaptive convolution kernel, ACK-ICNN)算法。该算法为了增加特征的重复使用率,构建了一种多尺度卷积核的模型结构,通过融合处理卷积核提取的不同特征来实现,增强了模型的适应能力;为了进一步提升该算法的性能,利用网格搜索算法自适应选取CNN中最优的卷积核大小,使得模型能够提取出最优的特征。采用TE过程的故障数据对其进行测试,并与支持向量机、极限学习机、最近邻等典型的数据驱动方法进行对比,测试结果表明,该算法能有效提升各类故障的分类精度。     

结合降噪自编码与极限学习机的LTE上行干扰分析

针对长期演进LTE网络上行干扰分类模型中噪声敏感、训练时间长的问题,建立了结合堆栈降噪自编码器与极限学习机的LTE网络上行干扰分析模型。使用上行干扰原始数据无监督地预训练堆栈降噪自编码(SDAE)提取高层抽象特征,并为极限学习机(ELM)分类器提供初始参数。该模型发挥了ELM收敛快和SDAE抑制噪声的优势,同时克服了ELM参数随机赋值造成的鲁棒性不足的问题。实验结果表明,该模型提高了LTE网络上行干扰分析的效率,并具有较强的鲁棒性。     

一种选择特征的稀疏在线学习算法

为了有效处理海量、高维、稀疏的大数据,提高对数据的分类效率,提出一种基于L₁准则稀疏性原理的在线学习算法(a sparse online learning algorithm for selection feature, SFSOL)。运用在线机器学习算法框架,对高维流式数据的特征进行新颖的“取整”处理,加大数据特征稀疏性的同时增强了阀值范围内部分特征的值,极大地提高了对稀疏数据分类的效果。利用公开的数据集对SFSOL算法的性能进行分析,并将该算法与其它3种稀疏在线学习算法的性能进行比较,试验结果表明提出的SFSOL算法对高维稀疏数据分类的准确性更高。     

Active label-denoising algorithm based on broad learning for annotation of machine health status

Deep learning has led to tremendous success in machine maintenance and fault diagnosis.However,this success is predicated on the correctly annotated datasets.Labels in large industrial datasets can be noisy and thus degrade the performance of fault diagnosis models.The emerging concept of broad learning shows the potential to address the label noise problem.Compared with existing deep learning algorithms,broad learning has a simple architecture and high training efficiency.An active label denois...     

堆叠稀疏降噪自编码的脑电信号识别

该文以深度学习中的自动编码机为基础,对原始输入向量加入噪声处理,隐含层加入稀疏限制,再将单一的网络结构堆叠成深层神经网络,提出改进算法——堆叠稀疏降噪自动编码机。通过在两个不同数据集（实验室采集数据集和2005年BCI竞赛数据集IVa）进行对比实验,结果表明该算法在运动想象脑电信号的特征提取上具有更强的学习能力和鲁棒性。     

基于支持向量机的增量式算法

为了扩展支持向量机在大规模数据集和成批出现数据领域的应用,提出了一种基于支持向量机的增量式学习算法.利用标准的支持向量机算法训练得到初始的目标概念,通过增量式步骤不断更新初始的目标概念.更新模型是求解一个与标准支持向量机具有类似的数学形式的凸二次规划问题.证明了在可分情况下,如果新增加的样本不是位于边界区,那么增量式过程既不会改变分类平面也不会改变分类平面的表达.与现有的增量式支持向量机算法相比,该算法无需额外计算就可实现增量式的逆过程并且训练时间与增量式步骤数成反比.实验结果表明,该算法满足稳定性、能够不断改进性能以及性能回复三个准则.     

深度自编码网络在入侵检测中的应用研究

当前网络环境下的网络数据呈现出比以往更为庞大、复杂和多维的特性,传统的机器学习方法面临复杂的高维数据需要手动提取大量特征,特征提取过程复杂且计算量大,不利于当前入侵检测实时性和准确性的要求.基于此,以降低数据维度和消除冗余信息为目的,综合利用深度自编码网络(DAN)和BP算法,提出了基于DAN-BP的入侵检测模型.首先通过叠加多个自编码网络构成深度自编码网络模型,将网络特征数据作为模型的输入,使模型能够智能的逐层抽取网络数据的分布规则,从而获得新的低维特征数据集;然后利用BP算法对学习到的低维数据进行分类识别.文中通过在自编码网络中加入正则化修正,防止训练出的自编码网络直接复制输入信息而影响训练效果;且在输入数据中添加噪声,通过学习原始数据和输出数据重构误差达到去噪的目的,从而使得学习到的新的特征数据具有更强的鲁棒性.对比了传统的降维方法和当前入侵检测方法,结果表明本文方法在分类准确率、误报率和检测速率上均具有较优的效果.     

基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法

为了提高AdaBoost集成学习算法的数据分类性能,提出基于合群度-隶属度噪声检测及动态特征选择的改进AdaBoost算法. 综合考虑待检测样本与邻居样本的相似度及与不同类别样本集的隶属关系,引入合群度和隶属度的概念,提出新的噪声检测方法. 在此基础上,为了更好地选择那些能够有效区分错分样本的特征,在传统过滤器特征选择方法的基础上提出通用的结合样本权重的动态特征选择方法,以提高AdaBoost算法针对错分样本的分类能力. 以支持向量机作为弱分类器,在8个典型数据集上分别从噪声检测、特征选择及现有方法比较3个方面进行实验. 结果表明,所提算法充分考虑了噪声样本和样本权重对AdaBoost分类结果的影响,相对于传统算法在分类性能上获得显著提升.     

快速随机多核学习分类算法

Multiple kernel learning (MKL) combines multiple kernels in a convex optimization framework and seeks the best line combination of them. Generally, MKL can get better results than single kernel learning, but heavy computational burden makes MKL impractical. Inspired by the extreme learning machine (ELM), a novel fast MKL method based on the random kernel is proposed. When the framework of ELM is satisfied, the kernel parameters can be given randomly, which produces the random kernel. Thus, the sub-kernel scale is reduced largely, which accelerates the training time and saves the memory. Furthermore, the reduced kernel scale can reduce the error bound of MKL by analyzing the empirical Rademacher complexity of MKL. It gives a theoretical guarantee that the proposed method gets a higher classification accuracy than traditional MKL methods. Experiments indicate that the proposed method uses a faster speed, more small memory and gets better results than several classical fast MKL methods.     

Fault Diagnosis for Rolling Bearings with Stacked Denoising Auto-encoder of Information Aggregation

信息融合型的层叠去噪自动编码器的轴承故障诊断研究

张利，高欣，徐骁

（辽宁大学 信息学院，沈阳 110036）

创新点说明：

1）针对轴承故障信号的复杂性，提出了融合性的层叠去噪自动编码器，其主要方法在于综合了隐藏层结点的信息，对每一个结点的输入信息进行加权，从而更好的包含特征信息。

2） 利用主元分析法的立体抽象形式，进行特征信息的表达比二维更易发掘。

3）利用证据理论，对不同的信息进行融合表达。

研究目的：

主要针对轴承故障信号的敏感特征不易发觉而提出一种信息融合型的去噪自动编码器方法。

研究方法：

在研究中采用西储大学的轴承数据进行测试，研究的对象包括正常，内圈，外圈以及滚动故障的4种类型数据。

其中，考察的指标为:转速，负载量，直径，采样单元。如下表所示:

基于多描述子分层特征学习的图像分类

为解决图像分类任务中词袋(Bag-of-Words)模型分类算法单一局部描述子信息缺失、特征量化误差较大、图像特征表现力不足等问题,提出一种基于多描述子分层特征学习的图像分类方法.结合尺度不变特征变换(SIFT)与形状核描述子(KDES-S)进行局部特征提取,并构建分层特征学习结构来减少编码过程中的量化误差,最后将图像特征分层归一化后进行线性组合并利用线性支持向量机(SVM)进行训练和分类.在Caltech-101、Caltech-256、Scene-15数据库上进行实验,结果表明:相比其他图像分类方法,本文方法在分类准确率上具有显著提升.