基于残差神经网络的风机叶片结冰故障诊断

风力发电机叶片结冰故障直接影响风力发电机的运行安全和发电效率。针对这一问题，提出一种基于一维残差神经网络(1DRes-CNN)的叶片结冰诊断模型，该模型通过风机SCADA数据进行风机叶片结冰故障诊断。首先通过标记标签、数据分割、类间平衡和归一化对SCADA数据进行预处理；然后基于叶片结冰物理机制和XGBoost特征重要性计算选取与叶片结冰最相关的特征；最后利用构建好的1DRes-CNN模型进行叶片结冰诊断、实验结果表明，经过优化选取的特征，相较于SCADA全部特征作为1DRes-CNN模型输入，风叶结冰诊断准确率提升约为7 %。此外，与卷积神经网络、支持向量机和随机森林模型相比，该模型具有更高的诊断性能和泛化能力。     

基于ITD-MFCC与卷积神经网络的核电电气设备异音检测技术

针对核电设备小样本异音数据集无法训练出高效预测模型难题，提出一种基于ITD-MFCC和卷积神经网络的电气设备异音检测方法。首先，利用固有时间尺度分解(Intrinsic Time-scale Decomposition,ITD)强化信号特征，增强特征辨识度；然后，利用梅尔频率倒谱系数(Mel-frequency Cepstral Coefficients,MFCC)提取与人耳听觉特性关联的时频特征，进一步增强异音特征辨识度；最后，融合所提取特征指标，并利用卷积神经网络对融合特征进行训练，建立异响与数据特征映射关系，实现异音检测。试验结果表明：所设计的模型在小样本数据中准确率达到97.63%，相比于现有的支持向量机(Support Vector Machine,SVM)和BP神经网络模型准确率分别提升10.43%和12.86%。     

基于小波散射卷积神经网络的结构损伤识别

损伤识别是结构状态评估领域的关键问题之一，对确保结构安全性有重要意义。深度学习算法在基于振动的结构损伤识别方面带来了许多突破，但从海量数据中挖掘结构损伤关键信息仍是亟待解决的技术难题。该研究提出了基于一维卷积神经网络(one-dimensional-convolutional neural network, 1D-CNN)深度学习的结构多类型损伤识别模型，采用小波散射变换对1D-CNN架构第一层卷积滤波器进行替换，通过散射系数实现输入层原始数据降维与特征提取，结合CNN卷积层、激活层和池化层实现监测数据特征增强处理。在此基础上，结合1D-CNN全连接层与Softmax函数实现特征数据分类，从而实现结构多类型损伤定位与定量高效识别。通过钢桁架结构和斜拉桥两种数值模型对上述框架进行了验证。结果表明：与普通卷积神经网络模型相比，基于小波散射卷积神经网络的结构损伤识别精度显著提升，损伤分类准确率达95.0%以上。随着传感数据环境噪声比例的增加，小波散射卷积神经网络损伤分类准确率虽略有下降，但仍保持较高精准度，说明该方法具有较强的鲁棒性抗噪能力。     

基于卷积神经网络优化的水轮机振动信号识别

提出了一种基于蝙蝠算法优化卷积神经网络的水轮机振动信号识别方法。首先对水轮机时域加速度振动信号进行测量、提取和归一化处理,采用蝙蝠算法对卷积神经网络训练过程中的超参数权值和偏置值进行优化,然后对10 种不同测点的水轮机振动信号进行实验,针对每个测点的振动信号对水轮机8 种不同工况进行区分识别,最后将信号识别过程中各参数对传统卷积神经网络识别结果的影响进行针对性分析。结果表明：所建立的基于蝙蝠算法优化卷积神经网络的识别模型具有良好的稳定性和较高的识别精度,能够准确识别振动信号,识别结果准确率均在94 %以上,与传统卷积神经网络对比,信号识别准确率显著提升,最高达到20.78 %。同时可以看出,振动数据输入长度、样本尺寸和训练次数对传统卷积神经网络训练效果影响显著。研究结论可为水轮机振动识别、工况识别和故障识别提供理论依据。     

基于增量学习的数控机床故障诊断系统

针对数控机床中主轴轴承和刀具同时出现故障或机床主轴转速改变时的故障诊断问题,提出了基于增量学习的深度卷积诊断模型。首先,将常用转速下的主轴轴承和刀具振动数据集,输入结合了批量归一化算法的一维卷积神经网络,实现单一转速下故障诊断;然后,人工判断跨转速诊断时的未知故障类型,对其打标签后重新输入网络,通过增量学习实现知识迁移并使模型学习新数据特征;最后模型在跨转速故障诊断领域的准确率为76.49%~86.09%,且与Fine Tuning和Joint Training两种经典跨领域算法相比,基于增量学习的深度卷积诊断模型提高了准确率,缩短了训练用时。     

基于残差神经网络的风机叶片结冰故障诊断

风力发电机叶片结冰故障直接影响风力发电机的运行安全和发电效率.针对这一问题,提出一种基于一维残差神经网络(1DRes-CNN)的叶片结冰诊断模型,该模型通过风机SCADA数据进行风机叶片结冰故障诊断.首先通过标记标签、数据分割、类间平衡和归一化对SCADA数据进行预处理;然后基于叶片结冰物理机制和XGBoost特征重要...     

基于物体检测及关系推理的视觉问答方法研究

大多数图像描述及视觉问答任务中,主要工作是对图像数据的拟合分类,而缺乏图像中物体之间的关系推理,导致描述图像或回答问题时准确率不高.为解决该问题,本文提出一种基于物体检测及关系推理的视觉问答模型.该模型由上游网络和下游网络两部分组成,上游网络采用极快速区域卷积神经网络,下游网络由多层感知机组成的多模态特征融合推理网络构成.上游网络对图像进行物体检测与特征提取,利用长短期记忆网络对提问的问题进行信息提取以嵌入下游网络;下游网络对问题和图像的特征进行融合和推理,进而得出答案.采用数据集CLEVR进行模型训练与视觉问答测试,实验结果表明,本模型与其他已有模型相比,图像中物体之间关系推理的准确率获得了提高,达到98.96%.     

深度可分离卷积神经网络在自动分拣中的应用

针对传统的花卉分类算法在工业自动化分拣应用中出现模型参数过大、分拣精度不高的问题,提出一种基于深度学习的花卉识别算法。介绍了花卉分类算法在工业花卉包装分拣系统中的应用;根据实际需求,采用一种深度可分离卷积神经网络提取花卉特征,并详细分析了网络的模型结构;为了提高模型训练速度,提出了一种微调的模型训练方法。实验结果表明,所采用的花卉分类算法在工业花卉自动分拣的应用中相比传统算法,准确率更高、稳定性更好、应用更加广泛。     

基于脉冲神经网络的钢材表面缺陷识别研究

目的 针对现有钢材缺陷识别算法特征图利用不充分、识别准确率低、参数量大等问题,基于脉冲神经网络,提出一种用于钢材缺陷识别的稠密卷积脉冲神经网络(DCSNN)模型,减少系统消耗和内存占用。方法 首先,采用卷积编码,对输入图片进行特征提取和编码。其次,采用稠密连接算法搭建稠密卷积脉冲神经网络,实现特征重复利用,抑制梯度消失,并通过替代梯度下降算法进行网络训练。最后,在带钢数据集上进行测试,实现带钢缺陷识别。结果 实验结果显示,DCSNN在测试集上的准确率为98.61%,参数量为0.5万,结论 在钢材表面缺陷识别问题上表现出良好效果。     

改进TCPN变工况轴承故障诊断方法

针对变工况条件下传统方法仅提取局部特征导致准确率低以及样本维度过高导致训练耗时巨大等问题,提出一种改进的时域卷积池化网络模型（Temporal Convolutional Pooling Neural Network,简称TCPN）。首先,将原始轴承振动信号经过短时傅里叶变换得到二维时频矩阵,再将二维时频矩阵平铺为一维时频序列,并取绝对值;其次,虽然膨胀卷积可以大幅度扩大感受野,但是对于轴承振动信号等高维特征仍需要较深的网络结构,因此对膨胀卷积进行结构优化,用于挖掘全局特征,同时降低模型复杂程度。再次,为模糊不同工况下相同故障的分布差异,对残差块进行结构优化,使用小卷积核提取局部特征,以拼接的方式与膨胀卷积进行特征融合,兼顾轴承振动信号中的全局特征与局部特征;最后,为了解决训练样本维度太高导致的训练成本过高的问题,对原始数据进行降采样研究,在保持较高准确率的情况下大量节省了训练时间。将所提方法与传统卷积神经网络及时域卷积神经网络（Temporal convolutional neural network,简称TCN）相比,实验结果表明,提出的模型准确率提高约5%,模型训练耗时降低约30...     

基于SENet双路径多尺度特征融合的ECT图像重建

针对单一神经网络在电容层析成像图像重建过程中难以捕捉复杂、深层电容向量特征的问题，提出一种基于压缩激励网络(squeeze-and-excitation networks, SENet)双路径多尺度特征融合的电容层析成像图像重建算法。构建多尺度密集深度空洞卷积模块，使模型获得更大的局部感受野的同时可以保持较低计算复杂度，并实现多尺度特征融合，以捕获电容向量的多尺度细节特征，增强模型的表征能力；采用残差神经网络解决深层网络提取特征时出现的退化现象，并添加SENet模块重新标定电容特征张量所属通道对应权重，校准特征响应。形成具有双向特征提取能力的双通道多特征融合的混合模型，以更好的拟合电容张量与介电常数之间的非线性映射关系。试验结果表明，BSFF算法相对于Landweber迭代算法、CNN算法等具有更高的图像重建质量，更好的鲁棒性。     

基于均值特征和改进深度神经网络的说话人识别算法

为提高神经网络在说话人识别应用中的识别性能,提出基于高斯增值矩阵特征和改进深度卷积神经网络的说话人识别算法。算法首先通过最大后验概率提取基于梅尔频率倒谱系数（Mel Frequency Cepstrum Coefficient,MFCC）特征的高斯均值矩阵,并对特征进行噪声适应性补偿,以增强信号的帧间关联和说话人特征信息,然后采用改进的深度卷积神经网络进一步对准帧间信息,以提高说话人识别特征对背景噪声的适应性。实验结果表明,相比于高斯混合模型-通用背景模型等识别框架及传统MFCC等特征,该算法可取得更高的识别准确率和最小的识别均方误差。     

DeepESC网络的环境声分类方法研究

为进一步提升环境声分类的识别率，提出了一种仿深度隐藏身份特征（Deep Hidden Identity Feature，DeepID）网络连接方式的卷积神经网络——深度环境声分类网络（Deep Environment Sound Classification，DeepESC）。DeepESC网络共有六层——三层卷积层、两层全连层以及一层聚合层，为使网络在自动抽取高层次特征的同时能有效地兼顾低层次特征，网络将三层卷积层的输出聚合为一层，该层充分包含不同层次的特征，提升了卷积神经网络的特征表达能力。ESC-10和ESC-50数据集上的仿真结果表明：在相同的识别框架下，与随机森林分类器相比，本文网络识别率分别平均提升了7.6%和22.4%，与传统的卷积神经网络相比，识别率分别平均提升4%和2%，仿真实验验证了本文分类器的有效性。     

基于贝叶斯优化与改进LeNet-5的滚动轴承故障诊断

考虑到卷积神经网络在滚动轴承故障诊断中存在网络结构难以确定、训练次数过多、时间过长等问题,设计了一种贝叶斯优化改进LeNet-5算法,以及采用该算法构建的轴承故障诊断模型。采用贝叶斯优化训练过程中学习率等超参数,多种故障轴承的振动信号直接作为改进LeNet-5网络的输入,对池化输出采用批归一化处理和改进池化层激活函数防止过拟合,利用全局平均池化层替代全连接层提高改进LeNet-5网络的泛化能力,用Softmax分类器实现滚动轴承故障的分类。通过轴承数据库开展实验,实验表明,该算法构建的轴承故障诊断模型在训练集上准确率为99.94%,验证集上的准确率为99.89%,测试集准确率也达到99.65%,与一维卷积神经网络和二维卷积神经网络对比分析,基于贝叶斯优化改进LeNet-5算法构建的轴承故障诊断模型在滚动轴承的故障诊断模型具有更高的准确率,更少的训练次数和训练时间。     

用于声音分类的Deep LightGBM算法

在医学诊断、场景分析、语音识别、生态环境分析等方面语音分类都有着广泛的应用价值。传统的语音分类器采用的是神经网络。但是在精确度,模型设置,参数调整和资料的预处理等方面,有较大的缺陷。在这一基础上,文章提出了一种以“深度森林”为基础的改进方法——LightGBM的深度学习模型（Deep LightGBM模型）。它能够在保证模型简洁的前提下,提高分类精度和泛化能力。该算法有效降低了参数依赖性。在UrbanSound8K这一数据集中,采用向量方法进行语音特征的提取,其分类精确度达95.84%。将卷积神经网络（Convolutional Neural Net‐work,CNN）抽取的特征和向量法获取的特征进行融合,并利用新的模型进行训练,其准确率可达97.67%。实验证明,此算法采用的特征提取方式与Deep LightGBM配合获得的模型参数调整容易,精度高,不会产生过度拟合,并且泛化能力好。     

基于卷积神经网络的水下多目标方位估计方法

针对水下多目标方位估计问题,提出了一种利用卷积神经网络模型对目标声源进行方位估计的方法。该方法使用不等强度的声源数据进行训练并使用焦点损失函数作为训练损失函数。通过对阵列接收到的信号进行特征提取,使用焦点损失函数指导卷积神经网络训练,最终利用训练好的卷积神经网络模型进行目标方位估计。对不同模型参数的训练进行对比,结果表明所训练的卷积神经网络模型在较低信噪比条件下也能正确估计弱目标的方位。试验结果表明,与采用二元交叉熵损失函数的卷积神经网络模型相比,该方法对弱目标的方位估计能力更强,提高了方位估计的准确率。     

基于SCADA数据的风机叶片结冰检测方法

针对工作在寒冷地区的风机易出现的叶片结冰现象,提出一种基于SCADA数据的风机叶片结冰检测方法。根据叶片结冰会增大发电机的功率损耗,选择风速与网侧有功功率2个变量,利用主成分分析技术构造对叶片结冰敏感的风速与网侧有功功率在非主成分方向投影特征,通过选择最优阈值使逻辑回归分类器适用于不平衡分类,可以实现风机叶片结冰检测自动化与智能化。通过中国工业大数据创新竞赛数据验证了该方法的有效性。     

基于多域多尺度深度特征自适应融合的焊缝缺陷检测研究EI北大核心CSCD

针对焊缝缺陷检测信号信息丰富度低、深度网络架构人工依赖性强等问题,开展基于多域多尺度深度特征自适应融合的焊缝缺陷检测研究。构建时域数据集并衍生至实数域与复数域中,丰富检测信号的特征表达;设计多域信息融合模型,充分融合特征域信息;提出面向卷积神经网络多维超参数自寻优的模型优化策略,提高模型的效率和性能。试验表明,所提方法对五类焊缝缺陷识别准确率为96.54%,能够在提升识别准确率同时保持较少的参数量和计算消耗,具有较强的实用性和泛化性。     

基于ALO-BP神经网络和机械零件加工特征的工艺方案决策

针对传统制造企业工艺知识应用不充分,用于工艺方案决策过程的部分BP神经网络决策效率和准确率不高的问题,采用蚁狮优化(Ant Lion Optimizer, ALO)算法优化的BP神经网络构建了基于零件加工特征的工艺方案智能决策模型。首先对产品及工艺数据进行预处理,其次应用蚁狮优化算法对BP神经网络的初始化权值和阈值进行优化,最终基于样本数据集开展神经网络训练,进一步建立智能决策系统,并以柴油机零件为对象进行了工艺方案决策方法的应用验证。实例验证表明,采用优化的BP神经网络后,决策的速度和精度都有明显的提升;所构建决策系统是可行的,能够用于工艺方案的决策。     

卷积神经网络中激活函数的一种改进

卷积神经网络中激活函数的作用是激活神经元的特征,然后保留并映射出来,这是人工神经网络能模拟人脑机制,解决非线性问题的关键.针对传统卷积神经网络出现的震荡、不收敛甚至过拟合的情况,对激活ReLU函数进行优化.提出一种新型矫正激活函数,称其为ReLU阈值函数.通过对数据集caltech101和caltech256进行训练,证明其在图片分类上的性能要优于ReLU函数.其中用Alexnet网络模型对caltech101数据集进行训练时的分类准确率由之前的97.7%提高到99.3%,对caltech256数据集进行训练时的分类准确率由之前的65.4%提高到92.3%.