基于栈式混合编码器的水质传感器数据融合算法

由于浅层神经网络网络结构和训练方式的限制,网络学习能力和泛化能力在大样本条件下没有深度学习网络强,为此,提出了一种基于栈式混合编码器的水质传感器数据融合算法。该算法通过堆叠自动编码器和稀疏自动编码器形成深度学习网络模型,实现对样本数据的特征挖掘和稀疏表示。经过大规模样本训练后的网络模型能够拟合复杂非线性函数,对低质量的样本数据有一定的泛化能力,并提高预测分类的精度。仿真结果证明,提出的算法取得了更高的评价分类准确率。     

注意力增强的视觉Transformer图像检索算法

基于深度哈希的图像检索方法往往利用卷积和池化技术去提取图像局部信息,并且需要不断加深网络层次来获得全局长依赖关系,这些方法一般具有较高的复杂度和计算量。本文提出了一种注意力增强的视觉Transformer图像检索算法,算法使用预训练的视觉Transformer作为基准模型,提升模型收敛速度,通过对骨干网络的改进和哈希函数的设计,实现了高效的图像检索。一方面,本文设计了一个注意力增强模块,来捕获输入特征图的局部显著信息和视觉细节,学习相应的权重以突出重要特征,并增强输入到Transformer编码器的图像特征的表征力。另一方面,为了提高图像检索的效率,设计了一种对比哈希损失函数,生成具有判别力的二进制哈希码,从而降低了内存需求与计算复杂度。在CIFAR-10和NUS-WIDE数据集上的实验结果表明,本文提出的方法,在两个不同数据集上使用不同哈希码长度的平均精度均值达到了96.8%和86.8%,性能超过多种经典的深度哈希算法和其他两种基于Transformer架构的图像检索算法。     

基于改进SAE网络的织物疵点检测算法

针对传统织物缺陷检测手工提取特征困难,疵点样本有限的问题,结合卷积自编码器(CAE),提出一种基于Fisher准则的栈式去噪自编码器算法(FSDAE)。首先从原始图像中截取若干小块图像,采用稀疏自编码器(SAE)训练,得到小块图像的稀疏性特征;其次利用该特征,初始化CAE网络参数,提取原始图像的低维特征;最后将该特征数据送入FSDAE网络进行疵点检测分类。分别对3类织物进行测试,实验结果表明,算法能够有效地提取织物图像的分类特征,且通过加入Fisher准则,提高了织物疵点的检测率。     

基于深度学习的电网短期负荷预测方法研究

深度模型通过学习一种深层非线性网络结构以实现复杂函数逼近,具有很强的自适应感知能力。本文为了提高电力负荷预测精度,提出一种基于栈式自编码神经网络的深度学习预测方法。该方法结合自编码器和逻辑回归分类器构建一个多输入单输出预测模型,并将重构后的历史负荷、气象信息等数据输入到预测模型中,用栈式自编码器逐层学习并提取深层特征,最后在网络顶层连接逻辑回归模型进行短期负荷预测。实例分析表明,所提预测模型能够有效刻画日负荷变化规律,泛化能力较强,其预测精度达到96.2%,比支持向量回归和模糊神经网络两种浅层学习模型更高。     

平行堆栈式自编码器及其在过程建模中的应用

在面对流程工业存在的多参数、强非线性和富含复杂机理等问题时浅层算法的学习能力有限,故将深度学习理论引入过程工业预测建模中。而针对单个深层网络对多样性数据的特征挖掘困难,本文提出一种改进的堆栈式自编码器。该方法首先通过聚类算法对输入数据属性进行聚类,按结果将数据分类后输入并行的稀疏自编码器中进行特征的模块式提取,并行输出经整合后输入至叠加的深度网络中,联合这些特征再进行逐层学习得到拟合结果。为减轻过拟合带来的预测误差,将"dropout"方法引入网络训练中。在加氢裂化的预测建模研究中,所提出的算法具有比其他方法更好的预测水平和泛化能力。     

基于SAE-ELM的电动汽车充电站负荷预测模型

电动汽车(electric vehicle,EV)用户充电行为在时间和空间上的随机性增加了EV充电站负荷预测的难度,为此以提高负荷预测的准确度为目的,通过改进深度学习中的栈式自编码器提出栈式自编码器-极限学习机(SAE-ELM)的混合模型,并深入研究EV与电网的交互模式;综合考虑影响充电站负荷量的关键因素,如历史负荷、环境、日类型等,对某地充电站进行短期负荷预测并验证;最后与SAE-BP、ELM算法做对比实验,实验结果表明SAE-ELM对充电站的短期负荷预测更加有效准确,更有利于电网稳定运行。     

基于点对称变换的乙丙橡胶电缆终端缺陷诊断

为解决高速动车组车载电缆健康状况的智能化诊断受限于天窗期短的问题,该文提出一种基于点对称（SDP）的乙丙橡胶（EPR）电缆终端缺陷局部放电诊断方法。首先,搭建局部放电试验平台获取局部放电信号;然后,提出一种车载电缆局部放电信号的SDP参数确定方法,并基于SDP变换将不同类型缺陷局部放电信号映射到极坐标系中形成SDP图像;最后,对比三种常见的深度学习网络——卷积神经网络（CNN）、栈式自编码器（SAE）及深度置信网络（DBN）提取不同类型缺陷的SDP图像深层特征,并基于网络尾端Softmax分类器进行识别。结果表明：针对四种典型的电缆缺陷,DBN网络与SDP图像的结合效果最佳,缺陷识别率达到了96.1%,相比于传统诊断方法,识别准确率提高了10%左右,由此验证了通过深度学习算法自适应提取SDP图像特征的方法,可有效应用于电缆缺陷诊断领域,具有较好的工程应用前景。     

基于改进卷积深度置信网络的轴承故障诊断研究

机械设备故障诊断在工业应用中具有重要的意义。传统的基于振动信号处理与分析的故障诊断方法,依赖于丰富的专业知识和人工经验,难以保证准确的特征提取与故障诊断。利用深度学习方法可以自动学习数据深层次特征的特点,提出一种基于改进卷积深度置信网络的滚动轴承故障定性、定量诊断方法。首先,为了提供较好的浅层输入,将原始振动信号转换至频域信号;其次,在模型训练过程中,引入Adam优化器,加快模型训练,提高模型收敛速度;最后,为了充分发挥模型各层特征表征能力,对模型结构进行优化,提出多层特征融合学习结构,以提高模型的泛化能力。实验结果表明,所提出的改进模型相比于传统的栈式自动编码器、人工神经网络、深度置信网络以及标准卷积深度信念网络,具有更好的诊断精度,有效地实现了轴承故障的定性、定量化诊断。     

基于大数据分析的风机轴承故障预警

将大数据分析应用到风机轴承故障预警中,使用栈式自动编码器（SAE）为基本结构,通过逐层提取风机轴承监视控制与数据采集系统（SCADA）数据深层特征,将散乱的SCADA大数据转化成能够深度刻画风机轴承运行状态的内在特征。利用预训练、微调的方法并结合误差反向传播算法（BP）构建SAE故障预警模型,通过SAE模型对大数据处理得到反映风机轴承运行状态的重构误差平均值,以均值漂移聚类算法动态地计算出风机轴承稳定运行状态重构误差基准值为预警的标准。最后利用某风电场机组的SCADA数据进行工程实例仿真分析,验证了基于大数据分析用于风机轴承故障预警的可行性。     

栈式降噪自编码网络在变压器故障诊断中的应用

为提高变压器故障诊断的准确率,提出了一种新型的变压器故障诊断网络,该网络以基于栈式降噪自编码网络为基础,把深度学习用在诊断变压器设备故障方面,建立深层网络模型,采取逐层贪婪编码的方式进行自适应的非监督式预训练,实现高维深层故障特征的自适应提取和挖掘,进而使用反向传播算法对模型进行监督式微调。最后利用Softmax分类器,对故障进行分类输出。最后通过实例验证表明,提出的栈式降噪自编码网络能准确、有效地对变压器进行故障诊断,与传统方法相比,该方法提高了变压器故障诊断的准确率。     

基于TensorFlow的高压输电线路异物识别

针对传统异物识别准确率较低的问题,提出一种基于TensorFlow的深度卷积神经网络的异物识别模型。将巡检图像进行图像灰度化和尺寸压缩等预处理,并采用三维块匹配滤波(BM3D)算法进行图像去噪得到实验所需的训练数据。提出基于TensorFlow的深度卷积神经网络框架,通过使用框架中的TensorBoard模块设计深度卷积神经网络模型结构与优选模型参数,并针对ReLU激活函数与特征权重进行理论分析。实验结果表明,经过15次迭代训练后,深度卷积神经网络比传统的支持向量机(SVM)、极限学习机(ELM)和BP神经网络算法具有更强的巡检图像识别能力;与经典的LeNet-5和VGGNet模型以及相关文献中的模型相比,所提模型更具有优越性。     

基于深度学习网络的输电线路异物入侵监测和识别方法

为解决输电线路异物入侵在线监测图像样本量较小的问题,针对异物图像特点,提出了一种基于深度学习的输电线路异物入侵监测和识别方法。首先选取典型正常运行输电线路图像和目标异物图像,采用条件生成对抗网络算法对有异物入侵的输电线路图像进行样本扩充。然后将Dense-net网络替代YOLOv₃网络中倒数第二层网络,建立Dense-YOLOv₃深度学习网络模型。使用实际图像样本和扩充图像样本数据训练和测试深度学习网络,实现输电线路异物入侵监测和识别。该型深度学习网络算法可以对风筝、鸟巢、垃圾、机械施工类异物入侵情况进行有效识别,识别准确率分别达到98%、96%、90%和100%。     

基于深度迁移学习的天气图像识别

当对天气图像等场景复杂和特征不明显的图像进行识别时,往往存在识别率不高和特征冗余等问题。基于此,本文提出了一种基于深度迁移学习的图像分类算法。该算法利用ImageNet数据集的模型参数构建ResNeXt、Xception以及SENet 3种网络模型提取图像特征,采用领域自适应的判别联合分布自适应算法来相似化特征向量,完成高质量的特征表示,并以其结果为准则融合模型特征,将融合特征经过多层感知机训练以实现高准确率识别的图像分类。实验结果表明,该算法的性能优于传统的单一网络模型,进一步提升了图像分类准确率的上限。     

小波变换在HSV颜色空间上的图像检索应用研究

在传统的基于小波变换的图像检索方法中,并没有对HSV颜色空间的不同颜色分量进行小波变换并考虑它们的重要性大小。针对这个问题,提出一种新的在HSV颜色空间中利用小波变换进行图像检索的方法。该方法首先将每张图像由RGB颜色空间转换到HSV颜色空间,然后分别对图像的每个颜色分量（H,S,V）进行小波变换,并用小波系数矩阵的二阶矩表示图像的纹理特征,从而得到图像的特征向量,最后根据三个颜色分量重要性大小合理分配权值,计算查询图像与图像数据库中图像的相似度,得到图像检索结果。实验结果表明,本方法在图像实验数据库中能获得较好的检索效果。     

基于深度学习和图像识别的电力配件智能出入库

针对电力配件种类繁多、型号各异,依靠射频识别(radio frequency identification, RFID)技术开展电力配件出入库管理,不能覆盖所有电力配件,容易出现出入库、退库不准确、效率低,以及出入库电力配件质量不满足生产要求的问题,开展基于机器学习和图像识别的电力配件智能识别研究。首先采用灰度处理、二值化等方法对原始图像进行处理,之后通过最小外接矩形校正原始图像,然后以卷积神经网络(convolutional neural networks, CNN)、卷积递归神经网络(convolutional recurrent neural network, CRNN)等深度神经网络为核心,结合CTC损失函数,构建适用于识别电力配件的深度学习模型,并依据图像识别吻合度,同步推荐疑似配件设备。通过智能设备采集电力配件图像,采用上述方法实时识别配件名称、型号,提示外形尺寸、适用范围、产品用途。实验结果表明,基于机器学习和图像识别的电力配件智能识别结果准确率达到95%,显著提升了仓储出入库管理的智能化水平。     

一种基于DBN的高光谱遥感图像分类方法

高光谱遥感数据越来越普及并为人们广泛使用,基于高光谱数据的地面物体精确分类是高光谱遥感技术的核心应用之一。对高光谱数据进行提特征提取是进行地物分类的有效方法。深度学习是机器学习研究中的新领域,它多隐层的多层感知器结构使其能够学习到对数据有更本质的刻画的特征,在图像分类和可视化领域取得了更好的成绩。深度置信网（deep belief network ,DBN）是深度学习网络中常见的模型。利用高光谱数据的高维特性,搭建基于DBN的高光谱图像分类模型,结合高光谱数据的空间结构对地物进行分类。实验表明,基于DBN的高光谱图像分类方法可以得到更好的分类效果。     

基于骨架模型的人体行为分析

随着深度学习运用到图像领域,姿态估计、行为分析等算法的性能得到显著提升,希望在利用较好模型基础上进一步分析,在尽可能短的时间内得到更直观的结果。2016年提出的沙漏堆网络对人体关节点进行多尺度、多阶段的训练,在MPII数据集上回归了16对关节点坐标,在单个11 G显存的GPU上的平均准确率为87.6%;连接关节点构建人体骨架模型,然后根据骨架模型的加权角和倾斜角等几何特征,进一步推断人体的动作和行为状态,最后对人体行为进行分类和判断,包括站立、直坐、躺下等常见7类动作,平均准确率为82%,优势在于有效降低计算量和处理时间。     

基于卷积神经网络的生产日期识别

为了提高识别效率并减少人工成本,采用深度学习的方法对生产日期图像进行识别。首先对生产日期图像进行预处理,使用水平投影分割算法并提出一种区域最大值分割的方法将图像中的干扰字符去除,只留下数字、字母和汉字字符。然后创建一个由生产日期图像中常包含的数字、英文、汉字字符所组成的可扩展的数据集。最后构建一个卷积神经网络模型并将数据集送入训练以获得较高的识别准确率。经测试基于卷积神经网络的识别方法对生产日期识别的准确率高达98%。     

基于特征融合与深度学习的非侵入式负荷辨识算法

针对使用单一设备特征进行负荷辨识存在的局限性,提出了一种基于特征融合与深度学习的非侵入式负荷辨识算法。通过分析设备的高频采样数据提取了V-I轨迹图像特征与功率数值特征。利用人工神经网络的高级特征提取能力,实现了V-I轨迹图像特征与功率数值特征的融合。最后以复合特征作为设备新的特征训练反向传播(BP)神经网络进行非侵入式负荷辨识。使用PLAID数据集对算法辨识效果进行了验证,并对比了不同分类算法对特征融合的有效性与负荷辨识能力。结果表明,该算法利用不同特征之间的互补性,克服了使用V-I轨迹特征无法反映设备功率大小的缺点,从而提高了V-I轨迹特征的负荷辨识能力,并且在嵌入式设备中的运算速度为毫秒级。