基于深度学习的视频跟踪研究进展综述

近年来深度学习迅猛发展，颠覆了语音识别、图像分类、文本理解等领域的算法设计思路。深度学习因其具备强大的特征提取能力，在图像识别领域的成绩尤为突出。然而深度学习与视频监控领域的结合并不多，由于深度模型具有多层网络结构，算法复杂度大，训练和更新模型时比较耗时，很难满足实时性要求。回顾了深度学习的发展史，介绍了最近10年来国内外深度学习主要模型，论述了基于深度学习的目标跟踪算法，指出了各算法的优缺点，最后对当前该领域存在的问题和发展前景进行了总结和展望。     

基于门控联合池化自编码器的通用性文本表征

为了学习文本的语义表征,以往的研究者主要依赖于复杂的循环神经网络(recurrent neural networks, RNNs)和监督式学习方法。该文提出了一种门控联合池化自编码器(gated mean-max AAE)用于学习中英文的文本语义表征。该文的自编码器完全通过多头自注意力机制(multi-head self-attention mechanism)来构建编码器和解码器网络。在编码阶段,提出了均值—最大化(mean-max)联合表征策略,即同时运用平均池化(mean pooling)和最大池化(max pooling)操作来捕获输入文本中多样性的语义信息。为促使联合池化表征可以全面地指导重构过程,解码器采用门控操作进行动态关注。通过在大规模中英文未标注语料上训练模型,获得了高质量的句子编码器。在重构文本段落的实验中,该文模型在实验效果和计算效率上均超越了传统的RNNs模型。将公开训练好的文本编码器,使其可以方便地运用于后续的研究。     

基于深度自编码网络模型的风电机组齿轮箱故障检测

为了实现风机齿轮箱的故障检测分析,提出一种基于风电机组齿轮箱的数据采集与监视控制(SCADA)数据和振动信号的深度自编码网络模型。该模型作为一种典型的深度学习方法,通过逐层智能学习初始样本特征,可以获取数据蕴含的规则与分布特征形成更加抽象的高层表示。首先,利用限制性玻尔兹曼机对网络参数进行预训练和反向传播算法对参数进行调优,建立深度自编码网络模型。然后,通过对齿轮箱的状态变量进行编码和解码,计算重构误差并将其作为齿轮箱的状态检测量。为了有效检测重构误差的趋势变化,选用自适应阈值作为风机齿轮箱故障检测的决策准则。最后,利用对齿轮箱故障前、后记录的数据进行仿真分析,结果验证了深度自编码网络学习方法对齿轮箱故障检测的有效性。     

平行堆栈式自编码器及其在过程建模中的应用

在面对流程工业存在的多参数、强非线性和富含复杂机理等问题时浅层算法的学习能力有限,故将深度学习理论引入过程工业预测建模中。而针对单个深层网络对多样性数据的特征挖掘困难,本文提出一种改进的堆栈式自编码器。该方法首先通过聚类算法对输入数据属性进行聚类,按结果将数据分类后输入并行的稀疏自编码器中进行特征的模块式提取,并行输出经整合后输入至叠加的深度网络中,联合这些特征再进行逐层学习得到拟合结果。为减轻过拟合带来的预测误差,将"dropout"方法引入网络训练中。在加氢裂化的预测建模研究中,所提出的算法具有比其他方法更好的预测水平和泛化能力。     

基于DAE-BP神经网络的股票预测研究

股票指标数据种类多、维度高，且指标之间存在多重共线性。为了降低数据的维度、消除指标间的多重共线性和预测股票价格，首先构建了基于受限布尔兹曼机的深度自编码器，实现了高维数据向低维空间的压缩编码。然后基于BP神经网络建立了低维编码序列与股票价格之间的回归模型。实验结果表明，深度自编码器提取特征的能力优于主成分分析法和因子分析法；相比较使用降维前的数据，使用编码后的数据用预测股票价格，模型可以减少计算开销，并且获得更高的预测精度。     

Imbalanced fault diagnosis of rotating machinery using autoencoder-based SuperGraph feature learning

Existing fault diagnosis methods usually assume that there are balanced training data for every machine health state. However, the collection of fault signals is very difficult and expensive, resulting in the problem of imbalanced training dataset. It will degrade the performance of fault diagnosis methods significantly. To address this problem, an imbalanced fault diagnosis of rotating machinery using autoencoder-based SuperGraph feature learning is proposed in this paper. Unsupervised autoencoder is firstly used to compress every monitoring signal into a low-dimensional vector as the node attribute in the SuperGraph. And the edge connections in the graph depend on the relationship between signals. On the basis, graph convolution is performed on the constructed SuperGraph to achieve imbalanced training dataset fault diagnosis for rotating machinery. Comprehensive experiments are conducted on a benchmarking publicized dataset and a practical experimental platform, and the results show that the proposed method can effectively achieve rotating machinery fault diagnosis towards imbalanced training dataset through graph feature learning.     

基于稀疏自编码深度神经网络的林火图像分类

针对林火与相似目标很难区分的问题,提出一种基于稀疏自编码深度神经网络的林火图像分类新方法。采用无监督的特征学习算法稀疏自编码从无标签图像小块中学习特征参数,完成深度神经网络的训练;利用学习到的特征从原始大小分类图像中提取特征并卷积和均值池化特征;对卷积和池化后的特征采用softmax回归来训练最终softmax分类器。实验结果表明,跟传统的BP神经网络相比,新方法能够更有效区分林火与红旗、红叶等类似物体。     

基于手势识别的工业机器人操作控制方法

针对目前操作工人与工业机器人之间的交互还是采用比较机械化的交互方式,设计使用Kinect传感器作为手势采集设备,并使用人的手势来对工业机器人进行控制的方法。首先,使用深度阈值法与手部骨骼点相结合的方法,从Kinect传感器获取的数据中准确地提取出手部图像。在提取过程中,操作员无需佩戴任何设备,对操作员所站位置没有要求,对背景环境也没要求。然后,用稀疏自编码网络与Softmax分类器结合的方法对手势图像进行识别,手势识别过程包含预训练和微调,预训练是用逐层贪婪训练法依次训练网络的每一层,微调是将整个神经网络看成一个整体微调整个网络的参数,手势识别的准确率达到99.846%。最后,在自主研发的工业机器人仿真平台上进行实验,在单手和双手手势下都取得了不错的效果,实验结果验证了手势控制工业机器人的可行性和可用性。