基于卡口上下文和深度置信网络的车辆轨迹预测模型研究

针对车辆轨迹预测中节点序列的时序特性和实际路网中的空间关联性,该文提出一种基于深度置信网络和SoftMax (DBN-SoftMax)轨迹预测方法.首先,考虑到轨迹在节点集合中的强稀疏性和一般特征学习方法对新特征的泛化能力不足,该文利用深度置信网络(DBN)较强的无监督特征学习能力,达到提取轨迹局部空间特性的目的;然后,针对轨迹的时序特性,该文采用逻辑回归的预测思路,用当前轨迹集在路网特征空间中的线性组合来预测轨迹;最后,结合自然语言处理领域中的词嵌入的思想,基于实际轨迹中节点存在的上下文关系,运用节点的向量集表征了节点间的交通时空关系.实验结果表明该模型不仅能够有效地提取轨迹特征,并且在拓扑结构复杂的路网中也能得到较好的预测结果.     

PPNet：基于预先预测的降雨短时预测模型

降雨短时预测一直以来都是气象预测问题中的热点问题。传统的预测方法基于数值天气预测模型展开预报,但近些年利用深度学习展开基于雷达回波图的降雨短时预测方法受到了广大研究者的关注。其中,时序预测网络存在不能并行计算导致耗时过长的问题且存在梯度爆炸问题。全卷积网络可以解决上述两个问题,但是却不具备时序信息提取的能力。因此,该文以泰勒冻结假设为理论依据,提出一个基于预先预测辅助推断结构的2维全卷积网络(PPNet)。网络先行提取粗粒度时序信息与空间信息,然后利用全卷积结构细化特征粒度,有效缓解2维卷积网络不能提取时序信息的缺陷。此外,该文还提供一种时序特征约束器对预先预测特征进行时间维度的特征约束,使预测特征更倾向于真实特征。消融实验证明所提预先预测辅助推断结构和时序特征约束器具有优秀的时序特征能力,可以提升网络对时序信息的敏感度。与目前最好的降雨预测算法或视频预测算法相比,该文网络均取得较好结果,特别在暴雨指标上达到最优。     

行人轨迹预测条件端点局部目的地池化网络

轨迹预测是自动驾驶系统中的核心任务之一。现阶段基于深度学习的轨迹预测算法,涉及目标的信息表示、环境感知和运动推理。针对现有轨迹预测模型在运动推理过程中对行人社交动机考虑不足,无法有效预知场景中行人在不同社交条件下局部目的地的问题,该文提出一种条件端点局部目的地池化网络(CEPNET)。该网络通过条件变分自编码器推理潜在轨迹分布空间来学习历史观测轨迹在特定场景中的概率分布,构建条件端点局部特征推理算法,将条件端点作为局部目的地特征进行相似性特征编码,利用社交池化网络过滤掉场景中的干扰信号,融入自注意力社交掩码来增强行人的自我注意力。为验证算法各模块的可靠性,使用公开的行人鸟瞰数据集(BIWI)和塞浦路斯大学多人轨迹数据集(UCY)对CEPNET进行消融实验,并与平凡长短时记忆网络(Vanilla)、社交池化生成对抗网络(SGAN)和图注意力生成对抗网络(S-BiGAT)等先进轨迹预测算法进行对比分析。在Trajnet++基准上的实验结果表明,CEPNET算法性能优于现有先进算法,并且与基准算法Vanilla相比,平均位移误差(ADE)降低22.52%,最终位移误差(FDE)降低20%,预测碰撞率Col-I降低9.75%,真值碰撞率Col-II降低9.15%。     

基于深度学习网络的红外网络节点异常状态识别研究

为准确识别红外网络节点状态,提出了基于深度学习网络的红外网络节点异常状态识别方法。利用红外网络节点采集模块采集节点状态数据,确定可视层与隐含层神经元数量,利用贪婪算法训练过程重构训练样本,通过微调过程优化深度置信网络,完成深度置信网络训练,提取红外网络节点状态数据特征,将状态数据特征作为球心,计算识别红外网络节点状态数据同球心的半径,根据结果是否异常状态。仿真测试结果,本文方法可有效识别红外网络节点异常状态,红外网络节点异常状态识别精度高。     

基于空间注意力的图像分类网络研究

针对以往的图像分类方法利用手工提取的特征（或通过神经网络提取的特征）、空间信息关注不足等问题,文章提出一种基于空间注意力的图像分类网络。该网络利用空间注意力模块,对深度网络提取的视觉特征进行空间约束。利用特征的空间信息,使得网络能够对特征在空间上的重要性加以区分,从而使其更具判别性。采用CIFAR-10和CIFAR-100测试集分别进行测试,测试结果表明,该文提出的图像分类网络的图像分类效果明显优于其他深度学习方法。     

基于贝叶斯深度学习的一维雷达有源干扰信号识别方法

雷达干扰信号准确识别是雷达抗干扰的前提,对于雷达生存至关重要。针对传统雷达干扰信号识别方法需要繁琐的分析计算提取特征,通用性差,泛化能力弱,难以适应复杂的雷达工作环境问题。本文考虑无需人工提取特征信息且具有较好的分类识别效果的深度学习网络。考虑到传统的深度学习网络由于使用点估计方式,不能够很好的衡量预测结果中的不确定性,本文提出了一种基于贝叶斯深度学习的干扰识别方法。首先,通过概率建模代替网络参数模型的点估计,解决了不确定性随机数据引起的网络过拟合问题。其次,考虑有效利用雷达回波信号的时序特性设计了LSTM层,同时解决训练过程中的梯度消失问题。基于线性调频雷达有源干扰实测数据完成了网络训练与测试,实验结果表明,引入贝叶斯方法可以在加快网络收敛速度的同时有效提高识别准确率。     

移动传感网节点位置预测方法研究

针对现有稀疏传感网中移动节点位置预测精度较低,提出一种基于深度信念网络的移动未知节点位置预测方法。首先利用深度信念网络强大的特征学习能力,分析不同信号强度向量样本集;其次在深度信念网络的最后一层级联一层支持向量机,将所学习到的信号强度分布特征作为顶层支持向量机的输入,构建距离预测模型;最后预测未知节点与其相邻节点之间的距离,判断其可能位置所在区域,计算得出未知节点的预测位置。仿真实验结果表明,文中所提出的位置预测方法与RBF神经网络位置预测方法相比,预测精度提高了19.3%;与支持向量机预测方法相比,预测精度提高了23%;与改进的MCL相比,预测精度提高了33.4%,且有较强的鲁棒性,适用于稀疏传感网络节点位置预测。     

基于注意力机制和时空信息的群组行为识别

群组行为识别是对个体的共同行为进行识别。群组行为与群组状态密不可分,也与群组内个体时空特征息息相关,时空信息既能描述空间语义信息,更能反映行为的动态变化情况。针对有效精细的时空特征提取问题,本文提出了一种基于注意力机制和深度时空信息的群组行为识别方法。首先将ShuffleAttention引入双流特征提取网络中,有效提取个体外观和运动信息。其次使用改进Non-Local网络提取深度时序信息。最后将个体特征送到图卷积网络中进行空间交互信息建模,得到群组行为识别结果。在CAD和CAED数据集上的准确率达到了93.6%和97.8%,在CAD数据集上与凝聚群组搜索算法(CCS)和成员关系图(ARG)方法相比,准确率提高了1.2%和2.6%,这表明本文方法能有效提取深度时空特征,提升群组行为识别准确率。     

基于关系图卷积神经网络的多标签事件预测

事件预测需要综合考虑的要素众多,现有预测模型多数存在数据稀疏、事件的组合特征及时序特征考虑不足、预测类型单一等问题。为此,提出了基于关系图卷积神经网络的多标签事件预测方法,通过节点特征聚合技术实现数据的稠密化表示。模型利用卷积神经网络的卷积和池化运算,提取预测数据的组合时间段特征信息,并结合长短期记忆网络的时序特征提取能力,进一步提取预测数据的时序规律特征;最后,模型通过全连接的多标签分类器,输出多种类型事件发生的概率值。实验结果表明,所提模型可以支持进行多日期、多类型事件预测,在特定数据集上最高F1值可以达到0.85。     

深度果蝇神经网络及其实时能见度预测

能见度预测属于时间序列预测领域的问题,如何实现对时序数据的处理以及捕获数据中的时间长期依赖关系,是当前研究人员的主要关注焦点.针对能见度预测模型构建难的问题,依据果蝇视觉系统在图像感知、学习和信息反馈过程中的生物学原理,提出一种基于视频监控图像的深度果蝇神经网络.首先,通过设计前馈果蝇视觉神经网络,提取图像的能见度特征...     

基于SENET-DEEP的CTR预测方法

深度神经网络(Deep Neural Networks,DNN)在点击率预测(CTR)领域应用广泛。这些模型通对特征之间的交互和改变深度网络结构来优化CTR预测模型。然而现有的方法忽略了特征本身的重要性的对深度网络的影响,限制了模型的学习能力。为了更好地预测用户可能点击的对象,文章提出了基于SENET机深度网络(Squeeze-and-Excitation Deep Network,SENET-Deep)模型。该模型利用Squeeze-and-Excitation Networks(SENET)动态学习特征,同时引入深度神经网络提高了模型学习隐式交互的能力,既注重了在浅层网络中学习特征重要性的能力,也引入深层网络提高了模型的泛化能力。两个真实数据集的实验表明,文中提出的模型在点击率预测性能上有着明显的提升。     

Deep neural networks-based rolling bearing fault diagnosis

Rolling bearing is one of the most commonly used components in rotating machinery. It's so easy to be damaged that it can cause mechanical fault. Thus, it is significant to study fault diagnosis technology on rolling bearing. In this paper, three deep neural network models (Deep Boltzmann Machines, Deep Belief Networks and Stacked Auto-Encoders) are employed to identify the fault condition of rolling bearing. Four preprocessing schemes including feature of time domain, frequency domain and time-frequency domain are discussed. One data set with seven fault patterns is collected to evaluate the performance of deep learning models for rolling bearing fault diagnosis, which is based on the health condition of a rotating mechanical system. The results proved that the accuracy achieved by Deep Boltzmann Machines, Deep Belief Networks and Stacked Auto-Encoders are highly reliable and applicable in fault diagnosis of rolling bearing.     

Bayonet-corpus: a trajectory prediction method based on bayonet context and bidirectional GRU

Predicting travel trajectory of vehicles can not only provide personalized services to users, but also have a certain effect on traffic guidance and traffic control. In this paper, we build a Bayonet-Corpus based on the context of traffic intersections, and use it to model a traffic network. Besides, Bidirectional Gated Recurrent Unit (Bi-GRU) is used to predict the sequence of traffic intersections in one single trajectory. Firstly, considering that real traffic networks are usually complex and disorder and cannot reflect the higher dimensional relationship among traffic intersections, this paper proposes a new traffic network modeling algorithm based on the context of traffic intersections: inspired by the probabilistic language model, a Bayonet-Corpus is constructed from traffic intersections in real trajectory sequence, so the high-dimensional similarity between corpus nodes can be used to measure the semantic relation of real traffic intersections. This algorithm maps vehicle trajectory nodes into a high-dimensional space vector, blocking complex structure of real traffic network and reconstructing the traffic network space. Then, the bayonets sequence in real traffic network is mapped into a matrix. Considering the trajectories sequence is bidirectional, and Bi-GRU can handle information from forward and backward simultaneously, we use Bi-GRU to bidirectionally model the trajectory matrix for the purpose of prediction.     

水利水电建筑能耗短期预测模型构建

由于水利水电建筑短期能耗特征具有非线性与不确定性,导致传统模型预测精度下降,建筑预期成本增加,为此设计基于深度信念网络的水利水电建筑能耗短期预测模型。利用深度信念网络的自主学习能力,提取建筑能耗短期特征变量,采用相关矩阵法、逐步回归法,剔除特征变量的多重共线性。在此基础上,采用粒子群优化算法设置环境指标等预测参数,实现水利水电建筑能耗短期预测。实验结果显示,与传统模型相比,所设计的模型可以较为准确预测水利水电建筑短期能耗,建筑预期成本较低,实际应用效果较好。     

深度PCANet模型的人脸美丽预测

深度卷积神经网络（Deep Convolution Neural Network, DCNN）在人脸识别、图像分类和目标检测领域已取得较好效果,并得到广泛应用;但是,在人脸美丽预测中却存在拟合效果欠佳、网络训练难度大等问题。深度PCANet模型,将深度主元分析网络（Principal Component Analysis Network,PCANet）作为特征提取器;采用无监督预训练提取网络参数,具有网络训练时间短、图像特征提取快等特点,能有效避免DCNN存在的问题。为此,本文将深度PCANet引入人脸美丽预测,对训练集图像采用多尺度预处理,训练深度PCANet。该模型可提取人脸图像的结构性全局特征,采用特征增强方法可生成更具表征能力的特征;运用线性支持向量机（Support Vector Machine, SVM）和随机森林（Random Forest, RF）回归器进行训练和预测。基于SCUT-FBP人脸美丽数据库的实验结果表明,深度PCANet模型具有结构简单、特征提取快和无需网络调参优化等特点;选择合适的图像尺度与采用特征增强方法可提高人脸美丽评价结果,证明了所提方法的有效性和可行性。      

基于深度学习和智能规划的行为识别

现有行为识别方法在未能持续覆盖造成视频监控盲区所引起行为数据缺失的情况,难以有效实施特征分析、行为分类补全,无法准确识别出智能体完整的行为动作序列.为此,本文提出一种基于深度学习和智能规划的行为识别方法.首先,利用深度残差网络对图像进行分类训练,然后使用递归神经网络对图像特征进行提取深度信息以增强分类效果;其次,运用智能规划的STRIPS （Stanford Research Institute Problem Solver）模型,将深度学习提取的图像特征命题信息转化为规划领域的模型描述文档,并使用前向状态空间搜索规划器推导出完整的行为动作序列.在HMDB51等行为识别公共数据集中,本方法与生成式对抗网络、深度卷积逆向图网络、深度信念网络、支持向量机等同类先进方法相比展现出更好的性能.     

样本限制场景下金属板带材表面缺陷分类研究

深度学习在金属板带材表面缺陷检测中取得良好的检测效果,但随着网络层数的增加 ,针对较小样 本的金属板带材表面缺陷数据集训练数据容易出现过拟合现象的问题,为此将残差网络与迁 移学习结合提出 了一种融合多层次缺陷特征的图像分类算法。该算法采用残差网络模块逐层提取金属表面缺 陷特征,获得丰 富的位置信息和语义信息缺陷特征的特征图,后续利用分类网络基于该融合特征图得到最终 分类结果,同时 对特征提取网络进行迁移学习,增加网络泛化能力,优化分类精度。利用钢带表面缺陷检测 数据集评估本文 算法性能,实验结果表明,提出的算法具有较好的分类效果,优于其他缺陷分类算法,分类 准确率可达到 99.07%,同时本文所提算法具有良好的抗噪性和泛化性,在金属板带材表面缺陷智能检测中 具有较好的应用价值。     

Passive forensic based on spatio-temporal localization of video object removal tampering

To address the problem of identification of authenticity and integrity of video content and the location of video tampering area,a deep learning detection algorithm based on video noise flow was proposed.Firstly,based on SRM (spatial rich model) and C3D (3D convolution) neural network,a feature extractor,a frame discriminator and a RPN (region proposal network) based spatial locator were constructed.Secondly,the feature extractor was combined with the frame discriminator and the spatial locator respectively,and then two neural networks were built.Finally,two kinds of deep learning models were trained by the enhanced data,which were used to locate the tampered area in temporal domain and spatial domain respectively.The test results show that the accuracy of temporal-domain location is increased to 98.5%,and the average intersection over union of spatial localization and tamper area labeling is 49%,which can effectively locate the tamper area in temporal domain and spatial domain.     

基于深度动态贝叶斯网络的服务功能链故障诊断算法

针对5G端到端网络切片场景下底层物理节点出现故障会导致运行在其上的多条服务功能链出现性能异常的问题,该文提出一种基于深度动态贝叶斯网络(DDBN)的服务功能链故障诊断算法。首先根据网络虚拟化环境下故障的多层传播关系,构建故障与症状的依赖图模型,并采用在物理节点监测其上多个虚拟网络功能相关性能数据的方式收集症状。其次,考虑到基于软件定义网络(SDN)和网络功能虚拟化(NFV)的架构下网络症状观测数据的多样性以及物理节点和虚拟网络功能的空间相关性,引入深度信念网络对观测数据特征进行提取,使用加入动量项的自适应学习率算法对模型进行微调以加快收敛速度。最后,利用故障传播的时间相关性,引入动态贝叶斯网络对故障根源进行实时诊断。仿真结果表明,该算法能够有效地诊断故障根源且具有良好的诊断准确度。