神经网络事件抽取技术综述

事件抽取是信息抽取领域一个重要研究方向,对信息检索、自动问答、舆情分析等领域均有很高的应用价值.传统事件抽取方法大多采用人工构建的方式进行特征表示,并通过分类模型进行事件触发词分类和论元角色识别.近年来,神经网络方法在图像分类、语音识别和自然语言处理等领域展现了突出的效果.神经网络方法的优势在于能够自动学习构建特征,从而避免了繁琐的特征工程.本文将对神经网络事件抽取技术进行系统论述,并展望未来的研究方向.     

基于Gamma深度信念网络的飞行员脑疲劳状态识别

飞行员疲劳状态识别面临两个重要问题,如何提取表征疲劳的特征以及如何对疲劳特征建模学习.首先提取脑电信号节律波,计算基于仿射伪平滑Wigner-Ville分布的瞬时频域信息,构建疲劳状态指标.其次,基于脑电信号各通道的周期性变化提出Gamma深度信念网络的疲劳状态分类算法,与采用卷积与池化运算的学习网络不同,Gamma深度信念网络没有将图像或信号按尺度分割,但在底部的隐藏层已经可以有效地学习特定区域的特征,且当层数增加时,可有效提取特征的区域增多,学习到的特征更为一般化.然后改进用于训练深度信念网络的Gibbs采样算法,提出向上向下Gibbs采样以推断网络参数.最后,实验结果显示,本文的Gamma深度信念网络在识别准确率、稳定性、迭代用时等方面均达到了令人满意的效果.     

基于SVM和CRF双层分类器的英文电子病历去隐私化

去隐私化是2014 i2b2/UTHealth中的一个任务,目的在于识别并移除电子病历中的隐私信息.本文提出了一种基于支持向量机(SVMs)和条件随机场(CRFs)双层分类模型的去隐私化方法,经过预处理将病历文本进行词切分(tokenize)处理,并在此基础上抽取4类特征,训练SVM模型对隐私信息实体边界进行划分并将结果作为特征添加到特征集中,通过CRF训练多分类器,并通过该分类器对各个类别的隐私信息进行识别.实验表明双层分类模型对于隐私信息识别是有效的,结果F值达到0.9110.     

基于SLBP深度信念网络的人脸识别研究

针对传统局部二值模式(LBP)特征提取不充分和分类器拟合的问题,提出一种基于局部纹理特征的显著局部二值模式(SLBP)和深度学习的人脸识别方法。首先,利用改进的SLBP算法提取人脸图像局部纹理特征,建立SLBP直方图;然后构建基于深度信念网络的深度学习架构,将SLBP直方图输入到深度信念网络中,采用无监督逐层训练法和有监督BP算法去训练网络,实现网络的自学习和自优化,得到网络参数;最后,利用DBN分类、识别人脸图像。仿真实验证实,所提人脸识别方法在识别率和鲁棒性方面优于传统人脸识别方法。     

基于深度学习的环境声音识别

作为一种感知周围环境十分有效的方法,环境声音识别(Environment Sound Recognition,ESR)被广泛地应用在机器人导航、移动机器人、音频检索、音频取证以及其它基于情景感知、可穿戴的应用中.目前,较为简单的分类器已经大规模应用在ESR问题中,但却不能很好地反映和识别环境声音,而深度神经网络作为一种高性能、多层的神经网络,为更好地描述原始数据特征和解决模式识别问题提供了更有效的途径.为此,本文将深度神经网络应用在环境声音识别问题中,并对音频特征进行特征融合,通过训练深度信念网络(Deep Belief Network,DBN)进行环境场景的识别.实验结果表明,基于特征融合的方法的识别性能相较于分别采用音频特征的方法识别在性能上有明显提升,且将深度学习应用在ESR问题中具有明显的优势.     

基于深度学习和智能规划的行为识别

现有行为识别方法在未能持续覆盖造成视频监控盲区所引起行为数据缺失的情况,难以有效实施特征分析、行为分类补全,无法准确识别出智能体完整的行为动作序列.为此,本文提出一种基于深度学习和智能规划的行为识别方法.首先,利用深度残差网络对图像进行分类训练,然后使用递归神经网络对图像特征进行提取深度信息以增强分类效果;其次,运用智能规划的STRIPS （Stanford Research Institute Problem Solver）模型,将深度学习提取的图像特征命题信息转化为规划领域的模型描述文档,并使用前向状态空间搜索规划器推导出完整的行为动作序列.在HMDB51等行为识别公共数据集中,本方法与生成式对抗网络、深度卷积逆向图网络、深度信念网络、支持向量机等同类先进方法相比展现出更好的性能.     

相似性约束的深度置信网络在SAR图像目标识别的应用

特征提取是合成孔径雷达(SAR)图像目标识别的关键环节。SAR图像中存在的相干斑点和非光滑特性使得传统针对光学图像的特征提取方法变得很难应用。虽然可以采用深度置信网络(DBN)自动地进行特征学习,但是该方法属于无监督学习方法,这使得学习到的特征与具体的任务是无关的。该文提出一种叫做相似性约束的受限玻尔兹曼机模型。该模型在学习过程中通过约束特征向量之间的相似性达到引入监督信息的目的。另外,可以将多个相似性约束的受限玻尔兹曼机堆叠成一种新的深度模型,称其为相似性约束的深度置信网络模型。实验结果表明在SAR图像目标识别应用中,该方法相比主成分分析(PCA)以及原始DBN具有更好的识别性能。     

基于LBP和深度学习的手写签名识别算法

为优化手写签名识别算法性能,提出了一种局部二值模式(LBP)和深度学习相结合的手写签名识别算法.针对签名图像进行预处理、维纳滤波去除噪声;将预处理签名图像分为3×4子块,LBP应用于分块后的每个子图像,并将每个子块的纹理直方图特征连接起来,形成全局直方图特征;将得到的特征向量作为深度信念网络(DBN)的输入,逐层训练网络,并在顶层形成分类面,对签名图片进行识别.基于GPDS、MCYT及原创数据库进行实验,识别率误差分别为5.S5％、9.3％、1.17％,有效提高了手写签名的识别精度,符合实际应用的要求.     

基于注意力机制和时空信息的群组行为识别

群组行为识别是对个体的共同行为进行识别。群组行为与群组状态密不可分,也与群组内个体时空特征息息相关,时空信息既能描述空间语义信息,更能反映行为的动态变化情况。针对有效精细的时空特征提取问题,本文提出了一种基于注意力机制和深度时空信息的群组行为识别方法。首先将ShuffleAttention引入双流特征提取网络中,有效提取个体外观和运动信息。其次使用改进Non-Local网络提取深度时序信息。最后将个体特征送到图卷积网络中进行空间交互信息建模,得到群组行为识别结果。在CAD和CAED数据集上的准确率达到了93.6%和97.8%,在CAD数据集上与凝聚群组搜索算法(CCS)和成员关系图(ARG)方法相比,准确率提高了1.2%和2.6%,这表明本文方法能有效提取深度时空特征,提升群组行为识别准确率。     

基于双向LSTM的维吾尔语事件因果关系抽取

针对传统方法不能有效抽取维吾尔语事件因果关系的问题,该文提出一种基于双向LSTM(Bidirectional Long Short-Term Memory, BiLSTM)的维吾尔语事件因果关系抽取方法。通过对维吾尔语语言以及事件因果关系特点的研究,提取出10项基于事件内部结构信息的特征;同时为充分利用事件语义信息,引入词嵌入作为BiLSTM的输入,提取事件句隐含的深层语义特征并利用批样规范化(Batch Normalization, BN)算法加速BiLSTM的收敛;最后融合这两类特征作为softmax分类器的输入进而完成维吾尔语事件因果关系抽取。实验结果表明,该方法用于维吾尔语事件因果关系的抽取准确率为 89.19%, 召回率为 83.19%, F值为86.09%,证明了该文提出的方法在维吾尔语事件因果关系抽取上的有效性。     

基于DBN 的频率与相位编码信号快速调制识别方法

为提升低信噪比条件下雷达/ 通信频率、相位编码信号调制识别性能,降低特征提取复杂度,提出了基于深度信念网络DBN(Deep Belief Network, DBN)以及快速特征提取的调制识别方法。结合快速傅里叶累加算法FAM(FFT Accumulation Method)算法,提出了将循环谱估计图像转化为有效可识别特征向量的提取算法;设计了用于编码信号调制识别的DBN 网络训练与识别框架。仿真结果表明,文中方法较传统方法具有更低的特征提取与预处理复杂度,提取的特征在几种典型编码调制模式信号中具有明显区分,DBN 训练识别框架对雷达/ 通信编码信号调制识别均具有可行性与有效性,在低信噪比条件下对无线电编码信号有更高的识别正确率。     

采用局部二值模式与深度信念网络的人脸识别

针对人脸维度过高和人脸局部特征提取易忽略的问题,提出了一种将多尺度局部二值模式( LBP)算法与深度信念网络( DBN)算法相结合的人脸识别方法。首先采用多尺度LBP算法提取人脸纹理特征,进而将LBP提取的纹理特征作为深度信念网络的输入,最后通过逐层网络训练,得到网络的最优参数,并在ORL人脸库中进行测试,识别率可达95.2%,比使用Gabor小波和主成分分析(PCA)算法的人脸识别高2.6%,说明该算法具有很好的人脸识别能力。     

基于深度学习与特征融合的人脸识别算法

卷积神经网络在人脸识别研究上有较好的效果,但是其提取的人脸特征忽略了人脸的局部结构特征。针对此问题,文中提出一种基于深度学习与特征融合的人脸识别方法。该算法将局部二值模式信息与原图信息相结合作为SDFVGG网络的输入,使得提取的人脸特征更加丰富且更具表征能力。其中,SDFVGG网络是将VGG网络进行深浅特征相融合后的网络。在CAS-PEAL-R1人脸数据库上的实验表明,将网络深浅特征相融合与在卷积神经网络中加入LBP图像信息与原图信息相融合的特征信息对于提高人脸识别准确率非常有效,可得到优于传统算法和一般卷积神经网络的最高98.58%人脸识别率。     

基于深度信念网络的铁路信号设备故障识别

针对现有铁路信号设备故障识别算法特征提取不准确导致正确率偏低的问题,提出了深度信念网络(DBN)的故障识别模型。该模型首先利用无监督训练方法对DBN的多个堆叠受限玻尔兹曼机(RBM)进行预训练,获得网络初始参数;然后,结合铁路信号设备识别问题,构建BP神经网络,利用有标签样本进行反向传播训练,实现网络参数微调。实验结果表明,该模型避免特征提取的人工操作,能够有效实现铁路信号设备故障的准确智能识别。     

基于特征融合卷积神经网络的FMCW雷达人体动作识别

针对微多普勒特征识别人体动作的局限性,基于调频连续波( Frequency Modulated Continuous Wave,FMCW)雷达采用深度学习方法对人体动作识别,提出了一种特征融合卷积神经网络结构.利用FMCW雷达采样的人体动作回波数据分别构建出时间-距离特征和微多普勒特征图,将这两种特征图作为输入数据分别...     

Isolated word language identification system with hybrid features from a deep belief network

The representation of good audio features is the first and foremost requirement for improving the identification performance of any system. Most of the representation learning approaches are based on connectionist systems to learn and extract latent features from the speech data. This research work presents a hybrid feature extraction approach to integrate Mel-Frequency Cepstral Coefficients (MFCC) features with Shifted Delta Cepstral (SDC) coefficients features, which are further stacked to Deep Belief Network (DBN), for yielding new feature representations of the speech signals. DBN is utilized for unsupervised feature learning on the extracted MFCC-SDC acoustic features. A 3-layer Back Propagation Neural Network (BPNN) classifier is initialized in terms of the learning outcomes of hidden layers of DBN for identifying language from the uttered speech. The efficiency of the proposed approach is evaluated by simulating several experimental algorithms on the user-defined database of isolated words in four languages, namely, Tamil, Malayalam, Hindi, and English, in the working platform of MATLAB. The obtained results for the proposed hybrid approach MFCC-SDC-DBN are promising. The proposed approach is also compared with the baseline feature extraction approach MFCC-SDC by utilizing traditional acoustic features and BPNN classifier. The accuracy obtained with our proposed approach is 98.1% whereas that of the baseline approach is 82%, thereby providing an overall improvement of 16.1%.     

基于显著性局部定向模式和深度学习的鲁棒人脸识别

针对传统人脸识别算法特征提取不充分和对噪声敏 感的问题,提出了一种基于显著性局部定向模式(SLDP)和深 度学习(DL)的人脸识别算法。首先基于信息的显著性提出一种改进的SLDP人脸描述方法,在 利用局部井型 领域梯度信息的基础上,使用两组梯度值中各自最大值和次大值的方向编码成二位八进制数 ,从而形成改进的 SLDP编码,通过统计选出最具有显著性的SLDP编码作为特征向量;然后将改进的SLDP编码作 为深度神经网 络(DBN)的输入,通过逐层贪婪训练网络,获得良好的网络参数,并用训练好的网络对测试 样本进行预测。仿真实验表明, 本文所提出的人脸识别算法相对于传统识别算法识别率高,并且在对抗噪声方面比其它算法 更具有鲁棒性。     

融入注意力机制的深度学习动作识别

针对现有的深度学习方法在人体动作识别中易出现过拟合、易受到干扰信息影响、特征表达能力不足的问题,提出了一种融入注意力机制的深度学习动作识别方法.该方法在数据预处理中提出了视频数据增强算法,降低了模型过拟合的风险,然后在视频帧采样过程中对现有的采样算法进行了改进,有效抑制了干扰信息的影响,并在特征提取部分提出了融入注意力的残差网络,提高了模型的特征提取能力;之后,利用长短时记忆(Long Short-Term Memory,LSTM)网络解决了空间特征的时序关联问题;最后,通过Softmax完成了相应动作的分类.实验结果表明,在UCF YouTube、KTH和HMDB-51数据集上,所提方法的识别率分别为96.72％、98.06％和64.81％.