基于Deep Belief Nets方法的中文名实体分类研究

DBN是一种快速全局最优的神经网络分类方法,包含数层无监督学习网络和一层有监督学习网络。本文验证了DBN方法很好地适用于中文名实体分类任务。首先,采用多层RBM方法无监督地从字特征向量提取结构信息,得到更具有表征能力的特征;然后,利用BP方法微调网络参数并对提取后的特征向量进行分类,以此构成分类器进行名实体分类。通过对ACE 04的中文名实体进行的分类测试,准确率达到91.45%,明显高于支持向量机和反向传播神经网络等传统分类算法。     

基于深度信念网络的高压断路器故障识别算法

针对高压断路器故障现有故障诊断算法中,特征提取不准确导致分类正确率较低的问题,提出了基于深度信念网络的高压断路器故障识别方法。深度信念网络(Deep Belief Network,DBN)是非监督的深度神经网络,由多个受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)叠加起来组成。首先使用无标签的数据样本自下而上的对各RBM层逐层训练,得到各层最优参数;再以此为初始参数将DBN展开成反向传播的结构,使用带标签的数据样本进行全局的参数微调;最后得到DBN分类网络。这一过程中,有效避免了特征提取的人工操作,解决了网络训练的局部最优问题,使断路器故障诊断更加智能化。通过试验结果可知,该方法可准确、可靠地用于诊断断路器主要机械故障。     

基于Gabor小波与深度信念网络的人脸识别方法

特征提取与模式分类是人脸识别的两个关键问题。针对人脸识别中的高维和小样本问题,从人脸特征的提取与降维算法入手,提出基于受限玻尔兹曼机(RBM)的二次特征提取及降维算法模型。首先把图像均匀分成若干局部图像块并进行量化,再对图像进行Gabor小波变换,通过RBM对得到的Gabor人脸特征进行编码,学习数据更本质的特征,从而达到对高维人脸特征降维的目的;并以此为基础提出基于深度信念网络(DBN)的多通道人脸识别算法。在ORL、UMIST和FERET人脸库上对不同样本规模和不同分辨率的图像进行实验,识别结果表明,与采用线性降维和浅层网络的方法相比,所提方法取得了较好的学习效率和很好的识别效果。     

基于深度信念网络的语音服务文本分类

在线人工语音服务已经在各种商业活动中展开,为了提供更好的客户服务就必须对语音服务质量进行有效的评估。目的就是将人工语音服务利用语音识别技术转化为文本,再进行有效的分类评估。常用文本分类模型有朴素贝叶斯、KNN、BP神经网络、支持向量机等模型,这些模型比较依赖于语音文本预处理后的特征表示,并且容易出现维数灾难、局部最优、训练时间长问题。而深度信念网络模型（DBN）可以从文本预处理后的特征表示中学习到更具有本质含义的特征表示,便于分类器分类,且避免以上模型的不足。在人工服务语音文本化后,通过深度信念网络模型转换特征表示再进行分类,最终的分类效果比上述分类模型直接利用文本的特征表示进行分类效果略微提高。     

面向情境感知的不确定性数据融合策略

情境感知计算是对传感器感知的数据进行融合从而得到用户情境信息的过程。文中针对传感器数据存在的不确定性问题,在Context Toolkit模型的基础上提出了一种面向情境感知的数据融合策略,把数据融合分为底层融合和高层融合,在这两层上分别采用模糊逻辑和动态贝叶斯网络的数据融合方法。仿真实验结果表明,这种将模糊逻辑和动态贝叶斯网络相结合的策略能有效地处理情境感知过程中的不确定数据和信息,从而提高情境感知计算的容错性和准确度。     

基于AdaBoost的多特征融合指纹检索方法

为提高视频内容检索方法的鲁棒性,提出一种基于AdaBoost的多特征融合指纹检索方法。通过对样本数据的训练,自适应地获得尺度不变特征变换特征、运动特征以及音频特征的权重,利用得到的权重融合音视频特征,以产生视频指纹。实验结果表明,该方法的准确性较高,在尺度变化、亮度变化、音频噪音攻击下具有较好的鲁棒性。     

基于 Deep Belief Nets 的中文名实体关系抽取

关系抽取是信息抽取的一项子任务,用以识别文本中实体之间的语义关系.提出一种利用DBN(deepbelief nets)模型进行基于特征的实体关系抽取方法,该模型是由多层无监督的RBM(restricted Boltzmann machine)网络和一层有监督的BP(back-propagation)网络组成的神经网络分类器.RBM网络以确保特征向量映射达到最优,最后一层BP网络分类RBM网络的输出特征向量,从而训练实体关系分类器.在ACE04语料上进行的相关测试,一方面证明了字特征比词特征更适用于中文关系抽取任务;另一方面设计了3组不同的实验,分别使用正确的实体类别信息、通过实体类型分类器得到实体类型信息和不使用实体类型信息,用以比较实体类型信息对关系抽取效果的影响.实验结果表明,DBN非常适用于基于高维空间特征的信息抽取任务,获得的效果比SVM和反向传播网络更好.     

基于Deep Belief Nets的维吾尔语句子级情感分析

针对维吾尔语句子情感信息：喜、怒、哀、乐和客观五分类任务,提出一种利用深度信念网络模型(Deep Belief Nets, DBN)的深度学习机制进行基于深层语义特征的句子级情感分析方法。该方法通过对维吾尔语情感句及语言特点的深入研究,提取出利于情感分析任务的8项情感特征。为了提高特征对文本语义的表达,将富含词汇深层语义和上下文信息的word embedding特征与情感特征进行融合,作为深度信念网络的输入。利用多层无监督的波尔兹曼机(RBM)训练并提取隐含的深层语义特征,通过有监督的后向传播算法对网络进行微调,进而完成情感分类任务。该方法在维吾尔语句子级情感分类任务中的准确率为83,35%,召回率为84.42%,F值为：83.88%. 实验结果证明,深度学习模型较浅层的学习模型更合适于本文的情感分类任务,对word embedding特征项的引入,有效的提高了情感分类模型的性能.     

基于深度置信网络Otsu混合模型的自动云检测算法

地球表面一半以上被云覆盖,卫星遥感图像中的云检测主要是人工检测识别或者半自动化方法,依赖人工干预,效率不高,难以满足实时或准实时应用的需要。为了提高卫星遥感数据的可用性,基于深度置信网络（DBN）和最大类间方差法,提出一种自动云检测算法——DOHM。该算法采用自适应阈值代替人工标定阈值,实现云检测的全自动化,将云检测的正确率提高到95%以上;DOHM算法选取了维度为9的特征向量作为检测网络的输入,输入特征向量的多样性,有利于网络更全面有效地捕捉到云的特点。     

基于布谷鸟搜索和深度信念网络的肺部肿瘤图像识别算法

针对深度信念网络（DBN）权值随机初始化易使网络陷入局部最优的问题,在传统DBN模型中引入布谷鸟搜索（CS）算法,提出一种基于CS-DBN的肺部肿瘤图像识别算法。首先,利用CS的全局寻优能力对DBN的初始权值进行优化,并在此基础上进行DBN的逐层预训练;然后,利用反向传播（BP）算法对整个网络进行微调,从而使网络权值达到最优;最后,将CS-DBN应用于肺部肿瘤图像的识别,实验从受限玻尔兹曼机（RBM）训练次数、训练批次大小、DBN隐层层数和隐层节点数四个角度将CS-DBN与传统DBN进行比较,以验证该算法的可行性和有效性。实验结果表明,CS-DBN的识别精度明显高于传统DBN,在不同RBM训练次数、训练批次大小、DBN隐层层数和隐层节点数条件下,CS-DBN较传统DBN识别率提高百分点的范围分别是1.13~4.33、2.00~3.34、1.07~3.34和1.40~3.34。CS-DBN能够在一定程度上提高肺部肿瘤的识别精度,从而提高肺部肿瘤计算机辅助诊断性能。