基于深度学习的作曲家分类问题

在音乐信息检索领域,作曲家分类是一个十分重要的问题,这一问题的目标是通过音频数据来识别相应的作曲家信息.传统的分类算法都是通过提取复杂的特征来进行分类的,而深层神经网络在特征学习上具有比较强的能力,因此提出用深层神经网络来解决这一问题.为了结合不同深层神经网络模型的优点,设计了一种混合模型,该模型基于深度置信网络(deep belief network,DBN)和级联去噪自编码器(stacked denoising autoencoder,SDA),可以较好地解决作曲家分类问题.实验表明,该模型取得了76.26%的正确率,这一结果比单纯用某一种模型搭建的深层神经网络以及支持向量机要好.和图像数据类似,人脑在提取音乐特征也是分层的,每一层对信号的处理不一样,因此混合模型在解决作曲家分类问题上具有一定的优势.  

深度学习研究与进展

深度学习是机器学习领域一个新兴的研究方向,它通过模仿人脑结构,实现对复杂输入数据的高效处理,智能地学习不同的知识,而且能够有效地解决多类复杂的智能问题。近年来,随着深度学习高效学习算法的出现,机器学习界掀起了研究深度学习理论及应用的热潮。实践表明,深度学习是一种高效的特征提取方法,它能够提取数据中更加抽象的特征,实现对数据更本质的刻画,同时深层模型具有更强的建模和推广能力。鉴于深度学习的优点及其广泛应用,对深度学习进行了较为系统的介绍,详细阐述了其产生背景、理论依据、典型的深度学习模型、具有代表性的快速学习算法、最新进展及实践应用,最后探讨了深度学习未来值得研究的方向。  

基于深层神经网络的藏语识别

文中首次涉及藏语的自然对话风格大词汇电话连续语音识别问题.作为一种少数民族语言,藏语识别面临的最大的困难是数据稀疏问题.文中在基于深层神经网络(DNN)的声学模型建模中,针对数据稀疏的问题,提出采用大语种数据训练好的DNN作为目标模型的初始网络进行模型优化的策略.另外,由于藏语语音学的研究很不完善,人工生成决策树问题集的方式并不可行.针对该问题,文中利用数据驱动的方式自动生成决策树问题集,对三音子隐马尔可夫模型(HMM)进行状态绑定,从而减少需要估计的模型参数.在测试集上,基于混合高斯模型(GMM)声学建模的藏字识别率为30.86%.在基于DNN的声学模型建模中,采用三种大语种数据训练好的DNN网络作为初始网络,并在测试集上验证该方法的有效性,藏字识别正确率达到43.26%.  

基于字的分布表征的汉语基本块识别

汉语的基本块识别是汉语句法语义自动分析中的重要任务之一。传统的方法大多数直接将汉语基本块识别任务转化成词层面的一个序列标注问题,采用CRF模型来处理。虽然,在许多评测中得到最好的结果,但基于词为标注单位,在实用中受限于自动分词系统以及汉语词特征的稀疏性。为此,该文给出了一种以字为标注单位,以字为原始输入层,来构建汉语的基本块识别的深层神经网络模型,并通过无监督方法,学习到字的CW和word2vec两种分布表征,将其作为深层神经网络模型的字的表示层的初始输入参数来强化模型参数的训练。实验结果表明,使用五层神经网络模型,以[-3,3]窗口的字的word2vec分布表征,其准确率、召回率和F值分别达到80.74%,73.80%和77.12%,这比基于字的CRF高出约5%。这表明深层神经网络模型在汉语的基本块识别中是有作用的。  

深层神经网络语音识别自适应方法研究

为了解决语音识别中深层神经网络的说话人与环境自适应问题，本文从语音信号中的说话人与环境因素的固有特点出发，提出了使用长时特征的自适应方案：首先基于高斯混合模型，建立说话人-环境联合补偿模型，对说话人与环境参数进行估计，将此参数作为长时特征；然后，将估计出来长时特征与短时特征一起送入深层神经网络，进行训练。Aurora4实验表明，这一方案可以有效地对说话人与环境因素进行分解，并提升自适应效果。  

基于DNN的低资源语音识别特征提取技术

针对低资源训练数据条件下深层神经网络（Deep neural network，DNN）特征声学建模性能急剧下降的问题，提出两种适合于低资源语音识别的深层神经网络特征提取方法.首先基于隐含层共享训练的网络结构，借助资源较为丰富的语料实现对深层瓶颈神经网络的辅助训练，针对BN层位于共享层的特点，引入Dropout，Maxout，Rectified linear units等技术改善多流训练样本分布不规律导致的过拟合问题，同时缩小网络参数规模、降低训练耗时；其次为了改善深层神经网络特征提取方法，提出一种基于凸非负矩阵分解（Convex-non-negative matrix factorization，CNMF）算法的低维高层特征提取技术，通过对网络的权值矩阵分解得到基矩阵作为特征层的权值矩阵，然后从该层提取一种新的低维特征.基于Vystadial 2013的1小时低资源捷克语训练语料的实验表明，在26.7小时的英语语料辅助训练下，当使用Dropout和Rectified linear units时，识别率相对基线系统提升7.0%；当使用Dropout和Maxout时，识别率相对基线系统提升了12.6%，且网络参数数量相对其他系统降低了62.7%，训练时间降低了25%.而基于矩阵分解的低维特征在单语言训练和辅助训练的两种情况下都取得了优于瓶颈特征（Bottleneck features，BNF）的识别率，且在辅助训练的情况下优于深层神经网络隐马尔科夫识别系统，提升幅度从0.8%~3.4%不等.  

深层神经网络中间层可见化建模

深层神经网络的中间层是隐含的、未知的,这使得深层网络的学习过程不可追踪,学习结果无法解释,在一 定程度上制约了深度学习的发展.本文通过引入先验知识使深层网络的中间层具有明确的含义与显性的影响 关系,即中间层可见化,从而部分人工干预深层网络的内部结构,约束网络学习的方向.基于深层堆叠网 络 (Deep stacking network, DSN),提出两种中间层部分可见的深层神经网络:输入层部分可见的深层堆叠网络(Input-layer visible DSN, IVDSN)和隐含层部分可见的深层堆叠网络(Hidden-layer visible DSN, HVDSN),部分可见是为了保留对未知信息的提取能力和一定的容错能力.以基于文本的言语情 感计算为例测试所提网络的有效性,结果表明先验知识的引入有助于提升深层神经网络的 性能;所提两种网络均可实现中间层的部分可见化,其中HVDSN结构更精简,性能也更优.  

基于非负矩阵分解的语音深层低维特征提取方法

作为一种基于深层神经网络提取的低维特征，瓶颈特征在连续语音识别中取得了很大的成功。然而训练瓶颈结构的深层神经网络时，瓶颈层的存在会降低网络输出层的帧准确率，进而反过来影响该特征的性能。针对这一问题，本文基于非负矩阵分解算法，提出一种利用不包含瓶颈层的深层神经网络提取低维特征的方法。该方法利用半非负矩阵分解和凸非负矩阵分解算法对隐含层权值矩阵分解得到基矩阵，将其作为新的特征层权值矩阵，然后在该层不设置偏移向量的情况下，通过数据前向传播提取新型特征。实验表明，该特征具有较为稳定的规律，且适用于不同的识别任务和网络结构。当使用训练数据充足的语料进行实验时，该特征表现出同瓶颈特征几乎相同的识别性能；而在低资源环境下，基于该特征识别系统的识别率明显优于深层神经网络混合识别系统和瓶颈特征识别系统。  

面向实时应用的深度学习研究综述

深度学习算法和GPU算力的不断进步正促进着人工智能技术在包括计算机视觉、语音识别、自然语言处理等领域得到广泛应用.与此同时，深度学习已经开始应用于以自动驾驶为代表的安全攸关领域.但是，近两年接连发生了几起严重的交通事故表明深度学习技术的成熟度还远未达到安全攸关应用的要求，因此对可信人工智能系统的研究已经成为了一个热点方向.本文对现有的面向实时应用的深度学习领域的研究工作进行了综述，首先介绍了深度学习技术应用于实时嵌入式系统所面临的关键设计问题，然后从深层神经网络的轻量化设计、GPU时间分析与任务调度、CPU+GPU SoC异构平台的资源管理、深层神经网络与网络加速器的协同设计等多个方面对现有的研究工作进行了分析和总结，最后展望了面向实时应用的深度学习领域进一步的研究方向.