YOLOv3-tiny的硬件加速设计及FPGA实现

YOLOv3-tiny具有优秀的目标检测能力,但模型所需的计算力依然较大,难以实现面向嵌入式领域的应用。提出一种YOLOv3-tiny的硬件加速方法,并在FPGA平台上实现。首先,针对网络定点化设计,以数据精度与资源消耗为设计指标,通过对模型中数据分布的统计以及数据类型的划分,提出了不同的定点化策略。其次,针对网络并行化设计,通过对卷积神经网络计算特性的分析,使用循环调整、循环分块、循环展开和数组分割等方法,设计了可扩展的常用硬件计算单元架构。然后,针对网络流水化设计,从层间与层内2个方面进行研究,以层间数据流方向和层内任务划分为基础,设计了一种灵活的流水化计算架构。最后,在XILINX XC7Z020CLG400-1平台上进行实验,结果表明,相较于667 MHz的单核ARM-A9处理器,加速比高达290.56。     

基于卷积神经网络的霉变烟叶图像识别方法研究

针对人工在线精选霉变烟叶时,存在效率低下、容易漏检等缺点,提出了一种基于卷积神经网络模型对霉变烟叶图像进行筛选、分类识别的方法。首先建立烟叶数据集,然后搭建卷积神经网络模型,利用卷积神经网络先初步提取特征,再筛选提取主要特征,然后进行各部分的特征汇总;最后实现图像的分类,从而实现了快速、准确的识别霉变烟叶图像和正常烟叶图像。实验结果表明,与人工挑选霉变烟叶的方法和烟叶传统图像分类算法相比较,搭建的卷积神经网络不仅具有较高的识别准确率,也简化了人工提取图像特征的复杂过程。     

基于BERT的短文本相似度判别模型

短文本的表示方法和特征提取方法是自然语言处理基础研究的一个重要方向,具有广泛的应用价值。本文提出了BERT_BLSTM_TCNN模型,该神经网络模型利用BERT的迁移学习,并在词向量编码阶段引入对抗训练方法,训练出包括句的语义和结构特征的且泛化性能更优的句特征,并将这些特征输入BLSTM_TCNN层中进行特征抽取以完成对短文本的语义层面上的相似判定。在相关数据集上的实验结果表明:与最先进的预训练模型相比,该模型在有着不错的判定准确率的同时还有参数量小易于训练的优点。     

基于卷积神经网络和关键词的目标检测系统

该文以互联网上的图片数据为训练数据,结合使用深度学习技术,实现了一种基于卷积神经网络和检测关键词的目标检测系统。系统根据用户输入的检测关键词,利用网络爬虫技术搜集图像用于训练。对每张图像,使用预训练的神经网络模型提取图像特征,并采用金字塔池化技术得到图像表达向量。系统基于图像表达向量学习分类器,并利用分类器对用户上传的图片进行目标检测。系统的实现具有实际意义,理想情况下可对任意具体目标实现检测(如行人、车辆、动物等)。     

基于Keras手写数字识别模型的改进

针对结构设计不合理的卷积神经网络导致MNIST识别的准确率低、收敛速度慢和训练参数多等问题,提出卷积神经网络结构的改进模型.改进的模型采用2次卷积、2次池化和3次全连接、采用Relu激活函数和Softmax回顾函数相结合,加入Dropout层防止过拟合,加入Flatten层优化结构.为了缩减代码量,采用API功能强大的Keras模型替代Tensorflow.对MNIST的训练集和测试集数据的准确率进行仿真实验,实验结果表明:采用改进的结构在MNIST的训练中不仅收敛速度快、训练参数少、损失率低,而且在测试集上的准确率达到99.54％、高于改进前的99.25％,对后续手写数字的研究具有重要意义.     

基于FPGA的深度卷积神经网络优化压缩算法研究

针对现有海量数字图像信息落后,提出了新型的压缩算法,设计出基于FPGA的视频图像采集系统.应用深度卷积神经网络优化视频图像编码算法和聚类算法实现数据特征提取,将图像与距离信息作为深度卷积神经网络的输入与输出,并利用其特征提取能力学习图像特征的距离信息,提取深度卷积神经网络中的全连接层作为编码,通过迭代调整确定图像编码,完成图像压缩.应用测试结果显示,该算法具有较高效率优势,且图像压缩解码后质量较好.     

基于改进VGG-16神经网络的图像分类方法

为提高图像分类模型的准确度,提出了一种迁移学习VGG-16并对其进行改进的图像分类方法,即NewVGG-16模型.首先从ImageNet数据集中选取十种不同类型的部分图像数据,进行去噪、标准化等预处理;接着迁移学习VGG-16模型同时将其改进,模型的优化包括改进池化层为sort_pool2d,在每个卷积层后面添加BN层以增强规范性,并选用Adaboost分类器提升整体的分类性能.通过训练集实现模型参数的调整,用测试集检验其准确性.实验证明,该模型能有效提升图像分类的准确性和适用性,准确度可达到98.75％.     

基于神经机器翻译编码器的语义学习分析

神经机器翻译凭借其良好性能成为目前机器翻译的主流方法,然而,神经机器翻译编码器能否学习到充分的语义信息一直是学术上亟待探讨的问题。为了探讨该问题,该文通过利用抽象语义表示(abstract meaning representation,AMR)所包含的语义特征,分别从单词级别、句子级别两种不同的角度去分析神经机器翻译编码器究竟在多大程度上能够捕获到语义信息,并尝试利用额外的语义信息提高机器翻译性能。实验表明: 首先神经机器翻译编码器能够学习到较好的单词级和句子级语义信息;其次,当神经机器翻译的训练集规模较小时,利用额外语义信息能够提高翻译性能。     

线性回归和BP神经网络在噪声监测中的应用

噪声监测系统能够自动测量噪声分贝值,并实时处理系统监测到的各种声音环境信息,但是在噪声监测系统的实际应用中,噪声的分贝值受到温度、湿度和大气压力等多个因素影响,与实际值存在误差.为了提高噪声的测量精度,必须使用相关技术进行校正,系统采用了线性回归和BP神经网络技术,研究了预测模型的因素和系数,分析了模型中因素的相关性,获得了噪声监测的自动校正模型.从线性回归和BP神经网络自动校正数据的测试效果看,优化了测量数据的容错性并改进了数据校正的精度,使预测模型的判定系数R2的值有了较大提升.     

面向晶体结构预测的深度学习方法

晶体结构研究是研究固体材料物理化学性质的基础,而筛选晶体结构通常基于能量最低原理,采用密度泛函理论计算结构能量需要大量计算资源及服务时间.为此本文提出了面向材料结构预测的深度学习方法,加快材料晶体结构的预测.本文从数据集优化、模型训练策略、算法优化等方面进行了深入研究,确定了应用于材料结构预测中深度学习的网络参数和优化算法.将确定的深度学习框架用于寻找Si单晶、TiO2和CaTiO3化合物的基态稳定结构,实验结果表明,利用本研究提出的深度学习方法预测的晶体结构与实验室制备材料结构相吻合.