基于FPGA的卷积神经网络硬件加速器设计

针对卷积神经网络(CNN)计算量大、计算时间长的问题,该文提出一种基于现场可编程逻辑门阵列(FPGA)的卷积神经网络硬件加速器。首先通过深入分析卷积层的前向运算原理和探索卷积层运算的并行性,设计了一种输入通道并行、输出通道并行以及卷积窗口深度流水的硬件架构。然后在上述架构中设计了全并行乘法-加法树模块来加速卷积运算和高效的窗口缓存模块来实现卷积窗口的流水线操作。最后实验结果表明,该文提出的加速器能效比达到32.73 GOPS/W,比现有的解决方案高了34%,同时性能达到了317.86 GOPS。     

An Efficient FIFO Based Accelerator for Convolutional Neural Networks

Journal of Signal Processing Systems - Over the last decade, Convolutional Neural Networks (CNNs) have become the go to technique to perform tasks in deep learning applications such as computer...     

基于快速滤波算法的卷积神经网络加速器设计

为减少卷积神经网络(CNN)的计算量,该文将2维快速滤波算法引入到卷积神经网络,并提出一种在FPGA上实现CNN逐层加速的硬件架构。首先,采用循环变换方法设计行缓存循环控制单元,用于有效地管理不同卷积窗口以及不同层之间的输入特征图数据,并通过标志信号启动卷积计算加速单元来实现逐层加速;其次,设计了基于4并行快速滤波算法的卷积计算加速单元,该单元采用若干小滤波器组成的复杂度较低的并行滤波结构来实现。利用手写数字集MNIST对所设计的CNN加速器电路进行测试,结果表明：在xilinx kintex7平台上,输入时钟为100 MHz时,电路的计算性能达到了20.49 GOPS,识别率为98.68%。可见通过减少CNN的计算量,能够提高电路的计算性能。     

基于密集卷积神经网络的全卷积池化算法

目前用于图像识别的大多数卷积神经网络(CNN)都使用相同的原理构建,即:卷积层、池化层、全连接层.文中使用密集卷积神经网络重新评估了用于图像识别的所有组件,并对池化层不存在的必要性提出了质疑.经过实验,分析发现池化层可以由步幅增加的卷积层代替,却不会降低图像识别的准确率.研究中则在DenseNets上训练提出的由卷积层...     

卷积神经网络中ReLU激活函数优化设计

卷积神经网络中的激活函数的作用是激活神经元的特征然后保留并映射出来,这是神经网络能模拟人脑机制,解决非线性问题的关键。ReLU函数更是其中的佼佼者,但同时其自身也存在不足之处。文章从两个方面对ReLU函数进行了优化设计。对使用梯度下降法的激活函数的学习率进行讨论研究并提出可行的学习率改进方法。提出一种新型校正激活函数,称其为e-ln函数,经过Mnist数据集仿真实验证明某些情况下其性能要优于ReLU。     

基于深度卷积神经网络的人脸年龄分类

人脸包含了较多的可区分生物特征信息,这些信息除了可用于身份认证和识别外,还可用于人脸年龄分类等应用.为克服人脸所表征年龄信息会受到复杂的非线性因素例如个体的基因差异、居住环境、健康情况和种族差别等因素的影响,本文使用深度卷积神经网络,通过设计一系列的卷积、池化、全连接和归一化层,对人脸的年龄进行了有效地分类.本算法能克服传统SVM分类算法不能有效处理人脸图像和实际年龄间复杂的非线性关系而带来的准确率下降问题,在FG-NET人脸数据测试集上达到了94.4％的准确率,能有效地应用在安防、人机交互和娱乐影音等领域.     

Deep Convolutional Neural Networks for pedestrian detection

Pedestrian detection is a popular research topic due to its paramount importance for a number of applications, especially in the fields of automotive, surveillance and robotics. Despite the significant improvements, pedestrian detection is still an open challenge that calls for more and more accurate algorithms. In the last few years, deep learning and in particular Convolutional Neural Networks emerged as the state of the art in terms of accuracy for a number of computer vision tasks such as image classification, object detection and segmentation, often outperforming the previous gold standards by a large margin. In this paper, we propose a pedestrian detection system based on deep learning, adapting a general-purpose convolutional network to the task at hand. By thoroughly analyzing and optimizing each step of the detection pipeline we propose an architecture that outperforms traditional methods, achieving a task accuracy close to that of state-of-the-art approaches, while requiring a low computational time. Finally, we tested the system on an NVIDIA Jetson TK1, a 192-core platform that is envisioned to be a forerunner computational brain of future self-driving cars.     

基于FPGA的卷积码译码器设计

针对目前卷积码译码器占用资源较多,最高工作频率较低的缺点,设计了基于FPGA的（2,1,8）卷积码译码器。该译码器采用硬判决维特比译码算法。为有效提高译码器的工作频率,采用寄存器存储路径度量和幸存路径。通过分析译码启动过程中状态转移图上各个状态与其前一状态的关系,找到了硬件实现该过程的一种简单方法。通过分析译码过程中各个状态路径度量值之间的差值的变化规律,找到了采用硬判决维特比译码算法时,存储各个状态路径度量值的寄存器的最小位宽。在Quartus2集成开发平台上用Verilog HDL语言编写了译码器的源代码,并进行了编译、综合、仿真。结果表明所设计的卷积码译码器工作频率高,且输出时延小,占用资源较少。具有一定的实用价值。     

基于卷积神经网络的法庭说话人识别研究

传统的法庭说话人识别方法存在对语音数据建模能力差、特征提取难以及容易受噪声干扰影响等问题,为了改进这些问题,提出一种基于卷积神经网络的法庭说话人识别方法.该方法以AlexNet网络为基础进行参数调整,为了弥补ReLU函数作为激活函数时易出现神经元坏死和偏移的现象,融合Tanh和ReLU函数的特性,构造一种新的TR函数作为网络的激活函数.同时,为了避免人工提取语音特征的主观性和不全面性,在实验中将语音转换成声纹图作为网络输入.实验结果表明,激活函数为TR函数时,该方法在法庭说话人识别数据集的准确率达到了92.24％,在花朵图像公开数库的准确率达到了96.13％,效果均好于Tanh和ReLU函数.     

基于卷积神经网络的图像分类算法综述

随着大数据的到来以及计算能力的提高,深度学习(Deep Learning, DL)席卷全球。传统的图像分类方法难以处理庞大的图像数据以及无法满足人们对图像分类精度和速度上的要求,基于卷积神经网络(Convolutional Neural Network, CNN)的图像分类方法冲破了传统图像分类方法的瓶颈,成为目前图像分类的主流算法,如何有效利用卷积神经网络来进行图像分类成为国内外计算机视觉领域研究的热点。本文在对卷积神经网络进行系统的研究并且深入研究卷积神经网络在图像处理中的应用后,给出了基于卷积神经网络的图像分类所采用的主流结构模型、优缺点、时间/空间复杂度、模型训练过程中可能遇到的问题和相应的解决方案,与此同时也对基于深度学习的图像分类拓展模型的生成式对抗网络和胶囊网络进行介绍;然后通过仿真实验验证了在图像分类精度上,基于卷积神经网络的图像分类方法优于传统图像分类方法,同时综合比较了目前较为流行的卷积神经网络模型之间的性能差异并进一步验证了各种模型的优缺点;最后对于过拟合问题、数据集构建方法、生成式对抗网络及胶囊网络性能进行相关实验及分析。      

基于深度卷积神经网络的大气湍流强度估算

提出了一种基于深度卷积神经网络估算大气湍流折射率结构常数C_n²的方法。将湍流影响下的高斯光束光斑图像作为神经网络的输入,利用深度卷积神经网络提取图像的特征信息,得到C_n²大小,并采用平均绝对误差、平均相对误差、均方根方差和相关系数四个统计量来衡量模型的估算效果。结果表明,该模型能够根据湍流影响下的高斯光束光斑图像对C_n²进行估算,当迭代500次时,相关系数为99.84%,各项误差均在2%左右。该模型在大气湍流特性分析及大气湍流强度估算等领域有一定应用价值。     

基于卷积神经网络的档案分类与识别技术

文中基于卷积神经网络,研究了档案分类与识别技术,旨在提高档案管理的效率和准确性。首先,介绍了卷积神经网络在图像分类任务中的应用,总结了现有研究的主要成果。然后,阐述了档案分类与识别的概念,详细介绍了卷积神经网络的基本原理和特点。接着,提出了基于卷积神经网络的档案分类与识别技术的基本流程,包括数据预处理、特征提取、分类归档等步骤。最后,详细讨论了数据采集、数据预处理、模型设计、模型训练、模型测试、结果分析等关键环节。     

卷积神经网络在异常声音识别中的研究

卷积神经网络(CNNs)已广泛应用于语音识别领域中以改善传统声学模型存在的鲁棒性弱、实时性差、识别性能低等缺点。本文对卷积神经网络在异常声音识别任务中的适用性及其识别性能进行了研究,针对日常常见的6种不同异常声音样本,分析了不同声音特征的维度对卷积神经网络识别性能的的影响,还将卷积神经网络分别与高斯混合模型、BP神经网络进行比较。实验结果表明,无噪声条件下,一维特征在卷积神经网络中的平均识别率比二维特征相对提升了2.91%,且误差收敛速度更快,但在有噪声条件下,二维特征的平均识别率比一维特征相对提升了3.41%。同时卷积神经网络比其它两种识别模型在对噪声的鲁棒性和误差收敛速度等方面均有明显的优势。      

基于卷积神经网络的红外光谱建模分析综述

红外光谱技术存在着数据预处理复杂、预测精度不高,且难以处理大量非线性数据的问题,适于用卷积神经网络进行处理.本文首先分析了卷积神经网络应用在红外光谱上的优点,并对卷积神经网络结构组成进行简单的概述.然后针对卷积神经网络在光谱分析建模中的输入数据维度问题进行详细阐述;针对模型设计中卷积核参数的影响、多任务处理模型以及训练...     

Term-Based Pooling in Convolutional Neural Networks for Text Classification

To achieve good results in convolutional neural networks(CNN) for text classification task, term-based pooling operation in CNNs is proposed. Firstly, the convolution results of several convolution kernels are combined by this method, and then the results after combination are made pooling operation, three sorts of CNN models(we named TBCNN, MCT-CNN and MMCT-CNN respectively) are constructed and then corresponding algorithmic thought are detailed on this basis. Secondly, relevant experiments and analyses are respectively designed to show the effects of three key parameters(convolution kernel, combination kernel number and word embedding) on three kinds of CNN models and to further demonstrate the effect of the models proposed. The experimental results show that compared with the traditional method of text classification in CNNs, term-based pooling method is addressed that not only the availability of the way is proved, but also the performance shows good superiority.     

利用卷积神经网络和协方差的协作频谱感知算法

针对基于信号协方差矩阵的频谱感知算法门限难于准确得到及没有充分利用原始信号信息等问题,提出了基于卷积神经网络和协方差矩阵的协作频谱感知算法。首先将接收的I、Q两路正交信号的归一化协方差矩阵组成双通道输入矩阵,然后使用卷积神经网络直接提取协方差矩阵的特征信息,并进行训练得到分类器,最后使用训练好的模型进行频谱感知。仿真结果表明,本文所提出的频谱感知算法优于对比算法,在信噪比为-13 dB、40个次用户协作感知时,本文算法虚警概率低于0.1,检测概率达到0.9以上。      

Coronary Artery Fibrous Plaque Detection Based on Multi-Scale Convolutional Neural Networks

Journal of Signal Processing Systems - One of the major causes of the coronary heart disease is vascular stenosis and thrombosis that is generally caused by development of fibrous plaques....     

利用参数稀疏性的卷积神经网络计算优化及其FPGA加速器设计

针对卷积神经网络(CNN)在嵌入式端的应用受实时性限制的问题,以及CNN卷积计算中存在较大程度的稀疏性的特性,该文提出一种基于FPGA的CNN加速器实现方法来提高计算速度。首先,挖掘出CNN卷积计算的稀疏性特点;其次,为了用好参数稀疏性,把CNN卷积计算转换为矩阵相乘;最后,提出基于FPGA的并行矩阵乘法器的实现方案。在Virtex-7 VC707 FPGA上的仿真结果表明,相比于传统的CNN加速器,该设计缩短了19%的计算时间。通过稀疏性来简化CNN计算过程的方式,不仅能在FPGA实现,也能迁移到其他嵌入式端。     

基于卷积神经网络的调制识别新方法

针对通信信号调制方式识别问题,提出了一种基于卷积神经网络的通信信号调制方式识别新方法,利用深度卷积网络实现了通信信号特征的自学习,避免了传统算法中特征提取与选择问题,并设计了基于自学习特征的分类器,实现了通信信号调制方式的识别。仿真结果表明,利用卷积神经网络实现通信信号调制方式的识别是可行、有效的。