基于深度强化学习的滤波器剪枝方案

针对深度神经网络模型在终端设备上部署时面临计算和存储等资源不足的问题，模型剪枝是一种有效的模型压缩方案，在保证模型精度的前提下减少模型的参数量并降低计算复杂度。传统的剪枝方案对于剪枝率及剪枝标准的设置大多依据先验知识，忽略了深度模型中不同层的剪枝敏感度和参数分布差异，缺乏细粒度的优化。对此，提出了一种基于强化学习的滤波器剪枝方案，在满足目标稀疏度的基础上最小化模型剪枝后的精度损失，并采用参数化深度Q学习算法求解构建混合变量的非线性优化问题。实验结果表明，所提方案能够为深度模型每一层选择合适的剪枝标准与剪枝率，减小了模型剪枝后的精度损失。     

自适应深度卷积神经网络模型构建方法

针对传统卷积神经网络(CNN)模型构建过度依赖经验知识、参数多、训练难度大等缺点,同时鉴于复杂多类问题的CNN模型构建策略的重要价值,提出一种自适应深度CNN模型构建方法.首先,将初始网络模型的卷积层和池化层设置为仅含一幅特征图;然后,以网络收敛速度为评价指标,对网络进行全局扩展,全局扩展后,根据交叉验证样本识别率控制网络展开局部扩展,直到识别率达到预设期望值后停止局部网络学习;最后,针对新增训练样本,通过拓展新支路实现网络结构的自适应增量学习.通过图像识别实验验证了所提算法在网络训练时间和识别效果上的优越性.     

结合Spatial CNN的端到端自动驾驶研究

针对当前自动驾驶中端到端深度学习算法需要庞大数据集作为训练支撑且缺少针对性的问题,基于深度迁移的思想,提出了迁移预训练VGG-16网络结合Spatial CNN网络结构的端到端自动驾驶模型.将预训练模型在ImageNet数据集上已经学习到的图像识别能力迁移至转向预测任务上,同时嵌入Spatial CNN网络结构挖掘空间特征信息.研究结果表明:在基于同等少量样本的训练后,迁移学习模型提取的特征更具有相关性,与从零开始训练的DAVE-2模型相比,预测误差率降低11.1％.在测试地图上模型预测值能很好地跟随真实值变化,说明模型能够实现高精度预测.     

自然语言处理中的深度学习:方法及应用

该文围绕特征表示和模型原理,以神经网络语言模型与词向量作为深度学习与自然语言处理结合的切入点,概述了当前主要深度神经网络的模型原理和相关应用。之后综述了当前研究人员在自然语言处理热点领域上所使用的最新深度学习方法并及所取得的成果。最后总结了深度学习方法在当前自然语言处理研究应用中所遇到的瓶颈,并对未来可能的研究重点做出展望。     

基于深度学习的单帧人体体型测量

介绍一种基于单帧RGBD的全身扫描和人体体型测量算法的设计实现,利用该算法能够在较短时间内测量出较高精度的人体体型参数.实测结果表明,该算法在测量人体体型参数过程中能够达到5.8 mm的平均精度值,当增加扫描次数时测量精度值更高.     

考虑不确定性的数值模拟模型确认方法

飞行器在其研发、生产和使用的整个寿命周期中都存在大量不确定性，这会导致数值模拟输出也具有不可忽视的不确定性，因此开展基于数值模拟技术的飞行器设计前必须进行模型确认。目前围绕数值模拟已开展了大量不确定性量化(uncertainty quantification, UQ)的研究工作，但是如何基于UQ的结果科学地进行模型参数修正，形成系统的数值模拟模型确认的闭环流程，构建高可信的数值模拟预测模型，还较少有研究报道。为此，提出一种考虑不确定性的数值模拟模型确认方法，发展一种基于优质小样本的模型参数修正策略，建立一套融合不确定性量化、全局灵敏度分析、参数修正的模型确认闭环流程，为构建高保真的数值模拟提供科学系统的思路，并通过翼型的仿真算例验证了该方法的有效性。     

基于ResNet18网络的油茶果壳籽分选研究

油茶果脱壳后果壳与茶籽混合在一起，油茶果的果壳与茶籽如何分选以及如何提升分选的准确率，是油茶果产业化所面临的一个难题。基于改进ResNet18模型的油茶果果壳与茶籽的分选模型，通过油茶果分选机进行图片的采集和处理获取实验样本图像，比较不同批量尺寸、学习率、激活函数以及优化器的影响，进一步优化模型。实验表明，经过改进后的ResNet18模型，与未改进前相比，在损失函数上有了明显的降低，并且验证集准确率得到提升，验证集平均准确率由之前的97.03%,而最终测试集准确率由97.25%提高至97.75%。较高的准确率可以满足油茶果分选的需要。     

分布式深度学习的数据传输压缩机制研究综述

分布式深度学习已经成为深度学习领域最热门的研究之一,越来越庞大的数据模型和算法都依赖分而治之思想来处理。分布式深度学习系统在快速发展中遇到了许多挑战,其中最重要的是如何在分布式环境有限的网络带宽中有效地传输大量数据,以充分利用计算资源高效训练高精度的深度神经网络。针对这个问题,从参数同步、模型聚合和梯度压缩3个角度讨论不同的数据传输压缩技术,分别将其用于交错数据传输、减少数据交换频率以及减小单次传输数据量。最后对分布式深度学习的数据传输压缩机制的未来发展趋势进行了讨论和展望。