面向车规级芯片的对象检测模型优化方法

卷积神经网络复杂的网络结构使得模型计算复杂度高,限制了其在自动驾驶等实际终端场景中的应用。针对终端场景下的计算资源受限的问题,本文从轻量化深度模型设计和车规级芯片模型部署验证两方面进行研究。针对深度模型计算效率和检测精度的矛盾,本文设计了基于中心卷积的轻量化对象检测模型,实现功耗低且精度高的模型性能。进一步,本文基于量化感知训练的模型加速部署方法在车规级芯片上开展了系统级部署验证,在车规级芯片tda4上成功实现了高效的对象检测模型,在自动驾驶场景中取得了良好的性能。     

改进Faster R-CNN的汽车仪表指针实时检测

针对产业化的汽车仪表指针人工视觉检测效果差、检测速度慢和实时性低等问题,本文提出了一种改进的Faster R-CNN汽车仪表指针实时检测算法。通过改进原始的RoI网络层结构,实现小目标高低层特征之间的完整传递;采用双线性内插算法替代两次量化操作,使得特征聚集变成连续的过程,能够有效减少计算时间;最后将工业机采集的视频数据,预处理成VOC格式数据集进行训练,调整超参数得到改进汽车仪表指针检测模型。实验结果表明:所提出的方法能够快速、准确地实现汽车仪表指针检测,单张图片的平均检测时间为0.197 s,平均检测精度可达92.7%。在不同类别仪表指针的迁移实验中,展示了良好的泛化性能。     

基于机器学习合成高分辨率布料褶皱

为了精化布料网格得到逼真的布料模拟效果,提出了一种基于机器学习的方法合成高分辨率布料褶皱。首先模拟真实的布料运动,获取布料运动的帧数据信息,将布料运动的帧数据信息转换为图像信息的形式进行存储。然后将图像信息作为输入,输入到卷积神经网络(CNN)中进行训练,通过将卷积神经网络与缩小网络相结合,最终得到高分辨率布料图像。最后将高分辨率布料图像转换为高分辨率布料网格,对布料进行模拟。实验结果表明,与初始的低分辨率布料网格对比,合成的高分辨率布料网格模拟出的布料有着大量且细微的褶皱,并且能够模拟出真实的布料效果,与真实场景中的布料模拟效果相似。该方法在不同的场景中都可以模拟出高质量的布料动画效果,而且减少了仿真速度,验证了该方法的有效性。     

自然语言处理预训练技术综述

在目前已发表的自然语言处理预训练技术综述中,大多数文章仅介绍神经网络预训练技术或者极简单介绍传统预训练技术,存在人为割裂自然语言预训练发展历程.为此,以自然语言预训练发展历程为主线,从以下四方面展开工作:首先,依据预训练技术更新路线,介绍了传统自然语言预训练技术与神经网络预训练技术,并对相关技术特点进行分析、比较,从中归纳出自然语言处理技术的发展脉络与趋势;其次,主要从两方面介绍了基于B E RT改进的自然语言处理模型,并对这些模型从预训练机制、优缺点、性能等方面进行总结;再者,对自然语言处理的主要应用领域发展进行了介绍,并阐述了自然语言处理目前面临的挑战与相应解决办法;最后,总结工作,预测了自然语言处理的未来发展方向.旨在帮助科研工作者更全面地了解自然语言预训练技术发展历程,继而为新模型、新预训练方法的提出提供一定思路.     

一种融合 KPCA 和 BP 神经网络的用水总量预测方法

针对影响用水总量的相关用水因子的不确定性和非线性多维特点,论文研究并提出了一种融合KPCA和思维优化BP神经网络的用水总量预测方法。首先运用相关系数法确定预测因子,然后利用核主成分分析（KPCA）对所述预测因子进行降维处理,解决数据之间的非线性特征,最后采用BP神经网络建立用水总量预测模型,同时采用思维进化学习算法优化BP神经网络的权值和阈值。该方法在国家统计局的2007-2016年度开放统计用水数据中实验,通过实验比较,该模型的相对预测误差小于5%,结果表明,融合 KPCA和思维优化BP神经网络的用水总量预测模型能很好的预测未来用水总量。     

结合CNN与双向LSTM的心律失常分类

心律失常是心血管疾病中常见的病症之一,实现心律失常的自动分类对心血管疾病的诊治具有重要意义.基于一维心电信号的心律失常分类方法以若干节拍作为输入,通过模型提取特征并用于分类.针对现有方法预处理时间成本高以及未按医疗仪器促进协会(AAMI)标准分类等问题,提出了一种基于原始一维心电信号并按照AAMI推荐标准类别进行心律失常自动分类的方法.该方法首先利用卷积神经网络(CNN)学习心电信号的形态特征,之后通过双向长短期记忆网络(BLSTM)获取特征中的上下文依赖关系,最后借助softmax函数完成分类任务.方法采用mish函数作为激活函数,使得模型在训练中更为稳定.在公开数据库MIT-BIH上进行五折交叉验证,评估结果达到了99.11％的平均准确率,表明该模型可以有效地提取心电信号的特征,适用于监测系统中心律失常疾病的诊断.     

基于神经网络的汽车侧面造型评价方法

利用反向传播(BP)神经网络,在 MATLAB 中搭建汽车造型轮廓与意象语义之间的关系模型,快 速判断汽车侧面造型风格。随后利用卷积神经网络(CNN)搭建的表情识别模型建立汽车造型评价系统,分析并 识别用户对于新设计的喜好程度,以得到符合用户情感需求的汽车侧面造型方案。最后通过实例验证方法的可 行性,并推断出流线型汽车的最佳曲率范围。实验结果表明,基于神经网络的汽车造型量化评价方法可以较准 确地对产品造型设计进行评价并以数据形式得到具体意象的侧面造型。     

基于细胞神经网络和并行压缩感知的 图像加密算法

基于细胞神经网络(CNN)和并行压缩感知(CS)提出了一种高安全性的非可视化图像加密算法, 旨在提高现有加密算法的信息传输效率以及减少存储空间。首先明文图像的小波系数经过阈值处理和索引置乱 后,利用受控的部分哈达玛矩阵对其进行并行压缩,接着执行费雪耶兹行列置乱和加模操作,然后再将部分加 密图像分割并通过最低有效位(LSB)嵌入算法随机地隐藏到剩余加密图像的 alpha 通道中生成最终的类噪声密 文图像,具有超混沌特性的 CNN 所产生的伪随机序列用于构造置乱、扩散以及受控测量矩阵。最后,通过一 系列的安全性分析表明,该算法具有很高的传输效率和安全性。     

面向机器人自主分割的肉品识别分类系统实现

针对传统禽类肉品分割环节存在的人工成本突出、卫生安全风险高等世界性难题,集成精准感 知、快速切块、自主剔骨等关键技术,设计了面向机器人自主分割的全自动化生产线工艺流程。基于自主分块 环节形成的鸡胸肉、翅尖、翅中、翅根后续高效自动化分类包装需求,提出了一种结合图像像素个数和卷积神 经网络(CNN)分类的识别方法,建立软硬件协同框架,以满足生产线上图片获取、处理和实时检测等功能要求。 首先,利用提取肉品区域大小区分鸡胸肉和翅尖;然后,基于 CNN 技术识别翅中和翅根并进行分类;最后, 通过对识别算法的参数量和计算量进行分析,估算软硬件协同处理的识别速度。搭建肉品识别系统平台,分析 传送带全速运行下的运动模糊情况,采用数据增强的方式扩展数据集,为了减少计算量,仅采用 R 通道图像数 据作为神经网络的输入。结果表明,鸡胸肉、翅尖的识别准确率达 100%,翅中、翅根的识别准确率达 98.7%, 识别速度可达 0.047 s,可满足禽类肉品 10 000 只/小时的高效分拣的研发需求。     

基于细粒度特征交互的推荐模型

随着电子商务的兴起,用户在网购的同时留下了大量的评论。用户评论通常包含丰富的用户兴趣和项目属性等语义信息,反应了用户对项目特征的偏好。近年来,许多基于深度学习的方法通过利用评论进行推荐,并取得了巨大成功。这些工作主要是采用注意机制来识别对评分预测很重要的词或方面。它们单一的从评论中提取特征信息,并通过用户和物品的特征交互得到预测分数。然而,过度的聚合可能会导致评论中细粒度信息的丢失。此外,现有的模型要么忽略了用户和项目评论的相关性,要么只在单个粒度上构建评论特性交互,这导致用户和项目的特征信息不能被有效而全面地捕获。针对上述问题,在本文我们考虑通过从评论的多个粒度捕获特征信息,然后为用户和物品进行多粒度下的特征交互,可以实现更好的评分预测和解释性。
为此,我们提出了一种新的用于评分预测的细粒度特征交互网络（FFIN）。首先,模型并没有将用户的所有评论聚合成一个统一的向量,而是将用户和物品的每条评论单独建模,通过堆叠的扩展卷积分层地为每个评论文本构建多层次表示,充分地捕获了评论的多粒度语义信息;其次,模型在每个语义层次上构建用户和物品评论的细粒度特征交互,这有效避免了单粒度交互导致的次级重要信息被忽略的问题;最后,由于用户的评论行为通常是主观且个性化的,我们没有使用注意力机制来识别重要信息,而是通过类似于图像识别的层次结构来识别高阶显著信号,并将其用于最终的评分预测。我们在6个来自Amazon和Yelp的具有不同特征的真实数据集上进行了广泛的实验。我们的结果表明,与最近提出的最先进的模型相比,所提出的FFIN在预测精度方面获得了显著的性能提升。进一步的实验分析表明,多粒度特征的交互,不仅突出了评论中的相关信息,还大大提高了评分预测的可解释性。