轻量化神经网络卷积设计研究进展

传统神经网络具有过度依赖硬件资源和对应用设备性能要求较高的缺点,因此无法部署于算力有限的边缘设备和移动终端上,人工智能技术的应用发展在一定程度上受到了限制.然而,随着科技时代的到来,受用户需求影响的人工智能迫切需要在便携式设备上能成功进行如计算机视觉应用等方面的操作.为此,以近几年流行的轻量化神经网络中的卷积部分为研究...     

基于轻量化卷积神经网络的服装分类方法

考虑到电商平台的日益发展,使用人工分类的方式对服装进行分类无法满足目前的需求.本文从实际的应用场景出发,针对于服装图像进行分类时会受到背景因素干扰、服装图像关键部位信息以及算法模型运行的的硬件要求三个方面,分别进行改进设计.提出：1）消除背景的干扰;2）图像局部信息的利用;3）模型的轻量化处理.最终得到了在满足准确性的前提下,可以在普通低配置PC端进行运行的算法模型,提升了工作效率,同时节省了成本.     

基于BP神经网络的建筑能耗预测

建筑负荷的预测是现在建筑能耗工作中十分重要的一项,是建立节能减排的重要支撑条件,对建筑总体能耗的预测需要考虑建筑结构内、外部环境方面的各项因素,例如对外部平均温度、湿度等,提出了使用BP神经网络的理论解决负荷的预测问题,结合某地的事实数据,用Matlab建立负荷预测模型,进行仿真预测的结果进行分析,预测的误差较小,能够...     

应用空洞卷积的神经网络轻量化方法#br#

为了深度卷积神经网络能够更好地应用于边缘设备,减少深度神经网络的模型参数量,降低网络复杂度,对于轻量化卷积神经网络的研究日益增多。将常用于多尺度融合的卷积——空洞卷积首次应用于神经网络轻量化领域研究。利用空洞卷积采样与扩大感受野的结构特性,实现了模型参数量的减少与计算复杂度的降低。将空洞卷积单纯作用于残差网络结构,达到轻量化目的,并进一步与逐点卷积结合,提高轻量化效果,形成改进型空洞卷积轻量化方法。为减少准确率衰减,将改进型空洞卷积与普通卷积相融合,提出一种融合型空洞卷积轻量化方法。实验结果表明,改进型空洞卷积轻量化方法具有最显著的轻量化效果,融合型空洞卷积轻量化方法使模型参数量减少同时具有最佳速度与精度的权衡。     

软件能耗优化技术研究进展

为了设计高性能低能耗的系统,需要从硬件设计和软件设计两个方面进行考虑,以取得性能和能耗的最佳权衡.研究利用软件技术降低系统能耗的问题,主要探讨系统开发阶段的低能耗软件优化与评估技术.优化技术包括指令级优化、算法级优化与软件体系结构优化3类,阐述在各类优化技术研究中面临的问题和当前的研究工作进展;深入讨论了低能耗软件优化的关键支撑技术——软件能耗估算,指出并分析面向处理器和面向全系统的软件能耗估算面临的主要问题和研究进展;最后展望进一步研究的主要问题和发展趋势.     

轻量化卷积神经网络技术研究

为了使卷积神经网络模型更好地应用于移动端和嵌入式设备，必须从减少模型参数量和降低计算复杂度两方面入手。首先简要介绍了目前几种流行的解决方法，并详细阐述了六个轻量化卷积神经网络模型，展示了其中应用的不同网络计算方式的计算量和参数量，论述了模型的核心构建模块、整体网络结构和创新之处。分析了各网络以及常规卷积网络在ImageNet数据集上的分类准确度，进而对比各网络实现轻量化的技巧，得出在进行模型设计时采用直接指标替代间接指标的结论。同时发现了残差结构对保证轻量化模型准确率的重要性。最后对轻量化卷积神经网络的发展前景进行了展望。     

神经网络非梯度优化方法研究进展

神经网络优化是机器学习领域的一个基础性前沿课题。相较于神经网络的纯梯度优化算法,非梯度算法在解决收敛速度慢、易陷入局部最优、无法解决不可微等问题上表现出更大的优势。在剖析基于梯度的神经网络方法优缺点的基础上,重点对部分非梯度优化方法进行了综述,包括前馈神经网络优化和随机搜索优化;从基本理论、训练神经网络的步骤以及收敛性等方面对非梯度优化方法的优缺点和应用情况进行了分析;总结了基于非梯度的训练神经网络的算法在理论和应用方面面临的挑战并且展望了未来的发展方向。     

基于轻量化神经网络的石窟壁画破损检测方法

针对石窟壁画脱落与破损检测过程中存在检测精度低、实时性差的问题,提出了基于轻量化神经网络和多重注意力机制的石窟壁画破损检测方法。首先,引入Ghost Conv完成轻量化特征提取,降低模型复杂度;其次,加入双重注意力机制增加特征提取的倾向性,加快模型收敛速度;最后,使用加权双向特征金字塔拼接方式高效融合特征信息,通过复合缩放完成预测。实验结果表明：改进后的算法网络层数减少了34.40%。参数量和浮点运算量分别降低了62.98%和68.77%,模型体积压缩了62.78%。检测精度高达64.7%,实时检测速度从63.60帧/s提升至97.56帧/s,提高了约53.39%。     

虚拟化数据中心全局能耗优化调度方法

虚拟化数据中心的制冷和供电设备能耗比重大且浪费严重,但当前虚拟化能耗优化的研究仅考虑IT设备能耗,针对该问题,通过对数据中心能耗逻辑的研究,提出一种虚拟化数据中心全局能耗优化调度方法。该方法通过感知数据中心负载和热分布状况,依据虚拟化调度规则生成动态调度策略,并对虚拟设备组的制冷供电设备进行同步调度,减少数据中心冗余制冷和设备空载损耗,以此最小化数据中心能耗。实验结果表明,该调度方法可节省制冷设备近26％的冗余制冷,并提升供电设备8％左右的供电效率,提高数据中心的能耗有效性,降低整体能耗。     

基于时序分解与CNN的车间能耗预测方法

针对涂装车间能耗数据的复杂性以及动态性,仅根据历史能耗数据难以预测未来能耗的问题,提出基于贝叶斯估计的时序分解与卷积神经网络(TSDCNN)的车间能耗组合预测模型.该方法利用时序分解对车间能耗原始数据的周期和长期趋势成分进行建模;采用贝叶斯估计算法对各成分模型参数进行最优估计,解决能耗数据的动态性和不确定性的问题.选取...     

异构计算中的时间和能耗优化执行方法

计算环境的异构性以及应用任务的复杂多样性导致异构计算的必要性.异构计算的目的是重视并行处理系统和计算任务的差异,寻求系统和任务的有效匹配,从而获得并行任务在系统上执行的最佳效果.当前,异构计算中的时间优化执行方法较成熟,但同时将时间和能耗联合起来作为异构计算优化执行目标方面的研究很少.以高性能计算和绿色计算为总目标,针...     

异构计算中的时间和能耗优化执行方法

计算环境的异构性以及应用任务的复杂多样性导致异构计算的必要性。异构计算的目的是重视并行处理系 统和计算任务的差异,寻求系统和任务的有效匹配,从而获得并行任务在系统上执行的最佳效果。当前,异构计算中 的时间优化执行方法较成熟,但同时将时间和能耗联合起来作为异构计算优化执行目标方面的研究很少。以高性能 计算和绿色计算为总目标,针对异构计算环境中并行任务分配调度执行问题,提出了异构任务模型、异构计算速率矩 阵、异构计算功率矩阵,利用能耗时间归一思想,给出并行任务在异构处理机上时间与能耗启发式优化执行算法,并通 过实例分析证实算法的可行性和有效性。     

基于神经网络的机械加工工序能耗预测

针对工序级能耗难以用数学方法精确估算的问题,提出了一个基于神经网络的机械加工工序能耗预测方法。给出了输入变量及输出变量的选取及其归一化处理方法,进行了隐含层节点数和传递函数的选取。以各切削用量组合及其对应能源消耗的历史数据作为神经网络训练的样本集,建立切削用量组合方案输入和能源消耗输出间的非线性关系,从而对新的切削用量参数组合进行能耗值的预测。以某企业导叶片的粗铣加工为例,验证了该能耗预测方法的有效性。     

基于神经网络的精馏能耗模拟和优化

精馏是化工工业生产的重要操作单元,具有较强的非线性和时变性.现有的绝大部分文献是对精馏塔进行设计性的研究,而对实际投入运行的精馏塔,尤其在设计的进料负载因实际状况改变的情况下,节能优化方法研究较少.文中针对四塔精馏过程提出一个利用神经网络对其加以分析的方法.将神经网络训练输出的结果和实际的结果相比对,表明该建模方法具有比较满意的拟合效果,最后介绍将此模型应用到精馏塔的节能优化中,达到节能减排的目的.     

轻量化神经网络加速器的设计与实现

针对以MobileNet为代表的轻量化卷积网络,基于现场可编程门阵列平台设计网络加速器。通过优化DW、PW轻量化模块并实现常用的卷积、ReLU等功能模块,满足神经网络加速器低功耗、低时延的要求,同时基于指令设计使加速器支持MobileNet及各类变种。利用上位机配置YoloV3 tiny（不含轻量模块）指令和YoloV3&MobileNet（含轻量模块）指令进行目标检测,实验结果表明,该网络加速器具有较快的推断速度,用于YoloV3 tiny结构时达到85 frame/s,用于YoloV3&MobileNet结构时达到62 frame/s。     

基于BP神经网络的地铁节假日能耗预测

针对常规预测中的节假日预测精度低的缺点,提出了一种基于BP神经网络的地铁能耗预测模型,实现了正常日和节假日的分别预测.以某市地铁能耗统计数据作为样本,对模型进行了仿真预测.结果表明,利用本文预测模型,确实提高了地铁的节假日能耗预测精度.     

基于IPSO-Elman神经网络的建筑暖通空调系统能耗预测方法

在建筑暖通空调系统能耗预测中,在不同负荷比率的作用下预测偏差较高,可靠性需要进一步提高.为此,提出了基于IP-SO-Elman神经网络的建筑暖通空调系统能耗预测方法.从正在运行的暖通空调系统中,提取能耗数据,在获得完整的能耗数据后,根据能耗数据的动态变化特点,计算IPSO-Elman神经网络的惯性权重和学习因子,将能耗...     

基于轻量化神经网络的快速汉字笔画分类模型

在汉字书写场景中,我们可以通过实时捕捉手写者的手写轨迹数据,并可以通过笔画类型、空间关系等构字要素逻辑地位等评价策略,实现汉字书写质量智能测评,以达到指导学习书写的目的。其中笔画分类是手写字体评估中的重要任务。然而,现有笔画级标注的汉字数据集很少,并缺少轻量化并可以应用于嵌入式设备的笔画分类方案,难以工程化落地。在不同设备上采集用户的手写笔画数据（如会议平板、电子白板、学习机等）,并使用特征工程,采用一维深度可分离卷积构建轻量化的快速汉字笔画分类模型,并把模型进行量化部署到嵌入式设备中。模型量化后的tflite格式文件大小仅为11kb,而在数据集上达到了97%的精确度。把量化后的模型部署到嵌入式设备中并进行了商业化上线。     

工业机器人能耗优化方法研究综述

机器人技术作为智能制造的关键,其能耗问题已引起各制造业大国的关注,国内外的研究十分活跃。针对工业机器人能耗优化问题,介绍了轻量化设计、高效驱动系统设计、能量存储和共享装置等低能耗硬件设计方法,从轨迹规划和任务调度方面对能耗优化的软件方法进行了综述,介绍了具有应用潜力的软件优化和硬件相结合的混合方法,同时突出了主要研究成果并说明了不足之处;最后指出工业机器人能耗优化具有潜力的发展趋势。