优化神经网络结构

本文综述了构造优化神经网络结构的一些方法，并对这些方法进行了分类，最后提出了存在的问题和进一步的工作。     

神经网络结构自适应研究综述

网络结构自适应旨在根据特定学习任务和数据对神经网络结构进行自动设计和模型优化,以适应开放环境智能感知学习任务的综合需求.文中旨在全面综述网络结构自适应方法.首先,阐述并分析神经架构搜索的主要方法.然后,分别从轻量化神经架构搜索、智能感知任务、连续学习三个方面呈现网络结构自适应的研究进展.在此基础上,建立一套面向开放环境应用的深度神经网络组件与结构的自适应评价指标体系,提出一种网络结构自适应方法,通过注意力引导的微观架构自适应机制和渐进式离散策略,在优化过程中实现网络结构的自适应调整优化和逐步离散化,并与现有方法进行对比分析.最后,探讨当前方法存在的问题与挑战,展望未来的研究方向.     

基于神经网络结构搜索的卷积神经网络剪枝与压缩方法

随着深度神经网络在人工智能领域的广泛应用,其模型参数也越来越庞大,神经网络剪枝就是用于在资源有限设备上部署深度神经网络。该文通过新的优化策略-加速近端梯度（APG）、轻量级网络设计、非结构化剪枝和神经网络结构搜索（NAS）等手段相结合,实现对目标分类和目标检测等常见卷积神经网络模型的压缩剪枝,实验表明压缩剪枝后模型准确率不变,参数量下降91.1%,计算量下降84.0%。最后将压缩剪枝后模型的推断过程在嵌入式架构中实现,为深度学习在边缘端设备平台上的实现奠定了基础。     

神经网络结构动态优化设计的分析与展望

阐述了神经网络结构设计对神经网络性能的影响. 介绍了动态结构神经网络, 尤其是增长型和修剪型神经网络研究的发展过程, 分析了动态设计方法研究在计算能力、学习理论和网络的稳定性等方面取得的成果. 最后对神经网络动态设计的研究进行总结, 给出了神经网络结构动态设计研究的发展趋势.     

一种自动生成神经网络结构的新方法

神经网络已广泛应用于模式识别、优化计算等领域.但是,人们为了寻求某一问题的神经网络结构,往往采用穷举法,从而使得选择合适的神经网络结构随着问题规模的变大而变得越来越困难.本文根据神经元状态的变化导致人脑的空间结构和状态变化的研究,在神经网络中引入神经元的兴奋、抑制和突触修改机制、退化机制、死亡机制、自修复机制等,通过神经网络的学习,自动生成解决某一具体问题的合适的神经网络结构.实验结果表明,该方法是可行的、有效的,为神经网络结构的设计提供了一种新方法.     

控制中的一种神经网络结构

本文介绍通过利用神经网络计算算法怎样将神经网络两个重要的计算特点用于自适应控制。以单自由度机械手为例,对神经形态控制方法和模型参考自适应控制方法进行比较,对很大规模的系统,利用神经网络作为自适应控制提供定速,比传统的方法优越。     

自适应RBF-LBF串联神经网络结构与参数优化方法

研究了前向单层径基函数(RBF)网络和前向单层线性基本函数(LBF)网络的分类机理，提出了RBF的中心和宽度应通过学习自动确定，在学习过程中根据错分样本被错分入的类别自动生成新的核函数这一观点．如果两个或两个以上核函数属于同一类，在输入空间相距较近且未被其它类别的样本分隔开来的情况下，则应考虑将之合并，或者使它们的作用区域部分重叠．从理论上阐明了采用Sigmoid活化函数的单层感知器的分类阈值为0．5，进而提出了由单层RBF网络和单层感知器组成的串联RBF—LBF神经网络．文中详细给出了确定该串联RBF—LBF神经网络结构、核函数个数、位置与宽度的优化算法．一般来说，该算法的计算复杂性比前向单隐层感知器采用的误差反传算法要小或至少相当．对几个经典的模式分类难题的处理结果表明，与一般RBF网络和前向单隐层感知器网络相比，该串联RBF—LBF网络及其自适应学习算法具有收敛速度快，分类精度高，易于得到最小结构，在学习过程中不易陷入局部极小点等优点，有利于实现实时分析．实验结果同时也验证了单层LBF网络对提高RBF—LBF网络分类正确率的重要性．     

神经网络结构搜索方法综述

如今,深度学习广泛地应用于生活、工作中的各个方面,给我们带来了极大的便利.在此背景下,需要设计针对不同任务的神经网络结构,满足不同的需求.但是,人工设计神经网络结构需要专业的知识,进行大量的实验.因此,神经网络结构搜索算法的研究显得极为重要.神经网络结构搜索(NAS)是自动深度学习(AutoDL)过程中的一个基本步骤,对深度学习的发展与应用有着重要的影响.早期,一些神经网络结构搜索算法虽然搜索到了性能优越的神经网络结构,但是需要大量的计算资源且搜索效率低下.因此,研究人员探索了多种设计神经网络结构的算法,也提出了许多减少计算资源、提高搜索效率的方法.本文首先简要介绍了神经网络结构的搜索空间,其次对神经网络结构搜索算法进行了全面的分类汇总、分析,主要包括随机搜索算法、进化算法、强化学习、基于梯度下降的方法、基于顺序模型的优化算法,再其次探索并总结了提高神经网络结构搜索效率的方法,最后探讨了目前神经网络结构搜索工作中存在的问题以及未来的研究方向.     

神经网络结构搜索在脑数据分析领域的研究进展

神经网络结构搜索(neural architecture search,NAS)是自动化机器学习的重要组成部分,已被广泛应用于多个领域,包括计算机视觉、语音识别等,能够针对特定数据、场景、任务寻找最优的深层神经网络结构.将NAS引入至脑数据分析领域,能够在图像分割、特征提取、辅助诊断等多个应用领域大幅度提升性能,展现低能耗自动化机器学习的优势.基于NAS进行脑数据分析是当前的研究热点之一,同时也具有一定挑战.目前,在此领域,国内外可供参考的综述性文献较少.对近年来国内外相关文献进行了细致地调研分析,从算法模型、研究任务、实验数据等不同方面对NAS在脑数据分析领域的研究现状进行了综述.同时,也对能够支撑NAS训练的脑数据集进行了系统性总结,并对NAS在脑数据分析中存在的挑战和未来的研究方向进行了分析和展望.     

单次神经网络结构搜索研究综述

深度学习技术的快速发展与神经网络结构的创新关系密切。为提升网络结构设计效率,自动化网络结构设计算法—神经网络结构搜索NAS成为近年的研究热点。早期NAS算法通常要对大量候选网络进行训练和评估,带来了巨大的计算开销。通过迁移学习技术,可以加速候选网络的收敛,从而提升网络结构搜索效率。基于权重迁移技术的单次神经网络结构搜索(One-shot NAS)算法以超图为基础,子图之间进行权重共享,提高了搜索效率,但是也面临着协同适应、排序相关性差等挑战性问题。首先介绍了基于权重共享的One-shot NAS算法的相关研究,然后从采样策略、过程解耦和阶段性3个方面对关键技术进行分析梳理,比较分析了典型算法的搜索效果,并对未来的研究方向进行了展望。     

前馈过程神经网络的网络结构与泛化能力

基于提高过程神经网络泛化能力的角度,对前馈过程神经网络网络结构对泛化能力的影响进行研究,得出以下结论：其过程神经元隐层（时变隐层）起主要作用,一般神经元隐层（非时变隐层）并非是必须的,对于相同特征的样本,过程神经元对样本特征的抽取能力远远高于传统神经元。给出了一个基于提高泛化能力的前馈过程神经网络网络结构构造算法,并应用一个实例验证了其有效性。     

改进的选择神经网络结构的方法

有关人工神经网络作为在线状态估计器组成基于神经网络的传感器故障检测的研究已有报导。但是这些文章中没有提到如何选择神经网络的结构。神经网络的输入延迟数和隐基单元数影响其对系统的拟合精度,从而影响故障检测的灵敏度。研究了一些现有的选择神经网络结构的方法,以系统化的交叉证实法为基础,经过改进,提出了针对作为在线状态估计器的神经网络选择输入延迟数和隐层单元数的系统化的方法,并用某船在试验场中航行时平台罗经输出的一段数据作了仿真,结果证明该法可行,具有工程实用意义。     

深度神经网络结构搜索综述

深度神经网络在图像识别、语言识别和机器翻译等人工智能任务中取得了巨大进展,很大程度上归功于优秀的神经网络结构设计。神经网络大都由手工设计,需要专业的机器学习知识以及大量的试错。为此,自动化的神经网络结构搜索成为研究热点。神经网络结构搜索（neural architecture search,NAS）主要由搜索空间、搜索策略与性能评估方法3部分组成。在搜索空间设计上,出于计算量的考虑,通常不会搜索整个网络结构,而是先将网络分成几块,然后搜索块中的结构。根据实际情况的不同,可以共享不同块中的结构,也可以对每个块单独搜索不同的结构。在搜索策略上,主流的优化方法包含强化学习、进化算法、贝叶斯优化和基于梯度的优化等。在性能评估上,为了节省计算时间,通常不会将每一个网络都充分训练到收敛,而是通过权值共享、早停等方法尽可能减小单个网络的训练时间。与手工设计的网络相比,神经网络结构搜索得到的深度神经网络具有更好的性能。在ImageNet分类任务上,与手工设计的MobileNetV2相比,通过神经网络结构搜索得到的MobileNetV3减少了近30%的计算量,并且top-1分类精度提升了3.2%;在Cityscapes语义分割任务上,与手工设计的DeepLabv3+相比,通过神经网络结构搜索得到的Auto-DeepLab-L可以在没有ImageNet预训练的情况下,达到比DeepLabv3+更高的平均交并比（mean intersection over union,mIOU）,同时减小一半以上的计算量。神经网络结构搜索得到的深度神经网络通常比手工设计的神经网络有着更好的表现,是未来神经网络设计的发展趋势。     

基于粗糙集优化神经网络结构的启发式算法

为了解决神经网络设计中确定网络结构尤其是隐层单元数的问题,提出了一种基于粗糙集理论确定神经网络结构的启发式算法.通过粗糙集理论属性约简算法对训练样本数据进行处理,根据处理结果确定网络的输入、输出以及隐层单元数.在对A320飞机自动驾驶仪不能衔接的故障诊断实例中,所设计的网络在训练中能够快速收敛,相对于传统的试探法能更快速准确地确定网络结构,从而提高飞机故障诊断效率,缩短维修时间,证明了该方法的实际可行性.     

自适应神经模糊推理系统建模研究

With rapid development of the fuzzy control application field, the existing system for fuzzy inferring modeling cannot more and more suit the requirements of fuzzy control. About how to apply the theories of fuzzy control to practice rapidly and conveniently, this paper presents a reasonable and practical method, which supports all sorts of fuzzy inferring system of MAMDANI and SUGENO to be modeled not only by tuning references of membership functions, but also by tuning fuzzy inferring structure. The modeling instance shows that it's practical and effective.     

自适应前馈神经网络结构优化设计

针对多数前馈神经网络结构设计算法采取贪婪搜索策略而易陷入局部最优结构的问题,提出一种自适应前馈神经网络结构设计算法.该算法在网络训练过程中采取自适应寻优策略合并和分裂隐节点,达到设计最优神经网络结构的目的.在合并操作中,以互信息为准则对输出线性相关的隐节点进行合并;在分裂操作中,引入变异系数,有助于跳出局部最优网络结构.算法将合并和分裂操作之后的权值调整与网络对样本的学习过程结合,减少了网络对样本的学习次数,提高了网络的学习速度,增强了网络的泛化性能.非线性函数逼近结果表明,所提算法能得到更小的检测误差,最终网络结构紧凑.     

前馈神经网络结构动态增长-修剪方法

针对前馈神经网络隐含层神经元不能在线调整的问题,提出了一种自适应增长修剪算法(AGP),利用增长和修剪相结合对神经网络隐含层神经元进行调整,实现神经网络结构的自组织,从而提高神经网络的性能.同时,将该算法应用于污水处理生化需氧量(BOD)软测量,仿真实验结果表明,与其他自组织神经网络相比,AGP具有较好的泛化能力及较高的拟合精度,能够实现出水BOD的预测.     

神经网络结构搜索前沿综述

深度学习已经在多个领域得到了广泛的使用,并取得了令人瞩目的成绩。然而优秀的网络结构设计在很大程度上仍然依赖于研究者的先验知识和大量的实验验证,整个过程对于人力、算力等资源消耗巨大。因此,能否让计算机自动地找到最适用于当前任务的神经网络结构成为了当前研究的热点。近年来,研究人员对神经网络结构搜索(Neural Architecture Search, NAS)进行了各种改进,相关研究工作复杂且丰富。为了让读者对神经网络结构搜索方法有更清晰的了解,该文从神经网络结构搜索的三个维度：搜索空间、搜索策略和性能评估策略对现有方法进行了分析,并提出了未来可能的研究方向。     

基于Ziegler-Nichols频率响应方法的自适应PID控制

提出一种基于Ziegler-Nichols频率响应方法的自适应PID控制器,它通过控制回路正常运行中的过程对象输入输出数据在线辨识出过程对象重要的临界频率响应特性,然后基于Zieger-Nichols整定规则或改进的方法在线更新PID控制器参数.PID控制器的自适应过程不需要系统的任何先验知识,也不需要建立任何对象模型,可以保证控制回路始终运行在最佳状态.仿真实验表明了自适应PID控制的有效性和可行性.     

一种非线性和时滞系统自适应控制方法

提出一种新的基于高斯基函数(GPFN-G aussian potential function networks)网络的内模控制算法,并对高斯基函数网络内部模 型和内模控制器的建立进行了深入分析．仿真及实时控制结果表明该算法是有效的,具有很 好的自适应性和鲁棒性,可以应用于具有时滞和非线性时变系统中．