神经网络结构搜索前沿综述 |
| |
作者姓名: | 杨木润 曹润柘 杜权 李垠桥 肖桐 朱靖波 |
| |
作者单位: | 东北大学自然语言处理实验室 |
| |
基金项目: | 国家自然科学基金(61876035,61732005); |
| |
摘 要: | 深度学习已经在多个领域得到了广泛的使用,并取得了令人瞩目的成绩。然而优秀的网络结构设计在很大程度上仍然依赖于研究者的先验知识和大量的实验验证,整个过程对于人力、算力等资源消耗巨大。因此,能否让计算机自动地找到最适用于当前任务的神经网络结构成为了当前研究的热点。近年来,研究人员对神经网络结构搜索(Neural Architecture Search, NAS)进行了各种改进,相关研究工作复杂且丰富。为了让读者对神经网络结构搜索方法有更清晰的了解,该文从神经网络结构搜索的三个维度:搜索空间、搜索策略和性能评估策略对现有方法进行了分析,并提出了未来可能的研究方向。
|
关 键 词: | 神经网络结构搜索 搜索空间 搜索策略 性能评估策略 自动机器学习 |
|
|