基于Winograd卷积的并行深度卷积神经网络优化算法 |
| |
引用本文: | 李叶,毛伊敏,陈志刚.基于Winograd卷积的并行深度卷积神经网络优化算法[J].信息与控制,2023(4):466-482. |
| |
作者姓名: | 李叶 毛伊敏 陈志刚 |
| |
作者单位: | 1. 江西理工大学信息工程学院;2. 韶关学院信息工程学院;3. 中南大学计算机学院 |
| |
基金项目: | 国家自然科学基金(41562019); |
| |
摘 要: | 针对并行深度卷积神经网络算法在大数据环境下存在冗余特征计算过多、卷积运算性能不足和参数并行化合并效率低等问题,提出了基于Winograd卷积的并行深度卷积神经网络优化算法。首先,该算法提出基于余弦相似度与归一化互信息的特征过滤策略,通过先筛选后融合的方式消除了通道间对于冗余特征的计算,以此解决了冗余特征计算过多的问题;然后,结合MapReduce提出了并行Winograd卷积策略,通过使用并行化Winograd卷积运算替换传统卷积运算的方式来提升卷积运算的性能,以此解决了卷积运算性能不足的问题;最后,提出基于任务迁移的负载均衡策略,通过动态负载迁移的方式来均衡集群中各节点之间的负载,降低了集群总体的平均反应时长,以此解决了参数并行化合并效率低的问题。实验表明,WP-DCNN算法显著降低了DCNN在大数据环境下的训练代价,而且对并行DCNN的训练效率也有大幅提升。
|
关 键 词: | 并行深度卷积神经网络算法 MapReduce框架 并行Winograd卷积 负载均衡策略 |
|