复杂系统拓扑结构对人工神经网络的优化综述

随着人工神经网络在不同领域的成功应用,改变网络结构以优化其性能成为近年来的研究热点。由于人工神经网络具有广泛的连通性和复杂的结构,在获得高性能的同时,设计时间、布线成本和空间成本都更低的稀释型人工神经网络备受关注。复杂系统理论主要考虑结构对网络整体行为的影响,并将其应用于人工神经网络,使其具有更高的效率和更简单的结构。研究表明,复杂随机拓扑结构在连通性较低的情况下也要优于全连接人工神经网络。但根据神经生物学的研究,具有短特征路径长度和无标度分布的高度聚集的神经元更受青睐,且连接成本更低。因此,将小世界和无标度拓扑应用于人工神经网络成了相关领域的研究热点。文中总结和讨论了小世界、无标度和混合复杂网络与传统的全连接和随机结构对人工神经网络性能的影响。