基于全局金字塔和注意力机制的双流网络结构

人体行为识别是计算机视觉中最具吸引力和实践性的研究领域之一，近年来，双流卷积神经网络因其可以同时捕获行为的空间信息和运动信息来进行人体行为的识别而越发的流行。然而，现有的基于双流卷积神经网络的行为识别方法的卷积方式无法全面的捕获相邻光流帧之间的运动信息和边缘的表观信息。为了解决这一问题，提出了一种利用全局特征金字塔和空间注意模块的来识别人类行为的双流网络结构。首先，在时间流提出了一个主要由卷积编码器和全局多头自注意（global multi-head self attention,GMSA）机制组成的全局特征金字塔结构.较小的卷积核在早期阶段捕获低维度特性，而较大的卷积核在卷积编码器后捕获其高维特性。而全局多头注意力则捕获全局的运动信息。其次，设计了一个空间注意模块。通过使用平均池化操作来聚合特征映射的空间信息来生成一维映射来表示空间上的平均合并特征，然后经过3*3的卷积核进行卷积来对RGB图像的边缘表观信息进行提取。最后，利用长短期记忆（long short-term memory, LSTM）来提取密集光流中的时间序列信息。在数据集UCF101、HMDB51上进行实验，实验表明，与...