基于尺度注意知识迁移的自蒸馏目标分割方法

当前的目标分割模型难以兼顾分割性能与推断效率，为此提出一种基于尺度注意知识迁移的自蒸馏目标分割方法。首先，构建了一个仅利用主干特征的目标分割网络作为推断网络，实现高效的前向推断过程。其次，提出了一种基于尺度注意知识的自蒸馏学习模型：一方面，设计了具有尺度注意机制的金字塔特征模块，利用尺度注意机制自适应地捕获不同语义水平的上下文信息，提取更具区分性的自蒸馏知识；另一方面，融合交叉熵、KL(Kullback-Leibler)散度和L2距离构造蒸馏损失，高效驱动蒸馏知识向分割网络迁移，提升泛化性能。该方法在COD(Camouflaged Object Detection)、DUT-O(Dalian University of Technology-OMRON)、SOC(Salient Objects in Clutter)等五个目标分割数据集上进行了验证：将所提推断网络作为基准网络，所提自蒸馏模型分割性能在F_β指标上平均提升3.01%，比免教师(TF)自蒸馏模型增加了1.00%；所提网络与近期的残差分割网络(R2Net)相比，参数量减少了2.33×106，推断帧率提升了...