基于注意力机制的可解释点击率预估模型研究

在推荐系统研发中，点击率(Click-Through Rate, CTR)预估是非常重要的工作，点击率预估精度的提升直接影响到整个推荐系统的收益，对其性能和解释性的研究有助于理解系统决策的机理，同时还能帮助优化需求和系统设计。当前点击率预估深度模型多基于线性特征交互和深度特征提取进行设计。由于深度模型的黑盒特点，该类模型在解释性方面存在局限性，并且在先前的研究中，对点击率预估模型的解释性研究非常少。因此，文中基于多头自注意力机制，对该类模型的解释性进行研究，通过多头注意力机制对特征嵌入、线性特征交互和深度部分进行增强和解释，在深度部分设计了两种模型，即注意力增强的深度神经网络和注意力叠加的深度模型，通过计算每个模块的注意力得分对其进行解释。所提方法在多个真实数据集上进行了大量实验，结果表明所提方法能够有效提升模型效果，并且模型自身带有一定的解释性。