基于BERT-CNN的城轨列控车载设备故障分类

针对基于通信的城市轨道交通列车控制系统车载设备故障排查困难，故障维修日志由于信息零散、语义模糊及归类混乱等导致的传统文本分布式表示与浅层机器学习算法分类精度低等问题，提出一种基于焦点损失函数BERT-CNN(bidirectional encoder representations from transformers-convolutional neural network)的故障分类方法，建立故障处理及结论、故障现象的关系模型．利用预训练好的BERT模型微调获取故障现象的词向量，充分捕捉融合了上下文的双向语义并关注重点词汇；利用卷积神经网络（convolutional neural network, CNN）进行训练，改进损失函数以缓解数据类别不平衡引起的性能下降问题．通过对某车载信号工区数据进行实验，对比基于交叉熵损失函数的BERT-CNN、单一BERT模型与word2vec-CNN(word to vector-CNN)方法，基于焦点损失函数BERT-CNN方法在分类指标上最优，对某些样本数量少的类别能够更精准分类．研究结果有助于建立更完善的智能运维故障案例库．