共查询到10条相似文献,搜索用时 15 毫秒
1.
2.
BERT词嵌入模型能够解决简单命名实体识别模型预测精度低的问题,但基于BERT类的复杂词嵌入模型具有计算复杂度高、模型预测时间过长等缺陷。针对该问题,构建基于知识蒸馏的命名实体识别模型,将BERT+CRF模型作为教师模型,获取较高的命名实体识别精度,并基于模型结构相似原则将BiGRU+CRF作为学生模型,在学生模型训练的过程中进行知识蒸馏。知识蒸馏根据教师模型Softmax层和学生模型Softmax层输出的标注概率矩阵分别作为教师模型的知识和学生模型的知识,通过均方损失函数计算教师模型知识与学生模型知识之间的差距,将获得的结果作为软标签误差,将学生模型预测的标签结果与真实标签之间的误差作为硬标签误差,总误差为软标签误差与硬标签误差的加权和,通过误差反向传播进行模型的训练,在减小总误差的同时缩小教师模型知识与学生模型知识之间的差距,使学生模型预测精度接近教师模型。最终使用学生模型进行预测,在接近教师模型预测精度的同时保证相对较短的预测时间。在DuIE2.0数据集上的实验结果表明,该命名实体识别模型在F1值损失2.6%的情况下,可使模型参数规模缩小93.7%,从而缩短了65.2%的运算时间... 相似文献
3.
4.
工业过程混合建模方法研究及应用 总被引:2,自引:0,他引:2
文章在分析工业过程模型的经验模型和神经网络模型的基础上,提出了混合模型的建模方法,给出了混合模型结构和应用算法,把该混合模型方法应用于制浆蒸煮过程的建模中,收到了较好的效果,混合模型的建模方法具有较大的推广价值。 相似文献
5.
本文分析了数据交换技术的发展,指出STEP技术可以满足集成化系统开发的需要,而面向对象技术则很好地解决了模型间的数据交换,并据此提出了一基于面向对象和STEP的注塑模产品模型,该模型分为总体信息模型、主特征模型、结构信息模型及辅助装置模型,并用EXPRESS-G对其作了进一步阐述。 相似文献
6.
7.
8.
通过对目前IC卡预付费售电模型的分析,指出了现有的IC预付费系统在安全性和实用性上的一些不足,针对这些不足提出了密文预付费售电模型,并给出了该模型的工作流模型。通过IC卡预付费售电模型和密文预付费售电模型的比较,分析了密文售电模型的优缺点。 相似文献
9.
三维城市道路仿真模型构建 总被引:1,自引:0,他引:1
通过对现有城市道路模型的分析,提出了使用ArcGIS软件构建三维城市道路仿真模型。构造了道路几何网络模块、交通检测模块和控制管理设施模块的二维和三维模型。重点介绍了交叉口节点的二维模型建立,以及基于数字高程图得到城市道路的三维模型。最后将该模型应用于微观交通仿真系统中,可以为仿真系统中其它仿真模型提供空间参照、几何模型和逻辑模型,为各类交通行为数学模型提供存储空间和作用空间,为各种程序算法提供调度接口。与其它道路模型比,该模型能更准确、细致地反映道路网的拓扑关系和道路几何条件,从而为交通仿真模型真实地反映路网交通状态奠定了基础。 相似文献