首页 | 本学科首页   官方微博 | 高级检索  
     

微表情峰值帧定位引导的分类算法
引用本文:李博凯,吴从中,项柏杨,臧怀娟,任永生,詹曙.微表情峰值帧定位引导的分类算法[J].中国图象图形学报,2024,29(5):1447-1459.
作者姓名:李博凯  吴从中  项柏杨  臧怀娟  任永生  詹曙
作者单位:合肥综合性国家科学中心人工智能研究院, 合肥 230601;合肥工业大学计算机与信息学院, 合肥 230601;昆明理工大学冶金与能源工程学院, 昆明 650093
基金项目:国家自然科学基金项目(52104303);安徽省教育厅安徽高校协同创新项目(GXXT-2022-041)
摘    要:目的 微表情是人在外界信息和刺激下做出的无意识面部动作,是判断受试人情绪和行为的重要佐证,在社会安全、商业谈判和心理辅导等领域都有着广泛的应用。微表情不同于一般的表情,分类与定位较为困难。针对这种情况,提出了一种基于光流窗口的双分支微表情定位网络(dual-branch optical flow spotting network,DFSN)和一种利用峰值帧光流信息的微表情分类网络,以识别视频中的微表情。方法 在定位任务中,首先提取面部图像,选择光流窗口大小和位置,计算面部光流并进行预处理;接下来输入双分支网络中进行两次分类,分别针对有无微表情和在有微表情前提下微表情所处阶段分类,并结合两个损失函数抑制过拟合;最后绘制出微表情强度曲线,曲线峰值所处位置即为所求微表情峰值帧。在分类任务中,选取视频起始帧和定位网络取得的峰值帧作为光流窗口,并利用欧拉运动放大算法(Eulerian motion magnification,EMM)放大微表情,最后采用峰值帧光流信息分类微表情视频。结果 微表情定位网络分别在CASME II (Chinese Academy of Sciences Micro-expression Database II)数据集和CASME数据集上按照使用留一被试交叉验证法进行了实验,与目前最好的定位方法比较,此网络在CASME II上获得了最低的NMAE(normalized mean absolute error)值0.101 7,比Optical flow+UPC方法提高了9%。在CASME上获得的NMAE值为0.137 8,在此数据集上为次优定位方法。在定位网络得到的峰值基础上,分类网络在CASME II上取得了89.79%的准确率,在CASME上取得了66.06%的准确率。若采用数据集标注的峰值,分类网络在CASME II上取得了91.83%的准确率,在CASME上取得了76.96%的准确率。结论 提出的微表情定位网络可以有效定位视频中微表情峰值帧的位置,帮助后续网络进行分类,微表情分类网络可以有效区分不同种类的微表情视频。

关 键 词:微表情定位  情感计算  峰值帧  微表情分类  图像识别  深度学习
收稿时间:2023/7/31 0:00:00
修稿时间:2023/9/12 0:00:00

Apex frame spotting and recognition of micro-expression by optical flow
Li Bokai,Wu Congzhong,Xiang Baiyang,Zang Huaijuan,Ren Yongsheng,Zhan Shu.Apex frame spotting and recognition of micro-expression by optical flow[J].Journal of Image and Graphics,2024,29(5):1447-1459.
Authors:Li Bokai  Wu Congzhong  Xiang Baiyang  Zang Huaijuan  Ren Yongsheng  Zhan Shu
Affiliation:Institute of Artificial Intelligence, Hefei Comprehensive National Science Center, Hefei 230601, China;School of Computer and Information, Hefei University of Technology, Hefei 230601, China;School of Metallurgy and Energy Engineering, Kunming University of Science and Technology, Kunming 650093, China
Abstract:
Keywords:micro-expression spotting  affective computing  apex frame  micro-expression classification  image recognition  deep learning
点击此处可从《中国图象图形学报》浏览原始摘要信息
点击此处可从《中国图象图形学报》下载免费的PDF全文
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号