基于Kinect 的人脸表情捕捉及动画模拟系统研究

三维人脸表情动画技术是一个具有巨大应用前景和研究意义的学科方向。在研究 现有表情捕捉和动画合成技术的基础上,提出了一种基于Microsoft Kinect 设备的人脸表情动画 系统。该系统首先利用Kinect 设备捕捉人脸并提取相关表情参数,同时利用Autodesk Maya 动 画软件建立对应的人脸三维模型,之后将模型导入到OGRE 动画引擎并把提取的表情参数传递 给OGRE,渲染生成实时人脸表情动画。实验结果表明该技术方案可行,实时表情动画效果达 到实际应用水平,相比于现有其他表情动画技术,系统采用通用的Kinect 设备,成本更大众化 且更容易进行操作。     

人脸表情动画

人脸表情动画是计算机动画研究的一个重要分支．它有着十分广泛的应用前景。本文评述了国内外人脸表情动画方法和技术研究现状，提出了进一步需要解决的问题。并针对真人脸表情点提取难题给出了一个有效的特别的解决方案。     

直接点操作的人脸变形与动画

自由变形（FFD）是计算机人脸动画和表情编辑的常用方法,但对控制点的反求和变形结果的不直观是该方法的不足。提出了基于直接点操作网格的变形方法,通过鼠标的交互编辑,可以直接得到可控制的变形结果。试验结果表明该方法简单有效。     

基于抽象肌肉模型的人脸表情动画实现

介绍了一个基于抽象肌肉模型的人脸表情动画的实现过程，详细阐述了在系统实现过程中用到的人脸几何表示、抽象肌肉模型、一般人脸变化到特定人脸以及OpenGL等技术。     

支持表情细节的语音驱动人脸动画

针对语音驱动人脸动画中如何生成随语音运动自然呈现的眨眼、抬眉等表情细节以增强虚拟环境的沉浸感的问题,提出一种可以合成表情细节的语音驱动人脸动画方法.该方法分为训练与合成2个阶段.在训练阶段,首先对富有表情的三维人脸语音运动捕获数据特征进行重采样处理,降低训练数据量以提升训练效率,然后运用隐马尔可夫模型(HMM)学习表情人脸语音运动和同步语音的关系,同时统计经过训练的HMM在训练数据集上的合成余量;在合成阶段,首先使用经过训练的HMM从新语音特征中推断与之匹配的表情人脸动画,在此基础上,根据训练阶段计算的合成余量增加表情细节.实验结果表明,文中方法比已有方法计算效率高,合成的表情细节通过了用户评价验证.     

基于 Kinect 的拉普拉斯网格形变三维人脸建模

为了快速创建真实感较强的三维人脸模型,提出了基于 Kinect 的拉普拉斯网格形 变建模方法。利用 Kinect 获取彩色和深度图像信息,对深度图像进行双边滤波处理,对彩色图 像进行低层级顶点定位;构建标准三维人脸模型,并为该人脸模型中的顶点建立低、中、高 3 个级别的层级结构,通过低、中层级中顶点的位置关系创建 Sibson 局部坐标约束;利用该约束 构建彩色图像中间层级顶点,并结合深度信息对标准三维人脸模型进行拉普拉斯网格变形,获 得真实感较强的三维人脸模型。实验结果表明,该算法在建模的真实感上得到了提高,与对比 算法相比,在建模时间上得到很大的优化。     

基于文本驱动的人脸表情动画系统

人脸表情动画是计算机图形学的重要研究领域之一,在影视和游戏中的虚拟人的应用促进了它的发展,它主要研究若干种典型表情的产生以及利用已有表情产生中间过渡表情。本文主要介绍了表情动画的研究现状,并且设计实现了基于文本驱动的人脸表情变化系统。     

时空人脸表情动画编辑

为了提高计算机合成人脸表情动画的后期制作效率,提出一种基于时空的人脸表情动画编辑方法.首先使用基于拉普拉斯的网格变形技术将用户的编辑效果在空间域传播到整个人脸模型,很好地保留了中性人脸模型的几何细节特征,从而提高合成表情的真实感;然后使用高斯函数将用户编辑效果在时间域传播到邻近表情序列,保持人脸表情动画的平滑过渡,所合成人脸表情动画与初始给定数据保持一致.该方法为用户提供了人脸表情动画编辑的局部控制,可由用户指定编辑的影响范围,使得编辑效果在指定范围内自然传播.实验结果表明,文中方法所合成人脸表情动画自然、真实,有效地提高了数据驱动人脸表情动画的编辑效率.     

多表情源的人脸表情合成技术

提出了基于一个局部约束偏移和相对偏移技术的图像变形方法,用于人脸表情合成．该方法可以自动克服目前表情合成方法的非特征区域的形变,并与脸型外观相匹配．在此基础上,提出了基于多表情源的人脸表情合成技术．从人脸图像划分出三个主要表现表情的区域,并对每个区域根据多个表情源的加权平均的相对偏移量进行图像局部变形,最后利用加权平均的表情比图像加强表情．实验结果表明,用该方法得到的人脸表情自然逼真,更为重要的是,通过调节权向量的取值,可以取得不同模式的表情,丰富了表情表现的内涵．     

基于单张图像的三维人脸建模与表情动画

在人机交互、数字娱乐等领域,传统的表情合成技术难以稳定地生成具有真实感的个性化人脸表情动画.为此,提出一种基于单张图像的三维人脸建模和表情动画系统.自动检测人脸在图像中的位置,自动定位人脸上的关键点,基于这些关键点和形变模型重建个性化三维人脸模型,对重建的人脸模型进行扩展得到完整的人脸网格,采用稀疏关键点控制的动画数据映射方法来驱动重建的人脸模型生成动态表情动画.实验结果表明,该方法稳定性强、自动化程度高,人脸模型与表情动画比较逼真.     

Kinect驱动的人脸动画合成技术研究

三维人脸动画合成技术可以应用于虚拟现实、角色控制等多个领域。为此,提出一种基于Kinect的人脸动画合成方法。人脸跟踪客户端利用Kinect对用户的脸部表情进行跟踪识别,得到人脸表情动画参数,通过socket发送给人脸动画合成服务器,由人脸动画合成服务器查找基于MPEG-4标准的人脸动画定义表,控制人脸模型的变形,从而实时合成与用户表情相对应的三维人脸动画。实验结果表明,该方法能够在满足实时性要求的条件下合成高质量的三维人脸动画,同现有技术相比,结构简单、容易部署且具有较好的可扩展性。     

Facial animation retargeting and control based on a human appearance space

Expressive facial animations are essential to enhance the realism and the credibility of virtual characters. Parameter‐based animation methods offer a precise control over facial configurations while performance‐based animation benefits from the naturalness of captured human motion. In this paper, we propose an animation system that gathers the advantages of both approaches. By analyzing a database of facial motion, we create the human appearance space. The appearance space provides a coherent and continuous parameterization of human facial movements, while encapsulating the coherence of real facial deformations. We present a method to optimally construct an analogous appearance face for a synthetic character. The link between both appearance spaces makes it possible to retarget facial animation on a synthetic face from a video source. Moreover, the topological characteristics of the appearance space allow us to detect the principal variation patterns of a face and automatically reorganize them on a low‐dimensional control space. The control space acts as an interactive user‐interface to manipulate the facial expressions of any synthetic face. This interface makes it simple and intuitive to generate still facial configurations for keyframe animation, as well as complete temporal sequences of facial movements. The resulting animations combine the flexibility of a parameter‐based system and the realism of real human motion. Copyright © 2010 John Wiley & Sons, Ltd.     

基于Kinect深度相机的实时三维人体动画

研究了一种基于H Anim标准的实时人体三维动画方法,首先对H Anim中人体肢体层次结构进行研究和分析,给出了进行人体动画的坐标变换方法;其次,基于OpenNI对Kinect获取的数据进行重新处理,采用逆运动学计算非根关节旋转矩阵;最后给出了系统流程及具体实验方法,采用OpenGL由实时获取的关节旋转矩阵驱动虚拟人实现了人体动画。实验结果表明,该算法可以较精确地提取人体三维姿态,实时重构人体运动。     

Facial animation based on context-dependent visemes

This paper presents a novel approach for the generation of realistic speech synchronized 3D facial animation that copes with anticipatory and perseveratory coarticulation. The methodology is based on the measurement of 3D trajectories of fiduciary points marked on the face of a real speaker during the speech production of CVCV non-sense words. The trajectories are measured from standard video sequences using stereo vision photogrammetric techniques. The first stationary point of each trajectory associated with a phonetic segment is selected as its articulatory target. By clustering according to geometric similarity all articulatory targets of a same segment in different phonetic contexts, a set of phonetic context-dependent visemes accounting for coarticulation is identified. These visemes are then used to drive a set of geometric transformation/deformation models that reproduce the rotation and translation of the temporomandibular joint on the 3D virtual face, as well as the behavior of the lips, such as protrusion, and opening width and height of the natural articulation. This approach is being used to generate 3D speech synchronized animation from both natural and synthetic speech generated by a text-to-speech synthesizer.     

基于改进Kinect的点分布模型面部表情特征提取

在面部表情识别中,差异性会在人体面部充分体现,各个器官的整体分布的复杂性和外界影响等因素,使得人体面部表情特征的定位非常困难。利用Kinect点分布特性,给出了一个面部表情特征提取算法,并进行了相关实验,结果表明,本方法在提取对不相关变形保持不变、噪声不敏感、类别区分度大的特征具有明显优势。     

基于局部SVM分类器的表情识别方法

提出了一种新的视频人脸表情识别方法. 该方法将识别过程分成人脸表情特征提取和分类2个部分,首先采用基于点跟踪的活动形状模型(ASM)从视频人脸中提取人脸表情几何特征;然后,采用一种新的局部支撑向量机分类器对表情进行分类. 在Cohn2Kanade数据库上对KNN、SVM、KNN2SVM和LSVM 4种分类器的比较实验结果验证了所提出方法的有效性.     

骨骼蒙皮动画中网格优化的研究与实现

在骨骼蒙皮动画中需要处理大量的网格三角形，而在很多骨骼蒙皮动画的应用中都需要很高的动画实时性，为了提高骨骼蒙皮动画的实时性，对网格的优化是其中一项重要的工作。该文提出了一种优化网格的方法，并予以实现。     

计算机人脸表情动画技术综述

真实感的计算机人脸表情动画是计算机图形学领域最基本的问题之一。由于其具有广阔的应用前景,引起了越来越多的研究者的关注与极大的兴趣。针对近几十年来该领域的发展状况,对计算机人脸表情动画技术进行综述。通过将人脸表情动画技术分为基于几何学的方法和基于图像的方法,详细阐述并比较了相关的研究成果,分析和讨论了它们的优缺点,并对人脸表情动画技术的未来发展进行了展望。