虚拟手交互中约束类物体操作研究

虚拟手技术是虚拟现实技术中的一种交互方式，是指通过手势识别技术将人的真实手映射到虚拟环境中并与虚拟物体进行交互操作的人机交互方式。主要应用于虚拟训练、虚拟手术和虚拟装配等领域。对虚拟手交互的约束类对象进行了研究，提出了基于运动学的约束类物体操作方法，解决了阀门类有约束物体交互中虚拟手姿态不真实、操作不可控的问题。设计实验验证了基于运动学的方法能以符合实际操作的效果完成虚拟现实系统中的操作任务，可以应用到虚拟训练、虚拟装配等仿真平台。     

沉浸式虚拟训练中的虚拟手操控技术研究

将人手的自然动作加入沉浸式虚拟现实系统中,可有效提高系统的沉浸感和交互性,简便快捷、成本低廉的虚拟手建模及操控技术,有助于此项内容的推广应用;在对虚拟手骨骼结构模型分析的基础上,提出了基于Leap Motion的虚拟手控制方法和流程;以维修训练为任务背景,设计了四种用于虚拟手操作的手势规则,并对实现流程和关键技术进行了分析;构建基于Unity3D引擎的原型系统对虚拟手进行仿真验证,结果表明,基于Leap Motion的虚拟手操控简单、交互自然,可以满足虚拟现实系统交互需要。     

虚拟维修训练中的手势识别

为在虚拟维修训练中实现更加自然高效的人机交互,增强维修训练人员的沉浸感,提出一种基于Kinect深度图像和骨骼数据的手势识别方法。通过对维修样机和维修资源的维修特征进行研究,建立基于维修特征的维修动作集合,定义维修操作的常用手势库;在分析和构建手势识别系统流程的基础上,结合Kinect深度图像和骨骼数据实现手势图像的分割,基于形态学闭运算完成手势分割图的预处理,采用Zernike矩的方法实现对常用手势的识别。将该方法应用于机械设备的虚拟维修训练中,结果验证了该方法的可行性和有效性。     

基于Leap Motion的虚拟课堂手势交互方法

随着虚拟现实技术的飞速发展, Leap Motion等体感传感器出现并被广泛地应用在人机交互中. 针对 Leap Motion体感控制器在识别范围边缘识别率低且识别速度慢的问题提出了一种基于深度神经网络的Leap Motion手势交互方法. 该方法在定义的交互手势基础上, 设计了三维交互系统并应用到虚拟场景中. 系统首先通过Leap Motion进行数据捕捉, 对获取到的红外图像采用深度神经网络进行特征提取并实现对手势的分类识别, 然后结合Leap Motion获取的手部坐标前后帧的变化来判断动态手势, 最终结合动态手势完成虚拟场景中的交互功能. 经过实验验证, 本文手势识别方法无论是在识别速度还是识别精度上都优于Leap Motion自带的手势识别方法, 同时在Leap Motion识别范围边界处仍能保持较高的识别率.     

航天员虚拟交互操作训练多体感融合驱动方法研究

针对航天员虚拟训练中的人机自然交互问题,基于体态/手势识别和人体运动特性, 提出一种多通道数据融合的虚拟驱动与交互方法。结合Kinect 设备能够完整识别人体姿态特点 及LeapMotion 设备能精确识别手势姿态的优势,提出了基于判断的数据传递方法,在人体关节 识别的基础上对手部关节进行识别与数据处理计算,采用多通道体感识别融合方法将二者结合, 并进行了实验。结果表明,通过采用LeapMotion 和Kinect 对手部识别的判别,当手势在 LeapMotion 识别范围内,能够在实现人体体感识别的基础上增加较为精确的手势识别。此方法 成功实现了人体姿态识别和手势精确识别的结合,可应用于航天员虚拟训练中的人机自然交互 中去。     

面向虚拟维修训练的自抓取虚拟手交互行为构建

针对当前维护训练模拟器（MTD）不能很好地向受训者展示飞机维修过程中的具体维修动作的问题,构建一种自抓取的虚拟手与相应的交互行为,以提高机务培训质量。通过分析维修的基本动作要素,定义与构建基于蒙皮骨骼的虚拟手动作库;在场景漫游阶段,实时获取视角位置来驱动虚拟手运动,减轻场景漫游下的虚拟手控制负荷;在具体维修操作阶段,利用所提的交互行为算法,将虚拟手的位置自调节与骨骼动画osgCal相结合,通过调取动作库中的相应动作,完成具体的维修任务。实验结果表明,所提出的方法能较好地展现具体的维修操作,对于虚拟维修训练具有良好可用性。     

基于自适应遗传算法的手势识别

基于小样本库的手势识别是先进人机交互研究中的一个重要分支.根据Tortoise人手模型训练手势模式库并结合交互者的具体手部特征进行手形训练,生成适用于特定交互者的手势模式库.在交互过程中,根据来自一个或多个同步摄像头的视频信息进行基于自适应遗传算法的手势识别.实验结果表明,在环境光照基本稳定的条件下,文中算法可以实现鲁棒的实时手势识别.     

虚拟手抓握动作的Petri网模型及其仿真实现

虚拟手的运动建模是三维人机交互研究中的一个关键问题.虚拟人在执行维修作业的过程中,不可避免地需要徒手抓握操作对象或维修工具.为此,该文提出了一种基于位置/变迁Petri网的虚拟人手抓握动作模型.该方法以关节化虚拟手的几何建模和关节约束分析为基础,描述了抓握动作的Petri网模型,通过仿真循环叠代和关节插值计算,实现关节链上各个关节的运动控制,并基于面向对象的技术设计实现了典型抓握动作.最后,基于人体建模与仿真软件Jack,设计并实现了一个虚拟手抓握动作的Petri网,仿真和实验结果表明所述方法简便易行,能够满足虚拟维修作业的要求.     

面向机务虚拟维修训练的虚拟手操作设计

机务维修训练强调手部操作要素,针对虚拟维修过程中手部操作较简单且控制复杂的问题,提出一种基于基本维修作业分类的虚拟手操作仿真方法。基于层次化分解思想构建出新的分解策略,将机务维修任务分解为任务层、子任务层和基本维修作业层,并设计规则实现基本维修作业到虚拟手操作的映射,通过在3ds MAX中构建虚拟手仿真模型,利用骨骼动画技术实现虚拟手的控制,减轻虚拟手关节运动的控制负担,在自主开发的机务训练装备上进行虚拟手操作实验,以飞机电子舱门操作为例,验证方法的可行性和实用性。     

基于手势识别的人机交互技术

文章将现有人机交互方法与基于计算机视觉交互方法进行了对比,列举了该交互技术的优点及可行性,并提出了一种利用摄像头采集手势进行人机界面交互的方法,研究了并进一步实现了基于图像的手势分析、识别等关键技术.通过一系列实验结果表明,基于文中技术实现的一套系统能够实时地跟踪手的运动,并识别出手势结果,实现实时的人机手势交互.     

基于Leap Motion和Unity3D的虚拟沙画手势识别及交互

虚拟仿真技术的快速发展及体感设备的不断更新为沙画动画这一全新的艺术创作形式带来新的灵感。针对沙画现场作画工序复杂的问题,结合Leap Motion设备和Unity3D开发环境完成手势识别并驱动虚拟手实现虚拟沙画效果。首先,依据Leap Motion捕捉到的手势坐标及方向信息提取手部关键点;然后提出角域划分的方法并引入新的特征向量,将其与提取信息串联作为手势分类依据;最后,根据自行定义的沙画手势语义驱动虚拟手完成虚拟沙画创作。实验证明,利用Leap Motion完成近距离手势识别效果较其他方法结果更加精准,实时性较高,手势跟踪稳定,虚拟沙画绘画过程沉浸感强。     

使用稀疏约束非负矩阵分解算法的跨年龄人脸识别

人脸识别技术中除光线、姿态、表情因素外,由于年龄变化而导致的人脸形状和纹理上的变化会极大程度地影响人脸识别系统性能.对此,提出了一种使用稀疏非负矩阵分解算法来实现人脸老化模拟,然后将此方法应用于具有年龄跨度的人脸识别上,通过模拟虚拟样本来增强识别效果.实验结果表明,年龄跨度对人脸识别的确有较大的影响;当系数矩阵保持稀疏时,非负矩阵分解算法具有更强的特征提取能力;经过老化模拟增加虚拟样本后,其纹理老化效果明显地提高了跨年龄段的人脸识别的性能.     

基于Leap Motion的三维手势交互系统研究

手势识别的快速发展及体感设备的不断更新为三维手势交互提供了灵感,基于Leap Motion 手势识别和最邻近算法,建立了一种三维手势交互系统。首先对手势设计理论和交互手 势设计原则进行研究,基于此设计手势功能和建立手势库,并将手势库分为 8 种手势;其次进 行手势特征提取,建立手指关键点模型,获取手势特征的角度特征;然后计算 KNN 算法和 SVM 算法的手势识别效率,KNN 改进算法取得较好的识别效率;最后,设计三维交互系统,手势分 类为 4 个模块,每个模块有 2 个手势任务;20 名测试者中提取 1 600 组手势数据,并进行总采 集样本关节点均值的数据分析;设计三维交互系统模块,在 Unity3D 中创建的三维交互系统中 导入 1 600 组手势数据,根据自定义的 8 种手势驱动虚拟手完成交互设计过程,完成用户体验 分析和手势识别效率统计。通过研究发现,基于 Leap Motion 手势识别具有较高的识别效率, 三维手势交互系统富有创新性。     

近距离3D人机交互技术研究实现

3D人机交互技术是计算机图形学、虚拟现实和模式识别的交叉融合领域,可分为虚拟环境的显示和三维物体识别。该研究将虚拟环境显示和三维物体识别整合成一个完整的解决方案并应用到1∶1模拟虚拟场景的近距离交互。研究了虚拟现实之间的坐标转换;分析了影响虚拟物体立体显示的三个主要因素：OpenGL中摄像机的张角,摄像机间距和立体图像对的产生;并实现了基于Intel Perceptual Computing的三维物体识别。实验结果显示：该方案在1∶1模拟虚拟场景方面具有良好的3D显示效果,同时在手势识别方面有较高的识别率。     

Three‐dimensional interaction and autostereoscopic display system using gesture recognition

We propose a 3D interaction and autostereoscopic display system that use gesture recognition, which can manipulate virtual objects in the scene directly by hand gestures and can display objects in 3D stereoscopy. The system consists of a gesture recognition and manipulation part as well as an autostereoscopic display as an interactive display part. To manipulate the 3D virtual scene, a gesture recognition algorithm is proposed, which use spatial‐temporal sequences of feature vectors to match predefined gestures. To get smooth 3D visualization, we utilize the programmable graphics pipeline in graphic processing unit to accelerate data processing. We develop a prototype system for 3D virtual exhibition. The prototype system reaches frame rates of 60 fps and operates efficiently with a mean recognition accuracy of 90%.     

复杂背景下基于傅立叶描述子的手势识别

人的手势是人们日常生活中最广泛使用的一种交流方式。由于在人机交互界面和虚拟现实环境中的应用,手势识别的研究受到了越来越广泛的关注。但是目前基于单目视觉的手势识别技术中,手势分割要求背景简单或者要求识别者戴着笨重的数据手套。而该文结合了运动信息和基于KL变换的肤色模型,在复杂背景下进行手势分割,与传统的基于RGB肤色模型的手势分割相比,在复杂背景环境下得到了很好的分割效果。在对分割的手势区域进行预处理后,该文使用了一种归一化的傅立叶描述子进行手势的特征提取,相比传统的傅立叶描述子更加准确,最后采用了传统的三层BP网络作为模式识别器,手势训练集和测试集的识别率分别达到了95．9％和95％。     

Untethered gesture acquisition and recognition for virtual world manipulation

Humans use a combination of gesture and speech to interact with objects and usually do so more naturally without holding a device or pointer. We present a system that incorporates user body-pose estimation, gesture recognition and speech recognition for interaction in virtual reality environments. We describe a vision-based method for tracking the pose of a user in real time and introduce a technique that provides parameterized gesture recognition. More precisely, we train a support vector classifier to model the boundary of the space of possible gestures, and train Hidden Markov Models (HMM) on specific gestures. Given a sequence, we can find the start and end of various gestures using a support vector classifier, and find gesture likelihoods and parameters with a HMM. A multimodal recognition process is performed using rank-order fusion to merge speech and vision hypotheses. Finally we describe the use of our multimodal framework in a virtual world application that allows users to interact using gestures and speech.     

多点触控的沙画手势识别

针对多点触控手势间接指令问题,提出了基于多点触控的沙画手势识别系统,该识别系统由时间、空间、形状信息控制。提出一种手势图形建模方法,测量手势的笔划之间的空间和时间关系。采用聚类算法标记手势图形中笔划的形状信息作为局部形状特征;利用基准方法HBF49特征提取全局形状特征。通过一组有10种不同多点触控的沙画手势的数据集评估基于多点触控的沙画手势识别系统,使用图嵌入方法和SVM分类进行手势识别,识别的准确率达到94.75%。实验结果证明,此研究对完成基于多点触控的沙画虚拟系统有重要作用。