面向虚拟装配的双手交互模式研究
面向虚拟现实的多手势交互技术研究与开发

面向虚拟现实的多手势交互技术研究与开发虚拟现实(Virtual Reality,VR)是一种通过计算机技术模拟出的现实体验,为用户提供沉浸式的感官体验。
随着VR技术的迅速发展,人们对于更自然、更直观的交互方式提出了更高的期望。
多手势交互技术作为一种自然、直观的交互方式,被广泛应用于虚拟现实环境中,为用户提供了更丰富的沉浸式体验。
一、多手势交互技术的发展现状多手势交互技术是通过感应用户手势动作并将其转化为计算机可识别的信号,从而实现与计算机的交互。
随着计算机视觉和机器学习等技术的进步,多手势交互技术在虚拟现实领域得到了广泛的应用。
目前,多手势交互技术主要包括基于手势识别的交互和基于手势追踪的交互两种形式。
基于手势识别的交互是指通过计算机视觉技术对用户手势进行实时识别,从而完成与虚拟环境的交互。
而基于手势追踪的交互则是通过使用传感器设备对用户手势进行实时追踪,从而实现虚拟现实中的交互操作。
二、多手势交互技术的研究重点在面向虚拟现实的多手势交互技术研究和开发过程中,有几个重要的研究重点值得关注。
首先是手势识别算法的研究与优化。
手势识别是实现多手势交互的基础,准确、快速地识别用户手势是提高交互体验的关键。
目前,常用的手势识别算法包括基于深度学习的卷积神经网络(CNN)和隐马尔可夫模型(HMM)等。
未来的研究方向应着重于提高手势识别的准确性、实时性以及对复杂手势的处理能力。
其次是手势追踪技术的发展与创新。
手势追踪是基于传感器设备的交互方式,通过实时追踪用户手势动作来实现与虚拟环境的交互。
目前常用的手势追踪技术包括机械式追踪和光学式追踪等。
未来的研究方向应追求更高精度的追踪结果、更大范围的追踪空间以及更低延迟的交互效果。
最后是多手势交互技术与用户体验的结合。
在虚拟现实应用中,用户体验是至关重要的,多手势交互技术的研究与开发应注重用户体验的改进。
例如,通过引入自然语言处理技术,将语音交互与手势交互相结合,使得用户能够通过手势和语音的联合操作更加自由地与虚拟环境进行交互。
面向虚拟装配的双手交互模式研究

面向虚拟装配的双手交互模式研究摘要:在虚拟环境中,虚拟手作为一个自然、直观的交互通道,其灵活逼真的交互动作是达到自然和谐高效的人机交互的关键。
为仿真现实中双手工作方式,深入研究了双手交互的理论和实践,且深入探讨了双手交互模式描述的方式和手段。
并在理论研究的基础上,在虚拟装配原型系统中验证了虚拟手双手协同完成装配任务。
实践证明基于计算感知的虚拟手对增强虚拟装配的情景真实和工艺验证起到了很重要的作用,也具有较好的性能。
关键词:虚拟环境;人机交互;虚拟手;虚拟装配;双手交互0 引言在现实生活中,手是人与外界交互的主要工具。
在虚拟环境中,人们希望像现实世界一样来操纵虚拟物体。
虚拟手作为一种直观的交互方式,便于用户自然、和谐、高效地操作,尤其是对人机交互有极高要求虚拟装配来说,需要虚拟手的介入来验证装配的切实可行性和符合工艺设计要求。
国外从1988年就开始了虚拟手的研究。
Geneva大学的Thalmann M教授领导的MIRA实验室是研究人机交互和虚拟手的最著名的团队之一。
他们提出了一种依赖关节的局部变形模型用于人手的动画和对象的抓取,接着又提出了一种基于DFFD的人手变形模型。
Kunii等人提出了基于环流映射的人手和手臂模型,并以此为基础实现了几种较为真实的手势。
在双手操作方面,Guiard提出了运动链模型,对双手的逻辑分工作出了很好的定义和说明,且有一些分析和实验验证结果,对以后双手的非对称研究有很重要的借鉴意义。
Buxton和Myers以实验验证了双手交互技术不仅对于新手来说很容易学习,还能提高用户操作的性能。
Kabbash等人对优先手和非优先手在指和拖拽任务方面作了比较,表明两只手是互补的,每一个手都有其自身的强项和弱项。
H. Sun 等人设计了一个双手装配系统。
在系统中,双手可以按照约定的约束条件协同完成一项装配任务。
1 双手交互的理论基础双手交互的出发点是充分利用人在现实生活中习得的劳动技能和操作技巧,提高交互的自然性。
基于双手交互的虚拟装配仿真技术

基于双手交互的虚拟装配仿真技术研究
张超峰1 ,谭同德1 ,赵新灿1 ,张 丽2
( 1. 郑州大学 信息工程学院 , 河南 郑州 4 5 0 0 0 1; ) 2. 河南理工大学 经济管理学院 , 河南 焦作 4 5 4 0 0 3
摘 要 : 针对现存的虚拟装配系统交互的沉浸感和适应性不强等缺点 , 采 用 一 对 正 交 放 置 的 光 学 摄 像 机 , 首 先 从 二 值 图 像 中提取双手轮廓 , 自动跟踪双手的运动 轨 迹 , 同 时 利 用 手 势 轮 廓 的 H u矩 特 征 进 行 手 势 识 别,分 离 出 左 右 手 的 移 动 向 量, 根据物体的轴向包围盒进行碰撞检测 , 实现了一个可以用双手与计算机进行交互的虚拟装配系统 , 验证了方法的可行性 。 关键词 : 虚拟装配 ; 手形提取 ; 手势识别 ; H u 矩 ; 手势跟踪 ; 碰撞检测 )1 中图法分类号 :T P 3 9 1 . 4 1 文献标识号 :A 文章编号 : 1 0 0 0 7 0 2 4( 2 0 1 2 1 4 3 7 2 0 5 - - -
2 0 1 2年1 1月 第3 3卷 第1 1期
计算机工程与设计
C OMP UT E R E NG I N E E R I NG AN D D E S I2 V o l . 3 3 N o . 1 1
1 1 1 2 , , Z HANG C h a o f e n TAN T o n d e Z HAO X i n c a n Z HANG L i - - - g, g
( , , ; 1. S c h o o l o f I n f o r m a t i o n E n i n e e r i n Z h e n z h o u U n i v e r s i t Z h e n z h o u 4 5 0 0 0 1, C h i n a g g g y g ,H , ) 2. S c h o o l o f E c o n o m i c M a n a e m e n t e n a n P o l t e c h n i c U n i v e r s i t J i a o z u o 4 5 4 0 0 3, C h i n a g y y
桌面虚拟现实环境下的双手交互技术

第18卷第11期2006年11月计算机辅助设计与图形学学报JOURNAL OF COMPU TER 2AIDED DESIGN &COMPU TER GRAPHICSVol 118,No 111Nov 1,2006 收稿日期:2006-06-20 基金项目:国家重点基础研究发展规划项目(2002CB312103);国家自然科学基金(60303019)桌面虚拟现实环境下的双手交互技术张凤军1) 张 弛1,2) 王 亮1,2) 纪连恩1,2) 付永刚1) 戴国忠1)1)(中国科学院软件研究所人机交互技术与智能信息处理实验室 北京 100080)2)(中国科学院研究生院 北京 100049)(zfj @iel 1iscas 1ac 1cn )摘要 面向桌面虚拟环境,在分析通用交互设备特点的基础上,提出了具有广泛适用性的双手交互的设备组合;根据虚拟现实通用交互任务的需求,结合设备特点,提出了为左、右手设备分配不同的子任务的策略;组合不同的单手交互技术,提出了包括基于辅助平面的双手交互等3个适用于典型桌面设备组合的双手交互技术;开发了双手交互技术工具箱,并进行了应用验证1关键词 桌面虚拟现实;双手交互;设备组合;交互技术中图法分类号 TP39119Two 2H anded Interaction T echniques in Desktop VRsZhang Fengjun 1) Zhang Chi 1,2) Wang Liang 1,2) Ji Lianen 1,2) Fu Y onggang 1) Dai Guozhong 1)1)(Intelligence Engi neeri ng L aboratory ,Instit ute of Sof t w are ,Chi nese Academy of Sciences ,Beiji ng 100080)2)(Graduate U niversity of Chi nese Academy of Sciences ,Beiji ng 100049)Abstract Based on the analysis of main characteristics of common interaction devices ,we propose a series of device combinations for two 2handed interaction in desktop V Es ,which have the extensive adaptability and usability for bimanual interaction tasks 1According to the requirement of common interaction task in V Es ,and combined with the characteristics of device candidates ,the devices res pectively used by dominant hand and nondominant hand can be assigned to implement different interaction subtask 1Through combining vari 2ous single 2handed interaction techniques ,we design three types of two 2handed interaction techniques adapt 2ed for typical combinations of desktop interaction devices 1Furthermore a toolkit for development of two 2handed interaction technique is building up 1Finally ,several applications based on these techniques are demonstrated 1K ey w ords desktop VR ;two 2handed interaction ;device combination ;interaction technique0 引 言桌面虚拟现实环境通常使用终端显示器作为显示输出设备,导致了诸多的限制,如沉浸感较低、视觉观察区域小、用户的运动幅度受到限制等1这使许多基于肢体运动的交互技术无法使用,还限制了用户观察外部环境的能力,并使用户只能使用2D 鼠标、写字板或SpaceMouse 等主动设备作为桌面虚拟现实环境输入设备[1]1所以,在为桌面虚拟现实应用选择交互技术时,必须考虑这些硬件配置的特点1双手交互作为一种3D 交互方式,近年来日益引起广泛的关注,并成为虚拟现实应用的一种重要交互手段1这是因为双手操作能够充分地发挥人们在日常生活中习得的技能,它不仅比单手操作省时,而且还能加强用户对交互的理解,有效地增强人机交互效率1从3D 交互界面设计的角度看,双手交互提供了动态的相对坐标框架和更大的设计空间,因此有必要系统地研究双手交互问题,并开发有效的设备组合模式和合适的交互技术1双手交互也为提高桌面虚拟环境的交互自然性提供了一条可行的途径1本文基于通用桌面交互设备的特点,提出了2类面向桌面虚拟环境双手交互设备组合模式;针对双手设备组合,根据通用交互任务的需求,为不同的设备分配不同的交互子任务;讨论实现各种交互任务和子任务的交互技术,并开发了用于桌面虚拟环境双手交互的工具箱1这里使用的设备是连续型设备,因此其交互技术不同于使用键盘等离散设备模拟连续运动的方式11 相关工作为探索双手协作在人机交互领域应用的前景, Buxton等[2]进行了一个经典的实验研究1他们设计了2组实验,每组实验有2个不同的任务(选择2定位和导航2选择)组合,测试新用户和熟练用户使用双手执行交互任务的性能1测试结果表明:对于2个组合任务,双手技术不但使新用户易于学习,而且能改进熟练用户和新手的执行任务的绩效1双手交互的一个理论基础是Guiard[3]的运动链模型1Guiard将人类日常生活中手的使用分为单手操作、对称和非对称双手操作3类,其中对称双手操作可以看作是非对称双手操作的例外情形1他认为人的双手行为可以模拟抽象为系列运动的顺序连接,即构成运动链模型1基于该模型,双手在工作中有3个特点:1)右手的运动以左手为参考(本文假定用户是右利手,如果是左利手,则相反);2)右手用于完成精确的小范围内的操作,左手用于大范围内的“粗糙”操作;3)左手的动作在时间上先于右手的动作1Kabbash等[4]通过研究证明,合理的双手任务分配能够有效地提高工作效率,而不适当的任务分配有可能导致认知负担的增加,并使工作效率比单手的情况下更低1他们认为,Guiard提出的3条原则可以作为判定交互方式是否自然的重要标准1在这些结论的指导下,Kurtenbach等[5]于1997年详细设计了著名的2D双手绘图系统T3,并提出了如下具有普遍意义的设计目标:1)使操作对象对屏幕面积的利用最大化;2)保持用户对操作对象的注意力;3)提高输入的质量和舒适度1其他许多3D系统的研究者也充分注意到双手协作的重要性1布朗大学Zeleznik等[6]研究了使用双手控制2个独立的光标,以用于3D对象的变换、几何编辑和视点控制1他们认为设备自由度到光标自由度的映射应该有较强的物理相似性,如果给出适当的映射,双手交互就能使用户执行复杂的3D 操作,这比采用单光标技术更为快捷有效1文献[426]使用的是2D指点设备,双手交互中另一类主要的设备是跟踪器,这类系统主要有Netra 系统[7],用于草绘3D曲线的辅助设计工具32Draw 系统[8],“WIM”交互技术[9]、“Voodoo Doll”技术[10]以及基于Responsive Workbench的双手交互技术[11]1在一些桌面3D游戏中采用的键盘与鼠标组合的方式也实现了双手交互,一般做法是用键盘按键模拟视点的移动、鼠标控制视点的方向、鼠标按钮激发事件1由于键盘是一种离散设备,只能模拟在一个维度方向连续的运动控制(要连续按键也增加了用户的疲劳感),因此这种方式控制的自由度数有限,主要用于漫游任务,对复杂的选择Π操作任务则需要特定的转换机制12 桌面虚拟环境下的双手交互设计在桌面虚拟现实环境下,进行双手交互设计主要包括以下内容:1)合理的设备组合选择;2)根据交互任务的需求,为左、右手设备分配不同的交互子任务;3)为左、右手的交互子任务提供适合的交互技术1211 交互设备组合在桌面环境下,交互设备主要以主动式为主,需要用户的物理动作操纵设备才能获得相应的信息1所以,这类设备需要置于桌面上,而不能附着在用户身体上或拿在手中1除键盘外,主要的桌面设备有2D鼠标、基于笔的手写板、操纵杆和桌面6自由度(degree of free,DOF)设备(如S paceMouse)等1面向桌面虚拟现实环境,我们主要选择了2类设备组合构成双手交互设备:一类是如图1a所示SpaceMouse 和2D指点设备(2D鼠标或笔)组合(简称设备组合I);另一类是如图1b所示Wacom双手数字板(简称设备组合II)1996111期张凤军等:桌面虚拟现实环境下的双手交互技术在设备组合I中,SpaceMouse是一种能够提供连续空间方位和离散按钮信息的6DOF设备1 SpaceMouse作为左手设备,主要用于控制视点以及对操作对象的大致空间方位12D指点设备可以获取2D位置信息和按钮信息,它作为右手设备,用于精细定位等操作1在设备组合II中,Wacom板包含一个鼠标和一支笔1其中鼠标支持平移、1D旋转、拇指轮和5个按键,由于鼠标操作较适于作较粗糙、幅度较大的运动,并带有可以指示偏移的拇指轮,根据Guiard提出的原则,可以把它作为左手设备1由于笔支持移动、轻触和2个按键(也有可选的压力感应和倾斜角),其操作相对较为精细,适于进行细致的调整和定位,因此可以把它作为右手设备1212 双手交互任务分配虚拟现实下的3D交互主要包括3类通用交互任务[12]:选择Π操作(移动或旋转)、漫游和系统控制1事实上,这些任务并非完全独立和串行的,而常常是交替、并发、配合地进行的1例如,搬动物体就是将漫游和选择Π操作组合进行的1基于前面2类设备组合和Guiard的双手在工作中的角色分工原理,我们对左右手分配了不同的任务:单手交互1在设备组合I中,左手的SpaceMouse 可以用来控制在虚拟场景中的漫游或旋转Π移动虚拟对象,右手的2D指点设备可以用来执行通常在2D GU I界面下的操作或通过射线投射技术[1]选择3D虚拟对象1同样,在设备组合II中,左手的鼠标主要用来执行在虚拟场景中的漫游或配合右手的笔操作虚拟对象,右手的笔与设备组合I中的2D设备具有同样的功能1对称双手交互1对选中的虚拟对象进行比例变换,通过左右手设备相对位置的变化来确定比例变换1非对称双手交互1这种模式下左右手相互配合协调工作1执行的交互任务主要有:1)由于漫游任务通常是尺度较大的操作,同时也不要求很高的精细度,因此左手设备可以用于控制导航漫游,右手设备可以用于控制精细的选择Π操作虚拟对象;2)左手设备用于控制指定的约束平面,并作为右手操作的空间参考框架,右手设备用于调整虚拟对象相对于约束的位置或方向的操作;3)虚拟对象添加到左手设备上,并控制对象某一主轴方向,右手2D指点设备用于控制虚拟对象绕该主轴方向旋转或沿该轴向平移;4)左手设备用于控制场景缩微地图或者虚拟对象复制体,右手设备用于控制被操作对象相对于左手对象的位置和方向1此外,还有双手独立执行不同任务的情况,由于这种操作比较少用,本文不做进一步的讨论1213 交互技术的选择在双手交互情况下,为完成同一交互任务,左手和右手承担了不同的子任务,为此,需要根据设备组合形式和交互任务的分配为每一种子任务选择不同的交互技术1结合设备特点,我们主要选取虚拟球、驱动漫游和光线投射[1]几种交互技术来完成执行单手子任务1综合在2D GU I下一些常用的交互技术,我们设计了以下的操作器(Manipulator):1)FPVManipulator1基于驱动漫游技术的操作器;2)TBVManipulator1虚拟球操作器,用于旋转用户视点或虚拟对象;3)PickPutManipulator1光线投射操作器,用于选择和平移对象;4)TCOMManipulator1漫游2操作组合操作器;5)TDtransManipulator1双手协同操作器;6)AFACEManipulator1辅助平面双手交互操作器;7)WIMManipulator1WIM操作器;8)VCOP YManipulator1复制对象操作器;9)TiltMenuManipulator1菜单选择控制1214 双手交互工具箱图2 THTool K it层次结构根据上述讨论,我们构建了支持设备组合I和II的双手交互工具箱THTool K it1THTool K it由设备层、操作器和交互工具3个层次构成,如图2所示1设备层主要使用设备组合I和设备组合II,不同组合的左右手设备所输入的信息作为抽象设备层的输入解释成交互原语[13],并作为操作器层的输入1操作器层包含了系统提供的所有交互技术的实现,它根据输入原语选择适当的操作器(交互技术)1操作器包含交互技术层,交互技术有单手交互技术和0071计算机辅助设计与图形学学报2006年双手交互技术2种1单手交互技术构成单手操作器或由2种单手技术组合而成的双手操作器,以及只能适用于双手的操作器,它构成双手操作器1工具箱的第3层是高级交互任务层,在这一层根据交互任务的需求选择适合得操作器,以达到用户的目标1不同操作器之间的切换通过设备上按钮实现1缺省状态下使用一种组合双手技术,左手是驱动漫游技术,右手是光线投射选择技术1系统的状态转换以左手按钮为主,右手按钮为辅1也就是说,单手技术与双手技术的切换由左手设备上的按钮负责,组合技术中左手按钮负责切换左手操作器,右手按钮负责切换右手操作器13 典型交互技术使用2D指点设备的一些交互技术如光线投射、虚拟球、驱动漫游等比较通用,其实现细节见文献[1],使用双手的WIM和复制对象操作见文献[92 10,14],此处略1本文主要描述一些把单手技术组合为双手技术的实现方法1311 左手漫游和右手操作的组合左手漫游和右手操作的组合是一种典型的双手交互操作器,通常作为系统缺省操作器被选用1在这种模式下,左手设备操纵用户视点在场景内漫游,一种简单的漫游方式是驱动漫游,视点保持距地面的高度不变1对Wacom板的左手鼠标,可以通过鼠标的拖动距离确定漫游的速度,方向可由鼠标按下位置和当前位置与水平轴的夹角确定1左手使用SpaceMouse时,由于SpaceMouse可以输出6DOF参数,只需忽略Z方向变化就能实现这种漫游1右手的2D指点设备在初始阶段处于光线投射法的选择状态,一旦选中虚拟对象(通过按钮),右手设备进入平移状态,平移的位置也是通过光线投射法确定的1这2种单项技术组合可以实现大范围的物体移动1右手的另一种可选的操作器是虚拟球技术,这时右手操作器用于调整被选物体的方向,左手漫游用于调整用户的观察角度1左手的另一种可选的漫游方式是基于虚拟球旋转的操纵视点1在这种模式下,右手首先选中一个虚拟对象,左手的设备以被选中的对象中心做虚拟球漫游1这种方式能够使用户更好地将注意力集中到被操作对象上,以更丰富的视角观察被操作对象1 312 双手协同操作双手协同操作虚拟对象是指由双手直接协同控制虚拟对象的位置和方向,在操作过程中没有漫游任务1在这种操作中,设备组合I与设备组合II的实现方式略有不同1在组合I中的SpaceMouse可以更为方便地对虚拟对象进行旋转,因此右手的2D 指点设备用于移动虚拟对象;而在设备组合II中,由于两只手都是2D指点设备,因此左手用于定位虚拟对象,并作为右手的参考框架,右手使用虚拟球技术对虚拟对象进行旋转1为不同的设备组合选择不同操作器是符合Guiard原则的,在设备组合I中旋转操作的难度比平移小;而在设备组合II中平移定位的操作难度比基于虚拟球旋转小1313 基于辅助平面的双手交互在所选用的2类设备组合中,虽然右手设备都是2D指点设备,并且通常用来实现对被选中虚拟对象的位置和方向进行变换,但由于设备本身存在的自由度限制,不能实现3D空间定位1为解决这一问题,本文提出一种使用左手操作辅助平面的交互技术1图4 半透明辅助平面双手交互技术实例在基于辅助平面的双手交互技术中,左手设备操作一个初始位置与视线方向垂直的半透明辅助平面,当用户右手设备使用光线投射法选中要操作的虚拟对象后,虚拟对象将被自动添加到辅助平面上,这时,左手设备操作辅助平面,调整其相对于全局空间的位置;右手设备既可以使用虚拟球控制虚拟物体的方向,也可以移动附着在辅助平面的虚拟对象,调整它在平面上的位置,其原理如图3所示1图4所示为这种技术运行的一个实例1图3 辅助平面双手交互技术原理107111期张凤军等:桌面虚拟现实环境下的双手交互技术使用半透明辅助平面的方法能够指示出当前被操作虚拟对象与附近物体之间的相对位置关系,用户通过前后移动辅助平面,能够方便地决定虚拟对象在3D 场景中摆放的恰当位置1当然,虚拟对象的精细位置需要由右手设备进行微调1此外,半透明辅助面还能够为当前操作提供深度线索,使用户能够感知虚拟对象在3D 空间中的相对位置关系,从而部分地弥补了桌面虚拟现实环境缺乏视觉深度线索的缺陷14 应用验证基于本文对交互任务的分配、交互技术的选择和实现的讨论,我们开发了面向桌面虚拟环境的双手交互工具箱THToolkit ,并以虚拟场景布置为应用背景对设备组合I 和设备组合II 下的双手交互技术进行了验证,从初步的实验结果看,取得了良好的效果1图5所示为设备组合I 下的交互界面,图6所示为设备组合II 下的交互界面1此外,还对设备组合I 下的几类交互任务所用的交互技术进行了评估,具体结果见文献[14],对其他交互技术的评估也将在后续的研究中陆续进行1图5 设备组合I 的交互界面图6 设备组合II 的交互界面5 结 论在桌面虚拟现实环境下,双手交互不仅能节省时间,而且大大地提高了用户对所操纵场景的理解和认知1合理的双手交互设计应该首先考虑选择合理的设备,结合交互任务的需求为每只手分配合理的交互子任务,并配置适当的交互技术1本文主要讨论了2种典型的主动式双手设备模式下的交互技术设计问题:1)基于Guiard 的双手分工原则,左手设备主要用于导航和粗略的操作,如使用SpaceMouse 或Wa 2com 双手设备中的鼠标,而右手设备主要用于精确的选择和操作,如用笔设备12)对于2类双手交互设备模式,为每只手分配了不同的交互子任务以实现通用交互任务,并根据不同交互任务和子任务设计了操作器,开发了双手交互工具箱13)改造常用的单手交互技术,提出了基于半透明辅助面交互等3类适用于双手交互的交互技术1本文讨论的设备类型是以用户主动操作为主,进一步的工作中将对具有跟踪身体(手和头部)能力的设备,如跟踪器或视频跟踪进行研究,在这类设备条件下,交互技术的设计和选择有着更广泛的空间1参 考 文 献[1]Bowman D ,Kruijff E ,LaViola J ,et al 13D user interfaces :theory and practice [M ]1Boston :Addison 2Wesley ,2004[2]Buxton W ,Myers B A 1A study in two 2handed input [C]ΠΠPro 2ceedings of the SIGCHI Conference on Human Factors in Com 2puting Systems ,Boston ,Massachusetts ,1986:321-326[3]Guiard Y 1Asymmetric division of labor in human skilled biman 2ual action :the kinematic chain as a model [J ]1Journal of Motor Behavior ,1987,19(4):486-517[4]K abbash P ,Buxton W ,Sellen A 1Two 2handed input in a com 2pound task [C]ΠΠProceedings of the SIGCHI Conference on Hu 2man Factors in Computing Systems ,Boston ,Massachusetts ,1994:417-423[5]Kurtenbach G ,Fitzmaurice G ,Baudel T ,et al 1The design and evaluation of a GU I paradigm based on tablets ,two 2hands ,and transparency [C]ΠΠProceedings of the SIGCHI Conference on Human Factors in Computing Systems ,Atlanta ,G eorgia ,1997:35-42[6]Zeleznik R C ,Forsberg A ,Strauss P 1Two pointer input for 3D interaction [C]ΠΠProceedings of the 1997Symposium on Interactive 3D Graphics ,Providence ,Rhode Island ,1997:115-120[7]Hinckley K ,Pausch R ,Proffitt D ,et al 1Two 2handed virtual manipulation [J ]1ACM Transactions on Computer 2Human In 2teraction ,1998,5(3):260-3022071计算机辅助设计与图形学学报2006年[8]Sachs E,Roberts A,Stoops D132Draw:a tool for designing3Dshapes[J]1IEEE Computer Graphics and Applications,1991,11(6):18-26[9]Stoakley R,Conway M,Pausch R1Virtual reality on a WIM:interactive worlds in miniature[C]ΠΠProceedings of the SIGCHIConference on Human Factors in Computing Systems,Denver,Colorado,1995:265-272[10]Pierce J,Stearns B,Pausch R1Two handed manipulation ofVoodoo dolls in virtual environments[C]ΠΠProceedings of the1999Symposium on Interactive3D Graphics,Atlanta,G eorgia,1999:141-145[11]Cutler L D,Fr lich B,Hanrahan P1Two2handed direct manip2ulation on the responsive workbench[C]ΠΠProceedings of the1997Symposium on Interactive3D Graphics,Providence,Rhode Island,1997:107-114[12]Bowman D,Kruijff E,LaViola J,et al1An introduction to3Duser interface design[J]1Presence:Teleoperators and VirtualEnvironments,2001,10(1):96-108[13]Dong Shihai,Wang Jian,Dai Guozhong1Human2computer in2teraction and multimodal user interface[M]1Beijing:SciencePress,1999(in Chinese)(董士海,王 坚,戴国忠1人机交互和多通道用户界面[M]1北京:科学出版社,1999)[14]Fu Y onggang,Wang Liang,Ji Lianen,et al1Seamless WIM:a three2dimensional interaction technique based on two2handedinput[J]1Journal of Computer Research and Development,2005,42(Suppl):696-670(in Chinese)(付永刚,王 亮,纪连恩,等1Seamless WIM:基于双手操作的三维交互技术[J]1计算机研究与发展,2005,42(增刊):696-670) 张凤军 男,1971年生,博士,副研究员,主要研究方向为人机交互技术、虚拟现实、CAD1 张 弛 男,1984年生,硕士研究生,主要研究方向为人机交互技术、虚拟现实1 王 亮 男,1981年生,博士研究生,主要研究方向为人机交互技术、虚拟现实1 纪连恩 男,1972年生,博士,主要研究方向为人机交互技术、虚拟现实1 付永刚 男,1975年生,博士,主要研究方向为人机交互技术、虚拟现实1 戴国忠 男,1944年生,研究员,博士生导师,主要研究方向为人机交互技术、计算机图形学1307111期张凤军等:桌面虚拟现实环境下的双手交互技术。
机械产品虚拟装拆交互技术的研究与实现

机械产品虚拟装拆交互技术的研究与实现交互性是虚拟现实环境的关键特性,基于数据手套的虚拟手交互技术可以提供自然高效的人机交互方式,是虚拟现实人机交互技术研究中的一大热点。
本文针对机械产品装拆的实际需求,将虚拟手技术应用于机械产品的虚拟装拆,对虚拟手建模、虚拟手势的定义与识别、虚拟装拆过程中的碰撞检测与装配约束导航等关键技术进行了深入研究,开发了基于数据手套交互的机械产品虚拟装拆原型系统。
论文的主要工作如下:(1)根据人手的生理骨骼特征以及运动特点,建立了虚拟手的运动学模型。
同时,为实现对虚拟手的运动控制,建立了数据手套、位置跟踪器与虚拟手之间的运动映射关系,实现了虚拟手运动过程中的位置控制;(2)根据通用机械零件的结构特征以及人手抓取零件时的手势特征,针对机械产品四大主要类型的通用零件分别给出了抓取手势的定义,提出了虚拟手势识别及稳定抓取的算法;(3)对虚拟装拆过程中的碰撞检测以及装配约束导航提出了具体的解决方案,并根据干涉深度实现触觉反馈功能,为用户提供了基于触觉的力反馈信息;(4)以SolidWorks作为建模工具以及虚拟装拆平台,应用Visual Studio,CyberGloveSDK和FASTRAK SDK,开发了基于数据手套交互的机械产品虚拟装拆原型系统,并应用典型机械产品进行了实例验证。
虚拟装配中的虚拟手交互技术

虚拟装配中的虚拟手交互技术
邓华林;马登哲;范秀敏
【期刊名称】《机械》
【年(卷),期】2005(032)006
【摘要】针对目前虚拟装配系统中操作者与虚拟对象交互的问题,本文的研究以数据手套作为虚拟装配操作的交互工具,定义装配过程中虚拟手与零/部件的作用规则,建立虚拟手对零/部件的抓取、移动和释放的装配操作逻辑,成功地实现了虚拟装配环境中对零/部件合理而自然的装配操作.该操作方法已应用于集成虚拟装配系统(IVAE).
【总页数】4页(P36-38,44)
【作者】邓华林;马登哲;范秀敏
【作者单位】上海交通大学,机械与动力工程学院CIMS研究所,上海,200030;上海交通大学,机械与动力工程学院CIMS研究所,上海,200030;上海交通大学,机械与动力工程学院CIMS研究所,上海,200030
【正文语种】中文
【中图分类】TP391
【相关文献】
1.体感交互技术在航空发动机虚拟装配实验中的应用 [J], 张青;徐宇杰;郭庆;管会超
2.面向虚拟装配的虚拟手交互技术研究 [J], 绪玉花;李静蓉
3.虚拟装配中基于生理约束的虚拟手建模与抓持规划 [J], 付宜利;刘诚
4.虚拟装配环境中虚拟手与虚拟零件的碰撞检测研究 [J], 丁国富;王金诺;张晓军
5.视景仿真中虚拟手的人机交互技术研究 [J], 韩睿
因版权原因,仅展示原文概要,查看原文内容请购买。
交互式虚拟仿真技术在装配工艺中的应用研究

交互式虚拟仿真技术在装配工艺中的应用研究近年来,随着科技的不断突破和普及,交互式虚拟仿真技术在各个领域都得到了广泛应用和发展,尤其是在制造业中,凭借其高效、低成本、高可靠性等优点,成为了许多企业提高产品质量和生产效率的有力手段。
特别是在装配工艺中,交互式虚拟仿真技术显示出了巨大的优势,成为了企业提升产品装配质量、降低装配成本、优化装配工艺的有效工具,本文将对其应用研究进行探讨。
一、交互式虚拟仿真技术的基本原理交互式虚拟仿真技术(Interactive Virtual Simulation Technology)是指利用计算机仿真技术为实际物理对象或系统建立虚拟对象或系统,并借助输入设备(如鼠标、键盘、数据手套等)和输出设备(如显示器、耳麦、振动座椅等)之间的交互作用,模拟真实环境中的操作和互动的技术。
其核心技术包括三维建模、动态实时仿真、虚拟现实技术、人机交互技术等。
二、交互式虚拟仿真技术在装配工艺中的应用研究1、装配工艺设计优化利用交互式虚拟仿真技术,企业可以针对产品的具体装配工艺进行设计和模拟,通过调整装配工艺方案,优化装配工艺流程和节约成本。
比如,在汽车工业领域中,将交互式虚拟仿真技术应用于制动系统的装配工艺优化,可以保证制动系统各部件的装配正确性和精度,避免因操作不当或装配误差导致的故障,进而提高制动系统的效率和使用寿命。
2、装配工艺质量检测交互式虚拟仿真技术还可以用于装配工艺的质量检测和验证。
通过将实际产品的装配工艺过程转化为虚拟仿真模型,企业可以在过程中对各种装配工艺操作进行详细分析和验证,及时发现和排除装配工艺中可能存在的问题和缺陷,提高产品的质量和可靠性。
例如,在飞机制造领域中,企业可以利用交互式虚拟仿真技术对机身各个部位的装配过程进行模拟,及时发现装配误差和漏装,避免在实际生产过程中浪费时间和成本。
3、装配操作培训交互式虚拟仿真技术还可以作为装配操作培训的工具,为企业提供高效、低成本、高效果的培训方案。
虚拟现实中的虚拟交互技术

虚拟现实中的虚拟交互技术虚拟现实(Virtual Reality,简称VR)是一种通过计算机技术和传感器等设备,为用户创造出一种完全虚拟的环境,并通过用户的感官器官对这种虚拟环境进行互动的技术。
虚拟交互技术是虚拟现实中至关重要的一环,在提供用户与虚拟环境互动的同时,也确定了用户体验的质量。
本文将对虚拟现实中的虚拟交互技术进行探讨。
一、手势交互技术手势交互技术是指用户通过身体的自然动作,如手势、头部运动等与虚拟环境进行交互。
这种技术可以使用户更加自然地与虚拟环境进行互动,增加了沉浸感。
通过精确捕捉用户的手势,系统可以根据手势的不同进行相应的动作,例如拾取、放置、旋转等。
基于深度传感器和摄像头技术的手势交互系统已经得到了广泛的应用,用户可以通过简单的手势完成虚拟世界中的各种操作。
二、眼球追踪技术眼球追踪技术是指通过追踪用户的眼球运动来完成交互操作。
这种技术可以实现视线方向的追踪,使虚拟环境中的物体随着用户的注视而发生相应的改变,增强了沉浸感和交互感。
眼球追踪技术可以用于目光交互、聚焦和选择等操作,使用户能够直接通过注视来进行虚拟世界中的控制和交互。
三、触觉反馈技术触觉反馈技术是指通过模拟真实感觉来刺激用户的触觉系统,使用户感受到虚拟环境中物体的质地、形状和重量等信息。
触觉反馈技术可以通过力反馈手套、触觉板等设备实现,使用户在虚拟环境中能够感知到触觉上的真实感,并与虚拟环境中的物体进行交互。
这种技术可以提高用户与虚拟环境的互动性和沉浸感,使用户更加真实地感受到虚拟环境中的信息。
四、语音交互技术语音交互技术是指用户通过语音指令与虚拟环境进行互动。
这种技术可以用于控制虚拟环境中的角色、物体,进行语音搜索和查询等操作。
语音交互技术可以通过语音识别和语音合成技术实现,用户可以通过自然的语音语言与虚拟环境中的系统进行交互,提高了用户与虚拟环境的互动效率和便利性。
五、全身追踪技术全身追踪技术是指通过追踪用户的全身动作来进行交互操作。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
的 劳 动 技 能 和 操 作 技 巧 , 高交 互 的 自然 性 。跟 单 手 操 作 提
0 引 言
在 现 实 生 活 中 , 是 人 与 外 界 交 互 的 主 要 工 具 。 在 虚 手
相 比 , 手 操 作 是 面 向用 户 的 , 仅 需 要 考 虑 功 能 的 实 现 , 双 不
摘 要 : 虚 拟 环 境 中 , 拟 手 作 为 一 个 自然 、 在 虚 直观 的 交 互 通 道 , 灵 活 逼 真 的 交 互 动 作 是 达 到 自然 和 谐 高 效 的 人 机 其
交互 的关 键 。 为仿 真现 实 中双 手 工作 方 式 , 入 研 究 了 双 手 交 互 的 理 论 和 实践 , 深 入 探 讨 了双 手 交 互 模 式 描 述 的 深 且 方 式 和 手 段 。并 在 理 论 研 究 的 基 础 上 , 在虚 拟 装 配原 型 系统 中验 证 了虚 拟 手 双 手 协 同 完 成 装 配 任 务 。 实 践 证 明基 于
计 算 感 知 的 虚 拟 手 对增 强 虚 拟 装 配 的 情 景 真 实 和 工 艺 验 证 起 到 了很 重要 的 作 用 , 具 有 较 好 的性 能 。 也
关 键 词 : 拟 环 境 ; 机 交 互 ; 拟 手 ; 拟 装 配 ; 手 交 互 虚 人 虚 虚 双 中图分类号 : 319 TP 9 . 文献标识码 : A 文 章 编 号 : 6 2 7 0 ( 0 1 0 —0 i0 l 7 — 8 0 2 l ) 30 5 -3
现 了几 种 较 为 真 实 的 手 势 。 在 双 手 操 作 方 面 , i d提 出 了 运 动 链 模 型 , 双 手 的 Gua r 对
倒茶等 。
1 2 双 手 交 互 的 心 理 学 基 础 .
除 了符 合 人 的行 为 学 特 点 之 外 , 手 交 互 方 式 同 样 也 双 吻 合 了 人 的认 知 特 点 , 用 这 种 方 式 和 计 算 机 交 流 时 可 以 使
手 在 现 实 生 活 中 的 应 用 无 处 不 在 , 于 不 同应 用 , 对 可
地操作 , 其是对人机 交互有 极 高要求 虚拟 装 配来说 , 尤 需
要 虚 拟 手 的 介 入 来 验 证 装 配 的 切 实 可 行 性 和 符 合 工 艺 设
计要求 。
以将 手 部 行 为分 成 三 类 : 一 类 是 单 手 行 为 , 就 是 利 用 第 也
手 来 说 很 容 易 学 习 , 能 提 高 用 户 操 作 的 性 能 。 Ka b s 还 b ah 等 人 对优 先 手 和 非 优 先 手 在 指 和 拖 拽 任 务 方 面 作 了 比较 ,
表 明 两 只手 是 互 补 的 , 一 个 手 都 有 其 自身 的强 项 和 弱 项 。 每 H.S n等 人 设 计 了一 个 双 手 装 配 系 统 。在 系 统 中 , 手 可 u 双 以按 照约 定 的约 束 条件 协 同完 成 一 项 装 配 任务 。
大 大 降 低 用 户 的认 知 负 担 。认 知 心 理 学 认 为 , 们 获 得 认 人 知 技 巧 的 一 个 主 要 途 径 是 把 一 些 相 关 的 基 本 任 务 组 合 成 有 意 义 的 任 务 单 元 , 操 作 时 以 这个 单 元 为 操 作 对 象 而 不 在
逻 辑 分工 作 出 了很 好 的定 义 和 说 明 , 有 一 些 分 析 和 实 验 且
一
只手 就 可 以 实 现 操 作 , 使 用 鼠 标 等 ; 二 类 是 双 手 的 如 第
对 称 行 为 , 就 是 双 手 完 成 相 同 的 操 作 , 任 务 中扮 演 同 也 在 样 的角 色 , 洗 衣 服 等 ; 三 类 是 双 手 的非 对 称 行 为 , 双 如 第 即 手 完 成 不 同 的工 作 , 任 务 中扮 演 不 同 的 角 色 , 打 电 话 、 在 如
国 外从 1 8 9 8年 就 开 始 了 虚 拟 手 的 研 究 。 Ge e a大 nv 学 的 Th l n 教 授 领 导 的 MI 实 验 室 是 研 究 人 机 ama n M RA 交互 和 虚 拟 手 的 最 著 名 的 团 队 之 一 。 他 们 提 出 了 一 种 依 赖关 节 的局 部 变形 模 型 用 于 人 手 的动 画 和对 象 的 抓 取 , 接 着 又 提 出 了 一 种 基 于 DF D 的 人 手 变 形 模 型 。Ku i等 人 F ni 提 出 了基 于 环 流 映 射 的人 手 和 手 臂 模 型 , 以此 为基 础 实 并
更 多地 是 需 要 从 方 便 用 户 使 用 的 角度 考 虑 , 交 互 界 面 是 其 “ 用 户 为 中心 ” 。 以 的
1 1 双 手 交 互 的 行 为 学 基 础 .
拟 环 境 中 , 们 希 望 像 现 实 世 界一 样 来 操 纵 虚 拟 物 体 。虚 人
拟 手 作 为 一 种 直 观 的交 互 方 式 , 于 用 户 自然 、 谐 、 效 便 和 高
第 1卷 第3 0 期 2 l年 3 0 1 月
软 什 导 刊
S t a eGu d ofw r i e
Voll 0N o 3
M ar 201 . l
面 向 虚 拟 装 配 的 双 财 经 大 学 , 苏 南 京 2 0 0 ; .中 国船 舶 重 工 集 团 7 3研 究 所 , 苏 扬 州 2 5 0 ) 1南 江 10 3 2 2 江 2 0 1
验 证 结果 , 以后 双 手 的非 对 称 研 究 有 很 重要 的借 鉴 意 义 。 对
B xo u tn和 My r 实 验 验 证 了 双 手 交 互 技 术 不 仅 对 于 新 es以
去 考 虑 单 元 内部 的组 织 。
1 3 双 手 操 作 在 人 机 交 互 中 的 应 用 特 点 .