带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格

智东西(公众号:zhidxcom)
作者 | 信仪
编辑 | 漠影

视频、游戏、社交是VR的三个核心应用场景,戴上VR眼镜,使用者就像爱丽丝进入兔子洞,掉进了另一个世界。在这个新世界中,他们享受着一个人的影院,沉浸式完成游戏闯关,甚至可以和朋友在虚拟世界中“面对面”K歌……

在VR的世界中,使用者看得到3D的场景,也能听到来自四面八方的声音,甚至能操作抓取桌上的物体,但不得不说,虚拟世界中的交互相较于现实世界缺少了重要的一部分,那就是触觉

通过VR手套甚至是手势识别,用户可以在VR场景中看到自己使用“虚拟手”将物品拿起放下,甚至与虚拟世界中的人通过手势进行交互,但现实中,用户的实际感觉却是“抓了个空气”。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲韩国VR公司为母亲“重塑”女儿视频片段

皮肤是人体最大的器官,但在VR技术上,皮肤相对于眼睛和耳朵则是相对未开发的器官。如今,触觉交互也逐渐被人们重视,但当前用于VR和AR上的触觉装置通常依赖于电动机施加给皮肤振动,使用者要穿戴上笨重的电线和电池才能实现触觉交互,这极大限制了应用。

而香港城市大学的一位博士生导师及其团队研发了一个新的系统,这个系统可以无线接收指令,然后通过振动仿真“触感”,克服了笨重的缺点。使用者通过一片能贴在皮肤上的,又轻薄又柔软的器件,就能感觉到虚拟世界,甚至是远在千里之外的亲人传递来的“触感”。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲在远程社交中体会触感

这个团队将研究成果写成论文,题为《Skin-integtated wireless haptic interfaces for virtual and augmented reality(皮肤集成触觉反馈界面在VR和AR当中的应用)》,论文于2019年11月发表在《自然》(Nature)杂志上。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲上述提到关于“皮肤VR”技术的研究论文

距离论文发表已一年有余,这项研究如今又有什么新的进展?这项技术未来会用于什么场景?智东西幸运地联系到了这篇论文的第一作者——香港城市大学生物医学工程博士生导师于欣格,对这项技术有了更深入的认知,还听到了不少这项研究背后的故事。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲于欣格博士(前左)、解兆谦博士(前右)及香港城大研究团队成员 来源:香港城大研创

一、3毫米皮肤中容纳大天地,近千个反馈器赋予“绿洲”游戏般触感

皮肤是人类和现实世界的交互界面,越来越多的研究人员将电子皮肤视为让虚拟世界“触手可感”的突破口,但要想实现这一目标并不容易,这对电子皮肤的材质、使用便携度、传感的精确度等都是极大的考验。

在沟通中,于欣格告诉智东西:“我们第一次提出了一种超薄电子皮肤形式的VR器件,这个器件就像我们的皮肤一样,具有触觉反馈功能。”

“它可以做成贴片式,也可以直接做成一件衣服。重要的是,它可以采用无线射频供电,因此,使用者也不用担心受到电线或电池的牵绊。”

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲贴片式“皮肤VR”可以直接贴在皮肤上

这项研究开创了一种全新的传感和反馈交互界面,不仅可以产生震动反馈,也能收集人的健康生理信号变化,比如通过肌肉的收缩、动作方向的改变远程控制机器人、飞行器等设备。

外观上,这个设备可以被看做是一块酷似人类皮肤的,透气、又可伸展的布料。它的表面以低模量的软硅胶覆盖,厚度只有3毫米,可以不借助胶带或绑带直接贴在皮肤上,也可以轻易取下来。此外,这个设备还能以织物形式做成轻薄外衣的样子,于欣格认为:“只要有需要,皮肤VR可以是任何形态。”

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲“皮肤VR”透气且可伸展

3毫米很薄,但其中却蕴藏了一个丰富的“技术天地”。“皮肤VR”内藏层层的装置与天线,为无线控制和充电系统提供支援。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲3毫米“皮肤”内藏装置和天线

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲3毫米“皮肤”内涵盖的技术内容

装置内有互相连结的“按钮”,也就是致动器(actuators),每个致动器都接通射频天线,以无线方式传递信息和供电。致动器发出的振动频率以毫米计,且只需1.75毫瓦的功率便能诱发触感,仅需市面现有致动器所需功率的2%。配套的软件一旦收到指令,就会迅速将讯息传递到致动器,使用者就可以感到触感。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲1.75毫瓦功率诱发传感

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲单个致动器图解

通过无线操控电子器件,皮肤VR就可产生机械振动,研究人员利用人类皮肤对机械感受的敏感性,把振动频率调节在人容易感受的范围内,从而让人感觉到适当的触觉。在2019年论文发表时,研究小组就已经做到了在一块6×6英寸大小的皮肤VR中集成32个振动反馈单元的成果。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲在6×6英寸大小的皮肤VR中集成32个振动反馈单元

一年时间过去,于欣格兴奋地跟我们说:“我们把每个触觉反馈单元器件的大小缩小到原来的1/5左右,把厘米量级的器件缩小到了毫米量级。现在,在同样大小的皮肤中,我们可以集成将近1000个振动反馈单元,这样会让使用者的触感真实得多。”一年时间内,从32个到近1000个,这甚至可以称得上是质的飞跃。

他举例说,电影《头号玩家》中萨曼莎用手滑过韦德肩膀时,玩家感觉到的真实触感就需要器件提供反馈。要想清晰获取手滑动皮肤的感觉,技术上就对器件的密度要求更高。目前,他们的团队将单个反馈单元做到毫米量级,几乎达到了人体皮下触觉反馈器的分布极限,也就是达到了人体分辨的极限,因而反馈的触感也更真实自然。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲电影《头号玩家》中萨曼莎在虚拟世界中用“手”滑过韦德肩膀的片段

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲“皮肤VR”实操原理图示

为了呈现技术的更多可能性,在这一项目初步呈现在大众眼前时,使用的是无线射频供电。也就是说,致动器可以在一定距离内,通过外置的大型、可活动的天线,以无线射频方式取电。这样一来,使用者身上的VR装置无需连接任何电线,可以自由移动。那时,他们采用了特殊的电路电子设计,可以让VR系统在一个10平米的房间内无线供电。此外,由于采用了先进的机械设计,致动器只需低于2毫瓦的功率就能引起明显振动,反观一般以直流电驱动的致动器需要约100毫瓦的功率,才能产生相同水平的振动。

上述提及的方式功耗低且无线,能让使用者不受电线或电池的牵绊或拘束。而一旦将设备应用到现实中,却会面临一个新的难题:不可能每个用户在购买VR设备的同时再购买一个射频装备。因此在开发第二代产品的时候,研究人员将VR设备的供电形式改为了充电式,更方便使用。

除了将触觉反馈器设计得更加小型化、阵列化,于欣格和团队还在研究如何将触觉反馈的形式变得更多样,而不是只能单一呈现振动反馈。他们计划在这个系统中增加牵扯、挤压等更真实的触觉反馈,以完善“皮肤VR”系统。

二、适用社交娱乐医疗等领域,三年内或能落地

除了搭配现有的VR设备使用,“皮肤VR”还能在娱乐、远程医疗、健康、传感等领域发挥作用,在这些场景中提升使用者的感官体验。

在社交通讯领域,“皮肤VR”可以使亲人和朋友远程“触摸”成为现实。在技术研发初期,使用者可以通过研究小组开发的一款软件实现这一目标。“皮肤VR”系统搭载了近场通信技术(NFC),远在千里之外的人通过抚摸和滑动屏幕,就能无限控制皮肤VR的触觉驱动,佩戴“皮肤VR”的人就可以相应感受到来自远方的“抚摸”。

于欣格说,它的最终形态应该是和微信或QQ视频等视频软件联动,在视频状态下,一方点击视频中人的某个部位,视频对面的另一个穿上“皮肤VR”设备的人就会在对应位置感觉到触感。当然,这一形态的实现还需涉及更深层次的合作,但于欣格相信专业软件工程师有能力提出相应的解决方案。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲家人朋友通过佩戴“皮肤VR”实现触摸交互

在感官方面,“皮肤VR”提供给人的感觉要比手机震动丰富得多。团队将每个触觉单元做得很小,且分布在不同的阵列中,原因就在于,这样可以让使用者在比较集中的点感觉到触觉反馈。

操作者使用手指在屏幕上从上扫到下,就会在“皮肤VR”上呈现出一种逐行的反馈,使用者就会感觉有一个东西从身上划过去。相应地,使用者在接收到一个物体挤压的感觉时,也可以感知这个物体的形状。

在娱乐方面,“皮肤VR”能让电子游戏玩家在佩戴时感受到战斗类游戏中的攻击。于欣格此前也举例说明:“这就类似在游戏中,你的角色和别人对打,对方打你一下,你感受到了他传递给你的攻击信息,并对这种攻击信息作出反馈,再回打对方一下。这个有来有回的过程构成了一个传感闭环。”

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲佩戴“皮肤VR”的使用者在玩游戏时感觉“被攻击”

“当然,在虚拟游戏中‘被打’的前提还是要保障人体的安全,”于欣格笑着回答:“我们在设计产品时肯定不会把触觉反馈器的力量设置得太强。”

在医疗领域,“皮肤VR”的应用场景众多,这也是于欣格及其团队目前相对更专注的方向。

首先,它可以帮助残疾人在佩戴假肢时感知假肢拿到的物体。截肢的残疾患者将机械手安装在截肢末端,而后将“皮肤VR”贴在截肢末端,就可以通过这样的设备感知所抓取物体的形状和抓取物品所需要的力量大小。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲佩戴义肢的残疾人通过“皮肤VR”感觉义肢触感

机械手上的传感器会把抓取物体的力量,以不同强度的振动反馈传递到截肢末端,当残疾患者感受到强烈的反馈后,他就知道力量足够了,就不会再使劲了,否则物体可能会被捏坏。反之,如果震动很轻,他则需要再使一点劲来抓牢物体。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲残疾人使用“皮肤VR”的传感和反馈流程

此外,它还能在远程医疗方面提供帮助。举例来说,在使用手术机器人进行手术时,医生很难直接获取手术的实时信息,比如“是否切到了正确位置、下刀的轻重”都只能通过数据获知。

如果把这套触觉反馈系统应用到操控手术机器人的医生身上,医生就可以获得更多的触觉信息,手术的进行也会更准确。

在另一个场景下,如果医生能在做临床手术前,通过佩戴“皮肤VR”进行模拟手术训练,则可以提前尝试手术中存在的各种情况,如果手术姿势不对,设备会反馈给医生进行提醒,也是很有意义的。

“皮肤VR”甚至可以为中医提供远程医疗。目前,于欣格团队就在和中医合作进行一个项目的推进。“中医对这个研究感兴趣的地方在于,能不能通过这种触觉反馈,把脉搏跳动的形式再现出来,甚至通过波形呈现出脉搏的跳动情况。此外,如果将温度反馈加持到技术上就更好了。”于欣格说道。

“如果将二者集成,就可以将诊脉的过程用虚拟现实的形式展现。”在触觉反馈的前提下,于欣格团队又加持了温度反馈,目前设备已经可以反映10℃范围内温度的快速变化

在于欣格看来,如今团队所研发的“皮肤VR”技术已经比较成熟了,综合来看,未来三年内应该会有一个不错的产品落地。

三、曾想创业“团购”的博导被科研吸引,沉迷其中无法自拔

“科研人,科研魂,科研都是拼搏的人。”

于欣格是东北吉林人,他2005年考入成都电子科技大学光电信息学院,2009年升至本校读硕,2011年到美国西北大学以联合培养身份攻读博士,而后赴美国伊利诺伊大学香槟-厄巴纳分校从事博士后研究,2018年回国至香港城市大学生物医学工程系任教。

当这些经历集中在一个人身上时,不少人都能感觉到他对学术的热情。事实也确实是这样的,于欣格说,他发现自己对学术研究真的非常感兴趣,至今,他已经在国际顶级刊物《自然》《自然 材料》《自然 生物医学工程》等杂志上发表了80多篇论文。

而在他确定自己对学术的“心意”之前,于欣格在本科期间还动了创业的念头。本科期间,他和几个同学商讨了一个为学生提供商品打折信息的创业想法,尽管当时创业失败,但后来想想,这和现在的“团购”理念相似。

后来,于欣格觉得自己掌握的知识还太少,想从技术上真正学些东西,加之发掘了自己对科研的热爱,就转变了创业念头,走上了学术科研的道路。

从被动选择到主动选择,于欣格逐渐摸索到了一条适合自己的科研道路。后来,他为了把之前学到的东西用到一些真正有需求的方向,便逐步完成了一个光电工程学生到生物医学工程导师的过程。

在电子科技大学读书时,于欣格的导师于军胜教授曾说的一句话让他收益匪浅。于军胜教授说:“你学一个东西,做一个方向的时候,应该把它做深入。当研究得很深入时,实际上你学的是做这件事的一个研究方法。当你掌握了研究方法,那我相信你做任何事都能做好。”

这句话成为了于欣格跨越多种学科学习和授课的秘宝,也同样在他教课的过程中得以延续。

此外,于欣格对自己和学生投出的论文要求都很严格,即使投在非顶级期刊上的文章,他也会亲自修改10多遍以达到“论证一个有意义的事、有系统的论证、不能有含糊的地方”的标准。

而对“皮肤VR”的研究,于欣格也是下足了功夫。2017年,于欣格还在美国伊利诺伊大学香槟-厄巴纳分校John A. Rogers博士后导师组时,就开始涉及类似的研究。当时,相关团队已经讨论出一个比较让人兴奋的切入点,因此在2018年于欣格回国后,两所学校的研究小组就针对想法继续合作。

但是“皮肤VR”项目相对于传统的科学性项目来说,工程型太强,它涉及了力学、机械工程、电子工程,乃至生物医学工程等多学科,因此很难由一两个人完成。为了继续这个研究,项目小组不断扩大,直至覆盖了香港城市大学、美国西北大学、伊利诺伊大学厄巴纳-香槟分校、清华大学、山东大学等多所名校的研究者。

于欣格在讲述团队研发时很自豪,他说,尽管组织一个相对大的团队有一定困难,但好在大家信念一致,所有人拧成一股绳,成果也自然很快呈现。

带队发明“皮肤VR”,能隔空抚触远程号脉,对话香港城大博导于欣格▲“皮肤VR”装置实体细节图 来源:香港城大研创

结语:科技正在逐步补齐对人感官的呈现

以往,无论是在虚拟世界还是现实世界,多数人在科技领域,首先看到并覆盖的是人的视觉和听觉,如今,随着技术的发展,人的触觉反馈和呈现也被纳入关注范围。

皮肤VR、可穿戴设备、脑机接口、电子皮肤……越来越多的技术正在帮助人们远程感知触觉,或是帮助残疾人恢复身体机能。

从文章中展现的例子来看,我国科研人员对相关前沿技术的追求已经逐步成熟,但从研究本身到落地真正能使用的产品,还需要多方经过一段时间的努力才能实现。

我们期待未来的线上办公场景能与现在大不相同,那时,我们或许能集体穿越到一个共享虚拟空间,感受和真实世界相似的画面、声音甚至触感。