说起VR（虚拟现实）领域的前沿研究进展，全球最火爆的VR设备供应商Meta，绝对是引领市场风向的存在。Meta的CEO马克·扎克伯格最近在访谈中透露了Meta在元宇宙领域的最新布局。Meta将于10月推出新的VR头显——Meta Quest Pro。据悉，该头显的最大亮点是具有面部和眼动跟踪功能，可以让虚拟数字化身进行眼神交流。 硬件分析师Brad Lynch认为，Meta Quest Pro将采用经过改进的XR2处理器，较现有的XR2处理器同比性能提升30%。分析师郭明錤预测，Quest Pro将使用单眼2160×2160分辨率的面板。 在访谈中，扎克伯格还谈到了元宇宙社交，他认为，从文字、图像、再到视频，社交媒体的载体正朝着更大的信息容量演变，而下一个能比视频承载更多信息量的载体，就在VR领域。 此前，扎克伯格亲自下场推荐自家的社交平台Horizon Worlds，并发表了一张VR自拍。虽然照片遭到全网群嘲，不过扎克伯格还是为Horizon Worlds带起了一波全网热度。 ▲扎克伯格的VR自拍 近来，Meta在元宇宙领域的动作频繁。今年6月，Meta的VR部门Reality Labs推出了四款VR头显原型机，分别展示未来VR设备的4个关键技术演进方向：高分辨率、高动态范围（HDR）、轻薄外形、降低晕眩感的变焦技术优化。在8月举办的SIGGRAPH大会中，Meta的显示系统开发负责人Douglas Lanman发表演讲，为我们介绍了攻破VR技术瓶颈的十大挑战。 在SIGGRAPH 2022大会上，外媒Auganix的记者Sam Sprigg特别体验了主打HDR功能的VR原型机Starburst。Oculus Quest 2是Meta迄今推出的VR一体机巅峰之作，去年出货量突破千万台，是史上最畅销的VR产品，而Starburst的峰值亮度足足有Quest 2的200倍。 那么，Meta的元宇宙布局究竟是怎样的？Meta的原型机体验起来到底如何？Meta的百亿研发都投入到了哪里？让我们带着这些疑问，一起来看看Meta在VR领域上的最新发展。 一、为探索四大研究领域，Meta发布四款原型机 今年6月，Meta Reality Labs公布了四款不同技术领域的VR头显原型机。 Butterscotch探索分辨率技术、Starburst探索HDR技术、Holocake 2探索VR头显的轻薄外形打造技术、Half Dome 系列探索变焦技术。这四款原型机分别代表了Meta在四个VR头显研发领域取得的最新进展。 此前，Meta的CEO马克·扎克伯格曾提出视觉图灵测试（Visual Turing test）的概念。简单来说，视觉图灵测试的考核标准就是虚拟图像能否以假乱真，让人眼无法分辨出虚拟图像与真实图像。扎克伯格表示，视觉图灵测试有两个重点，即照片级真实感和临场感。 ▲不同VR头显分辨率对比 而让图像更加逼真的方法之一，就是尽可能地提升图像的分辨率。为此，Meta研发了原型机Butterscotch，其特点就是具有“视网膜级别”的分辨率。 Butterscotch的PPD达到55，很接近每1度角60像素的“视网膜分辨率”水平，其分辨率是Quest 2的2.5倍，Meta Reality Labs科研部门DSR团队光学科学家Yang Zhao说，Butterscotch的定制透镜模组中，有两个高精度玻璃镜片，镜片的表面质量更高，但也更重。此外，还有一个可衍射光线的特制透镜。玻璃透镜与衍射透镜组合后，即可呈现清晰的图像。 ▲Starburst原型机 Starburst原型机的特点是具备高HDR（高动态范围成像）功能，其背光的最大亮度可达20000nit，是现有VR头显Quest 2的200倍。Meta Reality Labs团队开发Starburst的目的是在虚拟环境中还原完整的室内照明，并探索能让用户实现最佳沉浸体验的理想亮度。 Starburst采用COB LED（常用于车灯上的LED）取代原来的LCD屏幕背光，这在很大程度上提高了LCD的背光亮度，但也产生了更多的热量。因此，Starburst还配备了风扇和3D打印散热底架。但是设备整体比较笨重，且耗电严重。在四项技术中，这项技术离上市的距离最远。 ▲Holocake 2原型机 Holocake 2原型机的特点是轻薄，可以提升VR头显的佩戴舒适度。Holocake 2是一款PC VR设备，虽然它的外形轻薄，但是它需要额外的计算和电池组件空间，采取分体式设计。 ▲Half Dome发展史 Half Dome是基于Oculus Rift改造的VR头显原型机，其特点是采用可变焦透镜。从第三代开始，Half Dome的透镜从机械系统升级为电子变焦系统，减少了机械噪音和震动。Half Dome 3有32个可切换的焦点平面。据体验者透露，通过Half Dome的动态变焦玩《Lucky’s Tale》等游戏时，视野里的图像焦点可以根据手柄移动的距离而变化。 二、Starburst峰值亮度为20000nit，是Quest 2的200倍 在本月举办的计算机图形顶会SIGGRAPH 2022上，外媒Auganix的记者Sam Sprigg特别体验了主打HDR功能的VR原型机Starburst。Oculus Quest 2是Meta迄今推出的VR一体机巅峰之作，去年出货量突破千万台，是史上最畅销的VR产品，而Starburst的峰值亮度足足有Quest 2的200倍。 在展会现场，两台Starburst被挂在一个框架上供参与者体验。Starburst的重量约为2.5公斤，这个数字对于头戴式设备而言，有点太大了。Sam Sprigg说：“它太重了，你无法把它戴在头上，只能把它举到脸前。”并且，Starburst需要大量电力支持其高亮度显示，所以它被固定在了框架上。 ▲两台Starburst被悬挂在一个架子上 Starburst的亮度是用“nit”来衡量的，Sam Sprigg称，室内环境的亮度超过10000nit，而Starburst的峰值亮度为20000nit。而Meta曾表示，Quest 2的峰值亮度约为100nit，Starburst的峰值亮度是Quest 2的200倍。 而20000nit的峰值也可以在一定程度上解释Starburst的“笨重”。高亮度也会产生高热量，为了散热，Starburst配备了大型的铝散热器。Meta的显示系统研究团队（Display Systems Research，DSR）的研究科学家Nathan Matsuda说，铝散热器至少占了设备重量的50%。此外，设备顶部有一个大型风扇，可以吸收散热器中的热量。 ▲Starburst由36个零部件组成 不过，Starburst的分辨率较低，约为2560×1620像素，比Quest 2略低。不过，这也可以让人接受。因为Starburst主要展示HDR的解决方案，至于高分辨率，那是Butterscotch该探索的方向。 Starburst同时使用彩色和单色LCD（液晶显示器）。Matsuda表示，这是因为单个LCD在低光下的对比度较差，而两个彩色LCD又会吸收大部分光线，降低显示效果。因此，将彩色和单色LCD串联使用，就可以获得最佳的显示效果。 为了专注探索HDR技术，Starburst在画面的刷新率和视野方面做出了妥协。不过，Sam Sprigg称，这种妥协并没有影响Starburst在HDR和亮度方面的表现。 ▲Sam Sprigg“戴着”Starburst Starburst演示的第一部分就是在虚拟空间设置一个光源，再放置一些球体来显示反射光源。Sam Sprigg称，在10000nit显示范围下，这与Quest 2的体验相同，没有什么特别的地方。 但是，当亮度上升到10000nit时，他能感受到更明显的亮度。展示10000nit光线时，演示切换到了海洋日落景观。太阳穿过云层，光线打在海洋的波浪上，水面波光粼粼。然后，光线上升到了峰值20000nit，画面中有一个虚拟的太阳。Sam Sprigg称，他觉得自己仿佛看到了真实的太阳，因为光线实在太亮了。最后，太阳落山时，海浪发出了微弱的反光。这个演示令人印象深刻。 ▲放置球体测试光源 Sam Sprigg称，他在Starburst中直视20000nit的光源可能跟盯着60瓦灯泡的感觉差不多。但是，VR中的光源距离他的眼睛只有几英寸，这个距离很近。他认为，这种亮度显示可以为用户带来更加真实且富有沉浸感的体验。 但是，Sam Sprigg也指出，功率、热量、外形是限制VR头显发展HDR技术的重要阻碍。他认为，我们可能还需要很长的时间，才能等到能够输出20000nit的成熟上市产品。 三、困难重重，VR头显面临十大技术挑战 目前Meta虽然在VR头显上已经取得了一些技术进展，但仍然遇到了很多目前无法解决的技术瓶颈。在SIGGRAPH大会的演讲中，Meta显示系统开发负责人Douglas Lanman为我们提供了一些参考方向——要想将VR体验提升到新的高度，目前有十大挑战亟待解决！ 谁能率先攻破这些挑战，谁就有望在愈演愈烈的元宇宙硬件入口抢夺赛中，争得先机。 1、分辨率：Meta开发Butterscotch原型机，致力提高分辨率 为了提高用户的沉浸感，让虚拟世界看起来更加逼真、清晰，VR头显必须拥有更高的分辨率。目前的VR头显分辨率离人类视觉水平还非常遥远。 Meta表示，他们的初步目标是实现单眼8K分辨率和60PPD（像素密度）。但是目前Quest 2只达到了单眼2K分辨率和20PPD，距离这一目标还有较远距离。 为了提高VR头显的分辨率，Meta开发了专注探索分辨率的Butterscotch原型机。在这方面，高分辨率显示器的开发和生产并不是难点，难点在于如何为高分辨率显示器配备相应的计算能力。Lanman指出，注视点渲染（Foveated Rendering）和云流送（Cloud streaming）两种技术或许有助于提升计算能力，但是这两种技术本身的研发难度也很大。 ▲上面是普通模糊处理的VR效果，下面是注视点渲染技术模糊效果 2、视场角：VR头显视场角比人眼小一倍 人类的平均水平视场角为200度，而目前大多数商用VR头显的水平视场角为100度。这意味着VR头显的视野范围比我们在真实环境中看到的更窄。此外，在垂直视场角方面，VR头显也有改进的余地。 视野越宽，VR头显呈现的像素也越多。这就要求更高的功率和更多的废热（waste heat）。此外，视线范围变宽后，视线范围边缘的图像容易失真。因此，更宽的视线范围需要更好的透镜技术支持。并且，研究人员还要确保镜头和显示器的构建方式不会增加VR头显的外形尺寸。 3、人体工程学（Ergonomics）：VR头显佩戴舒适度不够 目前大多数VR头显都会略显“笨重”，例如Quest 2的重量超过500克，其设备厚度（从面部突出的距离）达8厘米。这样的设备显然不会为用户带来很好的佩戴体验。理想的VR设备应该更轻薄，能让用户舒适地长时间佩戴。 Pancake透镜和全息透镜或许会对减小头显体积有所帮助，目前Meta的Holocake 2原型机正在往此方向探索，但其尚未发展到大规模生产的水平。 ▲“太阳镜”是Holocake 1原型机，透明的是2016年的Oculus Rift 4、视力矫正显示屏：还未找到成本低廉的视力矫正显示屏 更好的VR头显应该具备视觉矫正功能，让用户不必在VR头显下还带着常规眼镜。这个问题可以通过特殊的镜头附件解决，但这不是理想的解决方案。最佳方案是头显的显示器自带视觉矫正功能，这样头显设计师就不再需要考虑适配眼镜等问题。 但挑战就在于，如何才能找到一种制造成本低廉，且不会额外增加头显重量的解决方式呢？ ▲具有视力矫正功能的镜头附件已经存在，但它们并不是理想的解决方案 5、变焦：Meta原型机Half Dome可实现人眼变焦 在自然环境中，为了看清不同距离的画面，人眼可以自然变焦。但在VR头显中，因为人眼与屏幕之间的距离没有改变，所以人眼无法变焦，也无法看清远近景物之间的差别。这其中存在视觉辐辏调节冲突（vergence-accommodation-conflict）问题。所以有时用户会感到眼睛疲劳，甚至出现头痛和呕吐现象。 为了解决这个问题，Meta的研究人员开发了一系列支持“渐进式视觉”（progressive vision）的原型机Half Dome。Half Dome可以模拟不同的焦点平面，呈现出不同的模糊程度，从而帮助人眼在虚拟世界里调整焦距。 ▲瞳孔会随着物体距离变化 6、眼动追踪：难以适配所有人的眼部情况 眼动跟踪是虚拟现实中的一项关键技术。它是众多其他重要VR技术的基础，如变焦、畸变校正等。通过这项技术，用户可以在虚拟世界中实现与其他用户的眼神交流，拥有更加真实的社交体验。 但问题在于，每个人都有不同的瞳孔形状、每个人眼睑和睫毛的生长情况也不同，所以目前眼动追踪技术还无法很好地适配所有用户。因此，Lanman团队将广泛收集更多的用户数据，以此升级眼动追踪技术技术，努力让它与更多人适配。 ▲瞳孔的形状因人而异，这对眼动追踪技术来说是一个挑战 7、畸变校正：Meta研发失真模拟器，加快算法迭代速度 瞳孔的运动会引起图像的失真，进而降低用户的沉浸感，这种现象在配合变焦技术使用时尤其明显。为了开发校正算法，研究人员必须在实物头显上进行调整测试，但生产头显可能会耗费数周甚至数月，这大大拖延了算法的迭代时间。 为了解决这个问题，Meta研究团队开发了一种失真模拟器（distortion simulator）。有了这种模拟器，无需生产测试头显和特殊镜头，研究人员就能测试校正算法。 ▲红色光线未校正，蓝色光线是校正后的结果 8、高动态范围（HDR）：Starburst原型机峰值亮度为20000nit 物理对象和环境的亮度远远高于VR头显，为了解决这个问题，Meta创造了Starburst原型机。Starburst的亮度峰值为20000nit，是现存Quest 2的200倍。 Starburst可以更真实地模拟封闭空间和夜晚的照明状况，让虚拟环境看起来更加真实。不过，目前Starburst很重，并且十分耗能。 Meta认为，HDR对视觉真实感的贡献要大于分辨率和变焦，但这项技术距离实际应用最为遥远。 ▲Starburst原型机特写 9、视觉逼真度（Visual realism）：透视（Passthrough）技术尚不成熟 更好的VR头显应该还能让VR用户与现实世界保持互动。VR头显可以记录真实环境信息并在虚拟现实中显示为视频图像。这种称为“透视”（Passthrough）的技术已经在商用VR头显中实现，但其质量很差。例如，Quest 2提供了一种黑白相间的透视模式，而Meta的即将推出的高端VR头显“Quest Pro”旨在追求更高的分辨率和彩色透视功能。 然而，VR头显尚未实现物理环境的完美重建。透视技术捕捉到的画面视角在空间上与眼睛存在偏差，用户在长时间使用时可能会感到不适。所以，Meta正在研究人工智能辅助的视线合成，该技术能实时生成视角正确的视点，并具有高视觉保真度。 此外，Meta还在研究一种“反向透视”（Reverse Passthrough）功能，该功能可以让现实用户看到VR用户的眼镜和脸部，进而进行眼神交流。但是目前这项技术在视觉上不协调、不自然，还远未为市场做好准备。 ▲左边是一个Oculus Rift，它挡住了VR用户的视线，右侧是早期的反向“透视”原型机 10、面部重建：Meta开展“虚拟化身”项目研究 Meta希望未来人们在虚拟环境中见面就像在现实中一样真实。为此，Meta正在展开了名为虚拟化身（Codec Avatars）的研究项目，该项目致力于为人们在虚拟环境中创建3D数字化身。 目前，VR头显可以实时读取VR用户的面部表情，并将其转移到虚拟现实中。据悉，即将推出的Quest Pro或将成为Meta第一款提供面部跟踪（face-tracking）的设备。 ▲Quest Pro可以识别面部表情并将其传输到VR设备上 结语：Meta的VR技术已有突破，但仍需继续攻克技术难题 Lanman在SIGGRAPH 2022上提出了目前VR头显面临的十大挑战，我们可以从中看到目前Meta取得的进展和尚未解决的问题。Meta发布了四款原型机，目的是解决VR头显在分辨率、变焦、轻薄外形、HDR四个方面的问题。这四款原型机各有所长，在各自领域获得了初步的技术进展。此外，Meta开展了虚拟化身项目助力VR头显的面部重建功能、开发了失真模拟器加速算法迭代。 这些原型机展现了现在Meta在VR单项技术领域能达到的最高水准，但这些技术远远不足以打造出一个成熟的VR头显。目前仍存在一些Meta暂时无法攻克的技术问题。例如VR头显的视场角比人眼更窄、VR头显佩戴的舒适度不够、VR头显还未配备视力矫正功能、VR头显的眼动追踪技术不能适配所有人、VR头显的“透视”技术尚不成熟等等。 细数目前Meta在VR头显上的探索，我们可以发现，Meta已经在VR头显探索的路上走了很长的一段距离。但是，Meta离这条路的终点还很远。目前，VR头显相关的各项技术都在积极开发中，但这些技术还远未成熟，离上市商用还有一段距离。从这个角度来看，VR的爆发潮还很远。
