VR/AR峰会实录: 七鑫易维路伟成-眼球追踪技术会成为AR/VR的标准配置,数字人等应用会很广泛 | 「全球XR智库」
Unity大中华区总监张黎明-Unity在XR方向的积累与技术布局,点击下图了解详情
影核总经理曹安洁—VR游戏与VR硬件生态处于上升期,看好VR游戏三个类型,点击下图了解详情
境腾CEO张力-XR重构未来,成为面向企业元宇宙的Office生产力工具,点击下图了解详情
咪咕公司是中国移动面向移动互联网领域设立,负责数字内容运营的专业公司。致力于通过文化+科技,满足人民群众的美好生活需要。经过七年发展,已成为国内领先的全场景品牌沉浸平台和正版数字内容汇聚平台。「中国移动咪咕」
今日峰会实录分享|
路伟成:
“介绍一下七鑫易维的历史,09年成立,很早就进入了VR/AR领域。随着VR/AR产品形态的一步步迭代,不停地更新解决方案。
简单讲,眼球追踪技术通过传感器来捕捉人眼的动作,比方你眼睛在看什么地方,你的瞳孔变化,还有你眼皮的变化,比如眨眼睛等等这些。
七鑫易维见证了VR/AR的发展
未来几年眼球追踪技术会成为AR/VR的标准配置
眼球追踪的技术为什么比较难?主要在于人的眼睛差异性,每个人的眼睛都不一样,所以需要很长时间的积累才能让算法去适应每个人。七鑫易维专利目前非常多,专利布局目前将近500项,其中有超过300项是发明专利,布局在各个领域。
这是七鑫易维已经上市的一些产品,HTC、小派、创维等等,还有很多正在合作的,大概有2、30家我们正在合作的厂家,他们正在加眼球追踪的技术。眼球追踪技术可以大幅提升AR/VR应用性,而且可以提升体验上的提升。所以我们判断,未来几年眼球追踪技术会成为AR/VR的标准配置。
为什么呢?
先讲一下现在VR/AR面临的技术挑战:
一个是分辨率越来越高了,现在主流是4K,5K已经出现了,随着苹果要发布8K了,后面会逐渐成为8K。分辨率会越来越高,算力的压力也会越来越大,而且数据传输的压力也会越来越大。
第二点是交互,因为一个新的计算范发生大的变化,会引发交互范式很大的变化。现在AR/VR主要是手柄,对于AR/VR来讲手柄并不是最好的交互范式。
第三点,现在的VR/AR都是单眼定焦,通过双眼视差变化给你三维立体的感觉。单眼定焦和双眼视差的冲突会引起你视觉上的疲劳和错觉。
现在AR/VR领域的五横技术,这五个技术眼球追踪都会有所应用。第一个应用是分辨率太高了,市场应用越来越大,现有的渲染算力不够。七鑫易维有注视点渲染的技术,人眼只有很小的区域是看得清楚的,外围视野是看不清楚的,所以我们只需要渲染眼睛所对应的这一小部分就可以了,这个技术就能够把AR/VR芯片的算力要求给降下去,帧率提上去。从用户的角度来看会以比较低的成本实现更加清晰的显示。
这是七鑫易维做过的一些测试,采用注视点渲染技术之后,渲染的硬件算力会大幅度提升。七鑫易维跟英伟达,还有高通都是多年的合作关系,因为注视点渲染方案中,注视点是七鑫易维提供的,渲染机制是这些GPU大厂来提供的。
在交互上手柄方式和沉浸式的需求是相左的,人在真实世界里并不是用手柄的,七鑫易维所推崇的一种交互方式叫眼手口多模态的自然交互。当然并不是只用眼睛去交互,很多业内人士也会问用眼交互会不会很累?七鑫易维用眼睛做它适合做的事情,再结合其他的,比方语音、手势,一起去完成交互。
适合眼踪交互的有哪些?
数字人很火,AR/VR未来的社交、远程会议、直播
适合眼踪交互的有哪些?比如选择,还有一些信息的显示,可以不用把全部的信息显示出来,你眼睛看的内容,我相关的信息可以有显示。还有自动的滚动,比如我看菜单,你已经看到边缘了,可以自动给你居中会很舒服,自动的缩放,自动切换,多任务的情况下有很多的界面,你的关注点转移到另外一个画面的时候,七鑫易维的技术可以自动切换过来。还有和其他一些玩家NPC的眼神方面的交互等等,这种交互的场景是非常多的。
这是一个视频,简单演示一下在交互上的应用。这是个选择,眼睛看到哪个菜单,它就可以产生一个反馈,这是用眼睛打地鼠,眼睛看到哪打到它。开发者可以拿到我们的数据,用数据做什么交互,是开发者可以自己设计和实现的。
近眼显示方向,VAC(辐辏调节冲突)这个问题是需要变焦系统解决的,我们看远处的时候把屏幕的焦点移到远处,看近处移到近处。如果我们采用了变焦系统,必须要上眼球追踪的技术。我判断你看远处的时候才会把焦距调到远处,眼球追踪是刚需。
现在基于云的VR/AR逐步发展起来了,现在很大的问题,云的延迟很大,数据量也很大。基于注视点我们可以优化很多的地方,包括在云端的渲染也可以用注视点渲染,在向下流化的时候,我们可以基于注视点,优先传输注视点的数据,把外围很多的数据压缩掉、抛弃掉,降低云端的延时。
在内容侧,现在数字人很火,AR/VR未来的社交、远程会议、直播等等,在这种场景下Avatar的应用会非常普遍。面部追踪会成为一个很需要的需求,面部追踪的眼部动作复现就需要眼球追踪来实现。
除了刚才提到的这几个比较关键的,比较刚需的技术之外,还有哪些可以做呢?一个是IPD的调节,因为每个人的IPD,就是两个眼睛的距离都不一样。现在AR/VR虽然有简单的调节功能,自己手动调不准,眼球追踪可以很精细的测算到你的瞳距,结合自动调瞳距的技术,就可以精准给你对齐了,不需要自己动手。
还有虹膜识别,可以集成到眼球追踪这一套硬件上面来,未来AR/VR领域虹膜识别是最合适的身份确认的方式,其他的指纹也好、人脸也好,指纹多一个动作,多一部分的成本,人脸识别在戴上AR/VR之后不完整了,虹膜识别戴上是自动完成身份的识别,是非常自然的方式。
还有一些行业端的应用,比方说视觉健康,好多人觉得VR会不会对眼睛造成伤害?事实上VR本身是不会造成伤害,但某些程度上可能会,但是通过一些方法还可以解决一些视觉健康的问题。眼球追踪可以监督人的视疲劳、用眼距离、用眼时长,进行视觉健康上的提醒。对于弱视、斜视我们可以进行量化的筛查和康复训练,七鑫易维跟很多视光学中心是有合作的。
眼睛是心灵的窗口,眼球追踪的数据被收集上来之后经过分析,可以做很多的事情,比方说精准的用户营销等等。眼动数据和大脑认知有很强的相关性,可以用眼球追踪做自闭症、老年痴呆的筛查。
在AR上面也是很刚需的点,因为AR有很多场景需要虚拟的图像和真实的世界进行重合叠加,如果没有眼球追踪,戴的位置稍微有些偏差,虚拟图像和物理图像就会产生很大的偏差,这个需要眼球追踪来实时的进行校准,使虚拟和真实的图形一直保持很精准的对齐。
七鑫易维判断眼球追踪技术已经到了一个临界点,看右图,大家调研出来的,VR/AR最重要的需要解决的问题,第四个是眼球追踪。有一个问题,之前为什么眼球追踪用的比较少?因为之前大家都在解决前面三个问题,前面三个解决得七七八八了,第四个问题就轮到了。说这句话有证据的,B端之前用的比较多,比方说HTC等等。C端是下一步要重点推的,比方说Meta的Quest Pro,苹果传说的产品,还有索尼的PSVR2等,其他的企业怎么做?抄作业就好了。七鑫易维已经有一些产品将要上市了,大家后续可以期待。