查看原文
其他

AI学会了用“人眼”看世界,甚至连人类瞳孔的细微缩放都能模拟

@来源:量子位


    AI学会了用“人眼”看世界


为了搞清楚人类是怎么看世界的,计算机开始学着“转动眼球”了:



然后凭借转动的眼球“搜集要观测的信息”,再聚焦在文字或者图像上,开始“收集数据”:



不仅能正常读书看画,甚至能模拟人类在无聊、兴奋、紧张等各种不同情绪下的瞳孔放缩、眨眼频率的细微变化。



事实上,这是杜克大学的研究人员最新开发的一种“虚拟眼睛”,可以精确模拟人类观测世界的方式。


这项研究目前已经开源,并即将发表于通信类顶会IPSN 2022上。



通过这项研究得到的几近真实的数据,将全部反哺给计算机。


    这些数据有什么用?


这种基于眼球追踪(Eye Tracking)技术得到的数据常常被称为眼动数据,包括注视时长、眼跳、追随运动等多个属性。


就如我们常常将眼睛成为心灵之窗一样,这些眼动数据能反映不少人类的真实信息。


比如,瞳孔的扩张、眼跳、游移次数可以表现当前主人的情绪(无聊或兴奋)、注意力是否集中、对某项任务是新手或娴熟、甚至是对某种特定语言的精通与否。



这项研究的作者之一Maria Gorlatova甚至表示:

(眼动数据)可能无意中暴露出性别和种族偏见、我们不想让别人知道的兴趣,甚至我们自己都不了解的信息。

因此,对这些眼动数据的学习和研究,自然也就能产生一系列传感应用:包括认知负荷估计、久坐活动识别、阅读理解分析和情感识别。


很多企业和开发者,比如微软的VIVE Pro Eye,已经开始采用眼球追踪来实现基于目光的新的交互和环境感知。



然而,在收集大规模的、有标签的眼动数据时,难免会碰到几个问题:


  • 人类视觉行为的随机性增加了数据收集的成本

  • 与人类受试者合作过程中可能涉及隐私侵犯问题

  • 生产模型训练所需的数据的时间成本过高(可能需要数以百计的人带着设备不间断地用眼数小时才能产生)


    虚拟眼睛收集数据


如何解决上面的问题呢?杜克大学的研究团队提出了一套受心理学启发的模型EyeSyn。

这一模型只利用公开的图像和视频,就能合成任意规模大小的眼动数据集。


它的整体架构如下:



整体思路是以图像和视频作为输入,并将其作为视觉刺激,以生成相应的眼动数据。

大的架构又由三个小模型组成:


ReadGaze模型


模拟文本阅读中的视觉行为。


拥有一个基于文本识别的检测模块、一个模拟跳读视觉行为的模拟器。


VerbalGaze模型


模拟在口头交流中固定在面部某个区域、以及在面部不同区域之间切换注意力的视觉行为。


拥有一个面部区域跟踪模块、一个基于马尔可夫链的注意力模型(Markov Chain-based Attention Model)。


StaticScene和DynamicScene模型


模拟感知静态和动态场景过程中的眼球运动。


拥有一个基于图像特征的显著性检测(Saliency Detection)模型,用以识别视觉场景中潜在的定点位置。



△动态场景中的眼动数据

基于这些构成,EyeSyn不需要基于已有的眼动数据进行训练,上岗就能直接开始工作。


并且,与传统眼动数据的收集过程相比,EyeSyn在模拟不同的眼动跟踪设置、视觉距离、视觉刺激的渲染尺寸、采样频率和受试者多样性上,也更加方便快速。


现在,只基于一小部分图像和视频,EyeSyn就可以合成超过180小时的眼动数据,比现有的基于目光的活动数据集大18到45倍:



研究人员Maria Gorlatova表示, “合成数据本身并不完美,但这是一个很好的起点。”


小公司不用再花费过多的时间和金钱与人类受试者合作,建立真实活动数据集,而是可以直接使用这种方法。

这种更加快速的眼动数据的生产方式,将使得普通的VR、AR、还有元宇宙平台中的相关应用程序的制作都更加便捷。

论文:
https://www.researchgate.net/publication/359050928_EyeSyn_Psychology-inspired_Eye_Movement_Synthesis_for_Gaze-based_Activity_Recognition

开源链接:
https://github.com/EyeSyn/EyeSynResource

参考链接:
https://techxplore.com/news/2022-03-simulated-human-eye-movement-aims.html


仅用于学术交流,不用于商业行为,若有侵权及疑问,请后台留言,管理员即时删侵!


更多阅读

味觉可以被识别吗?脑机接口在味觉感知中的新应用

重磅!Python也能进行芯片设计了!

皮层内外,无线自由——无线神经记录系统是脑机接口重要爆发点

3D卷积神经网络从神经生理学高度解码复杂大脑活动

先进院李骁健等人:在体神经界面技术的发展-从小到大规模记录

军科院医学研究院神经工程与脑科学研究团队2022年招聘启事

脑-机交互运动训练的神经反馈方法及康复应用

脑机接口如何改变未来?

脑科学与脑机接口创新企业诺尔医疗NeuroEchos获得亿元融资

   加入社群  


欢迎加入脑机接口社区交流群,

探讨脑机接口领域话题,实时跟踪脑机接口前沿。

加微信群:

添加微信:RoseBCI【备注:姓名+行业/专业】。

加QQ群:913607986


  欢迎来稿  

1.欢迎来稿。投稿咨询,请联系微信:RoseBCI

2.加入社区成为兼职创作者,请联系微信:RoseBCI



点个在看祝你开心一整天!

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存