查看原文
其他

封面故事 | 时空大数据+分布式计算+可视化=???

关雪峰 中国图象图形学报 2021-09-20

当时空信息与大数据相遇,能碰撞出怎样的火花?怎样挖掘其蕴含的价值,快速直观地探究和呈现其内在规律?


本期封面主题“时空大数据可视化”,以美国纽约的出租车点位数据等时空点类型数据为可视化对象,展示了一种支持时间、空间、属性等多尺度、多维度联动的大数据交互式可视化方法。



研究背景


有研究表明,人类获取的数据有80%以上都与地理空间有关。而时间是人类用以描述物质运动过程或事件发生过程的一个参数。

爱因斯坦相对论指出:不能把时间、空间物质三者分开解释。时间与空间一起组成四维时空,构成宇宙的基本结构。


互联网、物联网和云计算的高速发展,促使数据呈现出爆炸式增长的趋势,这些体量巨大、流式生成、类型众多、价值蕴含的大数据兼具时空和高维特征,人类已正式进入了时空大数据时代


时空特征是指数据带有空间位置和时间标签或能体现时空位置的属性字段;高维特征指数据包含除时空外的其他特征属性,这些属性反映出的信息规律往往更具研究价值。


可视分析是时空大数据分析挖掘的一种重要步骤和手段,能够直观反映数据蕴含的模式和规律。然而面对时空大数据,传统数据可视化方法已无法满足其高效存取、实时渲染、联动分析的性能需求。


 


封面文章


武汉大学测绘遥感信息工程国家重点实验室关雪峰团队的最新成果 《MAP-Vis:基于MAP模型的时空点状大数据可视化方案》提出了一种多维度聚合金字塔数据组织模型,兼顾时空和多维度属性以及地图显示的层级尺度,设计实现了一套面向此类时空大数据的开源可视化框架,解决了大数据可视化时扩展性不佳、查询性能低和时空高维支撑不足的难题,实现了快速查询可视化的效果


题目:MAP-Vis:基于MAP模型的时空点状大数据可视化方案

作者:谢冲,关雪峰,周炜轩,吴华意

中国图象图形学报,2019,24(5):816-826

DOI:10.11834/jig.180378





精彩看点


针对大数据可视化存在内存消耗大、渲染延迟高、可视效果差等问题,提出了一种融合瓦片金字塔模型和键值对化方法的时空大数据组织模型,实验表明这种方法能够支持时间/空间/属性多尺度、多维度联动的交互式可视化,同时具有高可扩展的预处理能力和存储能力。在分布式处理能力支持下,系统能实现亚秒级的查询响应,达到良好的交互式可视化效果。

HIGHLIGHT01

借鉴传统的瓦片金字塔(Tile Pyramid)模型,提出了时、空、属多维度层级聚合的数据组织模型——多维度聚合金字塔(MAP)模型。该模型延伸了瓦片金字塔的空间聚合方式,将之从2D空间聚合扩展到多维的时/空/属聚合,自动适应时空大数据的时空高维特性。


▲多维聚合金字塔模型


HIGHLIGHT02

MAP-Vis可视化框架以Spark集群作为预处理工具,支持时空大数据向MAP模型数据的快速转化;以分布式数据库HBase作为存储中心,nD空间填充曲线构建时空索引,支持时空属高效查询,具备高可扩展性,自适应可视化数据的快速增长;可视化前端基于Leaflet/D3等流行框架,支持时空属多维联动分析。



▲MAP-Vis系统架构


HIGHLIGHT03

选取了多类型时空数据对MAP模型及MAP-Vis可视化框架进行了有效性验证(包括查询可视化效率、分布式处理能力等)。实验结果表明,本系统能在Billion级记录下实现亚秒级页面渲染,达到良好的交互式可视化效果。

▲MAP-Vis系统原型界面


▲1943年-2010年中国注册企业时空变迁


研究展望


近年来,计算机技术迅速发展,硬件架构方面朝多核/众核/异构方向发展,计算能力成倍增长;软件方面,云计算技术兴起,面向大数据的高性能计算模型和处理框架不断涌现。因此,时空大数据可视化与高性能计算/云计算融合是必然的发展趋势。


目前,MAP-Vis可视化框架只支持时空点数据,采用的是离线数据预处理。随着5G时代的来临,时空数据的采集将更加精细、实时化。目前本团队正和国内顶尖IT公司合作,扩展延伸现有研究成果:

1)可视化数据类型多样化,如支持时空轨迹数据;

2)实时动态可视化,支持实时观测数据的流式接入、在线处理,动态可视化;

3)针对具体业务场景的可视分析功能丰富,如用户空间分布实时监测用于辅助基站载荷动态调整。



作者团队

关雪峰,男,副教授,硕士生导师。2011年获武汉大学测绘遥感国家重点实验室博士学位。研究方向包括:高性能地理计算、时空大数据挖掘与可视分析、分布式时空数据库、分布式时空过程模拟等。目前主持国家自然科学基金青年基金1项,湖北省面上基金1项,参与科技部863项目、重点研发计划项目多项。已发表SCI/ SSCI论文十余篇,申请获批多项发明专利、软件著作权,2017年获国家测绘科技进步奖特等奖。E-mail:guanxuefeng@whu.edu.cn

谢冲,男, 武汉大学测绘遥感信息工程国家重点实验室在读研究生,主要研究方向为大数据云平台和地理信息系统。E-mail:xiechong@whu.edu.cn


周炜轩,男,硕士研究生,主要研究方向为大数据云平台和地理信息系统。

E-mail:zhouweixuan@huawei.com


吴华意,男,长江学者特聘教授,博士生导师。获国家科技进步奖(创新团队)1项、二等奖3项、国家测绘科技进步特等奖1项、ISPRS CATCON三等奖1项。主要研究方向为分布式与高性能地理信息计算、时空大数据关联分析与知识挖掘等。E-mail:wuhuayi@whu.edu.cn


他们来自哪里?

测绘遥感信息工程国家重点实验室(武汉大学)于1989年成立,是我国测绘学科第一个国家级重点实验室。在国家科技部组织的每五年一次评估中,2000年、2005年、2010年、2015年连续四次被评为“优秀”国家重点实验室


目前所设的研究室有:航空航天摄影测量、遥感信息处理、空间信息系统与服务、3S集成与网络通信、导航定位与位置服务等。近3年共主持“十三五”重点研发计划项目6项,近5年实验室共获得国家级科技奖励12项,省部级一等奖以上奖励32项,2013年,实验室荣获国家科学技术进步奖国际合作奖,2014年,实验室获得国家科学技术进步奖创新团队奖。


实验室主任为国家千人计划入选者陈锐志教授。实验室学术委员会主任为李德仁院士。实验室现有中国科学院与工程院院士3人,千人计划学者5人,国家杰出青年科学基金获得者4人,“长江学者奖励计划”特聘教授7位,国防科技卓越青年人才基金获得者1人,国家优秀青年科学基金获得者5人,“长江学者奖励计划”青年学者1人,青年千人计划学者3人,1个国家自然科学基金创新群体,和1个教育部创新团队。


编辑:韩小荷

审核/指导:梧桐君


原创好文垃圾分类好难?快用机器学习~
 

迁移学习破除表情面具!? 

没有深度学习,相关滤波的视觉跟踪能走多远?


会议征文第七届CCF大数据学术会议
 

2019年6-8月图像图形会议集锦 

智能科学与大数据工程国际会议(IScIDE2019)



行业动态山东大学贲晛烨:步态识别三部曲 
 

招聘|南京理工大学计算机科学与工程学院


 

高手竞技——第三届高分北斗 “无人飞行器智能感知技术竞赛”

前沿丨观点丨咨讯丨独家

扫描下方二维码 关注学报公众号

中国图象图形学报 | 订阅号

你认真学习的样子,真好看

: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存