GSIS特邀 | Armin Gruen 教授对50年职业生涯的思想总结(全文翻译)
万物恒变
有感于摄影测量和遥感学科的飞速发展
作者介绍 Notes on contributor
扫码下载原文
Everything moves:
The rapid changes inphotogrammetry and remote sensing
Armin Gruen
引用本文:Armin Gruen (2021): Everything moves: The rapid changes in photogrammetryand remote sensing, Geo-spatial Information Science, DOI: 10.1080/10095020.2020.1868275
序
本文是我在2015年2月2日获得塞萨洛尼基亚里士多德大学农村与测量工程学院荣誉博士学位时所作演讲的修改版本。在摄影测量领域工作50多年的经历,让我在不同的科技领域积累了一些经验。
方法、硬件和软件日益更迭,是因为总有人为其发展做出重大贡献。这些杰出人物中就包括Gottfried Konecny教授。他为科学和科学管理做出了同样出色的贡献。因其前瞻的态度和不懈的努力,他在很长一段时间里都是行业的引领者。
在Gruen(1998)一文中,我已经向Konecny教授解释了我的专业关系。尽管我们还未一起承担过任何研究项目,但在国际摄影测量与遥感学会(ISPRS)的运营方面,我们有很多相同的兴趣和见面的机会。
人们随着年龄的增长,经常会对自己学科的历史和哲学基础越来越感兴趣。 Konecny教授就是这样(请参阅Konecny 2010年ISPRS一百周年庆典上的演讲)。因此,我用很大篇幅讨论了透视投影的问题,其数学基础在西方世界的教科书中经常被错误地描述。
我不喜欢预测摄影测量学和遥感技术的未来。我十分认同爱因斯坦(A. Einstein)说的:“我从不考虑未来,因为它很快就要到来”。对于那些对更多细节感兴趣的人,请参考Pfeifer(2010)。
我也没有提到机器学习的问题,机器学习是当前在摄影测量和遥感领域中越来越重要的话题。在这方面,可以参考Qin and Gruen(2020),它对这项技术及其对摄影测量学的影响进行了全面的阐释。
1. 引言
“万物恒变”。这是佛陀进入般涅槃之前的遗言(图1)。含义:一切都是可变的。释迦牟尼佛(Siddhartha Gautama)(563-483 BC)与另一位伟大的哲学家亚里士多德(384-322 BC)来自完全不同的文化/地理背景。亚里士多德提倡智慧美德:nous, Sophia, phronesis(智力,智慧,审慎(实践智慧))。N. F. Gier(《非暴力的美德:从戈达摩到甘地》)有趣的文章比较了佛陀和亚里士多德的哲学,并发现了许多相似之处。
当我的同窗好友Reiner Rummel教授于2014年3月5日获得塞萨洛尼基亚里士多德大学的荣誉博士学位时,他特别提到了亚里士多德及其著作“形而上学”。他强调说,亚里士多德引入了“Geodesy”一词,而不是当时已经存在的“Geometry”一词。
有趣的是,Geodesy指的是实际测量,而Geometry既包含了实测,也涵盖了理论。从理论和实践的角度来看,这种学科命名方式是非常典型的,也符合亚里士多德其他的科学和哲学概念。
因此,当谈到亚里士多德著作中的“原因”问题时,他就将理论原因与实践原因区分开来。这与柏拉图的思想有所不同,柏拉图将理论知识和美德等同起来。与之形成鲜明对比的是,亚里士多德观察到,虽然年轻人通过学习几何和数学获得了理论上的智慧,但“他们显然并没有获得实践的智慧。原因是实践智慧也与细节(与普遍性)有关,而对细节的了解则来自经验”。
因此,我们有了科学的两大支柱:理论和实践。两者同样重要,我们必须等而视之,无论是在科学研究还是大学课程的制定上。
Figure 1. The inclining (“sleeping”) Buddha in Dunhuang, China, cave 158; digital image(left) and 3D model(right), generated photogrammetrically (courtesy Prof. Deren Li, Wuhan University).
图 1. 中国敦煌158窟的睡佛;数字图像(左)和三维模型(右),摄影测量生成(由武汉大学李德仁教授提供)
俄亥俄州立大学就是这样一所大学。20世纪80年代初,我在其大地科学系度过了人生中非常重要的三年半。尽管当时院系由大地测量师主导,但我在那里感觉很好,度过了一个非常富有成效和充满挑战的时期。在这里我结识了好友Emmanuel Baltsavias和Petros Patias。Manos跟着我去了苏黎世(Zurich),在那里他成为了非常有价值的合作伙伴,而Petros则在塞萨洛尼基工作。
作为大地测量学家,在谈论本学科时,经常能听到诸如亚里士多德,埃拉托色尼,高斯,赫尔默特等“巨人”的名字,甚至爱因斯坦的相对论也可能会被提及。而我们的摄影测量学家无法从中取一瓢饮。相反,我们必须花很多时间来解释摄影和摄影测量法之间的区别。
在此就再解释一次。“摄影测量(Photogrammetry)”一词来自古希腊语,其中“Photo…”的意思是“光”,“…gramme”表示“线”,“metry”表示“测量”。因此,摄影测量可以理解为“光线的测量”。但它不仅限于照片或点测量。这将产生深远的影响,并为摄影测量学引入众多传感器,处理技术和应用领域。
确实,相对于19世纪下半叶,我们已经走过了很长一段路,当时摄影测量法仅由专门构造的大型和重型照相相机和数据处理机执行,并且主要用于制图和建筑文档。如今,各式各样的传感器无处不在,不仅数据处理发生了巨大变化,具有新要求的新应用领域也正在不断被开拓。
2. 向数字摄影测量学的转变
当我回顾自己的职业生涯时,我可以感受到摄影测量学的不断变化。当我还是慕尼黑工业大学学生时,我曾花费大量时间在暗室中进行立体测量。或是在户外的山上和文化遗址(这很棒!)呆很多天,用笨重的设备进行地面摄影测量(图2)。 有时即使在冬天也必须外出工作(这就不是很棒了)。
Figure 2. Terrestrial photogrammetry with the TAF photographic glass-plate camera in the Bavarian mountains and at Castle Herrenchiemsee. Theodolite observations for photogrammetric control at the Monastery Au/Inn.
图 2. 作者外业测量图片
当时,地形图或文化遗产的摄影测量多是人工完成。如今,我们使用小型飞行机器人(无人机)以自动模式收集数据,这些机器人配备了现成的数码相机(同时还配备了激光扫描仪),用于导航的GPS和IMU以及自动驾驶仪和稳定平台(图3)。
Figure 3. Phantom-3 drone (used in archeological applications at Moorea Island, French Polynesia (left) and Oblique drone image over an archeological temple site (right).
图 3. 大疆精灵3无人机(用于莫雷亚岛的考古应用)
在一些新颖的应用中,无人机甚至可以在水下使用。其中就有一个案例,我们使用人工平台收集珊瑚的多个图像数据以监视其生长(图4)。
Figure 4. Collecting image data underwater with a stereo camera rig (left) and with a single camera (right) for the 3D measurement of coral growth.
图 4. 利用立体摄像设备(左)和单台摄像机(右)在水下采集图像数据,监测珊瑚生长
数据处理是在笔记本电脑上完成的,部分自动完成,部分在现场完成,或者至少在舒适的办公环境中完成。图5展示了通过对水下图像进行全自动处理生成的珊瑚场3D模型。
Figure 5. 3D model of a coral field, generated fully automatically from underwater images.
图 5. 珊瑚群三维模型,完全由水下图像自动生成
回顾我用现代技术完成的项目,就能发现摄影测量学各种各样的不同应用场景(括号内注明了所涉及的其他学科和领域):
用于动画的运动分析系统(电影业,医学,体育)
人体测量(医学)
湍流测量(流体力学)
工业质量控制(机械,制造)
乒乓球机器人(机电一体化)
欧空局普朗克和赫歇尔航天器反射器的测量(宇航科学)
混合液的测量(技术化学)
3D云映射(气候,天气)
巴米扬大佛的重建(文化遗产)
1500个Nasca地理图形的3D建模和分析(考古学)
兰达泥石流(地质学)
3D / 4D城市建模(城市规划等)
Shukov塔的3D建模(建筑,结构工程)
对热带岛屿(Moorea Avatar)进行生态建模(地球科学,物理,生物学,医学等)
万物都在发展。亚里士多德在其《物理学》中对运动(kinēsis)的讨论与现代科学截然不同。亚里士多德对运动的定义与他的对现实和潜力的区分密切相关。 从字面上看,亚里士多德将运动定义为“潜在可能性”的实现(entelecheia)。但是,人们对其中含义也有几种不同的解释。
摄影测量学从一开始就与运动有关。物体运动速度不同,记录其运动所需的时间间隔也不相同。例如,珊瑚的生长(每年几厘米的生长速度仅需要一组图片即可记录)到人类演员的快速移动(需250 Hz的图像记录频率)或弹丸的飞行。
同时,摄影测量学及其底层技术也在发生变化。我们以经济学家N.D. Kondratjew的眼光审视摄影测量学的历史,他在1925年提出了经济学发展的波动理论。据他说,经济以周期性发展,以“30年增长期,20年衰退期,再到30年增长期”的模式循环。新技术的发明可以带来经济的增长期(“需求是发明之母”)。
应用于摄影测量学,我们可以划分出截至目前的四个发展阶段:
平板摄影测量阶段(由摄影的发明引入)
模拟摄影测量阶段(由精密光学和机械以及飞机引入)
解析摄影测量阶段(由计算机的发明引入)
数字摄影测量阶段(由微电子,半导体引入)。
这些主要发明中的每一项都导致了摄影测量学的重大转变。
图6展示了摄影测量学发展的主要阶段。下一个发展主题会是什么?互联网,大数据,云计算,社会感知?
Figure 6. Phases of photogrammetric development (Courtesy G. Konecny).
图 6. 摄影测量学发展过程(由G.Konecny教授提供)
预测总是受到错误认识的影响。我想引用1985年ASP / ACSM会议上Gottfried Konecny教授的主题演讲:“The ISPRS – 75 years old or 75 years young?”其中他评价数字摄影测量学时说:
如今看来,事实也确实如此。但在1985年,当数字摄影测量技术初生时,能对其未来准确预测实属不易。
每一项新技术的发展都要先解锁其前置技术。在摄影测量学中,这些前置技术包括:
图像处理算法(1964-1980年)
网络技术(系统性误差,粗差,精度和置信结构,1972-1980年)
基于序贯估计的在线三角测量(Kalman,TFU,Givens,1980-1984年)
电荷耦合器件(CCD),抓帧器,工作站(Tektronics,Sun),带有图像采集设备的图像处理系统(1980-1984年)
最小二乘图像和模板匹配算法(1984-1985年)
在80年代初,那些相信数字技术价值的摄影测量界人士仍然是少数。图7展示了参加1985年12月2日至6日在戛纳举行的SPIE“机器人计算机视觉”专题讨论会的摄影测量学家小组。不幸的是,我们所有人所抱有的希望(即摄影测量将对机器人技术作出重大贡献)并没有实现,至少在那个时候没有实现。
Figure 7. Small group of photogrammetrists at the SPIE Symposium on “Computer Vision for Robotics”, Cannes, 2–6 December 1985. From left: H. Haggren, A. Gruen, V. Kratky, G. Vozikis, E. Baltsavias.
图 7. 在1985年12月2日至6日于戛纳举行的 “机器人计算机视觉”SPIE研讨会上的摄影测量学家小组。从左起:H. Haggren, A. Gruen, V. Kratky, G. Vozikis, E. Baltsavias
阻碍人们在数字领域工作的问题之一是设备成本。例如,1986年我们花了11500瑞士法郎买了一台佳能相机,配备0.2 Mpi plus录像机/播放器。三年后(1989年),我们花了72000瑞士法郎购买了一台7.5 Mpi图像大小的Kontron ProGres 3000相机。
学科发展也比较缓慢。在1996年维也纳举行的ISPRS大会上,我们统计了32篇关于建筑摄影测量的论文,其中11篇采用全数字系统,21篇采用照相或混合摄影。
另一方面,在工业摄影测量学中,有20篇论文采用全数字方法,只有3篇采用照片或混合方法。这清楚地表明了不同领域对于摄影测量的不同要求。
工业应用对快速甚至实时处理的需求更大。于是我们对智能相机提出了新的需求,即可以在相机上执行基本操作(使用“视觉芯片”),并对其功能做出定义:低噪音,高动态范围,可编程灵敏度,非均匀性和阴影校正,可变曝光和定时控制,感兴趣区功能,动态像素尺寸和形状,片上图像处理(并行)。即使到了今天,这些功能中的大多数都还无法在芯片上实现。
虽然技术缺陷在当时阻碍了摄影测量学的推广,但我们现在正在享受这样一个时代:关键技术已经发展到一定程度,其局限性已不在技术层面,而是主要存在于人的思维认知中。
3. 透视投影的起源
当你回顾自己的科学和技术时,你会问这样的问题:在自然科学和各种技术之间的广谱中,我的归属在哪儿。我个人一直把我的工作理解为一名工程师。我看到大地测量学更多地站在自然科学的一边,有一个可能过于简单化的定义,我们在学校里用它来区分环境学家和环境工程师。与医生的工作类似,环境学家负责诊断,工程师负责治疗。所以就让我来做医生。
医生当然也需要学习理论知识。摄影测量学就有多种基础理论。
其中重要的一项是几何学。如果我们查阅(西方)教科书,我们就会知道透视投影是11世纪阿拉伯人用数学光学术语(天文学家和数学家Alhazen(965-1040)在他的透视图中)提出的,但是意大利文艺复兴时期的艺术家第一次在建筑和绘画中使用了透视投影。透视投影在西方艺术中的首秀则是Giotto di Bondone(1266-1337)所作的Jesus before the Caif(图8)。
Figure 8. Giotto di Bondone: Jesus before the Caif (courtesy Chr. W. Tyler).
图 8. Giotto di Bondone的作品Jesus before the Caif (由W. Tyler提供)
建筑师和雕塑家Filippo Brunelleschi(1377-1446)因在绘画和建筑研究中运用透视法而闻名。从那时起,透视成为许多艺术家和建筑师的好帮手。德国著名画家Albrecht Dürer于1525年出版了四本关于几何学的书(Underbeysung der Messung,mit dem Zirckel und Richtscheyt,in Linien,Ebenen unnd gantzen corporen/Viertes Buch),其中第四本书对透视进行了论述。图9显示了本书中出版的著名木刻画,并说明了如何使用透视法来绘画。
Figure 9. Woodcuts by Albrecht Dürer, 1525: Instruments for drawing perspectives.
图 9. Albrecht Dürer的木刻画,1525年:透视画的工具
事实上,透视法在欧洲使用得更早。柏拉图和他的同时代人(公元前5世纪)在戏剧Aeschylus and Sophocles中就使用了透视法。其中一位富有创意的场景画家Agatharchus将透视和错觉引入绘画。他甚至还写了一篇关于他使用收敛透视法的文章,其效果启发了几位当代希腊几何学家从数学上分析投影变换。早期的透视画没有一幅留存下来。
然而,我们发现在庞贝(公元1世纪)一幅壁画(图10)上展示了透视法的使用,尽管几何结构不太一致。虽然还没有找到确凿的证据,但人们认为透视的知识是从希腊传入罗马。
Figure 10. Pompeiian mural of the pageant of Orestes, 1st century AD. Black lines: perspective projection, white lines: approximate parallel projection.
图 10. 庞贝壁画的奥里斯忒斯选美,公元1世纪。黑线:透视投影,白线:近似平行投影
我们在中国唐代(8世纪)壁画中也发现了透视法的使用——见图11。有趣的是,在这幅画中同时使用了几个视角,其中原因不得而知。
Figure 11. Sukahavativyauhau Sutra, Mogao Grottos, Dunhuang, Cave 172. Tang Dynasty, 705–780 AD.
图 11. 敦煌莫高窟,172窟。唐朝,公元705-780年
从Dürer的木刻画(图9)可以看出,在那个时候,制作透视图非常耗时。此外,从透视图像(摄影测量的基本功能)重建三维物体的要求更高,因此,我们又花了250年才完成了这项任务。
正是瑞士医生和自然科学家M.A.Capeller在1726年绘制了第一张皮拉图斯地区的地图,这张地图通过透视法手绘完成。这也是目前公认的第一张由摄影测量得出的地形图,虽然那时候还没有摄影的概念。
E.Dolezal在其著作《摄影测量学在实际测量任务中的应用》(德语,1896年)和后来的《国际摄影测量学档案》(第一卷,第一期,维也纳,1908年3月)中较好地描述了摄影测量学在19世纪后期的应用,他指出
“摄影测量的应用是广泛而重要的。在难以到达的地形中进行地形量测的工程师,在高山中工作的地形学家,记录纪念碑的建筑师,在云层摄影和记录天气快速变化的气象学家,研究航空的弹道学家,海岸摄影的水手,军事和航空侦察人员,最后是旅行家、地理学家和天文学家,他们都将从摄影测量学的应用中获益匪浅”。
因此,我们意识到摄影测量已经被用于各种非地形应用:建筑物的记录、云层测量、弹丸的弹道曲线、海岸测量、军事和航空侦察任务、地理和天文学等等。
如今,我们已跨越了一个世纪。一个充满战争、死亡和毁灭的世纪,同时也伴随着伟大的科学发现和技术创新。
4. 新型摄影测量学
今天的摄影测量是什么?它已经从二维/三维点定位和2.5D绘图发展成为一种包括卫星、航空和地面传感器平台综合统一的n维技术。它也逐渐由单传感器/多处理平台模式发展到多传感器/单处理平台模式。
21世纪初,科技的发展也给摄影测量带来了全新的研究、开发、教学和专业实践环境:
我们对地球科学产生了新的兴趣,这主要是由于人为和自然灾害的破坏性影响以及能源短缺和环境污染/全球变暖引起的;
信息技术和通信技术不断革新我们的社会。数据可访问性大大提高,技术/知识转让比以往任何时候都更加重要;
科学的全球化仍在继续;
技术和应用经历了激烈的多样化过程,同时也促进了跨学科的发展;
然而科技发展也给摄影测量学带来了以下几方面问题,这些问题对整个专业领域都带来了严重影响,我们需谨慎应对。
4.1 数据膨胀
“一张图片包含千言万语”——那么一亿张图片能告诉我们什么呢?
图像易于产生,导致其无处不在。如今数据采集效率大大提高。图像数据的膨胀如雪崩之势不可阻挡:这些图像可能来自于地球观测卫星,空中平台(包括无人机),地面平台,如移动地图系统(谷歌和微软街道图像等)。此外,激光扫描仪可以以每秒100万个点的速度产生点云。
无人机的应用市场前景广泛。一架无人机至少可以飞行半小时,一台配备了摄像头和导航设备的无人机系统如今售价不超过1000美元。美国联邦航空管理局预测,到2020年底,仅在美国就将有约2万架无人机投入使用。根据代表无人机制造商和用户的贸易组织——国际无人机系统协会(AUVSI)的数据,约80%的无人机将用于农业。无人机图像可以精确监测农作物、确定湿度、定位虫害、确定除草剂和施肥量,并使保险公司清楚地了解自然灾害造成的损害。
在澳大利亚,工业界预计无人机将在以下五个关键应用领域产生重大影响,以推动成本降低和生产率提高:海上巡逻和监视、矿产勘探和采矿规划、应急服务中的态势感知、公用事业中的资产检查和维护、建筑用航测。
无人机使用法规制定仍然是大多数国家的热门话题。国际无人机系统协会在最近的一份报告中预计,在未来10年,美国商用无人机的合法化可能带来超过800亿美元的经济利益。
我们如何处理这些图像?我们的数据处理能力远远落后于数据采集率。个人隐私问题是目前大众热议的话题,随着图像获取的简易化,我们最终都成为无隐私可言的“透明人”吗?
4.2 系统复杂性增加
数据处理系统变得越来越复杂,尤其是自动化处理系统。仅仅了解传统测量学和摄影测量学的基础知识是不够的。
我们必须掌握许多新的学科,如图像分析与理解、人工智能、计算机图形学与动画、信息系统理论等,才能更好地融会贯通。
在这种情况下,我们应该更多地依赖于黑匣子,还是追求更好的教育以理解其复杂性?
4.3 相邻学科的竞争
事实上,其他学科的专家正在使用其他领域的技术和算法,这意味着我们正处于一种竞争状态。尤其是计算机视觉,是一个与摄影测量高度重叠的领域。经常有人提出这样的问题:“摄影测量和计算机视觉有什么区别” ?
新创立的术语“摄影测量计算机视觉”虽然表达了整合的愿望,但却模糊而不是澄清了这个问题。两种方法之间的一个关键区别(简单地说)是,摄影测量是明确的结果导向,而计算机视觉仍然强调得到结果的过程。
有时跨学科也会带来一些误导性术语。例如“SfM-运动恢复结构”,该术语来自计算机视觉领域,但现在也被广泛应用于摄影测量。它表示从一组图像自动生成点云的方法。
首先,在这个过程中,不仅要生成物体的结构,还要生成物体在三维空间中的尺度、位置和方向。第二,运动在该过程中通常不起作用。有趣的是,运动在摄影测量中却有其用武之地,但与计算机视觉领域的方式不同。
如果一个物体刚性地移动,它的形状、位置和大小可以通过仅从一个视点拍摄的图像来确定。就数据质量而言,大多数SfM结果经不起推敲。结果数据通常是非结构化的,有大量的空白和错误,要经过后续的清理和编辑过程才能使用。
我们应该如何应对竞争?专注于我们的优势,发展我们自己的能力和态度。这必须包括灵活性、开放性和自信,且必须保持研究的深度。
而且,我们必须把竞争变成合作。
4.4 众包
还有一种竞争性的任务就是众包。最近出现了许多众包的案例。众包合适比较简单的任务,例如在一大堆图像中搜索特定对象。一旦任务变得更复杂,如生成三维城市模型,众包则不能胜任。谷歌地球上有很多这样的案例。如果众包是绘图和建模的有效替代方案,则必须明确界定专家的角色,并建立适当的质量控制程序。
谷歌地图(Google maps)和苹果地图(Apple maps)等全球数字地图就是迫切需要准确可靠的数据。这两家都在努力解决缺乏高质量数据的问题。他们终于意识到,数据生成过程中一定要有专家的参与。他们解决问题的方法是收购地图公司。谷歌收购了高分辨率卫星图像公司Skybox。此外,谷歌还雇佣了一大批人员手动检查地图并进行纠错。
2013年,苹果收购的公司中有三分之一是测绘制图公司,包括Locationary和HopStop,前者是一家专注于众包位置数据的公司,后者从数百家交通机构收集数据,帮助用户采取公共交通、步行或骑自行车的方式上下班。苹果还收购了Embark公司,该公司拥有10款iOS应用程序,为用户提供城市交通导航服务。
尽管已经有许多数字地球系统可用,但为了获得更高质量的数据,新公司Vricon应运而生。作为Digital Globe和Saab的合资企业,其目的是通过结合Saab的3D建模专业知识和Digital Globe的巨大图像档案,生产出更高分辨率、更高精度,更真实的产品。
2015年4月25日尼泊尔遭遇大地震袭击后,众包得到了相当成功的应用。地震发生后不到几个小时,社交媒体上就充斥着此次灾难的图片,24小时内,一个全球志愿者组织开始绘制尼泊尔灾区的基础设施图,并利用OpenStreetMap帮助协调救援行动。
4.5 摄影测量学范式的重大转变
数据采集和数据处理越来越便捷,导致摄影测量学范式的重大转变,地基应用和UAV空基应用都是如此。
以前,在模拟和分析摄影测量中,图像采集的技艺要求尽可能少地生成图像,因为图像拍摄成本很高,还需要在暗室中处理照片及后续人工处理,在设备和劳动力方面都非常耗时和昂贵。
现在这种情况已经发生了巨大的变化。图像采集速度快,数量大(有时一次能采几千张),而且这些图像经常与大量激光扫描数据相结合。原始数据的巨大冗余让我们能够在删除质量差、错误数据的同时,而不丢失基本信息。
5. 摄影测量的基本流程
我们将基于图像的记录和建模过程中的数据处理划分为以下几部分:获取、处理、管理、分析和表示。相应的,将图像转换为模型的数据和信息处理流程也包含几部分:
原始数据采集(使用卫星、航空和地面图像、激光扫描等)
数据/信息处理(地理参考、物体测量、语义收集、建模)
数据管理(使用空间信息系统,Spatial Information Systems, SIS)、分析(SIS)和表示(可视化、动画、模拟)
5.1 数据采集
我们现在有各种各样的数据采集设备:各种几何、光谱和辐射分辨率的CCD和CMOS静态摄像机、摄像机、各种类型的线阵摄像机(三线扫描仪和全景摄像机)、激光扫描仪、X射线和电子成象设备,微波和超声波传感器、GPS/INS、视频经纬仪等,
这些设备的出现也给数据采集带来了新的理念:图像采集的方便性、快速图像处理的可能性以及对真实纹理映射的需求。
传统摄影测量的艺术在于尽可能地减少图像拍摄和处理,且通常是从一个固定的机位拍摄,而我们现在经历了一个范式的转变,即从所有可能的角度拍摄大量图像(图像序列),以便于自动处理和保持良好的照片真实感及纹理映射。
另外,不同传感器(如图像和激光扫描)的组合也可以更好地支持自动化处理。
目前,市面上已出现了商业的运动分析系统(Vicon),拥有多达245个摄像头,可以同时以166 Hz进行视频记录。这些系统利用特殊目标来标记物体,因此,只需要记录运动物体相对较少的三维轨迹。
也有一些应用“Shotbox”的系统,在半球上分布64个摄像头,自动生成人、动物和物体的三维模型,将这些数据被输入3D打印机就可以生成硬拷贝模型。图12展示了一处由摄影测量扫描、建模和3D打印创建的场景。
Figure 12. A realistic 3D scene generated with a “Shotbox” of 64 cameras. The humans and other objects are realistically represented, including texture. This image is made from a 3D printed scene. Courtesy museum focusTerra, ETH Zurich, Special Exhibition “Earth´s Treasures”.
图 12. 由64台相机组成的“Shotbox”生成的真实3D场景
5.2 数据处理
自动化处理是当今研究和发展的关键课题。然而,必须注意的是,全自动处理程序还没有完全开发出来,相关结果大多不够可靠,需要大量的前后编辑。人们经常可以看到,由自动化方法生成的结果远远达不到专业用户的要求。然而,半自动化处理技术可以有效摆脱此困境,于是科研人员纷纷将目光投向半自动化处理技术。
图13是新加坡国立大学(NUS)工学部的三维模型,由无人机图像、地面图像和移动测图系统的激光扫描数据,采用半自动化处理方法组合而成。除了详细的建筑物模型(5厘米分辨率)外,还对地形,树木和灯柱进行了建模。
Figure 13. 3D model of the engineering section of NUS, Singapore.
图 13. 新加坡国立大学(NUS)工学部三维模型
5.3 数据管理和分析
空间信息系统(SIS)的使用为数据存储和管理以及分析开辟了新的途径。SIS数据库可以存储一致、非冗余的数据,包括几何和属性信息。通过这种方式,最新的矢量和栅格数据可以与现有数据库中的信息相结合。数据库还集成了分析功能,让数据分析更加方便快捷。一些SIS还包括3D可视化模块,尽管这些模块可能不是最先进的。
5.4 数据展示
如今,3D产品的可视化是行业标准,大量的商业软件也都可以实现3D可视化,但大多存在严重局限性。这里要注意的关键参数是3D建模真实性,实时功能,渲染质量和数据集的大小。目前尚无软件能够以合理的方式同时满足上述所有要求。除了纯粹的可视化,来自虚拟现实、增强现实、游戏、仿真和动画的技术对我们的应用也很有帮助。
摄影测量和遥感是从图像中提取度量和语义信息的技术。与摄影测量不同的是,遥感更多地研究图像的辐射特性,以便提取有用的信息,特别是土地利用方面的信息。然而,随着卫星图像几何分辨率的不断提高,如何利用其进行三维建模也成了首要问题。
以下几方面应用的就是不同的设计和建模方法:传感器(几何、辐射测量)、网络几何、成像过程、图像分析、对象/场景生成、后处理/结果分析。
流程中的所有阶段,我们都可以利用程序手动、半自动或全自动执行。研究中最大的问题和挑战就进一步的自动化。
目前,只有很少的程序可以自动运行并获得可靠的结果。以对象提取为例,目标检测—三维几何重建—语义建模阶段的自动化实现变得越来越困难。
以另一个非常重要的问题为例,即通过图像匹配生成数字地表/数字地形模型(DSMs/DTMs),我们发现自动生成的DSMs/DTMs仍然存在以下问题:缺少或没有纹理、对象的不连续性、局部对象斑块没有足够近似的平面,重复对象(包括植被,例如航空图像中的果园)、遮挡、移动对象(包括图像采集期间照明源移动产生的阴影)、多层或透明对象、辐射伪影(如镜面反射等),从DSM生成DTM。
6. 摄影测量处理自动化
摄影测量处理自动化对数据处理的效率和成本至关重要。图像的自动化分析是当前研究热点,其成功与否取决于多种重要因素,例如图像尺度。潜在地,图像尺度越小,自动化就会越成功。目前,摄影测量处理自动化已达到:
定位定向可以部分自动化;
DSM自动生成,但可能需要大量的后期编辑;
正射影像生成全自动化;
目标提取和建模半自动化。
我们提出建筑物和人造物体三维建模方法,并研制了半自动化的建模软件CC-Modeler。首先,操作者要在立体模型中手动测量出弱结构的点云,用以描述目标的关键点。然后,软件CC-Modeler自动将点云转化为能与CAD、可视化和GIS软件兼容的结构化的三维模型。最后,添加纹理到几何模型中生成混合模型。该模型可与DTM集成。图14展示了Firenze市3D模型的一部分。
Figure 14. 3D city model of Firenze, Italy, produced with CC-Modeler (courtesy CyberCity Inc.).
图 14. 意大利Firenze市3D模型(由CyberCity公司提供)
在所有与地理相关的应用和调查中,地形是一个关键因素。在我们的项目中也是如此。当前,地形模型千差万别。虽然,世界范围的数字表面模型(DSM)已经存在,例如基于SRTM的DSM。但是,在DSM中,地形只能以2.5维的形式呈现,并存在许多间隙和部分不准确的问题。
因此,各式各样的应用场景对更详细模型的需求日益迫切。由于激光雷达的应用,在开阔地带,模型的高程精度提高可达0.5米,而在植被覆盖地带,高程精度可达1.5米。
当自动化或半自动化的生成所需数据实现了,我们的努力才算成功。 虽然图像匹配的研究和发展历史很长,但目前来看,还存在问题。
Figure 15. The Big Buddha of Bamiyan. Left: The empty niche after destruction. Right: The computer-reconstructed 3D model.
图 15. Bamiyan大佛
一些研究会涉及随时间变化的分析。而基于图像的方法可回溯过去并处理现存的老照片。秘鲁Tucume考古遗址的重建就是一个例子,利用1949年的航空影像重建了遗址的三维模型。
有时,用于三维重建的影像采集自不同的平台、传感器或者时间,就如我们在阿富汗的Bamiyan项目(见图15和16)。
Figure 16. The Bamiyan valley and the rock cliff with the two empty Buddha niches.
图 16. Bamiyan山谷和岩壁(上有两个空佛龛)
近年来,大型场景的三维建模受到广泛的关注。一方面,是由于联合国教科文组织和其他超国家和国家组织兴趣的增加。
另一方面,是由于记录、处理、管理和可视化数据的新技术的萌发。从联合国教科文组织世界遗产名录(whc.unesco.org)可以看出,最近新增加的文化和自然遗产中,很大一部分可以认为是“大型遗址”。在一份新闻稿(No. 2002–77: “For UNESCO, Space Technologies should be Harnessed for Sustainable Development”)中,教科文组织强调利用卫星图像监测世界遗产遗址。最近,许多会议专门讨论这个问题。文化遗产遗址的保护和管理很大程度地依赖数据的可获取性和实时性。
我们过去完成的很多项目,显示了新的记录、处理、建模技术的潜力。其中包括:
大型遗址:珠穆朗玛峰、澳大利亚的艾尔斯山、中国的昆明、Bamiyan大佛/阿富汗、秘鲁Nasca地画(图17)、秘鲁Tucume、秘鲁Pinchango Alto山顶遗址、秘鲁的马丘比丘遗址、秘鲁Chichictara的岩雕遗址、墨西哥霍奇卡尔科遗址。
单一建筑:埃塞俄比亚的拉利贝拉岩石教堂、巴戎寺、柬埔寨吴哥窟等等。
Figure 17. 3D model of the Nasca geoglyphs (line concentration near Palpa).
图 17. 纳斯卡地画三维模型
6.1 三维建模-三维绘图
一直以来,三维测量和建模是摄影测量的重要任务。早期,第三个坐标无法显示。因此第三个坐标要么被丢弃,要么表示为2.5维,就像等高线。现在我们的计算机有了足够的计算、存储和显示能力,三维空间将不再受限制。实际上,三维绘图已是热点。然而,目前几乎没有科学调查对存在的问题做更详细的解释。三维绘图在以下方面还没被完全理解:
三维绘图与传统的二维和2.5维绘图的区别?
哪些物体必须绘制?又是以什么分辨率和精度?
在几何、拓扑和纹理方面,真正的3D目标应该如何建模?
这些目标在数据库中如何存储?
目前自动化实现的程度?
围绕3D绘图的问题还有更多,比如:
什么是3D地图?
像谷歌地球这样的数字地球是如何改变我们对地图的看法的?
如何收集数据?离线还是在线?需求导向的测绘是一种选择吗?
泛在测图能走多远?
如何提取目标?是手动,还是半自动或者自动提取呢?
如何可视化?借助硬拷贝还是软拷贝?个人地图制作者扮演什么角色?
有了数字3D地图,我们不再受限于传统的地图功能。数字地球向我们展示了地图的扩展功能:路线自动规划、导航、三维建筑、空中游览、街景、公共交通过滤(地铁、公交线路、出行时间表等的叠加)、旅游和商业定位等等。
谷歌甚至在开发一种应用,让每个人都能分析自己安装的太阳能电池板的情况。在工具Sunroof中(https://www.google.com/get/sunroof),用户首先输入自己的地址,接着谷歌利用航空影像来帮助人们判断是否值得安装太阳能。然后用户可以通过输入每月的电费,选择一个融资选项(租赁、贷款或者购买)来微调估算,以确定太阳能电池板是否有经济意义等。当然,这种功能需要结合城市3D模型信息,城市3D模型可以利用摄影测量技术构建。
随着高分辨率卫星影像逐步达到航空影像的分辨率,我们有理由讨论将高分辨率卫星影像用作三维绘图。在这种情况下,我们需要清楚地区分几何方面和语义方面。在几何方面,地理配准和DTM精度至关重要,而对于图像解译,足迹和图像质量是决定性因素。
一些国家正在逐步实现3D地图。例如在瑞士,Swisstopo(国家测绘机构)引入了“地形景观模型”(TLM)。模型带有层次结构。TLM是整个国家的基础模型。因此,不同的制图和表示模型可以被导出。
目前TLM的一些应用,没有替换元素,因此在这个层次上,不需要做地图综合。数据将会更加准确(定义良好的目标精度为0.2-1.5米,定义较差的目标(例如森林边界)精度为1-3米),并在不断更新。数据模型的建立使得将来的内容扩展成为可能。参考:(http://www.swisstopo.admin.ch/internet/swisstopo/en/home/topics/geodata/TLM.html)
那么,我们需要什么来发掘3D地图的内在潜力呢?我们需要重新定义“地图”模型和地图内容;需要根据地球观测系统在三维建模中的可用性对其进行分类;需要进一步反正快速目标提取和建模的技术;需要建立可靠的质量控制流程,需要研究模型不断更新的方法。
显然,这个领域的所有成员,包括研究人员、开发人员、国家制图机构和地图公司,都面临着艰巨的任务。所有活动的进行都必须和新一代地图使用者紧紧连接在一起。
7. 摄影测量的可交付性(deliverables)
当今各行各业已没有明确的分界线。这样,需要我们提高能力,转变态度,发展优势,同时也要开放、灵活和自信。那么,我们的优势在哪儿?我们应该继续关注什么呢?
我们列出了下面一些主题:复杂传感器模型、网络能力、精细化测量算法(精度)、数据冗余(可靠性)、自诊断、质量控制、通用性的系统设计、工程方法包括测试、验证、健壮化和到最后行业服务。
摄影测量不仅仅是一门学科,还拥有大量的专业人士和从业者,他们从研发一线人员处获取最新的发展信息,甚至是最新的产品信息。
展望摄影测量数据处理软件的市场,我们发现大量商业和开源的软件包。几年前,我为新加坡的一个项目做了一项研究,我统计到来自35家制造商的44个摄影测量图像处理软件模块和来自44家制造商的51个点云处理软件模块。
8. 摄影测量宇遥感
自80年代早期,摄影测量技术开始全面数字化,一开始在近距离领域,虽然发展缓慢但稳定。后来,在80年代后期,航拍领域可开始全面数字化。
然而,直到最近,卫星影像、航空影像和近景影像的处理平台都是彼此独立发展的。来自同一领域的不同类型的影像竟然不能用其他领域的软件做处理。这种情况已经改变了。
现在,我们能找到一个系统,至少在某些功能上,能处理所有领域的影像。令人惊讶的是,虽然我们很早以前就知道将不同处理方法融合,但是,面向统一的软件平台的发展趋势缺没有更早地出现。以下因素促成了方法的融合,并将继续发展:
数字影像的利用。在引入数字卫星影像和数字地面影像之后,航空影像采集工作也完全数字化。不同的影像格式和光谱通道差异不应成为开发统一软件的阻碍。
传感器模型。近年来出现了两种主要的几何传感器模型:单帧模型和线阵模型。其他,比如全景或点扫描相机例外。两种传感器模型都可作为插件集成到统一的应用软件中。
多影像采集与处理。如今很多传感器能够从不同的视点生成立体影像(沿轨或跨轨),甚至是同一场景的两幅以上影像。这为精确的3D地理参照和处理提供了可能。航空影像和地面影像很早已经实现。
3D数据处理。3D数据处理的可能性和卫星影像空间分辨率的稳步提高需要利用摄影测量中较成熟的技术。虽然影像来自不同传感器平台,但我们在自动化处理过程中所面临的问题非常相似。
传感器和数据集成。不同传感器采集的数据的使用,例如影像、激光扫描数据、GPS/INS数据、现存的地图和GIS数据等等,激发了类似的技术处理需求。
数据后处理。在数据处理后,我们所面临的问题也和影像的类型相关,包括在空间信息系统(SIS)中收集和分析数据,将静态结果和过程可视化和动画化。
随着高分辨率卫星传感器的诞生(例如IKNOS, QuickBird, GeoEye, WorldView-1 and-3, Pleiades等),3D建模的问题也越来越显著。因此,摄影测量技术在卫星影像的应用中变得更加关键。另一方面,辐射分析在摄影测量中受到更多的关注。我们日益发现,当今遥感和摄影测量技术紧密结合。
我们发现,近年来,摄影测量和遥感扩展了它们的技术——主要是朝着精确地理参照和3D建模。这开启了许多新的应用领域。从航空和高分辨率卫星影像中重建三维重建模型的迫切需求将对自然灾害监测、风险分析、汽车导航、基于位置的服务、虚拟旅游等应用带来翻天覆地的影响。亚洲最近发生的几起自然灾害造成的巨大破坏使我们再次认识到高分辨率卫星影像对快速灾害评估的价值。
最近另一个证明卫星影像价值的例子是巴尔米拉的贝尔神庙的图像,它被ISIS(宗教极端主义组织)破坏,从图18中可以比较破坏前后的样子。
Figure 18. Pleiades satellite images of the Temple of Bel, Palmyra. Left: Taken on 27.8.2015, right: Taken on 31.8.2015, after destruction (courtesy Reuters).
图 18. 贝尔神庙卫星图像。左图拍摄于2015年8月27日,右图拍摄于2015年8月31日,神庙已被破坏(由路透社提供)
9. 摄影测量——秘密的技术?
随着影像的使用及其衍生产品的爆炸式增长,对摄影测量专业知识的需求变得越来越迫切。有趣的是,摄影测量浸透在人们生活的方方面面,人们却没有发现。
例如,电影中的动画、电脑游戏、谷歌地图和谷歌地球、Apple地图、生物医学系统、禁区边线裁判技术等。摄影测量的广泛应用并没有让大众熟悉这项技术。大型媒体报道,比如利用摄影测量技术重建阿富汗巴米扬大佛,仍然很少见。
另一方面,一些网络团体每天发布摄影测量工作的成果。其中一些成果相当震撼。例如,在FaceBook上一个“摄影测量小组”有超过11250人,成员非常活跃。另外,还有其他一些团体,例如“Geoscience and Remote Sensing”, “UAV/UAS/RPAS/Aerial/Terrestrial Photogrammetry Surveying and Geomatics”, “UAS for mapping”, “Capturing Reality Arena”, “The Archaeology News Network”, “International Coral Reef Society”, “QGIS Community”,等等。
在Bertold Brecht的《伽利略的一生》一书中,伽利略对他的学生安德里亚·萨尔蒂说:“作为一名科学家,我有一个独特的机会。在我的时代,天文学开始走入市场。”
在我的一生中,我没有幸运地看到摄影测量迈入市场。但谁知道呢,这可能马上就会发生。万物都在发展变化!
亚里士多德说:“教育的根是苦的,但其果实是甜的。”
更多内容,请见➡️➡️➡️https://www.tandfonline.com/toc/tgsi20/0/0
制作排版:毛竹,王舜瑶 | 编辑:王晓醉 | 审核:张淑娟
关于 Geo-spatial Information Science
Geo-spatial Information Science(GSIS)是由武汉大学主办的测绘遥感专业英文期刊,主编为中国科学院院士、中国工程院院士李德仁教授。2020年9月被SCIE收录。
GSIS 采用开放获取的出版模式,就是大家所说的开源期刊/OA期刊(Open Access),文章一经发表,可马上被全球读者免费全文下载,这种模式可以让你的文章有更多的曝光度。
目前,在GSIS发表文章不需缴纳审稿费、论文处理费等任何费用,完全免费。欢迎广大测绘遥感学科的科研工作者投稿。如果您有需要抢首发权的高质量文章,可与我们联系gsis@whu.edu.cn,主编/国际副主编亲自为您处理,编辑部提供随时随地的疑问解答与状态跟踪。
期刊官网:
https://www.tandfonline.com/tgsi
投稿网址:
https://rp.tandfonline.com/submission/create?journalCode=TGSI
虚拟专辑
GSIS虚拟专辑|地球空间信息科学的趋势与挑战,UPINLBS、VGI
热点专刊
GSIS专辑精选| 无处不在的定位、室内导航和基于位置的服务
论文推荐
GIS的未来是什么?——ESRI总裁Jack Dangermond和美国科学院院士Michael F. Goodchild的思考
GSIS特邀论文|李德仁院士:中国高分辨率光学遥感卫星及其测绘应用
GSIS特邀论文|ISPRS主席Christian Heipke:深度学习与摄影测量和遥感学科的结合
GSIS特邀论文|ISPRS荣誉会员John Trinder:用遥感来评估城市环境可持续发展
GSIS特邀论文|嫦娥三号和嫦娥四号月球车任务的地理空间技术
GSIS特邀论文|武汉大学张良培教授:基于图学习的高光谱图像降维研究综述
GSIS特邀论文|奥地利制图委员会主席Wolfgang Kainz 教授:地图学的历史,危机和挑战
大家之风
人物| Gottfried Konecny教授:从制图员到摄影测量与遥感学“世界大使”的传奇人生
李德仁院士深情回忆| Gottfried Konecny教授:中国摄影测量与遥感的良师益友
专家报告
学术报告|李德仁院士:从对地观测到对人观测——论社会地理计算
学术报告|龚健雅院士:位置关联的多网数据叠加协议与智能服务技术
研究前沿
《全球工程前沿2020》发布,地球空间信息科学领域的热点与新兴前沿有这些!
2020研究前沿发布,地球空间信息科学领域的热点与新兴前沿有这些!