GeoAI 2022系列讲座第二期 | 基于遥感影像的预训练研究进展

GeoAI 2022系列在线讲座，将于2022年5月10日至5月26日举行。本系列讲座由国际华人地理信息科学协会 (CPGIS)、ACM SIGSPATIAL中国分会、中国地质大学（武汉）地理与信息工程学院联合主办，由高性能空间计算智能实验室（HPSCIL@CUG）承办。

第二期：北京时间 2022.05.12（周四） 7:00PM-8:00PM

主持人：关庆锋  中国地质大学（武汉）  教授

√报告简介

题目：基于遥感影像的预训练研究进展

报告人：张敬 悉尼大学 博士后研究员

基于“预训练-微调”的迁移学习范式，深度学习深刻地影响和促进了自然语言处理、计算机视觉、遥感影像智能处理和分析等领域的研究。在大模型时代，预训练的价值尤为突出。然而，大多数现有的面向遥感影像分析的深度神经网络模型，都是在自然图像数据集ImageNet上进行预训练得到的初始化参数。自然图像与航拍图像相比，不可避免地存在较大的域差距，例如视角差异、场景分布、物体类别等等。这种域差异可能会限制预训练模型在下游遥感场景任务上的微调性能。本次报告将着重介绍遥感预训练领域的最新进展。我们在目前最大的遥感图像分类数据集MillionAID上研究了不同神经网络架构的预训练性能，包括经典的CNN模型、原始的Vision Transformer模型，以及最新提出的Swin Transformer和ViTAE Transformer模型。进一步，我们比较分析了ImageNet预训练和遥感预训练的不同模型，在图像分类、物体检测、语义分割、变化检测等多个遥感影像分析任务上性能，证明了ViTAE Transformer及遥感预训练的价值，并指出目前仍然存在的问题和未来的研究方向。

报告人简介

张敬，悉尼大学博士后研究员，主要从事计算机视觉及深度学习相关领域的研究，在中国计算机学会推荐的A类国际会议和期刊上发表相关学术论文50余篇，相关研究成果在ImageNetReal、MS COCO、Cityscapes、KITTI等公开数据集取得第一。长期担任多个国际会议和期刊的审稿人，以及IJCAI和AAAI会议的高级程序委员。近年来，主要从事视觉大模型相关的研究，提出了ViTAETransformer系列模型，参数规模可扩展到10亿级别，广泛应用于遥感影像分析、图像识别、物体检测、人体姿态估计、人像抠图、文字检测和识别等领域。其中，基于ViTAEv2的遥感预训练模型，在图像分类、物体检测、语义分割、变化检测等多个遥感影像分析任务上取得了显著进展。

相关文章

• Wang D, Zhang J, Du B, et al. AnEmpirical Study of Remote Sensing Pretraining[J]. arXiv preprintarXiv:2204.02825, 2022.

• Xu Y, Zhang Q, Zhang J, et al. Vitae: Visiontransformer advanced by exploring intrinsic inductive bias[J]. Advances inNeural Information Processing Systems, 2021, 34.

• Zhang Q, Xu Y, Zhang J, et al. Vitaev2:Vision transformer advanced by exploring inductive bias for image recognitionand beyond[J]. arXiv preprint arXiv:2202.10108, 2022.

精彩内容

Wang D, Zhang J, Du B, et al. An Empirical Study of Remote Sensing Pretraining[J]. arXivpreprint arXiv:2204.02825, 2022.

观看方式

B站直播链接：https://live.bilibili.com/9598070

智慧城市大讲堂直播链接：https://www.smartcitylecture.com/detail/l_6279d378e4b09dda12660c6e/4

往期精彩回看

GeoAI 2022系列在线讲座第一期：

刘瑜——关于地理空间智能的一点思考；

宋轩——AI和大数据驱动的新一代城市智能化管理

播放渠道：B站、智慧城市大讲堂

关于CPGIS

国际华人地理信息科学协会(CPGIS) 是由中国海内外GIS相关学者于1992年在美国纽约州立大学布法罗分校发起成立的国际非营利性的学术团体，会员来自60多个国家和地区。每年举办“国际地理信息学年会International Conference on Geoinformatics”，加入CPGIS的学生会员还可参与年会上的学生论文竞赛，有机会获得年度最佳学生论文奖。CPGIS的学术会刊《Annals of GIS》由泰勒∙弗朗西斯出版社出版。CPGIS旨在加强我国海内外从事地理信息系统与科学学者之间的交流与合作，促进地理信息科学和技术的研究、教育和产业发展。官方网站：http://cpgis.org

赞助合作联系：[e-mail]

请扫描公众号关注：