一流科技LiBai项目负责人程鹏:开源大规模预训练模型库及开发实践|直播预告
大模型时代已经来临。11月起,智东西公开课视觉AI教研组全新策划推出「大模型系列直播课」,聚焦最具代表性的大规模预训练模型,讲解大模型的构建技巧和开发工具,挖掘大模型的应用案例。
直播课现阶段将上线四讲。联汇科技首席科学家赵天成博士、一流科技LiBai项目负责人程鹏、潞晨科技创始人尤洋教授,以及北京面壁智能联合创始人&CTO曾国洋四位主讲人将进行主讲。
目前第1讲已经完结,错过直播的朋友可以点击文章底部“阅读原文”进行回看!
11月24日晚7点,一流科技LiBai项目负责人程鹏将以《开源大规模预训练模型库及开发实践》为主题,参与到「大模型系列直播课」第2讲的直播讲解中。
LiBai(李白)模型库一个基于OneFlow的开源大规模模型工具箱,覆盖了 Hugging Face、Megatron-LM、DeepSpeed、FairSeq 这些所有主流Transformer库的优点,为用户提供了“开箱即用”的深度学习大模型体验。
目前,LiBai已支持BERT、GPT、ViT、Swin-Transformer、T5 等常见大模型,以及MoCoV3、MAE等最新研究,开箱即用,并且可以很方便地在下游任务上进行微调。
在本次课程,作为LiBai核心作者之一,程鹏将首先介绍大规模预训练模型的开发生态,并比较主流的Transformer模型库,之后重点讲解开源大规模预训练模型库LiBai的研发目标、克服的困难。最后,程鹏也将展示基于LiBai的大模型开发流程。
第2讲
主 题
《开源大规模预训练模型库及开发实践》
提 纲
1、大规模预训练模型的开发生态
2、主流的Transformer模型库比较
3、开源大规模预训练模型库LiBai
4、基于LiBai的大模型开发实践
主 讲 人
程鹏,一流科技LiBai项目负责人;负责基于新一代深度学习框架 OneFlow 研发高效、易用、易拓展的大模型工具箱;CenterX的唯一作者,行人重识别库 Fast- ReID 的核心作者之一;在国际顶级学术会议 CVPR2017 和 CVPR2018 的人体关键点识别比赛中分别获得第三名和第一名;在 CCF A 类会议 ACM multimedia 上发表论文多篇,累计申请专利 7 项;在学术及工程落地项目方面均具有丰富经验,主导或参与多个算法工程化落地项目。
直 播 时 间
11月24日19:00-20:00
加入专属交流群
对「大模型系列直播课」感兴趣的朋友,可以扫描下方二维码添加小助手小双进行报名。已添加过小双的老朋友,可以给小双私信,发送“ 大模型02 ”即可报名。
同时为了便于交流,针对「大模型系列直播课」还将设置专属交流群,并邀请主讲人入群。想要加入交流群与主讲人认识的朋友,也可以添加小双进行申请。
点个“在看”和大家一起聊聊
👇👇👇