FastDeploy联合10家硬件公司,面向全球开发者的黑客松活动来啦
The following article is from 飞桨PaddlePaddle Author 飞桨
2023 PaddlePaddle Hackathon 飞桨黑客马拉松第四期正式上线,本次活动是面向全球开发者的深度学习领域编程活动,鼓励开发者了解与参与深度学习开源项目。本期黑客松活动中,飞桨全场景高性能 AI 部署工具 FastDeploy 联合10家硬件公司及 Apache 开源社区(TVM项目),为全球开发者带来一场软硬协同创新大赛。
想和顶尖的硬件开发者一比高下?
高手云集,脑波碰撞
谁能用最漂亮的代码,成为令人望尘莫及的No.1
这次智能硬件开发者的对撞,不容错过
快来选择你喜欢的硬件,亲身实践飞桨模型部署吧!
Let’s Hack it!
2023 PaddlePaddle Hackathon 飞桨黑客马拉松第四期飞桨硬件生态来袭,为期三个月的线上编程马拉松活动,导师1v1技术指导教学,多种硬件资源等你申请,丰厚💰现金奖励、定制🎁周边礼品等你来拿!玩转 AI 硬件,探索软硬协同的硬核魅力,学技术,赢大奖。你准备好接受挑战了吗?
为了解决 AI 产业部署落地难题,飞桨联合 AI 硬件公司持续发力,旨在为 AI 开发者提供模型部署最优解。
本次赛题由飞桨联合 NVIDIA、海光、寒武纪、昇腾、瑞芯微、算能、地平线、Imagination、Arm、安谋科技、TVM 推出。希望将飞桨模型与各种AI硬件深度适配,在玩转飞桨 AI 框架和硬件能力的同时,为开发者创造更多想象的空间,感受软硬一体结合的魅力。
飞桨一直积极与硬件厂商合作以优化用户体验与性能。2022年5月,飞桨携手13家硬件厂商在 WAVE SUMMIT 2022深度学习开发者峰会上发起“硬件生态共创计划”。经过近一年的发展,该计划成员已经增长到30+家。飞桨与硬件伙伴基于该共创计划共同研发技术方案,协同定制飞桨框架,建设模型库与场景范例,在联合研发、资源共享、联合授权、培训赋能等多个维度全面合作,共创飞桨和硬件合作共赢的生态,聚生态之力,促进人工智能产业的繁荣发展。
▎NVIDIA和飞桨
飞桨与 NVIDIA Jetson 平台全系列硬件完成全量适配。FastDeploy 与 Jetson 除了飞桨模型和生态热门模型外,FastDeploy 的端到端性能优化、端侧视频流、服务化部署等特色能力,为智慧城市、机器人领域落地提供企业级部署能力。
▎海光和飞桨
海光 DCU 与飞桨完成了全量适配,并且在千卡 BERT 上完成性能优化,发布飞桨生态发行版飞桨镜像,飞桨超算套件在海光 DCU 智算平台全面部署上线。
▎寒武纪和飞桨
寒武纪思元370系列与百度飞桨已完成II级兼容性测试,适配PaddleClas、PaddleDetection、PaddleSeg、PaddleNLP、PaddleOCR 等模型库或开发套件中共18个模型,共同在 Gitee[2]发布飞桨生态发行版 Paddle_MLU,在飞桨官网[3]发布寒武纪 MLU 飞桨使用文档。
▎昇腾和飞桨
飞桨框架和推理部署产品联合昇腾硬件已经有大量成熟落地案例。近期,飞桨与鹏城实验室、启智社区、硬件合作伙伴(包括昇腾)携手同行,发布飞桨-鹏城云脑发行版,主要成果包括了文心 ERNIE-ViLG、文心 ERNIE Tiny 等大模型应用层、300+产业级模型库的工具套件层和适配算子数273个的框架层,为 AI 开发者提供良好的应用体验。
▎瑞芯微和飞桨
飞桨与瑞芯微在 RV1126、RK1808、RV1109适配基础上,双方在 RK3588系列硬件上展开深度适配合作,支持 ResNet50、PP-LCNet、PP-PicoDet、PP-YOLOE 等20+模型,并完成 FastDeploy 适配集成。
▎算能和飞桨
算能工具链 TPU-MLIR与FastDeploy 已经完成了适配接入工作,模型涉及到 PaddleOCR、PaddleDetection、PaddleSeg 等应用算法库,并且将该能力通过算能工具链 TPU-MLIR 集成到了 FastDeploy 中,方便 AI 用户能够快速完成 AI 部署落地。
▎地平线和飞桨
地平线硬件开发者们通过地平线算法工具链实现了多种飞桨模型 (包括PP-YOLO等)的推理部署,且在 AI Studio 与地平线开发者社区上有大量的部署案例落地。
▎Imagination、Arm、安谋科技、TVM和飞桨
飞桨在 TVM 0.8版本中正式发布了飞桨前端的支持,完成120+算子、100+模型的支持,Arm AVH、Imagination NNA 和安谋科技都在通过 TVM 方案跟飞桨进行合作。
本次赛事中,FastDeploy 携手各硬件公司和生态伙伴,一起来完成 AI 模型的产业级部署。你可以使用 FastDeploy,结合硬件公司的推理工具链或生态编译框架,完成推理引擎接入 FastDeploy,并快速感受不同 AI 模型在 AI 硬件上的特性,感受到 FastDeploy&硬件公司所带来的极致 AI 落地体验,共谱 AI 部署壮丽蓝图。
快来看看怎么参与吧!
▎赛题说明
PS:以上顺序为出题时间顺序,具体题目详见飞桨黑客松官网
https://www.paddlepaddle.org.cn/PaddlePaddleHackathon-2023-2
■ 活动硬件申领指南
每个赛题合作方提供1-2块开发板供开发者使用,需要提交提案&提案通过后联系活动组织者获取。(提案:针对赛题的前期调研及开发思路文档)
▎活动日程
▎直播预告
为了让大家全面了解飞桨开发,更快上手开发任务,黑客松组委会配套启动了10+场硬核技术分享直播,系列直播特邀众多飞桨资深研发工程师、飞桨硬件合作伙伴特别讲解本次活动中的系列任务,带你一路过关斩将,完成自己的开源贡献。
■ 近期直播预告
3.27(周一)19:00 《TVM 相关介绍及任务赛题讲解》
最后,心动不如行动,快来和我们一起探索实践吧!
点击阅读原文,立即报名~
▎相关链接
[1]飞桨-鹏城云脑发行版亮相第四届启智开发者大会,软硬一体化助力科研
[2]飞桨&寒武纪模型库
https://gitee.com/cambricon/paddle_mlu
[3]飞桨&寒武纪使用文档
https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/hardware_support/mlu_docs/index_cn.html
[4]FastDeploy&瑞芯微使用文档
https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/build_and_install/rv1126.md
[5]FastDeploy&瑞芯微使用文档
https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/build_and_install/rknpu2.md
[6]FastDeploy&昇腾使用文档
https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/build_and_install/huawei_ascend.md
[7]FastDeploy&Jetson使用文档
https://github.com/PaddlePaddle/FastDeploy/blob/develop/docs/cn/build_and_install/jetson.md