首页
下载应用
提交文章
关于我们
🔥 热搜 🔥
1
1
2
1'"
3
1'
4
@妖精视觉
5
抖音
6
@两性
7
@调研纪要
8
@佛山综合
9
@artag
10
kN
分类
社会
娱乐
国际
人权
科技
经济
其它
首页
下载应用
提交文章
关于我们
🔥
热搜
🔥
1
1
2
1'"
3
1'
4
@妖精视觉
5
抖音
6
@两性
7
@调研纪要
8
@佛山综合
9
@artag
10
kN
分类
社会
娱乐
国际
人权
科技
经济
其它
宾曰语云被法学教授投诉:严重侵权,“违法犯罪”!
京东Plus的隐藏特权,很多会员都没领取,白交了会员费...
二湘:朱令去世一周年,清华学子控诉清华在朱令案中的冷血和无耻
96岁的朱总理
“上海王”柯庆施之死的真相
生成图片,分享到微信朋友圈
查看原文
其他
高性能网络建设指南,《智算中心网络架构白皮书》开放下载
Original
YZ
百度智能云技术站
2024-09-10
所有具备前瞻视野的 CTO、技术负责人,都正在将目光聚焦在为公司建立起面向大模型时代的 AI 基础设施。大模型需要大规模高性能集群的支持,如何建设高性能网络是其中最为关键的一步。
高性能网络的成功落地,可以确保大模型用最短的时间训练出来,并节省大量费用。业务将在第一时间获得大模型的超能力加持。公司将和友商进一步拉大距离,将他们远远甩在身后,或者成功实现业务反超,占据市场领先定位。
不过,高性能网络 RDMA 和过去的传统网络 TCP/IP 截然不同,涉及技术选型、架构设计、系统运维、业务运营等全部环节。在其上线运营的整个流程中,各个环节都需要结合大模型业务的特性做充足的论证,处处小心。一旦踩坑,将导致巨额投资付之东流,业务也将被友商反超。
比如关于 RoCE 和 IB 的争论,他们的差别究竟是什么,选哪个方案才是最合适的。上层的大模型业务和既有传统业务是不一样的,这对下层的网络架构的设计有哪些不一样的要求。RDMA 的技术体系和传统网络也是不一样的,在传统网络的技术储备无法直接应用,技术团队应该如何运维。同时,高效率的运维和运营,是高性能网络能够持续服务业务的保障,过去传统网络的方法和经验没有太多参考价值,应该如何设计方案。
如果能够借鉴业界领先的技术积累和成熟的项目经验,并参考其他用户的实践经验,将使得自己快速落地的高性能网络变得不那么困难,以上问题都能够轻松解决。
一直以来百度智能云支持了不同参数规模的百度文心系列大模型的落地,并构建了目前国内云厂商规模最大的高性能网络集群。同时,在私有云环境成功为度小满等金融行业客户交付智算中心。
此次,百度智能云联合度小满推出的《智算中心网络架构白皮书》,基于度小满等客户侧的成功实践写成。白皮书创作团队由负责和参与了高性能网络落地的一线专家组成,内容覆盖了高性能网络建设的各个方面,比如 RoCE 和 IB 的详细技术对比、不同规模集群的架构选择、云平台上的可视化运维工具建设、多租户的运营方案设计等,为 CTO 和技术负责人提供全流程指导,让复杂的高性能网络建设变得简单。
- - - - - - - - - - END - - - - - - - - - -
点击阅读原文,立即下载白皮书
将业界领先的高性能网络建设经验掌握在手
传送门
大规模 AI 高性能网络的设计与实践
⻜桨⼤模型推理部署⾼性能优化
飞桨大模型分布式训练技术
向量检索在大模型应用场景的技术和实践
面向大模型的存储加速方案设计和实践
GPU 容器虚拟化新能力发布和全场景实践
AI 大底座,大模型时代的答卷
如何将千亿文件放进一个文件系统,EuroSys'23 CFS 论文背后的故事
构建云边端一体的分布式云架构,软硬结合驱动边缘计算创新场景
继续滑动看下一个
轻触阅读原文
百度智能云技术站
向上滑动看下一个
您可能也对以下帖子感兴趣
{{{title}}}
文章有问题?点此查看未经处理的缓存