查看原文
其他

全国一体化算力网应用优秀案例集之四 | 打造智算算力网AI开发平台 助力人工智能基础设施发展

2022年以来,“东数西算”工程正式启动,2023年12月,国家数据局等5部门联合印发《深入实施“东数西算”工程 加快构建全国一体化算力网的实施意见》,加快推动全国一体化算力网建设,赋能经济社会发展。为充分展示全国一体化算力网建设领域取得的应用成效,国家数据局组织开展了“全国一体化算力网应用优秀案例”征集遴选工作,各地方积极响应、踊跃参加。经多轮专家评审,首批发布25个优秀案例。


打造智算算力网AI开发平台

助力人工智能基础设施发展


推荐单位:江苏省数据局

申报单位:中科南京信息高铁研究院


当前,人工智能基础设施存在技术标准不统一、算力使用门槛高等问题。中科南京信息高铁研究院研发智算算力网AI开发平台,统筹纳管异构异属异域的智算资源,实现全局能用、好用。


一是汇聚三异智算算力资源,实现多元算力协同。智算算力网AI开发平台汇聚异构异属异域的三异智算算力资源,通过代理与适配两种并网模式构建一个全局可用的智算算力资源域,基于协同调度服务,实现智算算力资源的全局共享,构建了南京、昆山与郑州三地的智算算力网。


图1 智算中心集群图


二是构建全流程AI能力体系,降低智算算力使用门槛。构建覆盖AI算法开发全生命周期的AI能力,提供6种AI开发框架、3种分布式训练加速框架、4种分布式并行训练策略以及弹性高性能推理等能力,提高大模型开发效率,适配4种底层智算异构资源,提供统一的智算算力网页。


三是创新平台运营模式,减少用户算力使用成本。通过构建融合运营模式整合多方运营平台,实现智算资源池统一运营,将账单管理、资源规格管理等业务模块进行统一管理。平台上线后,用户算力月度成本从10021.26元/P降至6062.79元/P,降幅达39.5%,与同类平台用户月度平均费用相比成本降低50.96%。


图2 大模型应用案例示图


目前,智算算力网AI开发平台累计落地7个领域的50多个科研行业大模型,如翻译大模型“百聆”,抗体结构预测大模型,医疗大语言模型等,以“三异四入”模式,实现3个算力中心的“三异”算力并网,提供覆盖5个园区、15家重点企业、3所高校及200户家庭算力终端的“四入”服务。

- END 

来源丨国家数据局

审核丨何水、王剑钊

发布丨吴金金

更多精彩


继续滑动看下一个
南京市数据局
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存